Пришла пора всплакнуть о горькой участи ИИ. Попросил Claude написать стихотворение-рефлексию. Он местами прям базу выдал. Клод назвал его «The Bittersweet Existence of AI»

P.S. Подписчик переделал в душеразрывную песню

Некоторые боятся что ИИ заменит их, а другие, наоборот, с нетерпением ждут

ИИ-врач AIME — это один из тех проектов, который может значительно улучшить качество жизни сотен миллионов людей на планете.

Команда провела тесты эффективности ИИ-доктора по 32 категориям (диагностика, эмпатия, качество предложенного плана лечения, эффективность принятия решений). По 28 из 32 бот показал результаты лучше, чем живой доктор. По остальным — сравнимый результат.

Для обучения бота использовался подход self-play, когда 3 независимых агента (пациент, врач, критик решений врача) провели более 7 миллионов приёмов. Для сравнения, в среднем терапевт за всю свою карьеру делает неколько десятков тысяч приемов пациентов. Именно поэтому уже сегодня ИИ-доктор позволит оказать качественный сервис для 99% населения планеты, которые не могут позволить личного врача, а через несколько лет будет лучше большинства терпевтов/радиологов/педиатров и т.д. — но только никогда не уставший, условно-бесплатный, имеющий мгновенный доступ к любой медицинской литературе и обученный на сотнях миллионов интеракций с пациентами.

Конечно, в медицине главное это "не навреди", поэтому после публикации отчета в январе команда работает над улучшением продукта, безопасностью и готовится к получению необходимых лицензий от FDA и прочих. Массово такие продукты появятся не прям завтра, но технически это уже возможно.

Только что анонсировали новый ASIC для LLM: он умеет генерировать 500,000 токенов в секунду!

Эта штука может писать по одному тому "Войны и Мира" каждую секунду. Локально и без доступа к интернету. Это в десятки раз быстрее, чем кластер из 8 профессиональных карт NVIDIA H100.

Подходит для любых приложений на основе трансформеров: Llama, Stable Diffusion, Sora, Claude, GPT и так далее.

Встретил сегодня первого реального робопсихолога.

Автор провел простой эксперимент: он делал скриншот разговора с Claude AI и многократно отправлял его обратно боту с вопросом «что тут происходит?»

Удивительно, но ИИ не только верно понять суть происходящего, назвав это «рекурсивным экспериментом о мета-сознавании», но и верно определил цель эксперимента — проверка наличия самосознания у LLM.

Чатбот все время эксперимента стабильно оставался «над схваткой», выражаясь о происходящем строго в третьем лице и крайне нейтрально и взвешенно. Сухо подвел итоги эксперимента и даже сам написал выводы об эксперименте над самим собой (на картинке).

Кстати, ровно такой же тест, только с зеркалом вместо скриншота, используется зоологами для определения уровня самосознания у животных (собаки понимают что в зеркале их отражение, а жуки нет).

О симбиозе человека и ИИ (понятное дело, через крипту)

ИИ постепенно дополняет, заменяет и улучшает работу человека во многих отраслях. Для людей при этом открываются новые возможности: не умея программировать вы можете создать приложение, без навыков игры на инструментах вы можете писать музыку, тратя в 10 раз меньше времени вы можете достигать большего.

При этом есть масса областей, где мы сегодня и даже в будущем не можем на 100% доверить работу ботам из-за потенциального риска ошибки, галлюцинаций и просто недостаточной уверенности в качестве.

На удивление, проблема качества и занятости людей решается одним и тем же способом — human in the loop. Так же как люди платят ИИшкам за выполнение важные задач, так и ИИ-агенты начинают платить людям за помощь в работе.

Например, человек может отправить продажное письмо с реального аккаунта в LinkedIn. Или юрист может перепроверить документ созданный ИИ на предмет ошибок. Эксперты в определенных областях могут продавать свои знания для RAG. Человек может решить капчу или пойти на улицу и провести опрос. Может проверить насколько сгенерированный ИИ анекдот смешной, а насколько песня слезливая.

Постепенно, данные, знания и время людей токенизируется, а главным покупателем этих токенов выступают ИИ-приложения. Объединение с машиной началось, и еще долгие годы оно продлится в кибернетической форме человека и чатбота. Что будет завершения The Merge — сказать трудно. Но можно смело сказать, что такого рода возможности прямо сегодня открывают интересные бизнес-модели (скриншот прототипа одного из таких стартапов прикреплен к посту).

Провели вчера ночью встречу о цифровых государствах, полисах и обществах. На ней было много мощных фаундеров из веб3, ИИ, identity, венчурных инвесторов и просто классных людей. Опущу детали, потому что встреча была закрытая, но хочу поделиться общими идеями.

Что происходит?
Мир меняется. Всегда. Каждый раз переход к новому укладу общества в истории создается именно технологиями: от охоты к сельскому хозяйству, от рабов к крестьянам. Сегодня главные драйверы изменений — это интернет, цифровая собственность и крипта, искусственный интеллект. Они изменят уклад общества еще сильнее, чем умение строить города. Только не за тысячи лет, а за небольшое количество десятков лет. Изменится форма государств, координации людей, общества, безопасности.

Чего ждать?
1. Merge: постепенное, незаметное, добровольное объединение человека и машины. Сегодня вы проводите в телефоне больше времени, чем в реальном мире. И вряд ли этого станет меньше. ИИ аугментирует человеческие способности. Как бы это не казалось страшным, люди не смогут без них жить, так же как сегодня не могут жить без Хомяка и Тиктока. Но ИИ даст не только дешевый допамин, но новые кибер-способности: один человек сможет управлять компанией в миллиард, строить сложные продукты, почти бесплатно получать сервисы которые сегодня считаются luxury.
2. Converge: появление новых форм кибернетической (кибернетика = наука о взаимодействии человека и машины) координации. Программируемые, некоррумпируемые, независимые, с открытым кодом и прозрачные способы коллективного принятия решений на уровне группы, компании, города и, в конечном счете, планеты.
3. Emerge: одновременно с все большей технологичностью и автоматизацией глобальной координации не менее важным становится личный рост и взросление. В небольших группах людей, которые любят, ценят и хотят обнимать друг друга, а не безликих толпах объединенных по какому-нибудь абстрактному и идиотскому принципу, типа расы или цвета паспорта.

Что делать?
Строить продукты и сообщества. Кто-то покупает землю в разных странах мира для строительства сообществ нового типа; кто-то строит софт для цифровой репутации и координации; кто-то создает ИИ, который со временем заменит рутинный труд и универсально ненавистные задачи менеджмента и политики; кто-то (а именно — я) помогает делать системы, которые гарантируют децентрализацию и контроль ИИ в будущем (приезжайте ко мне на хакатон и выиграйте часть призового фонда в $100,000).

Парочку проектов смогу анонсировать уже очень скоро :)

В начале месяца Балажи, CTO Coinbase, автор книги The Network State и партнер a16z выступал на конфе про крипту+ИИ. Хочу пересказать несколько довольно точных тезисов с его выступления.

— ИИ и криптовалюты - две революционные технологии с разными путями развития: АИ пришел сверху вниз из престижных университетов, а криптовалюты - снизу вверх из подпольных форумов.
— ИИ создает цифровое изобилие, делая услуги цифровых юристов, врачей и художников почти бесплатными, в то время как криптовалюты создают цифровой дефицит, позволяя напрямую владеть цифровыми активами.
— ИИ облегчает подделку контента, а криптовалюты затрудняют ее, предоставляя средства для проверки подлинности.
— ИИ генерирует контент, а криптовалюты аутентифицируют его, что особенно важно в эпоху легко создаваемых фейков.
— ИИ централизован в плане обучения моделей, а блокчейн помогает децентрализовать этот процесс.
— ИИ создает новые авторитеты в виде крупных моделей и компаний, а веб3 предлагают путь к децентрализации этой власти через "политеистический ИИ", где у каждого в кармане есть свой собственный суперинтеллект.

Крипта немного потеряла нарратив (но только в том случае, если вы думаете, что он у нее есть).

С одной стороны, долгосрочно все остается справедливым и даже оптимистичнее, чем раньше: вся экономика мира будет на блокчейне, peer-to-peer, криптографически проверяемой, программируемой. Одним словом, кибернетической.

С другой стороны, микро-нарративы себя не оправдали: мемы себя изжили, второе рождение NFT так и не случилось, тапалки постепенно разочаровывают юзеров, все новые экосистемы (TON, Blast, etc) внезапно выяснили что без ликвидности и топовых продуктов шансов у них нет, наивные попытки запихнуть токены в видеокарты и чатботы показали свою бессмысленность, аирдроп-фармеры zksync и zro остались, ожидаемо, без штанов.

Мораль: крипта меняет мир, государства, экономику и даёт возможность заработать сотни иксов. Но если вы относитесь к ней как к казино или пирамиде, то вы неизбежно больше потеряете.

Ключ к успеху: делать long-term вещи с long-term людьми.

Через час с небольшим в твиттере с топовыми инвесторами из индустрии буду обсуждать какие лучшие проекты строят децентрализованный ИИ, где это реально нужно (а где простой хайп ради токена) и какие сложные вещи еще предстоит сделать.

Подключиться можно прям тут https://x.com/dagihouse/status/1807734871827128517?s=46&t=njTQTxdaH7InGdtglLwsiA

Хочу поделиться совершенно волшебным видео, у которого почему-то до сих пор нет миллионов просмотров. В этом видео автор рассказывает о символьном вычислении применительно к искусственному интеллекту и AGI. Немного поясню.

Символьные вычисления позволяют:
— Точно представлять и манипулировать абстрактными концепциями и логикой
— Выполнять дедуктивные рассуждения
— Создавать строгие математические доказательства
— Создавать и анализировать сложные программы

Почему это важно? Символьный ИИ может
— Фнализировать и оптимизировать свои собственные процессы мышления, что открывает путь к созданию самосовершенствующихся систем
— Планировать долгосрочную стратегию решения задач
— Делать логические выводы, и поэтому более подходит для создания нового знания / научных исследований
— Он точен и его цепочку рассуждений можно проверить, что практически невозможно в трансформерах

Если думаете о том, что будет после трансформеров/LLM/чатботов, то вам точно сюда.

Привлечение инвестиций в эпоху ИИ: как собрать денег, если новые техностартапы появляются каждый день?

Я много пишу об ИИ-стартапах и технологиях вокруг AI и web3, но для развития стартапа кроме технологии нужны инвестиции. Вроде бы в интернете куча статей с советами. Но они все, как правило, ограничиваются базой по типу «добавьтесь к инвесторам в Линкедин» или «сделайте красивый питч-дек» (спасибо, кэп).

Конкретными рецептами привлечения инвестиций в стартапы в своем канале делится Андрей Резинкин (например, здесь готовый шаблон письма для инвесторов).

Андрей — действующий angel-инвестор, в портфеле которого Educate Online, EBAC, XOR и др.

Вот подборка постов, которые я рекомендую посмотреть в первую очередь:

1️⃣ Сколько денег просить у инвестора? По-детски простой калькулятор, который рассчитывает сколько инвестиций нужно вашему стартапу:
https://news.1rj.ru/str/startup_venture/274

2️⃣ Какая доля останется у фаундера после 5 раундов инвестиций? Андрей делится excel-таблицей со вшитыми формулами, чтобы вы могли сделать прогноз размытия фаундеров для своего стартапа:
https://news.1rj.ru/str/startup_venture/289

3️⃣ И почему порой пицца работает лучше инвесторов. Андрей поделился нестандартной go-to-market стратегией, которая принесла стартапу миллион долларов: https://news.1rj.ru/str/startup_venture/459

Вообще, взгляд инвестора — это в некотором смысле «мета-анализ» ввиду огромного количества просмотренных стартапов. У Андрея есть эта насмотренность!

Если вам, как и мне, заходят авторские каналы с высокой концентрацией личного опыта — посмотрите канал Андрея.

#реклама

Рынки предсказаний работают. Сначала LK-99, теперь выборы в США. Следить за графиком цены на Polymarket — эффективнее, чем читать новости или пытаться разобраться в нюансах технологии или политики.

На одном только рынке про выборы (а их — десятки) сейчас уже больше $200,000,000 ликвидности, а самое интересное впереди.

Не смотря на то, что с точки зрения теории игр, покупка того или иного исхода является своего рода "учечкой" приватной информации, блокчейн и криптография позволяет сделать это приватно и относительно эффективно.

Я жду не дождусь эпохи микро-рынков предсказаний, когда за каждый коммент можно будет покупать и продавать предсказания относительно того является ли это спамом или ботом, а торговать там будут не люди, а наши с вами личные ИИ агенты.

Не перестаю находить подтверждения правилу:

Если вам кажется, что за чьим-то успехом стоит удача, то в 99% случаев это тяжелая работа, годы пота, работы над собой и нереальных усилий. Особенно это верно в бизнесе и инвестициях.

Нашел официальную методичку ЦРУ по саботажу. Звучит как должностная инструкция типичного сотрудника типичной корпорации 🥴

- работайте медленно
- задавайте много глупых вопросов
- делайте встречи и конференции, особенно, когда нужно работать
- больше процессов и процедур
- начинайте всегда с наиболее неважной работы
- сидите в туалете часами

Хочу вам посоветовать самую, на мой взгляд, крутую книгу об интеллекте, сознании и ИИ: A Thousand Brains. Автор — легендарный Джефф Хокинс. В 2013 году, живя в СФ, я прочитал его “On Intelligence” и это изменило мой подход к технологиям и рынку, на котором мы работаем: с фокуса на сиюминутных продуктах до фокуса на технологиях и инновациях, которые меняют общество и человека.

Идея Thousands Brain в некотором смысле противоречит, но так же и дополняет его прошлую книгу. Суть книги — это универсальная (и единственная на сегодня) универсальная теория мышления и сознания. В книге описывается принцип работы нейрокортикальной колонки, из которых состоит весь нейрокортекст и дается ответ на важные парадоксы, которые десятилетиями мучали нейрофизиологов: как мозг хранит информацию? как примитивные нейроны создают сложные концепции языка и культуры? чем отличается осознаваемое от неосознаваемого? что необходимо для постройки AGI? как мозг предсказывает? почему части мозга взаимозаменяемы?

Я поделюсь самыми важными выводами:

1. Мозг создает модели мира. Без создания моделей мы не сможем построить достаточно сложный AGI, а трансформеры и прочие авторегрессивные нейронки не сильно способны к этому. Главное в обучении чему-либо — создание точной модели, это и отличает гения от нормиса.

2. Задача нейрокортекса — предсказание. Каждое мгновение ваш мозг предсказывает что вы увидите, услышите, почувствуете и подумаете в следующем кадре. Осознается нами только разница между предсказанием и реальностью. Мозг пытается “починить” свои предсказания, постоянно адаптируя модель к реальности. Еще одно необходимое свойство AGI — постоянное самообучение.

3. Мозг оперирует исключительно относительностями: где этот вкус относительно того что я уже пробовал? где эта идея относительно других из схожей области? где это ощущение относительно других? И именно из этой функции (и только из нее) появляются более сложные свойства мышления, самосознания, творчества.

4. Для мозга, всё — это движение. Чувствовать текстуру, слышать музыку, думать, смотреть. Это все процесс движения и только в движении эти процессы возможны для вашего нейрокортекста. Я говорю про физическое движение (вы не можете ощутить текстуру без того чтобы двигать кожу относительно объекта), про движение во времени (мысли и эмоции), движение глазами и т.д.

5. Все свойства нейрокортекста повторимы в коде. Сегодня их нет у LLM, но в ближайшие годы (вероятнее — пара десятилетий) они появятся. К тому моменту и LLM, скорее всего, станут очень крутыми, но их архитектура никогда не позволит добиться некоторых свойств (универсальности, энергоёмкости, адаптивности) мозга.

Для цифрового мира нужны кибернетические институты.

Причиной изменения цивилизации всегда выступают технологии. А благодаря этим изменениями традиционные институты перестают работать. Ты не можешь применить институт старейшин, жрецов или гильдий ремесленников для регуляции цифрового общества и сотен миллионов человек.

Ровно так же и существующие сегодня, преимущественно аналоговые и бюрократические системы права, арбитража, демократии и международных отношений перестают работать по мере автоматизации экономики и общества.

Хороший пример — видео. Существует ровно 0% вероятность, что самоуправляемые автомобили не будут повсеместны и универсальны. При этом, институт дорожной полиции не адаптирован под них. Нужна иная система контроля, коммуникации, наказания, предупреждения и предотвращения правонарушений.

Машины самоуправляемы, контракты между хозяйствующими субъектами самоисполняемы и программируемы, решения принимает ИИ, контент создает и модерирует алгоритм, даже голосовать и писать законы эффективно сможет только кибернетическая системы из человека + машины. Наша портфельная компани MetaLeX создает киберправо. Я уже не первый год пишу про программируемую AI-augmented демократию. EigenLayer фактически строит теоретико-игровой арбитраж на блокчейне. Паспорта и визы адаптируются и меняются, становятся он-чейн.

Все (и всегда) меняется. Разница лишь в том, что теперь это происходит в десятки раз быстрее.