Разрыв ожиданий и практики в GenAI

В корпорациях есть дыра между ожиданиями и реальной практикой в GenAI.

Ожидания обычно космического характера. Агенты всех заменят, все рынки изменятся до неузнаваемости. И ощущение что оно уже у всех есть.

В Microsoft очередная волна увольнений из-за AI. Сосед по этажу мне рассказал что заменил продажников на агентов. А где-то в Албании целый AI-министр появился, слышали?

Космические ожидания вполне имеют основания. В профессиональном комьюнити есть "оптимисты" и "пессимисты", но уж точно нет "скептиков".

Но реальность для корпораций брутальна:
- доказанных экономических эффектов почти нет;
- агенты скорее не работают;
- модели вроде умные, но инфраструктурных слоёв нет;
- строить неожиданно сложно, нужны сильные команды;
- даже в разработке спорят – вредит оно или помогает.

Любой нормальный CFO на эти инициативы покрутит у виска и будет в своём контексте прав.

Внутри компаний это порождает клинч этих двух сил. Клинч падает на AI-департаменты и на тех кто запрашивает под это ресурсы. И приводит к проблемам.

Выход один: набирайте опыт в использовании технологий. Больше практики, меньше магии.

И не верьте тому что пишут в X. Там выдумщики ещё те.

Яндекс выкатил большой апдейт для Алисы - Алиса AI.

Давайте для начала расскажу, что рынок пользовательского AI – это игра в дистрибуцию, а не в технологии. Вот так.

Думаете, люди реально сравнивают ChatGPT и Claude? Пару человек может и сравнивает. Массово люди пробуют о чем услышали и до чего дотянулись, и если оно задачу решает, ему ок.

Deepseek в РФ имеет невероятную популярность, хотя он на две головы хуже.

История аналогична старому поиску. Выигрывает тот, кто встанет по-умолчанию на устройство, а не тот, у кого поиск лучше.

Конечно, нужен базовый технологический "достаточный" уровень. Это сложная задача, которая под силу только гигантам сейчас. Но коммодитизация уже происходит.

Яндекс в релизе много рассказывает что Алиса "умнее". Им нужно пройти барьер "люди считают что Алиса умная". Но реальная война начнется в дистрибуции – и у Яндекса здесь самые сильные позиции в РФ, включая 70% рынка поиска и 35% рынка браузеров. Можно обратить внимание "везде, бесплатно и без VPN" в конце лендинга.

Ещё из интересного:
1. Яндекс заранее бронирует территорию "делаем за вас" через агентов – хотя сейчас таких агентов нет совсем, всё "coming soon". Тут ждем хоть чего-нибудь работающего.
2. Наконец-то wearables наушник с AI! Меня послушали 💅

Самый большой риск для Яндекса, как я это вижу, это "границы откроются" и сюда полноценно придут Google и OpenAI. Дистрибуция это еще и бренд – и все знают про ChatGPT.

Я уже какое-то время интересуюсь домашними гуманоидными роботами, и вот отличный повод начать про это писать.

1x NEO запустился в предзаказ. По заверениям создателей, робот будет автономно делать домашние дела, развлекать вас разговорами и даже приносить пиво из холодильника. Всего за $20k или $499/mo, доставка в 2026 году.

В реальности, там внутри человек 🥴
В смысле управляет этой штукой удаленный оператор через VR-шлем, а не то что вы подумали. Надеюсь, все помнят робота Бориса на России-24 🤡

Фактически, это такая гувернантка на радио управлении. Компания обещает, что на момент релиза большинство операций робот будет делать автономно. Сейчас уровень автономности робота около нуля.

Смешно? На самом деле нет, это очень круто. Рассказываю почему.

Основной затык для создания такой автономной системы это данные для обучения. Это тысячи часов записей видео и датчиков реального выполнения задач. Этих часов сейчас никому не хватает. Самый понятный способ это сделать – управлять роботами через живых операторов at scale.

Ребята делают буквально это – раскатывают уже готовый для пользователя продукт (вам какая разница как задача решается?), который стоит для компании временно дороже в минуту, но это даёт им возможность обучить свой AI. И заодно создает площадку для тестирования и реальный финансовый поток.

Это переводит задачу из нерешаемой в масштабируемую. Human-in-the-loop: оператор подключается только когда нужно, и со временем всё меньше.

Или вы думаете, что роверы на улицах автономные? Это тоже human in the loop – операторы подключаются когда роверу сложно. А раньше – управляли 100% времени. Самоездящие машины обучаются похожим образом.

Всё ребята правильно делают, пожелаем им удачи. Надеюсь, робот скоро сможет поливать мои цветочки.

Посмотрел Ex Machina – медитативный sci-fi про AGI. Секретный бункер, тьюринг тест и основатель Google прилагается.

Снят в 2014, но как будто всё более актуален. Я вот считаю что всё так и будет 🫠 Очень понравилось, рекомменд, смотрите!

IMDB | Netflix

Производство чипов - мое образование и профессиональная область из прошлого, стараюсь следить за этим и сегодня. Сегодня история развивается вокруг регулирования видеокарт Nvidia для Китая.

На прошлой неделе США запретили поставлять в Китай даже урезанные B30A – карты, которые Nvidia специально проектировали для Китая под прошлые регуляции.

Jensen Huang – CEO Nvidia – всячески плюется ядом на эту тему. У него альтернативная позиция:
Все разработчики в мире должны использовать американский (e.g. Nvidia) стек, иначе они сделают свой и долгосрочно нам хана.

Позиция интересная и легко оспариваемая. Тут нужно заметить что Китай это 20-25% поставок Nvidia до регуляций. Значимый кусок оборота.

Китай и правда ускорился в производстве своих чипов. Текущий техпроцесс Huawei - 7 mm. Это примерно 2-4 года отрыва. Для такой индустрии это невероятный результат Китая, хотя еще догонять и догонять.

Напомню, что вся литография чипов держится на нидерландской ASML. Голландское правительство наследует часть регуляций США, поэтому Китай сидит без самых продвинутых машин для производства чипов.

Что мы точно наблюдаем: разделение этих двух миров. Долгосрочно, китайские чипы будут вариться в каком-то своём соку. Модели, возможно, будут послабей. Это вовсе не значит что они "проиграют".

Важен не рейтинг LLM Arena, а улучшение экономики за счет технологии. В этом Китаю равных нет. Машины вспомним?

Играю в Detroit: Become Human, нашел стену на которой много раз написано:
RAG RAG RAG RAG RAG

Это же буквально любое техническое обсуждение AI-решений сейчас 🤡

Игра супер, очень актуальная 🤖

@llm_arena не реви, ты тоже нужна ❤️

Википедия рассказала о падении трафика

8% падение год к году в просмотрах страниц, хотя раньше всегда росли. Кто виноват - мы знаем 🌚

Зачем нужна википедия в мире AI-систем – непонятно. У меня из мышечной памяти википедия давно исчезла. Нужны знания – иду в ChatGPT.

Для википедии это беда. Если не будет трафика, не будет и обновлений контента. Авторы контента википедии берутся из читателей – это такое большое коллаборативное творчество. Сейчас модель рассыпается.

Википедия сильно этим обеспокоена и прямо в документе требует упоминаний и трафика от AI-систем. Но реального рычага у них как будто нет.

Это всё довольно грустно, и не из-за ностальгических переживаний. Огромная работающая машина по созданию актуального среза знаний человечества под угрозой, и нет понимания что придет на замену.

Для чистоты замечу, что Википедия выделяет и вторую причину падения трафика – молодёжь предпочитает видео-форматы. Ну да, мои дети знания потребляют из тиктоков, а если есть конкретный запрос - из ютуба. Но это как будто бы всегда так было – у детей другие способы учиться.

Главное, что сказал директор по ИИ «Т-Банка» Виктор Тарнавский на AI Journey:

- Да, я — Витя.

- Компании перестают хотеть делать ИИ просто ради ИИ и наконец начинают задавать правильный вопрос: а где же мои деньги?

- Технооптимисты продолжают предлагать засовывать ИИ во все щели.

- Более 30% кода в «Т-Банке» пишется ИИ.

- Компания не планирует сокращать штат из-за ИИ. (В среду о сокращении 20% персонала в Сбере из-за ИИ заявил Герман Греф).

- «Т-Банк» в рамках Альянса ИИ работает над методологией корректного подсчёта эффекта от внедрения ИИ.

Лучший обзор

Всех с пятницей

Недавно мой WHOOP распознал кусок явного не-сна как сон, что несколько выбесило и меня, и человека, с которым у меня был этот самый не-сон 🌚

Тут надо заметить что я перешел с Oura на WHOOP, так как с браслетом я понимаю как таскать железки, а с кольцом - нет. И там вроде бы таких косяков не было.

Решив всерьёз разобраться в вопросе, пошел смотреть, есть ли реальные исследования. Выяснилось, что есть.

Например, в этом артикле ребята отобрали 62 исследования устройств где они сравниваются только с профессиональным полисомниграфом и сделали агрегированную табличку. А вот в этом сравнивают в рамках одного исследования WHOOP 3.0, Oura Gen2 и ещё набор устройств.

Так вот. Краткий вывод такой.

1. Суммарное время сна и дырки в сне всеми девайсами определятеся хорошо и примерно одинаково – точность около 90%. Oura немного лучше и имеет больше данных, но не оч значимо. Можно доверять, фаворитов нет, включая Apple Watch.

2. Стадии сна (deep, REM, etc) все девайсы определяют одинаково плохо – точность около 60%. Для меня это означает что смотреть на этот репорт смысла нет.

3. Пульс и HRV WHOOP детектит значимо лучше чем Oura, proof. Соответственно, для спорта WHOOP подходит лучше, и выводам основанным на HRV (Recovery etc.) доверять можно больше.

Всё. Остаюсь на WHOOP!

Отмечу, что исследования доступны только по прошлым поколениям устройств. В новых что-то могло поменяться. Надеюсь, что в лучшую сторону.

Очень подробное исследование от Антропика про увеличение продуктивности людей от AI на макроэкономическом уровне. Анализ на данных самого Claude: считали насколько ускоряется время выполнения типовых задач.

Раскатка такого ускорения на население US даст буст продуктивности на дополнительные 1.8% каждый год. Это огромное число.

Labor productivity growth - это такой базовый показатель роста экономики. Примерно означает прирост экономического аутпут работ всех людей за год. Обычно это порядка 2%. Это примерно означает что у всех станет на 2% больше «ценностей».

Постулируется, что AI в текущем виде это дополнительные 1.8%, то есть почти в два раза выше. Это huge.

Сплит импакта по профессиям на картинке. Видно, что самая жирная сейчас это разработка, и на втором месте "менеджеры". Рост импакта там в логарифмах (fucking nerds), для менеджеров это получается +25% к скорости решения задач.

Эти числа – текущий уровень технологий, то есть совсем не учитывает будущий рост качества. И примерно сходится с другими «прогнозерами». Короче, это прям много и важно на макро-уровне. Еще один знак что мир будет ускоряться значительно быстрее чем мы думаем.

https://www.anthropic.com/research/estimating-productivity-gains

Дуров на выходных запустил некоторое ИИчко – конфиденциальную распределенную сеть GPU-компьюта с обменом за TON.

Проект похож на Gonka от братьев Либерманов – тоже попытка создать AI Compute не принадлежащий гигантским корпорациям с примесью крипты. Они про него много рассказывают в недавнем подкасте.

Так вот. Зачем всё это нужно я откровенно не понимаю )

Компьют – это просто вычислительный ресурс. Есть облачные провайдеры – арендуй и используй. У них все равно будет эффективней. Не доверяешь большим – есть куча маленьких. Зачем так сложно?

Считать что компьют таким образом перестанет принадлежать корпорациям – наивно. 90% компьюта лежит в больших компаниях – и не потому что у них есть деньги, а потому что они потенциально могут их себе вернуть.

Причём тут токены тоже не ясно. Я вообще удивляюсь попыткам связать AI и крипто мир – как будто связи там примерно никакой.

Мне нравятся братья Либерманы, у них близкий к моему взгляд и вопросы. Но конкретно этот проект который они дают я не понимаю совсем.

Что я упускаю?

Figure AI

Яркие ребята. Стартап чисто про гуманоидных роботов. Деньги в них вложили практически все: Безос, Microsoft, Nvidia, Intel, OpenAI и так далее. Последний раунд был $1B+ !!

За три года успели сделать уже три поколения гуманоидов.

Figure 02 отпахали почти год на конвейере BMW. Не стоит думать что они там всю машину собирали, роботы выполняли одну конкретную задачу – засунуть деталь в станок для сварки. Эксперимент успешный – роботы отработали 1000+ часов и поучаствовали в сборке 30k машинок. Вот видос

Последнее поколение – Figure 03 – уже ориентировано на домашнее использование. Его, правда, нигде нет. И дат релиза нет. В интервью CEO Brett Adcock (ага, его так зовут) говорит что "может быть, в 2026".

У ребят классные статьи про начинку. Вот подробная статья об устройстве их AI-мозга HELIX. Управление собрано на двух моделях – медленной думающей VLM на 7B на основе LLM которая передает латентный вектор в быструю управляющую 80M модель которую они обучали сами. Обе модели смотрят на картинку, но первая чешет репу, а вторая шевелит пальчиками.

Отдельный респект за потрясающий визуал, продакшен видео и сайт. Красиво всё, красиво.

Вот только в отличии от великих Boston Dynamics или того же 1X Neo, у Figure AI нет буквально никаких реальных отзывов или видео на ютубе. Это как-то смущает. Где роботы, Adcock?

Делаю с фондом voskhod.vc питч-сессию. Буду оценивать AI-проекты для будущих инвестиций как эксперт.

Оч интересно, раньше так не делал ) приходите рассказать про ваш стартап!

Подробности тут