Прошло месяца полтора с момента выхода книги Элиезера Юдковского If Anyone Builds It, Everyone Dies - Why Superhuman AI Would Kill Us All. Я еще в сентябре ссылался на критические рецензии, потому что вредно принимать истеричные страшилки за чистую монету. Это вообще в последнее время становится популярным жанром: художественная литература или беллетристика, мимикрирующая под научный текст, ибо научность придает убедительности.
Но сейчас снова про книгу начали спрашивать, и снова появились одобрительные на нее отзывы. Поэтому полезно напомнить и про критику, которой тоже стало немало, ее довольно хороший обзор — как раз в статье по ссылке.
Основания для критики все те же: overconfident, binary worldview; resistance to empiricism; dramatic sci-fi writing; the disconnect between the catastrophic predictions and the observable reality of AI development; and the policy proposals that are detached from reality.
В критическом обзоре все эти пункты последовательно разбираются с массой ссылок. Делать здесь конспект неправильно: полезно подробно и подряд этот текст прочитать.
Однако, как замечает Блумберг, “The apocalyptic tone of the book is intentional. It aims to terrify and jolt the public into action” — и эта цель легко достижима: испуганный человек не склонен к критическому мышлению и сомнениям по поводу источника.
Интересно, конечно, выглядит современная конспирология — а книга именно к ней относится:)
If you’re a policymaker or journalist, don’t mistake “If Anyone Builds It, Everyone Dies” for a scientific case or an actionable plan. Consider it a window into a specific subculture’s priors. And keep your focus on the practical middle layer where safety actually takes place.
https://www.aipanic.news/p/why-the-doom-bible-left-many-reviewers
Тот мой сентябрьский пост:
https://news.1rj.ru/str/techsparks/5215

Свой большой отчет по эффективности внедрения ИИ инструментов в бизнесе выпустила авторитетная The Wharton School of the University of Pennsylvania. Это уже третья ежегодная волна исследований. Данные показывают очень быструю динамику: нынче за год даже в неповоротливом слое гигантов бизнеса за год многое меняется, а уж среди легкого на подъем малого и среднего бизнеса изменения можно назвать радикальными. В целом выводы вполне оптимистичны: от стадий изучения (2023) и экспериментов (2024) бизнес переходит к стадии измеримого ускорения за счет внедрения ИИ. Three years in, the story is clear: from exploration to experimentation to everyday use. ROI is now measured, and people, not tools, set the pace. This is the year enterprises re-assert accountability. Most firms now measureROI, and roughly three in four already see positive returns.
Полезно изучить все 80+ слайдов отчета по ссылке, прежде чем ссылаться на старые данные MIT про лишь 5% удачных внедрений, которые так любят ИИ-скептики, а то может неловко выйти: компании уже массово научились работать с ИИ-инструментарием и руководствоваться измеримой выгодой, а не абстрактным уровнем использования или знания. Но конечно, при этом стали видны и важные подробности, различия в зависимости от ролей и масштабов бизнеса.
Очень достойно изучения.
https://ai.wharton.upenn.edu/wp-content/uploads/2025/10/2025-Wharton-GBK-AI-Adoption-Report_Full-Report.pdf

Китайцы, знаменитые мастера фейерверков, успешно лидируют и в новых, уже скорее цифровых, чем пиротехнических, небесных шоу. Вот очередной пример, вошедший в книгу рекордов Гиннесса: рой из 16 000 одновременно находящихся в воздухе дронов рисует картинки почти что высокого разрешения в ночном небе.

https://www.techradar.com/pro/china-smashes-drone-display-world-record-nearly-16-000-drones-take-to-the-sky-in-incredible-display

Уже традиционный ноябрьский мотив: как программный директор и соведущий (уже в шестой раз) конференции Яндекса про образование в области технологий, технологии в образовании и людей, которые все это создают, — приглашаю к нам присоединиться.
Будет много обсуждений вокруг ИИ, поскольку уже отлично видно, насколько он забустил трансформацию образования всех уровней и во всем мире. Будет много споров: мы отдаем предпочтение дискуссиям, а не сольным выступлениям. Будет местами весело и — надеюсь — везде интересно.
Конференция проходит онлайн, бесплатно — но для интерактива потребуется регистрация. После окончания все выступления будут доступны в записи.
Осталось чуть больше недели:) Поделитесь, пожалуйста, ссылкой с теми, кому может быть интересно.
https://yace.yandex.ru

Однако! Домашняя робособачка по цене айфона — это уже реальность в Китае. Rover X1 доступен там для заказа по цене $1 030, и можно лишь удивляться, что в первый день собрали лишь 5 000 заказов. Видимо, с непривычки.
Изготовитель позиционирует собачку как пригодную для двух сценариев: кое в чем — помощник дома; кое в чем — компаньон на прогулке. Список умений красив: can perform multiple tasks like transporting items, filming, home security patrol, coding education, and emotional companionship — но дьявол всегда в деталях. Время покажет, должна ли собачка обучать программированию.
Но в любом случае: такой робот по такой цене — очень сильная заявка. И вряд ли она останется одинокой; подтянутся и другие, поскольку они теперь знают, что так можно.

Спустя не так уж много дней после того, как Microsoft и OpenAI разобрались в своих запутанных взаимоотношениях и OpenAI объявила о своих планах по дороге к IPO, важное заявление сделала и Microsoft,
Мустафа Сулейман, директор по ИИ, создал и сам же возглавил новое направление внутри Microsoft AI — Superintelligence Team. Работа этой команды сосредоточена на создании Humanist Superintelligence (HSI): incredibly advanced AI capabilities that always work for, in service of, people and humanity more generally. При этом речь не идет о всемогущей универсальной сущности. Разрабатывать предстоит системы, нацеленные на решения конкретных проблем в разных областях, которые пока не поддаются решению людьми.
В своем программном тексте Сулейман отвергает и саму идею гонки в направлении AGI, и binaries of boom and doom. Читать его заявления — после многочисленных эссе Альтмана — очень любопытно; у него визионерство, ничуть не менее смелое и масштабное, куда прагматичней. Показательно, что Сулейман выделяет две предметные области, в которых рассчитывает добиться результатов, кардинально меняющих жизнь человечества, с помощью ИИ: медицина и энергетика. Вообще, очень по-хорошему духоподъемный текст; порадуйте себя на выходных.
https://microsoft.ai/news/towards-humanist-superintelligence/

Интересно смотреть на статистику выживания американских стартапов в зависимости от года основания. Самое, пожалуй, любопытное — удивительная стабильность. Ведь можно предположить, что когортам предкризисных годов (1994 — впереди был “крах доткомов”; 2004 — кризис 2008) должно быть хуже, чем когорте “сытого” 2014. Но нет.
Можно еще предположить, что развитие венчурной индустрии и вообще инфраструктуры поддержки стартапов увеличит выживаемость за четверть века. Но тоже нет: как половина помирала за первые пять лет жизни в прошлом веке, так и половина зачатых в 2019 померла.
Можно оптимистично на эти кривые посмотреть: каждый пятый доживает до 20 лет; это немало в быстром мире. Опять же, бывает приятная смерть, если тебя купили задорого игроки покрупнее.
Конечно, авторы заметки находят признаки влиянии рецессий на выживаемость и даже гистограмму приводят — но там с лупой надо эти эффекты выискивать.
В общем, есть некая стабильность и в бурном мире стартапов:)

https://sherwood.news/business/half-of-new-us-companies-disappear-five-years-one-in-three-make-10-years/

Замечание психолога, которое все равно ничему не поможет: как люди относятся к ИИ, зависит чаще не от ИИ, а от людей. Черные ящики пугают людей, которым нравятся простые и явно видимые причинно-следственные связи. Есть даже специальный термин algorithm aversion, возникший у маркетологов, которые обнаружили, что люди часто предпочитают ошибочные суждения людей алгоритмическим. Могучий и вездесущий механизм проекций сильно себя проявляет во взаимодействии с ИИ: именно он ответствен за приписывание ИИ несуществующих у него эмоций и намерений, преимущественно недобрых. Например, если рекомендательная система начинает работать слишком хорошо, это пугает пользователей, они видят в этом манипуляцию и нарушение границ. Антропоморфизация продолжает рулить, сколько бы ее не обсуждали: we respond socially to machines, even knowing they're not human.
С другой стороны, и явные ошибки люди машинам не прощают, даже если снисходительно относятся к аналогичным ошибкам себе подобных.
Все это не ново, как и нежелание технофобов признавать, что проблема в особенностях их психики, а не в самих технологиях. Но новым для меня стал термин learned distrust — выученное недоверие. И это интересно.
https://www.livescience.com/technology/artificial-intelligence/some-people-love-ai-others-hate-it-heres-why

В четверг мы в шестой раз, как я уже здесь писал, проведем любимую мою YAC/e. У этой конфы есть одно очень ценное для меня качество: пока собираешь программу, автоматически получается стоп-кадр нашего быстрого времени. За пять прошедших лет интересно эти кадры сравнивать; ведь каждый год старались ухватить актуальное, то, в чем важно разобраться, пока не стало поздно.
И как же это актуальное менялось год от года!;)
В год первой YAC/e как раз вышел третий сезон “Мира Дикого Запада”, но никому из нас, хоть мы и говорили много о цифровой трансформации образования, не приходило в голову обсуждать подготовку студентов, которые будут проектировать роботов, уже удивительно похожих на то, что тогда мы видели на экранах. Поэтому полезно задуматься, что тогдашние старшеклассники сейчас как заканчивают вузы — и как же за время их учебы в вузе изменился контекст технологий, с которыми им предстоит работать. Мы много будем будем говорить уже не про языковые модели, а про VLA и их важность для Physical AI, например.
И хорошим развернутым эпиграфом для этой дискусси может послужить статья с обзором презентации роботов Iron от XPeng, a “Physical AI” company. А кусочек их ролика, очень навевающий воспоминания о заставке “Мира Дикого Запада” я прямо в пост включил, чтобы напомнить, что теперь это не художественное кино, а инженерная документалка

https://www.digitaltrends.com/brc/i-watched-xpengs-ai-day-announcement-and-it-was-a-clear-glimpse-into-a-long-promised-future/

Очередная моя колонка в Forbes — попытка объяснить, как мой опыт человека, родившегося задолго до интернета и цифровых технологий (а потом с самого рождения интернета активно участвовавшего в их развитии) помогает мне с уверенностью говорить про некоторые черты ближайшего будущего. И речь не об экстраполяции, она-то как раз не очень работает во времена трансформаций, интернет это показал всем своим развитием.
Речь о общих паттернах влияния нового и о потерях/приобретениях по дороге в будущее.
Одно из многими нелюбимых свойств быстрого перехода к будущему — его принципиальная непредсказуемость в деталях. Опыт 35 лет, прожитых с начала становления интернета как массового сервиса отлично это показал.
Подробнее про три важных урока прошлого — https://www.forbes.ru/tekhnologii/549216-postic-neob-asnimoe-kak-razvitie-interneta-pomogaet-ponat-proishodasee-vokrug-ii

Про недавнее требование юристов Амазона запретить агентам в браузере Comet от Perplexity совершать покупки на Амазоне писали многие. Но что-то никто не писал потом про содержательный и резкий публичный ответ команды Perplexity.
А он хорош, и поднимает еще один интересный вопрос, связанный с уже достигнутой степенью агентности ИИ.
Предположим, я дал своему коллеге-ассистенту, человеку, задание совершить от моего имени какие-то действия в интернете и сознательно доверил ему необходимую персональную информацию о своих аккаунтах на соответствующих платформах и данные своей кредитки. Никому в голову не придет запрещать подобные действия или в судебном порядке требовать их запрета. Для большого числа занятых людей это естественная практика, на сервисах они часто являются любимыми и дорогими клиентами с разными привилегиями.
Что меняется в тот момент, когда такой человек передает свои полномочия своему ИИ-агенту вместо своего референта?
For the last 50 years, software has been a tool, like a wrench in the hands of the user. But with the rise of agentic AI, software is also becoming labor: an assistant, an employee, an agent.
Казалось бы, Амазон должен радоваться: больше счастливых покупателей, больше покупок. Но есть загвоздка: ИИ-агенту бесполезно показывать рекламу, его не получится отвлечь всякими плашками про акции, которые окончатся через 5 минут, и всей остальной манипулятивной механикой. ИИ-агент решает задачу пользователя и только ее — и это не устраивает платформы, которые научились в ходе каждого визита пользователя апсейлить, соблазняя всякими акциями и рекомендациями плюс еще и на рекламе подзарабатывать. А агенты жестко сфокусированы на решении задачи пользователя и ни на чем больше: User agents are exactly that: agents of the user. И это грозит сломать сложившуюся довольно развесистую бизнес-модель платформ и магазинов, сделав их просто точками продаж.
Поэтому здесь нас ждут интересные и серьезные бои: ИИ-агент — это по существу своему враг рекламной модели в интернете, и этот многомиллиардный бизнес будет очень сильно сопротивляться и драться за сохранение пользовательского внимания, а не пользовательских интересов.
Почитайте целиком декларацию Perplexity, это именно она, а не просто ответ юристам Амазона
https://www.perplexity.ai/hub/blog/bullying-is-not-innovation

Целая колонка в New York Magazine — не случайно проиллюстрированная несколько изуродованными рекламными баннерами мессенджера MAX :)
Начинается она с элегических воспоминаний о юности интернета, когда он был символом глобализации, но с интересной подробностью: U.S. was unusually influential online, exporting not just technology but culture and political norms with it
Но потом что-то пошло не так, и Штатам уже самим пришлось бороться с ТикТоком как проводником китайского влияния, в Индии стали на уровне официальных лиц поддерживать местный менеджер как альтернативу американским, Россия MAX активно пушит.
Ну, и по всему миру правительства с завистью глядят на китайский Weixin (вне Китая известный как WeChat) — It’s aligned with the state and surveillable, и при этом является мощнейшим экономическим агентом. Маск не раз выказывал свою зависть и желание хоть что-то подобное сотворить самому для родины.
Европа, за неимением своего, пытается хотя бы локально отрегулировать чужое, citing some of the same concerns as the Russian and Indian governments.
Короче, неожиданно именно MAX служит для американского читателя свежим примером и символом того, что фрагментация интернета стала глобальным трендом (а местами и свершившимся фактом): this looks an awful lot like a global shift in how most governments — and their citizens — approach the internet: not as an intrinsically and necessarily global project but as a source of domestic power to be cultivated, protected, and protected against.
Немножко жаль — ведь всегда жаль, что юность проходит, — но приходится взрослеть.

https://nymag.com/intelligencer/article/the-global-internet-is-coming-apart.html

Красивый и наглядный пример фотографии, для которой процесс создания важней самой картинки. Сгенерить такое же (или очень похожее) изображение сумел бы, пожалуй, даже я. Но здесь вызывает восхищение сам процесс, крутой замес из технологий и менеджмента.
Силуэт человека в свободном падении на фоне бурлящей солнечной хромосферы сфотографирован с помощью узкополосного фильтра в свете темно-красной линии водорода Hα; классический способ, применяемый для изучения протуберанцев и хромосферы Солнца. Человек этот — парашютист и ютубер, друг фотографа. Название: “Падение Икара”.
Нужная картинка получилась с шестой попытки, потребовавшей нехилой подготовки: “We had to find the right location, time, aircraft, and distance for the clearest shot; while factoring in the aircraft’s power-off glideslope for the optimal sun angle and safe exit altitude”
В пустыне в Аризоне фотограф со своей командой расположил комплекс телескопов для астрофотографии, в заметке кадры с земли не менее интересны, чем получившиеся фотографии:)
https://petapixel.com/2025/11/14/sun-skydiver-photo-andrew-mccarthy/

Великолепное эссе Фей-Фей Ли, давней сторонницы моделей мира как следующего не просто важного, а необходимого шага в развитии ИИ. Пересказывать умный, насыщенный, вдохновляющий текст — дурацкое занятие, тут сам процесс чтения столь же (а, может, и больше) важен, чем выводы.
Фей-Фей убеждена, что модели мира will transform how we create and interact with real and virtual worlds—revolutionizing storytelling, creativity, robotics, scientific discovery, and beyond. This is AI’s next frontier.
Путь живых существ по долгой дороге к разуму и интеллекту начался не просто задолго до языка; он начался задолго до зрения или слуха, perception and action became the core loop driving the evolution of intelligence, and the foundation on which nature created our species—the ultimate embodiment of perceiving, learning, thinking, and doing.
Любые LLM, да и VLM, лишены этого основания. А оно необходимо не только для полноты понимания мира, оно же служит основанием для воображения и креативности вообще. Хороший сторителлинг — не просто набор слов, он погружает в материальный мир и потому основан на его представлениях, а не одном лишь языке.
Эссе читается легко и приятно; не скажу, что быстро, потому что по ходу чтения приходится думать. Almost a half billion years after nature unleashed the first glimmers of spatial intelligence in the ancestral animals, we’re lucky enough to find ourselves among the generation of technologists who may soon endow machines with the same capability
Прочитайте целиком, получите удовольствие
https://drfeifei.substack.com/p/from-words-to-worlds-spatial-intelligence

В продолжение вчерашнего поста про эссе Фей-Фей Ли. Оно не просто так появилось, а явно как часть кампании к запуску первого продукта World Labs — Marble.Следующий шаг тоже красив: When the World Labs team set out to create Marble’s first marketing video, they made a bold decision: to build it with Marble itself.
И дальше мы видим, что в итоге получилось, и как оно таким получалось. За несколько недель были созданы сотни 3D-миров, лучшие отобраны и доробатаны — и включены в пайплайн создания ролика: a story about imagination itself, and a living example of spatial intelligence in action. Ну да, Фей-Фей предпочитает Spatial Intelligence вместо Physical Intelligence, которое любят робототехники — и действительно есть различия. Но чем больше подходов к созданию разнообразных моделей мира — тем лучше всем:)
А видосики посмотреть интересно, хотя старомодные творцы традиционной компьютерной графики опять будут плеваться. Но мы много раз это проходили и знаем, к чему все идет — к плотному сосуществованию, где у традиций есть своя ниша — но не более того
https://www.worldlabs.ai/case-studies/bringing-marble-to-life

Выкатили Gemini 3: обзоров, примеров и ссылок на всякие сравнения и собственные эксперименты вокруг полно, не буду повторяться.
У меня два комментария: во-первых, довольно символично, что прошло почти равно три года после знаменитого запуска ChatGPT и немедленно за ним последовавших прогнозов про фундаментальный проигрыш Гугла, смену лидеров, время новых стартапов и прочих сенсационно-пророческих заявлений “экспертов” и журналистов. Теперь очень наглядно показано, что first mover advantage имеет очень ограниченное влияние. Гугл бодр как никогда, выкатывает новые топовые модели и имеет целый спектр продуктов с колоссальной пользовательской базой, куда все это интегрирует, рост его стоимости на бирже ничуть не замедлился. Сотни миллионов пользователей одного-единственного чата от OpenAI всего этого не компенсируют.
Второй комментарий вообще не про саму модель. Одновременно с ее релизом произошел и релиз Generative UI, и вот эта штука принципиально новая: серьезная попытка, первая из многих, найти для ИИ адекватные и ранее просто невозможные интерфейсные решения; попытка интегрировать ИИ в сам интерфейс и сделать его AI-native. Потому что просто вставочка на старых страницах “вызвать агента” ни с какой стороны на новизну не тянет.
А тут предлагается сразу включить все нужные возможности генерации в ответы модели безо всяких дополнительных запросов. Generative UI is a powerful capability in which an AI model generates not only content but an entire user experience.
These new types of interfaces are markedly different from the static, predefined interfaces in which AI models typically render content.
И благо продуктов у Гугла много, нам эти интерфейсы представят в реальной жизни, а не на искусственно выдуманных прототипах. И вот это — реально новая ступень в развитии ИИ как части всего пользовательского опыта.
https://research.google/blog/generative-ui-a-rich-custom-visual-interactive-user-experience-for-any-prompt/
(Вот, на всякий случай, ссылка на официальный релиз про запуск
https://blog.google/products/gemini/gemini-3-collection/)

Не иссякла еще фантазия создателей носимых устройств : кроме очков, наушников, колец, браслетов и прочей довольно привычной электроники появляются и экстравагантные — но и красивые притом — решения.
Вот например, патч под глаза, привычная косметическая штучка, кусочек лейкопластыря специфической формы и с клеящим слоем, содержащим всякие полезности. Но на то и существует категория Beauty tech, чтоб ни один патч не остался без хайтекового родственника. LG предложила патч, который умеет и анализировать состояние кожи, и давать этой коже впитывать персонально подобранные ингредиенты.
AI scans and interprets aging indicators — including fine lines, wrinkles and dark circles — drawing on a database of 60,000 individuals. It then recommends specific cosmetic ingredients and delivers them to the skin through a suction-inspired patch designed to boost absorption.
И поскольку это все-таки большая LG, а не маленький стартап, есть шанс, что дорога к массовому пользователю будет не очень долгой.
https://www.ajupress.com/view/20251118102535551

Сегодня на AIJ работает юниорский трек, я в нем по традиции уже не первый год рассказываю для школьников и студентов свои любимые байки про наступающее будущее. Многие выступления этого трека (и мое в том числе) пишут заранее, но просят не анонсировать до официального дня. День настал, так что вот видосик:)
https://vkvideo.ru/video-22522055_456246100?ref_domain=aij.ru

Юдковский со своими призывами бомбить датацентры нашел достойных последователей: в пятницу в полицию поступили данные о риске физических нападений на сотрудников OpenAI.
В итоге офис оказался на осадном положении, покидающим его сотрудникам рекомендовали не держать на виду бейджи и не демонстрировать логотип OpenAI на одежде или любых предметах.
Это явилось кульминацией постоянно нарастающей активности групп с говорящими названиями Stop AI, No AGI, и Pause AI, устраивавших все более агрессивные демонстрации на протяжении уже двух лет.
What started as philosophical disagreements about artificial general intelligence timelines has morphed into a security crisis requiring police intervention and office lockdowns.
Неплохо бы публично обсуждать не только влияние ИИ на людей с неустойчивой психикой, но и влияние исходящих от активистов призывов на эту же категорию сильно внушаемых граждан. Но, однако, комментарии прессы своеобразны: виноваты, конечно же, бигтехи, которые довели людей до отчаяния своими угрозами сделать людей ненужными. Прикольно, что такие угрозы никакими бигтехами не высказывались — это интерпретации самих же активистов. Эховая камера в действии — вот только лишь бы оно реально до криминальных действий не дошло:(
https://www.techbuzz.ai/articles/openai-locks-down-sf-offices-after-activist-threat-alert

Роботы бывают разнообразно биоморфны: человекообразные и собакообразный известны всем. Но, оказывается, для различных морских и вообще подводных исследований активно создают и роботов, очень похожих на обитателей водоемов.
Вот, например, робот в виде китовой акулы (пять метров в длину и 350 кг массы). Подвижны не только плавники, но и все туловище; управляет всем, как положено, бортовой ИИ.
Как уверяют создатели, акула-робот способна to swim, turn, float, dive, and even replicate mouth movements with a high degree of realism.
На словах про движения рта непроизвольно вспомнился фильм “Челюсти”… Не Терминатором единым!
https://discoverwildscience.com/china-creates-worlds-first-intelligent-robotic-whale-shark-4-240410/