У Харари вышла книга Nexus: сети информации от каменного века до AI. Раза в 4 затянутая + оч. уж спекулятивная (НЕ читать). Мне только Sapiens нра, а футурология Homo Deus и 21 Lessons - не =)

Интро
- Люди выигрывают от кооперации огромными сетями (Китай 1.4 млрд чел) - растят инфо/truths и власть, но мудрость что-то не растет (e.g. нацизм, сталинизм). Просто наивного оптимизма а-ля Курцвейл что рост инфо все засолвит - мало (хотя есть и AI doomers)
- Идет weaponization информации, особенно популистами, и сползание от науки

Часть I: Сети между людьми
- Информация = что-то связывающее одно с другим (музыка, ДНК итп). Истины = что-то точное про реальность. Но она есть объективная, а есть и разные идеологии/взгляды (e.g. откуда взялся Израиль, астрология), есть intersubjective - на стыке людей (законы боги нации корпорации валюты)
- Сети опирались на мифы (постоянно апгрейдятся) и бюрократию (e.g. институт церкви из мифа христианства), между ними конфликт. Механизмов самокоррекции не было (e.g. как в науке)
- В сетях всегда были важны brands (e.g. Сталин) и stories (e.g. крестовые походы, марксизм). Мозг любит списки и stories (e.g. Ramayan, миф индуизма, есть сериал на 78 серий)
- Сети создают порядок, а он - власть. Истины плохо управляют большими группами людей (в тч тк часто болезненны), политика вся стоит на фикциях
- Бюрократия = разложить мир на ящички и все писать, искажает реальность, появилось 1400 лет до н.э. с письменностью, усложнило массам влияние на власть. Уже 1000 лет назад революционеры первым делом жгли записи

Церковь
- Религии всегда монополизировали интерпретацию откровений (тк устно любой желающий искажал), привело к письменным Библиям. Тексты и менялись (e.g. первые были про пастухов/фермеров в Палестине, но евреи жили по миру), и конкурировали между собой
- Церкви контролили свои сети: писцов, библиотеки, архивы, в 1400г пришла революция печатного пресса, более свободное распространение инфо повлияло на научную революцию. Впрочем и на листовки о ведьмах тоже, пошла массовая истерия, по ложным доносам в 16-17 вв. пытали и казнили 50 тыс чел

Наука
- Стоит на открытии идеи невежества, а в религиях же все всегда - истина. Институции умирают без механизмов коррекции ошибок, e.g. признать, что люди: а) ошибаются б) коррумпированы
- Наука ищет опровержения через институт публикации статей и пересмотр целых школ, e.g. квазикристаллы сперва (1984) мочили нобелевские лауреаты, но потом (2011) Шехтману дали нобелевку

Демократия, тоталитаризм
- Диктатуры: централизация власти + непогрешимость центра. Но коррекции ошибок нет. В демократиях же много точек: роли, партии, суды, пресса, НКО + какие угодно меньшинства/civil rights. Ошибки признаются. Усложнение институтов запутывает население, перестают вникать. Диктаторы всегда поэтапно демонтируют коррекцию ошибок. Еще Римская империя прошла это
- Популисты где угодно апеллируют к единственности ответов + что они (якобы) представляют все общество. В любой стране есть косяки, но популисты их абсолютизируют, обесценивая выборы и все прочие институции
- СМИ генерируют больше демократии. 400 лет назад в EU было всего по несколько тыс чел на страну с правом голоса. В XX в. медиа накрыли мир, но и тоталитаризмов с контролем за всеми сферами жизни стало больше (в тч за счет технологий - авто, телеграф итп). Инфо обязана течь через центр, есть и плюсы (пропаганда, скорость), и минусы - не все доводят до населения и начальства (Чернобыль vs. Three Mile Island)
- Тоталитарные режимы хуже осваивают создание сложных технологий

XXI-ый век
- Тут уже может быть не соревнование демократий и тоталитарных режимов, а людей и nonhuman agents. 2-ая половина книги - про возможный Silicone Curtain/Кремниевый занавес

Ч.II: Неживые сети
- К печатным СМИ XX в. добавились сети компов. В 2016 в Мьянме (Бирма, 50 млн население, 100 этносов, 90% буддисты) исламисты (+ буддисты-экстремисты) устроили геноцид Rohingya (десятки тыс убиты, 750К уехали), продвигая свой контент на Fb (!), и 50-70% просмотров двигали алгоритмы (и был всего 1 модератор)

//

2ая часть тут

2-ая часть книги Харари Nexus: сети информации от Stone Age до AI (1-ая часть конспекта тут):

Ч.II: Неживые сети/компы (а не люди)

Intelligence и сознание
- Не путаем: 1-ое = достигать цели, 2-ое = способность к субъективным ощущениям (у животных просто рядом оказались и все). Мы пока не знаем как у нас сознание вспыхивает, так что на компы я бы пока не экстраполировал. А если вспыхнет - чувства это же чисто биология
- В 1950ые мир не видел в компах что-то больше калькуляторов, однако вскоре язык был освоен, а демократия - это язык

Алгоритмы
- Алгоритмы в XX в. стали торговать на рынках, в 2000ые вместо СМИ стали посредниками инфы, а сейчас и контент генерят. Соцсети долго валили все на государства “мы просто платформа, пусть люди решают”, но у сетей же прямой доступ к эмоциям людей
- Название книги nexus - “узел в сети”. Алгоритмы нас мониторят, советуют, вдохновляют, наказывают (хотя да, люди с древних времен привыкали). С 2014 US юзают Skynet - анализ сотовых метаданных выявлять террористов, другие страны тоже стали
- Конечно, бюрократии компы дают много пользы, но у меня фокус на рисках. Вообразите, что даст диктаторам BCI типа Neuralink?
- Мы, кстати, уже в post-privacy era: в мире 1 млрд уличных камер + у 140 стран сбор биометрии. В Китае в 13 лет камеры нашли девочку, проданную в рабство в 3 года. В Иране смс-штрафы женщинам без хиджаба. Еще сайты с отзывами по факту - peer-to-peer surveillance.
- Молчу про китайскую social score system (в EU вроде в AI Act хотели запретить такие штуки как дискриминационные)

Ошибки алгоритмов
- Алгоритмы Youtube виралили фэйки и занижали их критику, QAnon набрали 4 млн фолловеров итп. Соцсети все валят на природу людей и “это не нарушает правила". Какой уж тут AI alignment, если алгоритмы уже чудят
- Даже если не вникать в онтологические пределы философии утилитаризма, что любое движение к ultimate goal можно оценить цифрами, есть еще проблема что компьютерные агенты между собой могут порождать собственную мифологию/inter-computer realities
- У алгоритмов всегда есть biases, тк данные собирают люди, и генерят их люди. А мы антропоморфизируем компьютеры как когда-то богов - т.е. считаем, что компы не ошибаются, см оригинальную философию God, human, animal, machine

Ч.III: Компьютеры и политика
- Как общества (и демократии, и тоталитаризм) в будущем могут реагировать на сети [неживых] агентов? Как поменяется баланс власти?
- Промышленная революция за 100 лет показала, кто колониальные империи на их основе не эффективны

- Идет некий суицид консерватизма (хотя НЕ консервативный Трамп превратил республиканскую партию в революционную)

- Компы - это новый тип бюрократии. В демократиях есть правильные принципы, которые могут помочь:
1) benevolence/доброжелательности
2) децентрализация
3) взаимность (слежка и за властями/корпорациями тоже)
- Резкие скачки безработицы из-за AI и роботизации могут обратить демократии в тоталитаризм (как 25% в 1932 в Германии). Вдруг AI окажется креативным, а также заменит работы, где сейчас нужен emotional intelligence?

- AI - это иная intelligence, как (якобы ошибочный) ход #37 в матче AlphaGo с Lee Sedol, см книгу Мустафы Сулеймана
- До покупки Маском Твиттера там 5% ботов делали 28% комментов. Я считаю, демократии должны регулировать рынки информации, чтобы не было digital bots anarchy

- Тоталитарные страны могут максимально опереться на AI. В тч закрыться (как Китай) от зарубежных tech платформ (противостоят т.н. data colonialism и растят свои экосистемы)
- Холодная война XX века перетекла в современную cyber war

Заключение
- Из изучения истории видно, что изобретение новых информационных технологий (от письма, печати и до телеграфа и компов) каждый раз было катализатором больших исторических изменений
- AI поменяет мир в политическом плане, просто пока непонятно куда. Я попытался порассуждать о возможных векторах влияния на общества, и демократии, и тоталитарные

Upd:

И, еще: в US в конце 10 лет войны во Вьетнаме тоже была супер-поляризация общества, так что происходящее сейчас и не ужас-ужас, а особенность true democracy в кризисы

Мир чет выглядит как пустыня за пределами этих локаций. Это география авторов (а точнее универов, за которыми они числятся) научных статей, опубликованных в 100 ведущих журналах в прошлом году, ежегодный индекс Nature публикует

Константинов в фб пишет: «Чтобы понять, как мозг управляет поведением, ученые строят все более сложные копии нервной системы. Такая модель, «схема электропроводки» организма, включающая все нейроны и все их соединения (синапсы), называются коннектомом. Существует несколько конкурирующих мегапроектов с очень серьезным финансированием, занимающихся исследованиями коннектомов. До сих пор самым сложным полностью воссозданным коннектомом была нервная система личинки дрозофилы, которую разрезали на крошечные сегменты и с помощью электронной микроскопии 12 лет наносили на карту все ее три тысячи нейронов и полмиллиона синапсов. Это исследование вышло в 2023 и дало очень интересные результаты (я о них писал, ссылка в комментарии).

А вчера в Nature вышла серия статей (сразу 11 работ, включая редакционную статью, - никогда такого не видел) по материалам исследований международной коллаборации FlyWire, за 10 с лишним лет составившей с помощью ИИ и добровольцев со всего мира полный коннектом мозга теперь уже взрослой дрозофилы.

Мозг плодовой мушки меньше макового зернышка. Но по сравнению с ее личинкой, достигнут огромный прогресс – коннектом взрослой мухи включает описание около 140 тысяч нейронов и 55 миллионов синапсов (для сравнения, в нашем мозгу – 86 миллиардов нейронов и 100 триллионов соединений).

Оказалось, мозг плодовой мушки состоит в основном из нейронов, которые принимают сигналы от глаз и обрабатывают их, - этим заняты две большие доли мозга, расположенные по бокам от его центральной части. То есть основная задача большинства нейросетей в этом простом мозге – создавать и анализировать картину мира, формируемую на основе зрительной информации.

Еще любопытно, что в мозгу гораздо больше афферентных нейронов (отправляющих сенсорную информацию в мозг), чем эфферентных (отдающих команды мозга мышцам) - первых 13.9%, а вторых лишь 1.1%. Формировать картину мира намного сложнее, чем управлять полетом.

Связи между отдельными нейронами в большинстве своем включали менее 10 синапсов, но есть привилегированные нейроны и соединения (помните "нейрон Путина" из поста про гиппокамп?), - почти 16 тысяч таких соединений содержали более ста синапсов, и лишь 27 «самых влиятельных» — более тысячи синапсов.

Ученые выделили 8453 типа нейронов, основываясь на их форме, - теперь это крупнейший каталог типов нейронов (в человеческом мозге идентифицировали только 3300 типов клеток).

Но еще важнее то, что эта карта уже используется для создания интерактивных моделей мозга, - ученые научились симулировать взаимодействие части этих нейронов и поняли, что и как именно делают некоторые из этих типов клеток. Парочка типов, например, отдают команду шагающим мухам остановиться – каждый своим способом.

А ученые из Калифорнийского университета в Беркли создали на основе этой карты работающую модель некоторых сетей мозга мухи, - в ней виртуальные нейроны обмениваются сигналами. Смоделированный мозг, например, реагирует на пищу. Хоботок мухи, похожий на язык, покрыт нейронами, чувствительными к сахару. Виртуальный мозг делал то, что делал бы настоящий мозг: он приказывал хоботку выдвинуться, чтобы муха могла есть. А если модель мухи чувствовала вкус сахара только с правой стороны хоботка, мозг посылал команды согнуть его вправо.

Для ученых, создающих подобные модели, FlyWire разработала «поисковую систему по мозгу» - Codex (Connectome Data Explorer), который позволяет любому человеку перемещаться по всем нейронам и синаптическим путям на карте мозга дрозофилы.

В Nature называют работу «монументальным достижением», и пишут, что «теперь, когда у нас в руках коннектом, понимание того, как нервная система генерирует поведение, становится гораздо более достижимым». По крайней мере, для мухи )

А исследователи уже приступают к гораздо более амбициозной работе: созданию карты мозга мыши, которая содержит примерно в 1000 раз больше нейронов.»

Nikita Shirobokov синтезировал:

Один пост со всей ключевой инфо про AI

К счастью, я знаю как упаковать всё самое важное про AI в один пост. Я в СФ, делаю стартап на стыке LLM, CV и агентов. У нас коллабы со всеми лидерами AI, включая OpenAI. Мы треним свои оч крутые модели для узких индустриальных кейсов. У нас куча датки и гпу

TLDR - AI сегодня это инструмент для инженеров, которым оч дешево создают эффективные узкие микросервисы для решения бизнес-задач. Чем больше компания, тем больше выхлоп. $ здесь

Вот как все выглядит:
1. AI модели оч быстро умнеют. Если вы пробовали что-то год назад, и не работало, возможно сегодня уже работает. А если сегодня нет, то завтра

2. «Модели» не равно «продукты». Большинство AI моделей — это очень мощный инструмент, которым можно улучшить любой бизнес-процесс. Но нужны инженерные навыки

3. Почему так мало успешных коробочных B2B AI продуктов? Потому что инжиниринг собственных решений с использованием AI намного дешевле и эффективнее покупки любых коробочных решений. См. Klarna отказалась от Salesforce

4. Больше всего выигрывают корпы, кто тратят сотни млн $ на операционку с огромным легаси процессов, документов, кода, и данных

5. Прямо сейчас ~30% всех S&P 500 компаний нанимают AI инженеров, чтобы они выпиливали коробочные SaaS и замещали их кастомными AI решениями

6. «Кастомные AI решения» это в том числе и решения, при разработке которых был активно использован AI. Например, вам нужно инвойсы из пдф заносить в базу. Вместо покупки готового сервиса вы просите AI разработать вам соответствующий микросервис. Через 2 часа в вашем AWS задеплоен ColQwen2 с нужными промптами

7. Основное применение для AI сейчас: использовать большие и умные модели чтобы быстро разрабатывать небольшие и очень узкие сервисы для решения операционных задач с использованием более слабых моделей либо вообще без AI

8. Большие модели также юзают для анализа больших массивов инфо, автоматизации сложных процессов и исследований

Где AI может помочь любой компании любого размера:
- Сгенерить свои микросервисы и выкинуть все подписочные сервисы
- Построить автоматизацию везде где есть документооборот и операционка с данными
- Сделать оч мощное исследование для принятия стратегических решений
- Переварить неструктурированную информацию в структурированную информацию

Что будет завтра:
1. Правило большого пальца - если consumer AI продукт работает через чат, значит будет убит новой фичей ChatGPT

2. Consumer AI может жить если у продукта есть социальные механики, доступ к уникальным данным (e.g. медицинские записи), или если сервис недоступен публично (e.g. adult)

3. Новый вид коробочных b2b продуктов - агенты с высоким уровнем автономности. Больше всего выиграют небольшие компании с небольшим штатом. Я думаю, сравнимо с моментом, когда Тильда + Инста + Реклама в середине 10-х, когда расцвели небольшие бутиковые бизнесы

Заблуждения:
1. Если AI не считает кол-во букв r в слове strawberry, то более сложные задачи не доверить

AI тренят и проверяют на задачах, за которые условный J.P.Morgan может заплатить $1 млрд в год. Туда не входит подсчет букв в словах, ответы на детские, рассуждения о философии венгерских социалистов, и проверки фактов «кто такой Никита Широбоков»

2. AI генерит слова друг за другом, не понимает смысл, и не может быть частью надежной системы

АЭС это просто водяной пар крутит турбину. Ракета Falcon это просто струя толкает цистерну. Макбук это просто 0 и 1 которые включают маленькие лампочки. Иногда оч простые вещи могут быть фундаментом грандиозных по сложности решений

3. «А вот я читал в отчёте от эксперта…»

Вы читали не отчеты, а посты чуваков, кто за вас читали отчёты. Когда летом вышел отчёт GS, в постах цитировали только скептиков. Никто не цитировал положительный отчет McKinsey. Никто не цитировал очень оптимистичный отчет Deloitte. Никто не цитировал экзекьютивов f100, кто на earning calls объявили о начале 9 figure инвестиций во внутренние AI разработки

Большая часть скептиков банально расстроена тем что приходится наблюдать за AI вечеринкой в стороне. Вот и приходиться бурчать

Илья Ясный в интервью упоминал, что аналог Elon Musk в биотехе - Нубар Афеян и его Flagship Pioneering. Что это?

История
- Noubar Afeyan армянских корней, дочь его открывала недавно с женой Рубена Варданяна памятник Авроре Мардиганян - выжившей участнице в геноциде армян 1915 года
- Родился в Бейруте/Ливан, вырос в Канаде, сделал PhD по biochemical engineering в MIT (биореакторы, ферментация)
- Начали в 2000 с выходцами из биотех VC Morgan Holland. До этого 13 лет работал в традиционном подходе (в 1987ом в 24 года запилил свою первую компанию), прежде чем сместиться в contrarian подход

Масштабы успеха
- На 2017ый было инкубировано 75 компаний на $19 млрд капитализации ($250 млн на 1 компанию в среднем?), с 2017го добавилось еще 25 компаний на +$50 млрд капитализации
- 25 IPO, 9 тыс сотрудников в компаниях, сотня патентов в США и 400 патентов по миру, штаб-квартира в Бостоне
- Юридически как VC фонд, уже 11 фондов на $13 млрд привлеченных денег, 50 сотрудников (без учета entrepreneurs-in-residence)
- Широкой общественности стали известны через Moderna, когда в 2021ом запилили мРНК вакцину и Moderna (компании было 9 лет, искала ниши в прививках для животных) дорожала в 10 раз (мой пост апреля 2020го), сейчас стоят $20 млрд

В чем суть их подхода?
- Не инвестировать в биотехи как просто lifescience VCs, а прямо самим создавать такие компании, берут 50-80% доли (потом, естественно, размывается по мере привлечения внешних инвестиций)
- Делают т.н. платформенные компании - что ключевая технология может быть применена в разных нишах/сферах/продуктах, и для платформы важна diversity возможных применений/продуктов
- Платформа = комбинация и оффлайна, и цифровых данных
- Я не верю в удачу и exceptionalism, это иллюзия, я верю в создание систематических условий. We should go searching for extraordinary advances amidst what is otherwise pretty reasonable things, each connected to each other by short distances  -  we need to allow for leaps to coexist with the hard work of filling in the gaps

Для диптех бизнесов нужны 3 вещи:
а) Инновации (их supply от ученых не ограничен),
б) Менеджеры (а вот это узкое горлышко, Flagship Pioneering делают 6-8 компаний в год, а могли бы 20 - но нет людей с нужными скиллами + которые как ко-фаундеры/менеджеры развиваются в нужных направлениях)
в) Инвестиции
- Традиционная модель требует искать все это в разных networks, а они все собирают самостоятельно. Они делают эксперимент в институционализации инноваций

4 шага их инкубации:
1)
- У них есть entrepreneurial scientists, которые выдвигают амбициозные вопросы “What if?…” / где может быть breakthrough, а потом обсуждают внутри + с внешними экспертами (у Flagship большая сеть людей в отрасли, контакты со всей фармой), 80-100 таких explorations в год
- Мы пытаемся от будущего через 5-10-20 лет идти в сегодня

2) Делают фирмы-прототипы (ProtoCos) для каждого из таких потенциальных breakthroughs, 8-10 шт/год, проверить proof of concept. Что не смогло технически доказать состоятельность прорыва - прибивают

3) Стартапы (NewCo's) 6-8 шт в год, когда founding team проекта от "What if?…" доходит до "It turns out...”, дают много денег (чтобы пилить платформу для новых продуктов на несколько лет), делают борд, находят CEO, находят leadership team

4) Если все поехало (состоялся переход от просто технологической платформы к какой-то продуктизации), то эти NewCo's превращаются в GrowthCo's и привлекают внешние деньги и едут уже до extraordinary future value, и до IPO (25 шт c 2018го по 2024ый, но в фарме не надо быть юникорном чтобы выйти на биржу)

Про будущее
- Добавили к биотеху тему agriculture неск. лет назад
- 30 лет т.н. конвергенции digital и bio привели к тому (оч много что расшифровали и накопили данные), что у нас будет взрыв от микробов и иммунитета до генетических терапий/бОльшее использование CRISPR итп. И причем через 10 лет нам будет казаться, что мы реализовали всего 1% возможностей, которые у нас есть
- Протеины оч помогут в борьбе с глобальным потеплением

…

🙈

Вокизм действительно parasitic mind virus как Маск говорит. Washington Post с 2013 принадлежит Безосу

Национальный научный фонд США - с 2020 года число грантов, выданных ими на DEI темы, выросло с 1% всех выданных до 10%. Демпартия действительно очень стратегична, играет вдолгую, хотят за счет госбюджета свои идеологические штуки инсталлировать и в якобы научные процессы

В тему нобелевки по экономике: статьи Daron Acemoglu я читал в магистратуре, когда учился на институциональной экономике

Он интересен тем, что родом из emerging market (армянского происхождения, вырос в Турции, только потом MIT), и поэтому и смог чуть отойти от махрового англосаксонского exceptionalism’а

Впрочем, никакие экономисты не дали ответов, почему в одних странах строят всякие работающие общественные институты
А
В других нет

Все оканчивается на т.н. path dependence theory - зависимость степени развитости институтов от всей предыдущей исторической траектории страны 🙈🙈🤣🤣 Но для таких выводов не нужно быть экономистом ))))

Мое текущее отношение к экономике - она, к сожалению, бесполезна как что-то объясняющее про мир. Не обращайте внимания. Даже если очень няшные и харизматичные типа Олега Ицхоки итп 🙈🙈🙈

Системы из множества агентов со своей волей и активностью (и психотравмами, и вытекающего из этого электорального запроса) возможно (как и компьютерные нейронки) просто демонстрируют эмерджентные свойства и вселенная так создает complexity, и никаких механистических открытий про это не сделать

Тут Eric Schmidt 40 мин отвечал про все сразу - и AI, и Китай, и геополитику/датацентры у арабов за $100 млрд:

SCSP
- Это было на конфе его НКО - Special Competitive Studies Project, с 2021, цель - обеспечить США лидерство в tech и экономике к 2030
- Замутил ее с Киссинджером (недавно умер, над ним еще шутили авторы книги AI Snake Oil)

AI
- В отрасли много интересного идет, на больших масштабах. В ближайшие 1-2 года появятся нишевые LLM, верю в них. LLM = просто language to language компьютинг
- В кодинге LLM конечно оч. полезно, 40 лет руководил разрабами, никогда не делают что просишь
- Для науки оч круто если математику компы смогут и гипотезы выдвигать, и доказывать, есть язык для этого, я финансировал его создание
- Смена работ из-за AI будет, но ведь в первую очередь убирают самую повторяющуюся и нудную работу e.g. охранники
- Прогресс в AI - это с какой скоростью добавляешь туда людей, обученных в научных и инженерных дисциплинах, и странно что Вашингтон все не упростит им въезд

Китай
- Гоняли туда перед смертью Киссинджера. Они оч hard working, умные и видят куда идти. Пилят fusion, кстати
- Санкции на чипы плохо работают, все равно много просачивается
- Гипотеза, что для AI нужны данные и Китай выиграет из-за anti privacy - не оправдалась

Энергия
- Чипов надо в ближайшие годы в 10x больше, а вообще - бесконечно. А датацентры уже 3% электросетей US, а будет 7-8% через 5-10 лет. Через 4 года электричества в US не хватит. Одобрение/постройка новых линий электропередач может до 18 (!) лет занимать - я реально боюсь умереть до этого, власти/госсектор - не для быстрых изменений [вот зачем Маск хочет дерегуляции и DOGE - Department Of Government Efficiency]
- Для солнца и ветро надо батареи и AI поможет в material sciences их улучшить, займет 5-7 лет, но сырье для них и редкоземельные элементы - 70% мирового производства у Китая (и чуток в мутных Боливиях Конго)
- Угольные станции в США не дадут строить, но газовые будем. OpenAI поэтому и хочет чтобы Сауд Аравия/Катар/ОАЭ (я тоже с ними много общаюсь) быстро построили электростанций и датацентров на $70-100 млрд, не переживая про security risks + те берут на себя обязательства по зеленой энергии. Мы разучились строить вообще что-то, а арабы умеют оч быстро строить
- Надо переоткрывать АЭС в США + строить новые. Но в США 11-13 лет займет одобрение, никакой learning curve такими темпами у нас не будет
- CO2 след от AI будет сглаживаться прогрессом электроавто итп

Fusion/термоядерный синтез
- Я вовлечен в один проект, есть ощущение, что за декаду сделают. Будущее целиком за fusion. Это помимо того, что это вопрос нацбезопасности

Геополитика
- Европейские сетки все тренятся за пределами EU, чаще в US. Арабские датацентры, как минимум, будут делать ВЕСЬ inference для EU, тк в EU запретительно дорогая энергия (даже по super deals, я общался с Макроном)
- В Китае есть кластеров на 600-700 тыс GPU + у OpenAI, Meta, Anthropic, Google + Малайзия - итого меньше дюжины мест
- С т.зр. national security можно там тренить НЕ секретное - мы доверяем Франции, Германии, еще ряду стран + может Япония, Корея - итого 8 стран. Индия - им не так доверяем. Пытаемся понять можно ли у арабов. Секретное в любом случае в странах Five Eyes (US, Canada, UK, New Zeland, Australia)
- В целом, проблема безопасности и хаков остается вне зависимости от того, где свои модели тренишь

Датацентры
- Европе надо строить свои, а иначе системы с AI в реальном времени не получатся из-за задержки сигнала/latency
- Тренинг больших моделей требует все время проворачивать оперативную память целиком -> все должны быть в едином кластере. Inference будут делать там же, где и тренят, те же сервера. 100 тыс GPU стоят $5 млрд, а обесцениваются за 2 года
- Microsoft строит в Висконсине датацентр больше, чем все гугловские вместе взятые, на несколько гигаватт - это как на несколько млн домов

AGI
- В, как я называю, "сан-францискской школе мысли” ждут AGI (умнее, чем все люди) через 18 мес - думаю, это не вопрос ближайших лет. Self-driving авто 30 лет уже пилят, и какое проникновение?