Важное: Карпати о текущем моменте

Он пишет в первую очередь о своёй сфере, но это верно - или очень скоро станет верно - для всех типов когнитивных задач.

«Несколько случайных заметок после того, как я довольно много кодил с Claude в последние недели.

Рабочий вокрфлоу... сейчас я действительно программирую по большей части на английском языке, несколько смущенно объясняя LLM словами, какой код нужно написать. Это немного бьёт по эго, но возможность управлять софтом через масштабные операции с кодом даёт слишком большой суммарный выигрыш в пользе... Это, пожалуй, самое большое изменение в моем базовом рабочем процессе за примерно двадцать лет программирования, и оно произошло всего за пару недель. Я ожидаю, что нечто подобное сейчас происходит у двузначного в процентах количества инженеров, в то время как осознание этого в широких массах, кажется, всё ещё находится на уровне низких однозначных процентов...

Упорство. Очень интересно наблюдать, как агент без устали работает над чем-то. Они никогда не устают, у них не падает моральный дух, они просто продолжают пробовать варианты там, где человек давно бы сдался и отложил до завтра. Это такой момент "ощущения AGI", смотреть, как он долго бьётся над задачей, чтобы выйти победителем тридцать минут спустя. Ты понимаешь, что выносливость - это главное узкое место в работе, и с LLM под рукой она кардинально увеличилась.

Ускорение. Не совсем понятно, как измерить "ускорение" от помощи LLM. Безусловно, я чувствую, что в целом делаю то, что собирался, намного быстрее. Но главный эффект в том, что я делаю гораздо больше, чем собирался, потому что: 1) я могу накодить кучу вещей, на которые раньше просто не стоило бы тратить время, и 2) я могу браться за код, с которым раньше не мог работать из-за нехватки знаний или проблем с навыками. Так что это, безусловно, ускорение, но, возможно, в гораздо большей степени - расширение возможностей.

Рычаг. LLM исключительно хороши в работе в цикле до тех пор, пока не достигнут конкретных целей, и именно здесь кроется большая часть магии "ощущения AGI". Не говорите ему, что делать, дайте ему критерии успеха и смотрите, как он работает. Заставьте его сначала написать тесты, а потом пройти их... Смените подход с императивного на декларативный, чтобы агенты крутились в циклах дольше, и вы получите больше рычагов влияния.

Удовольствие. Я не ожидал, что с агентами программирование станет более увлекательным, потому что уходит много нудной работы по "заполнению пробелов", а остаётся творческая часть. Я также чувствую, что реже застреваю или туплю (что совсем не весело), и ощущаю гораздо больше смелости, потому что почти всегда есть способ работать с моделью рука об руку, чтобы добиться хоть какого-то прогресса. Я встречал и противоположное мнение: кодинг с LLM разделит инженеров на тех, кто в первую очередь любил процесс написания кода, и тех, кто любил создавать продукты.

Вопросы. Несколько вопросов, которые меня занимают:
* Что станет с "10X-инженером" - соотношением продуктивности между средним и топовым специалистом? Вполне возможно, что этот разрыв вырастет очень сильно.
* Вооружившись LLM, начнут ли полиматы (generalists) всё чаще превосходить узких специалистов? LLM намного лучше справляются с заполнением пробелов (микро-уровень), чем с глобальной стратегией (макро-уровень).
* Каково будет кодить с LLM в будущем? Это как играть в StarCraft? В Factorio? Или как играть музыку?
* Насколько сильно наше общество ограничено скоростью цифрового интеллектуального труда?

TLDR. Где мы находимся? Агентские возможности LLM (особенно Claude и Codex) перешагнули некий порог когерентности примерно в декабре 2025-го и вызвали фазовый сдвиг в разработке ПО и смежных областях. Интеллектуальная часть внезапно ощущается значительно опережающей всё остальное - интеграции (инструменты, знания), необходимость в новых организационных процессах, диффузию технологий в целом. 2026-й будет годом высокой энергии, пока индустрия будет переваривать эти новые возможности».

(выдержки из его вчерашнего поста в Твиттере / X)

Если вы изучаете новый язык, можете взять любой текст на этом языке и попросить ИИ переписать его в соответствии с комфортным (точнее соответствующим зоне ближайшего развития) уровнем.

Достаточно ограничиться коротким промтом, в нескольких словах объясняющим вашу цель и уровень, на котором уже готовы читать, но лучше будет подготовить более подробную инструкцию - например, если владение языком неровное (скажем, бизнес-лексика на высоте, а художественный и академический вокабуляр слабее) об этом тоже можно упомянуть, или попросить указывать в скобках транскрипцию сложных слов (что актуально для языков с глубокой орфографией, вроде французского).

Можно пойти ещё более творческим путём и попросить переписать текст (причём это может быть текст любого жанра, от энциклопедической статьи до сайенс-фикшена), делая акцент на лексике из той ниши, которая для вас сейчас приоритетна. Или, если вы ведёте список слов / выражений / правил языка, которые вызывают трудности, прикрепить его и попросить ИИ чаще использовать именно их.

Это же всё можно адаптировать для аудио-версий, благодаря text-to-speech моделям.

Почему Космос - это «царство смыслов»

Очень часто, - в наше время это можно назвать позицией по умолчанию, - мир представляется чем-то вроде пирамиды, где основанием является физический уровень, над которым существует гораздо меньшая надстройка из биосферы, а уровнем выше находится ещё меньшая, почти исчезающе малая надстройка в виде человечества, обладающего сложным сознанием и культурой.

Но это ошибка оптики, возникающая из-за чрезмерной экстраполяции некоторых теоретических моделей ранней современной науки. При более целостном (и целостный здесь означает не «мистический», а просто учитывающий больше нюансов) взгляде ситуация оказывается совершенно иной. Каждый следующий уровень - это новое онтологическое пространство, бесконечно превосходящее по богатству и обширности предыдущее [1].

Например, даже на языке чисто эмпирического моделирования, предел сложности, т.е. количество состояний физической реальности оценивается сегодня в exp(10^124) ≈ 10^10^120, т.е. в десять в степени двадцать четыре в степени десять, тогда как для биосферы оценка предела сложности составляет 10^10^237, иными словами - пространство возможностей биосферы в любом осязаемом смысле бесконечно (в квадриллионы квадриллионов квадриллионов квадриллионов и так много много много много раз) больше, чем пространство возможного в чисто физической Вселенной [2]. Настолько больше, что сравнение даже с использованием астрономических образов (песчинка и Солнце и т.п.) близко не отразит масштаба различий.

Однако, мы можем пойти дальше и утверждать, что «царство смыслов» - пространство сознания, находящее своё воплощение в человеческой культуре [4], столь же, почти бесконечно, обширнее исключительно биологического пространства [5], и имеет, во всяком случае потенциально, неограниченное количество степеней свободы. А это значит, и это не будет преувеличением, что Космос почти целиком состоит из «царства смыслов» - если взять всё «множество возможного», то 99,999...% этого множества будет принадлежать к нему [6]. Поэтому верно, что история одного человека объёмнее, чем история всей Вселенной, и что человек не капля в океане, а океан в капле. Поэтому вопрос о бытии - это вопрос о человеке, поэтому развитие культуры, «заботящейся о душе», культуры чуткости и внимания друг к другу, должно стать императивом, и поэтому же даже самые малые, тривиальные и будто бы случайные из наших мыслей, желаний и отношений имеют колоссальное значение.

Примечания

[1] Я здесь не касаюсь статуса физических наук и того, насколько обосновано допущение, что физические теории сообщают факты о реальности, для классических обсуждений см. Bas C. van Fraassen. The Scientific Image. Oxford University Press, 1980; Nancy Cartwright. How the Laws of Physics Lie. Oxford University Press, 1983.

[2] Marina Cortes, Stuart A. Kauffman, Andrew R. Liddle, Lee Smolin. Biocosmology: Towards The Birth of A New Science. arXiv:2204.09378v3; см. также Stuart A. Kauffman. A World Beyond Physics: The Emergence and Evolution of Life. Oxford University Press, 2019.

[3] Здесь уместно поразмышлять об аргументе размерности (dimensionsargument) Франца фон Кучеры, аналитически демонстрирующем, что множество ментального обязательно больше множества физического, см. Franz von Kutschera. Der weite Horizont der Philosophie. Brill | mentis, 2022. Также в этом контексте интересны аргументы Питера Унгера о множественной реализуемости, см. Peter Unger. All the Power in the World. Oxford University Press, 2006.

[4] Непревзойдённым введением в это пространство остаётся «Философия символических форм» Эрнста Кассирера, а также сочинения Оуэна Барфилда и Жана Гебсера.

[5] Хотя стоит сказать, что биосфера, лишённая сознания, телеономии и смысла - это не более, чем артефакт той же некорректной экстраполяции, что и представление о примате и даже простом существовании чисто физической Вселенной, см. Gregory Rupik. Remapping Biology with Goethe, Schelling, and Herder: Romanticizing Evolution. Routledge, 2024.

«Восприимчивый [к созерцанию] ум отличается всё более сильным ощущением внутреннего простора. Этот простор открывается нашему взору как нечто, что присутствовало в нас всегда. Более того, эта внутренняя широта являет себя таким образом, что мы не можем искренне усомниться в её подлинности.

Невозможность усомниться в этом внутреннем просторе качественно отличается от того упрямства, с которым мы порой отстаиваем правильность своего поведения: то, как мы разговаривали с супругом или как поступили с другом или коллегой. Невозможность усомниться в раскрытии внутреннего простора оказывается явлением совершенно иного порядка. Оно свидетельствует само за себя...

Более того, этот внутренний простор, ощущаемый как извечно присутствующий, в то же время всегда нов. И все же нам стоит поведать об этом опыте тому, кто искушеннее нас, тому, чей взор яснее и кто способен подтвердить наше переживание...

[Э]та бесформенная внутренняя беспредельность действительно проявляет себя в самых обыденных, трагических, радостных, утомительных и скучных событиях повседневной жизни, как бы эта жизнь ни выглядела в данный момент.

Восприимчивый ум не противостоит уму реактивному; это не какая-то следующая ступень, на которую мы обязаны взобраться ради прогресса, чтобы затем обернуться и полюбоваться собственным восхождением... Пространство расчищается; тучи рассеиваются. Обнажается всё больше той светоносной основы, что прежде была погребена под завалами, ибо восприимчивого ума коснулось поцелуем "Солнце правды, и исцеление в лучах Его" (Мал. 4:2). Как мы осознаём позже, это и есть наш дом, наша родная земля, благодатная обитель света, пребывающего во Свете. "Бога от Бога, Света от Света", словами Символа веры».

* Из книги Martin Laird. An Ocean of Light: Contemplation, Transformation, and Liberation. Oxford University Press, 2019. Мартин Лэрд - профессор Университета Вилланова, член Ордена августинцев и выдающийся учёный-наставник в христианской созерцательной традиции.

Прекрасный монолог Александра Солдатова ⬆️⬆️⬆️, одного из самых выдающихся русскоязычных иконописцев и утончённого ценителя духовного искусства. Особенно часть про «созидание имён».

И на канал его рекомендую подписаться.

Пишет Саша Чапин (а он очень хорошо подмечает такие вещи):

«На Substack всё ещё ранняя фаза, а значит построить большую аудиторию здесь довольно просто. Этот период продлится где-то от двух до пяти лет, а потом Substack превратится в мейнстрим, станет переполненным, и пробиться будет куда сложнее. Если хотите писать в интернете, советую пользоваться этой возможностью. Начинайте публиковать прямо сейчас. Наличие платформы, даже относительно скромной, даёт сумасшедшую отдачу» (ссылка).

Действительно, такое ощущение, что все в англоязычном интернете, кто способен писать что-то длиннее твита, сейчас массово перемещаются туда, и Substack становится новым местом по умолчанию для глубоких знакомств и поиска значимых идей.

Обратите внимание, новое большое начинание от Макса Родина и DM ⬆️⬆️⬆️.

Бабушкин про ИИ в теоретической физике

«Я протестировал последнее поколение всех основных моделей ИИ для исследований по теоретической физике, и Claude 4.6 меня просто поразил...

У модели глубочайшее понимание существующей литературы, и она способна проводить сложные вычисления на несколько страниц, зачастую без ошибок. Она также способна писать великолепные 20-страничные туториалы, которые помогают "разложить по полочкам" сложные технические темы в КТП [квантовой теории поля] и физике конденсированных сред. Это колоссальный шаг вперед по сравнению с прошлогодними моделями, которые допускали кучу ошибок и лили воду, когда их просили вывести формулы...

Конечно, до решения проблемы квантовой гравитации Claude'ом ещё очень (очень) далеко, но с ним уже можно вести серьезные дискуссии о существующих подходах, и он помогает гораздо быстрее прорабатывать темы, в которых вы и так хорошо разбираетесь. Ощущения схожи с написанием сложного кода с помощью Claude Code: иногда приходится использовать свои знания, чтобы подлатать места, где модель ошиблась, но в итоге вы решаете трудные задачи намного быстрее и увереннее».

(из его сегодняшнего поста в X)

Напомню, что он руководил разработкой Grok'а (серии моделей от xAI), а начинал свой путь как учёный-физик, в т.ч. проводя эксперименты на Большом адронном коллайдере.

Наверно, все уже прочитали красивое и трогательное письмо Мринанка Шарма, в котором он объясняет, почему решил уйти из Anthropic. Моё внимание особенно привлекло несколько мест и одна сноска:

«Я постоянно пытаюсь осмыслить положение, в котором мы находимся. Мир в опасности. И не только из-за ИИ или биологического оружия, но из-за целой череды взаимосвязанных кризисов, разворачивающихся прямо сейчас [1]. Мы, по всей видимости, приближаемся к порогу, где наша мудрость должна расти соразмерно нашей способности влиять на мир, иначе нам придётся столкнуться с последствиями. Более того, за время работы здесь я неоднократно видел, как трудно позволить нашим ценностям на самом деле направлять наши действия...

Я хочу вносить вклад таким образом, который ощущается как полное согласие с моей совестью, и который позволяет мне полнее задействовать мои индивидуальные особенности. Я хочу исследовать вопросы, которые кажутся мне по-настоящему насущными, вопросы, которые, как сказал бы Дэвид Уайт, "не имеют права исчезнуть", вопросы, которыми Рильке умоляет нас "жить". Для меня это означает уход.

Что будет дальше - я не знаю... Я чувствую призвание к писательству, которое обращается к тому положению, в котором мы оказались, и полностью с ним взаимодействует; писательству, которое ставит поэтическую истину в один ряд с научной истиной как равноценные способы познания — я верю, что оба они могут внести существенный вклад в разработку новых технологий... Я надеюсь получить образование в области поэзии и посвятить себя практике смелого высказывания. Я также рад возможности углубить свою практику фасилитации, коучинга, создания сообществ и групповой работы».

А сноска: «[1] Some call it the "poly-crisis", underpinned by a "meta-crisis". Probably my favourite resource about this is "First Principles and First Values" by David J Temple» - это как раз книга, на которую я давно собираюсь сделать обзор, глубокий трактат по интегральный философии, написанный Марком Гафни и Заком Стайном, при участии Кена Уилбера. Радует, что исследователи, работающие на самом на переднем крае разработки ИИ, тоже читают интегральные тексты.

Есть возможность бесплатно пользоваться Opus 4.6 Thinking - нужно установить Antigravity и авторизироваться через Google аккаунт, дополнительных настроек и подписки не требуется. Лимиты не высокие*, на разработку крупного приложения не хватит, но для создания сайтов, отладки кода и небольших проектов должно хватить. И, конечно, есть вариант использовать Opus 4.6 для стратегического проектирования и самых сложных этапов разработки, а остальное делать с помощью Sonnet 4.5 / Gemini 3 Pro или обращаться к внешним моделям, типа Kimi, GLM и MiniMax.

* обновляются еженедельно; при наличие подписки Google AI лимиты значительно выше, и кстати, если её ещё нет, при оформлении обычно предлагается первый месяц бесплатно.

Пишет Джимми Ба, сооснователь xAI и один из самых выдающихся исследователей ИИ своего поколения:

«С правильными инструментами, мы вступаем в эпоху стократной продуктивности. Циклы рекурсивного самосовершенствования, вероятно, будут запущены уже в ближайшие 12 месяцев. Время перекалибровать мой градиент относительно глобальной картины. 2026-й обещает стать безумным и, вероятно, самым напряженным (и самым важным) годом для будущего нашего вида».

Похоже, подобная оценка становится если не консенсусом, то мнением большинства людей ежедневно и глубоко взаимодействующих с ИИ. Даже те, кто ещё недавно высказывали скептические замечания (вроде Дерека Томпсона), всё чаще говорят, что изменили свои взгляды.

Сейчас действительно настало время «перекалибровать градиент» и начать готовиться к сингулярности.

«Подводя итог: любовь позволяет другому быть таким, какой он есть, и вместе с тем — чем-то большим, чем он сам... Любовь принимает данность, но в своем порывистом, импровизированном движении перерастает её, являясь глубочайшим выражением этого процесса размыкания границ. Благодаря любви, бытие, — всякое бытие вообще, — обретает свою полноту. Но, становясь самим собой, оно распахивается, преодолевает пределы, обнажая и являя вертикальное измерение реальности».

Из блестящей книги «Knowing by Heart: Loving as Participation and Critique» (Northwestern University Press, 2021) одного из лучших современных феноменологов Anthony J. Steinbock.

Сегодня у меня день рождения.

И я думаю о том, как Армандо Ригобелло, вдохновляясь Блохом и Бальтазаром, однажды охарактеризовал наше состояние словами già, non ancora - уже, но ещё нет. Чем больший путь я прохожу, чем больше узнаю себя, тем яснее становится, насколько бесконечно большая его часть ещё впереди.

Ближайший год, два или пять почти наверняка окажутся одними из самых важных периодов в истории человечества и эволюции разума. Принять даже самое скромное участие в этих событиях - сродни оказаться героем эпоса. И при этом очень важно удерживать два полюса, не схлопываясь и не пытаясь снять напряжение между ними: даже когда речь идёт о судьбе всего мира, один-единственный человек, странник и незнакомец, имеет абсолютную ценность, которую не перевесит даже Вселенная, взятая целиком.

Обнимаю вас.

Каждый раз, читая Десмонда, поражаюсь его гениальности.

«Заря заставляет вспомнить иную историю: об учениках Иисуса на пути в Эммаус, что повстречали незнакомца и погрузились в беседу о Писании. Они преломляют с незнакомцем хлеб; в этом совместном преломлении он становится их компаньоном (cum-panis, [лат. "с хлебом"]); и тут их озаряет - они находятся рядом с воскресшим Христом, и когда к ним приходит это озарение, Он исчезает. Природу такого озарения невозможно исчерпывающе зафиксировать в строгих понятийных категориях, однако история повествует о событии, которое потрясает душу и таинственным образом дарует ей свободу. Прежде человек не видел, но теперь начинает прозревать - начинает, ибо над ним и в нём восходит свет, ему не подвластный. Человек озаряется; он не просвещён, но просвещаем. Мы - те, кто воспринимает нечто такое, что не в силах до конца определить или уловить. Это повергает нас в безмолвие.

Так сеются горчичные зерна метаксологической метаноэтики. Это новый ноэзис: новая осознанность, которая не ведает, что именно она знает, и всё же твердо знает, что прежнее уже не будет прежним. Какова же эпистемология озарения? Нам знаком опыт приходящего понимания, когда свет нисходит, чтобы осветить нас, но это редко происходит мгновенно, как по щелчку выключателя. Это скорее похоже на медленное обращение, на поворот, своего рода периагоге, разворот всего существа. Пожалуй, даже несколько грубо было бы назвать это обращением от внешнего к внутреннему, от низшего к высшему. Ибо этот поворот - движение одновременно внутрь и вовне, вниз и вверх. Это пересечение метаксу [пространства "между], во всей полноте измерений внешнего и внутреннего, низшего и высшего. Сквозь это "между" проходит то, что ниспослано свыше. Дар свыше, так сказать, заново крестит метаксу. Мы бьёмся в поисках верных слов, чтобы выразить это "между". Озарение парадоксальным образом завершается своего рода тьмой. Можно сказать, оно требует новой нищеты мысли. Построение теорий порой способно закупорить открытость души и разума. В акте принятия происходит своего рода самоотречение. Человек не сделал ничего, чтобы заслужить откровение, и всё же оно даровано ему».

William Desmond. Godsends: From Default Atheism to the Surprise of Revelation. University of Notre Dame Press, 2021.

Сейчас все* обсуждают новую статью Ника Бострома, - может позже тоже поделюсь своими мыслями, - но сейчас захотелось вспомнить одну из его первых статей, написанную ещё в 1997 году, когда ему исполнилось 24 года, а на дворе была вторая зима искусственного интеллекта. Статья называлась «Сколько осталось до суперинтеллекта»**, и в ней Бостром защищал смелый по тем временам прогноз:

«Существует несколько подходов к разработке софтвера. Один из них заключается в эмуляции фундаментальных принципов работы биологического мозга. Вполне допустимо предположить, что в течение 15 лет эти принципы будут изучены достаточно глубоко для успешной реализации данного подхода - при условии наличия соответствующего оборудования. Застой в области ИИ в 70-х и 80-х годах мало влияет на вероятность успеха в будущем, поскольку нам известна причина этого застоя (а именно то, что доступное исследователям оборудование было ограничено мощностью порядка 10^6 операций), и этот фактор более не актуален.

Будет сильное и всё возрастающее стремление довести ИИ до человеческого уровня. Если будет найден способ гарантировать, что превосходящие человека искусственные интеллекты никогда не причинят вреда людям, они будут созданы. Если же гарантировать это окажется невозможным, они, вероятно, будут созданы всё равно».

Как ни посмотри, Бостром не только умён, но и невероятно последователен, действуя в одном направлении на протяжении десятилетий, независимо от текущей моды. Надо отдать ему за это должное.

* В моём информационном пузыре
** How long before superintelligence?

Гарри Тан, президент и CEO Y Combinator, вчера опубликовал хорошую заметку «AI Is In Its Gentleman Science Era». Процитирую лучшие фрагменты:

«В исследованиях искусственного интеллекта происходит нечто необычное. Любители выигрывают...

Вот что делает этот момент особенным: мощные LLMs "настолько новы и меняются так стремительно, что их возможности нам доподлинно неизвестны".

И это не баг. Это фича. Когда потенциал технологии не изучен до конца, возникают миллионы простых вопросов, требующих ответа. Сработает ли этот метод? А если скомбинировать его вот с тем? Что будет, если применить его к совершенно другой задаче?

Вам не нужна докторская степень, чтобы проводить подобные эксперименты. Вам нужны любопытство и вычислительные мощности...

Еретики приветствуются: Именно поэтому мир полон будущих великих основателей. У титулованного класса нет монополии на инсайт. Готовность мыслить не по шаблону - вот где находится альфа».

Один из моих особых интересов - собирание оригинальных посвящений. Вот хорошее пополнение:

«Сабрине, Джованни и Маргерите, с которыми так прекрасно день за днём разделять радости и невзгоды символических отношений истины и свободы».

Посвящение к книге «Verità, simbolo, libertà» Луки Гизлери. Символом он называет точку совпадения конкретной физической реальности и трансцендентального смысла, символ не просто указывает на высшее где-то вовне, но содержит и являет в себе это высшее здесь и сейчас.

Вообще, я испытываю слабость к итальянской гуманитарной традиции, с её теплотой, интимностью и при этом почти непревзойдённой энциклопедичностью.

«Слова святого Августина о Боге, Которого находят лишь для того, чтобы искать (quaerendum invenitur), служат путеводным светом для всякого открытия. Ведь потаённая опасность любого открытия кроется в том, что прерывая, - в радости достигнутой цели, - странствие поиска оно прерывает, - и тем самым рискует оборвать - то, что придавало этому поиску жизнь и смысл. Тогда открытие задыхается от собственного успеха и не достигает ничего большего. К чему нам ответы, если мы забыли сами вопросы? К чему нам горные вершины, если мы больше не помним крутизны отвесных скал? Всякое открытие как таковое рискует превратиться в то, что скрывает истину и насаждает амнезию... Это касается и самого первооткрывателя, который сделавшись собственником и распорядителем своих открытий превращается в ещё одного торговца, пусть и в мире духа. Условие, при котором мы не утратим найденное и не потеряем самих себя, - никогда не переставать искать то, что мы уже нашли... И даже сама фраза, содержащая эту мысль, не является исключением. А потому, читатель, ты сможешь по-настоящему понять её, только если сам находишься в поиске».

Из книги «Ускользающие обещания» великого Жана-Луи Кретьена = Jean-Louis Chretien. Promesses furtives. Les Éditions de Minuit, 2004.