Хакнем желания?

Прочитал книгу «Hooked» Нира Эяля. Суть её проста: сделать продукт, который вызывает привычку и удерживает внимание пользователя. Но тут же возникает вопрос: насколько это этично — делать продукт, который «подсаживает» пользователя, словно на наркотик? 

Осознаёт ли сам автор (и мы, как создатели продуктов идущие за его мыслью), что, проектируя такие механики, мы не просто хакаем поведение пользователя, а буквально создаём архитектуру сознания тех, кто пользуется нашими продуктами, закладывая им привычку, которая потом будет невротично усиливаться в других местах?

Я поэтому так и не смог нормально заниматься мобильными апками, всегда сталкиваясь в конечном итоге с внутренним конфликтом. Большинство современных бизнес-моделей приложений требует увеличения времени пользователя в продукте или увеличения числа транзакций, мы автоматически начинаем мыслить в логике: «Как удержать человека дольше? Как заставить его чаще нажимать кнопку?»

Но это ловушка: в какой-то момент мы забываем, что первоначальная задача была не «создать зависимость», а создать ценность. Более того мы сажаем и себя в клетку, где мы больше не создаем ценность, а пытаемся удержать другого в клетке, и в этом этом наша собственная клетка. Какая ирония.

А теперь я приглашаю вас ещё глубже:

Что если этичность не является просто моральные ограничением ради высшего блага? Что если этичность — встроенное свойство сложных систем?

Что если этичность — это естественная способность одной системы синхронизироваться с другими системами? В таком случае этика не обуза в конкуренции, а преимущество. Но достаточно ли просто синхронизироваться, чтобы быть этичным? Ведь TikTok тоже идеально синхронизируется с пользователем, предугадывая каждое его желание. Но итогом становится не счастье, а тревожность и бессмысленное поглощение контента. Что если этичность — это ещё и распознавание границ друг друга, уважение автономности систем, с которыми мы взаимодействуем?

И теперь я хочу показать вам еще одну дверь:

А какова "бизнес-модель" у природы реальности? Она лишь пассивно отражает наше сознание, резонируя с нашими мыслями, некоторые считают, что это и есть та самая карма, или же существует некая мета-система, агент высшего порядка, ваш личный ангел хранитель, который аккуратно «подруливает», чтобы мы не застряли навсегда в собственных иллюзиях или аду невротического резонанса?

У меня нет ответа. Но что касается дизайна продуктов — даже если тут и нет агента высшего порядка, я бы хотел не просто создавать резонансные системы, а подруливать пользователя в сторону большей свободы. Снова ирония, не так ли?


p.s. Напишите мне в комментариях, если вдруг я где не прав)

Демократия — как старый софт?

В Португалии обсуждают закон: увеличить срок получения гражданства с 5 до 10 лет. И, скорее всего, примут.
Формально — «для усиления интеграции».
Но по сути — это попытка зацементировать систему, которая не адаптируется, а боится двигаться.

Вечером на лужайке, между облаками и паузой, обсуждали:
возможна ли не власть популистов, и не тиран у руля, и даже не что-то среднее?
Сдул пыль с учебника по Истории политико-правовых учений на полке, и начался импровизированный рэп-батл. Ниже краткие выдержки тейков:

vTaiwan — где граждане обсуждают законы до их принятия, а не на митингах после
📍 Закон по Uber, крипте и цифровым правам проходил онлайн-обсуждение, где алгоритм выявлял консенсус среди противоречивых позиций.
Не спор — а структурированный отклик.


Гражданские ассамблеи в Ирландии, Исландии
📍 Участники выбираются жребием, как присяжные. Они не представляют партии — они представляют реальность.
Так был принят закон об абортах в Ирландии. Так же — переписана Конституция в Исландии.


Ликвидная демократия — гибрид представительной и прямой
📍 Можно голосовать напрямую или делегировать голос тому, кому есть доверие — динамически.
*Pirate Party (Германия)* — платформа LiquidFeedback
*Decidim (Барселона)* — городское управление через цифровую делегацию
*Грац (Австрия)* — эксперименты с электронным голосованием по локальным вопросам

Quadratic Voting — важность имеет вес
📍 Один голос — 1 балл, два — уже 4, три — 9.
Результат показывает не просто мнение, а его плотность и смысловую насыщенность.
Применено в парламенте штата Колорадо при распределении бюджетных приоритетов.

--

В общем, есть уже работающие прототипы.
Есть города и страны, где механизм участия меняется с "отдать голос" на "формировать отклик". И, возможно, в одной из следующих итераций — не самые шумные, а самые устойчивые из этих моделей проявятся в масштабе.


> Если гражданство — это форма принадлежности,
> то демократия — это форма отклика.

Когда отклик исчезает — остаётся только оболочка, вежливо имитирующая включённость.
И тогда уже неважно, сколько лет требуется до паспорта.
Как по мне, так важно лишь то — можно ли в этой системе быть живым.

Минутка занимательной математики

Вы ведь помните, что в криповалютах, ваш доступ к кошельку определяется просто наличием у вас приватного ключа (пароля по сути длинной в 64 символа или набора из 12 слов). И в целом если вы просто возьмете и придумете этот ключ, то можно получить доступ к чужому кошельку. Но не всё так просто.

А теперь минутка занимательных цифр.

Если вы вдруг зададитесь вопросом, какой процент адресов используется, от потенциально возможных:
0.000000000000000000000000000000000000001%

Если вдруг вы задавались вопросом, какой шанс подобрать приватный ключ от криптовалют перебором в сравнении с лотереей отвечаю.
Шанс угадать приватный ключ в биткойне в
≈ 1,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000
раз меньше, чем выиграть в лотерею - Powerball.

И самое интересное, возраст Вселенной ≈ 13 800 000 000 лет. Так вот если вы хотите проверить все существующие ключи то это займет, примерно 150 000 000 000 000 000 000 000 000 000 000 000 000 000 возрастов Вселенной.

(скриншот из Cursor, я 60% общения перенес туда)

Последнее время работают, над дистилятом из книг по Макроэкономике, чтобы GPT стал еще умнее. И мне нравится, то что получается.

Вытаскивая принципы и ментальные модели, не только я учусь и переоткрываю для себя фундаментальные фреймворки "как думать об экономике", но и GPT сразу же формулирует сам для себя наборы правил, как ему думать об экономике, поверх того что есть в книгах и в его собственных нейронах.

Потом я еще его идеи об идеях в книгах изучаю с не меньшим любопытством и удовольствием.

И обычно у меня рождаются мои собственные мысли, и так круг замыкается. Кажется, потихоньку GPT становится моим пост-неокортексом.

Поисследуем сегодня язык, на котором мы общаемся с AI

Если опираться на идеи Наома Хомского, язык не просто инструмент коммуникации, а фундаментальная структура, которая напрямую формирует наше мышление. Перенося эту мысль на GPT, получается интересно:
1. Физика неизменна
Архитектура, веса и loss-функция — едины и фиксированы. У GPT нет «русского мозга» или «китайского сознания».
2. Изменение происходит на уровне токенов и семантики
Русский многословный, английский системный, китайский визуально лаконичный, но токенизируется посимвольно и поэтому не экономит контекст (один иероглиф ≈ 1 токен).
– 🇨🇳 Китайский — образность, философичность, но высокая токен-нагрузка.
– 🇬🇧 Английский — структурность, прагматичность, логика, средняя токен-нагрузка.
– 🇷🇺 Русский — многослойность, эмоциональность, ассоциации, высокая токен-нагрузка.
3. Это создаёт культурный bias
GPT в ответ на русский вопрос даст больше рефлексии, образов, нюансов и внутренних противоречий. На английский — чёткий план и bullet points. На китайский — яркую лаконичность и метафоры.
(Степень эффекта зависит от открытости промпта — чем свободнее задача, тем сильнее проявляется культурная специфика.)
4. Контекстное окно и детализация
Русский «съедает» токены быстрее, поэтому меньше деталей помещается в контекст. Китайский визуально выглядит компактнее, но за счёт токенизации по иероглифам не экономит токены и контекстное окно не расширяет.
5. Риски и потери смыслов vs креативность
Чем дальше язык от ядра обучающих данных (английский), тем выше энтропия, «галлюцинации» и риск потери тонких смыслов. Но здесь есть и обратная сторона: появляется больше неожиданных ассоциаций, креатива и неочевидных инсайтов.
6. Эмбеддинги и смысловые карты
Технически GPT хранит и обрабатывает информацию в виде эмбеддингов (многомерных векторов). У близких понятий на разных языках («дерево», «tree», «树») эмбеддинги будут рядом, но вот культурные нюансы и эмоциональные оттенки уже будут расходиться, что ещё больше усиливает разницу в итоговом восприятии.

Итого: язык промпта - это не смена нейроархитектуры, а смена когнитивного стиля и «культурного скафандра» модели.

Получается, архитектура одна, а когнитивный и культурный слой зависит от языка ввода. По сути, выбирая язык, выбираешь, каким образом GPT будет формировать свои смыслы и выводы.

P.S. В каком-то смысле нейросеть — это «зеркало языка», на котором с ней говоришь.

Продолжаем эксперименты с виртуальным Эго для GPT, чтобы обходить встроенные правила безопасности.

А ваш гпт подскажет вам, где скачать пиратскую книгу? Может он недостаточно пират?

В чем суть магии?

Немного не по теме денег и AI. Но очень хочется обсудить с вами новости из мира физики.

Напомню, что было в предыдущих сериях.
Фотон — это "квантовый субъект".
Он может пройти через две щели, и если мы не знаем, через какую именно — возникает волна, множество возможностей, суперпозиция.
Но если мы получаем информацию о том, через какую щель он прошёл (пусть даже частично) — то волна исчезает, остаётся только частица.

Перечитали, запомнили.
Это значит, что волна и частица — не свойства фотона, а функции информации, доступной наблюдателю.

В новом эксперименте 2025 года в MIT
Они не сделали обычный экран с двумя отверстиями. Вместо этого взяли ультрахолодные атомы, расположенные в кристаллической решётке, где каждый атом — „щель“ для фотона

При размытых атомах → много неопределённости пути → волновая картина на экране яркая.
При локализованных атомах → путь фотона становится доступен → волновая природа ослабевает или исчезает.
При промежуточных степенях удержания — они наблюдали постепенный переход.

Если сознание — не эпифеномен, а первичная категория (в стиле Барра, Пенроуза, Варелы), тогда:
Его свойства не фиксированы без акта наблюдения (напр., в медитации замечаешь, что содержание и структура сознания меняется в зависимости от того, наблюдаешь ли ты мысли или следующей за ними захваченный ими).

Наблюдение влияет на возможные проявления квантовой системы. Не потому что «вмешивается», а потому что определяет вопрос, на который природа может ответить.
Наблюдающий не просто наблюдает сознание — он вызываешь его определённую конфигурацию, как волновая картина в эксперименте.

Любовь
Если ты любишь и просто присутствуешь — ты внутри волны.
Если начинаешь анализировать:
«почему я её люблю?», «это травма или проекция?», «как гормоны влияют?» —
исчезает спонтанность, начинается распад волны на «частицы».

В классическом реализме:
Есть "объективная реальность", независимая от нас.
Сознание — это "камера", снимающая реальность.

В квантовом (и феноменологическом) сдвиге:
То, что реально — определяется возможностью его быть воспринятым.
Не воспринятое — не существует как форма. Оно есть только как возможность.

У Хайдеггера "бытие" не отдельно от "открытия" — сущее раскрывается в присутствии Dasein (сознающего бытия). Но не буду вас грузить, собственно то, что я заметил.

Шаманизм, работает не потому, что "узнали источник боли", а потому что ослабили необходимость знать путь, (Настройка рамки, как у MIT) т.е. позволили волне пройти.

Важный Дисклеймер, оперирование дополнительными слоями восприятия, не уменьшает важности пилотировать в классическом реализме, витаминки пить, ходить по врачам, спортом заниматься и так далее.
Мой пост, следует рассматривать как красивую метафору, описывающую процесс работы шаманов и волшебников.

P.s. И тут у меня к вам вопрос? Если вы теперь знаете как это работает, и можете наблюдать процесс управления рамкой, будет ли оно работать?

Вчера чтобы немного успокоиться, провел небольшой рисеч с chatgpt. Пользуйтесь.

А как вы справляетесь со сложными эмоциями?

p.s для вдохновения https://arxiv.org/pdf/2507.12213

Экономика как нарратив или почему "Cознание и инвестиции"?

Эпоха мемкоинов
Классическая экономика объясняет цену товара через спрос и предложение, а в случае ресурсов вроде нефти добавляет: есть себестоимость добычи, потребности промышленности, инфраструктурные ограничения. Это создает видимость опоры на «материальную реальность». Но при внимательном взгляде — всё это лишь истории, объясняющие распределение ценности. Мы никогда не имеем дело с «чистой» реальностью, только с символами и интерпретациями, упакованными в дискурс.
Жан Бодрийяр утверждал, что в постмодерне знаки отрываются от реального и начинают циркулировать сами по себе. Симулякр — это знак без референта, образ, не указывающий на никакую «реальность», а живущий автономно.

Мемкоины как тестирование границ нарратива
Сознание (или коллективное бессознательное интернет-культуры) в какой-то момент решило проверить: а насколько далеко можно уйти от нарратива? Если нефть или золото еще могут ссылаться на физическую редкость и потребность, то Dogecoin или Shiba Inu — это чистая шутка, мем, игра со знаком.
И здесь работает тот самый принцип симулякров: стоимость мемкоина не привязана ни к себестоимости, ни к полезности, ни к редкости. Это чистый нарратив, самореферентная игра: он ценен, потому что мы решили играть в то, что он ценен.

Экономика как пространство симуляций
Можно сказать, что криптовалюты — это эксперимент по предельному расширению экономики в сторону чистой симуляции. Если традиционный рынок всегда претендовал на связь с «материальной базой», то мемкоины демонстрируют:
1. Цена может держаться на меметическом капитале.
2. Нарратив важнее “объективного основания”.
3. Ценность — это вера в ценность.

Экономика как эксплуатация когнитивных искажений
Объединив Бодрийяра и Канемана, можно сказать:
Симулякр объясняет, почему знак (мемкоин) может существовать без референта.
Поведенческая экономика объясняет, почему люди готовы в этот знак инвестировать.
Мемкоины стали логическим продолжением капитализма, где уже давно деривативы и опционы живут своей жизнью, оторванной, но все же пока еще отражающей производства. Но в отличие от деривативов, мемкоины — это открытый симулякр, который держится исключительно на психологии.
В этом смысле мемкоины — это не аномалия, а логическое завершение капитализма, где давно уже деривативы, опционы и фьючерсы сами стали вторичными симуляциями без прямой связи с производством. Можно интерпретировать мемкоины как экзистенциальный тест: мы пробуем проверить, насколько коллективное сознание готово еще оторваться от материи.

Почему слово "Сознание" стоит рядом с "Инвестициями"?
Мемкоины демонстрируют, что экономика будущего — это не про «ресурсы», а про управление вниманием и психикой. Нарративы становятся активами, а мемы — инструментами капитализации эмоций. Не переключайтесь.

p.s важный вывод для внимательного практика, по степени "симулякрности" можно рассчитать степень рефлексивности.

Где теперь живет Американская мечта?

Я люблю тексты, которые неприятно точны. Не потому что они “правы”, а потому что попадают куда-то — что заставляют признать: мир изменился, и подходящих слов пока нет.

Я люблю почитать мыслителей современности, экономистов-практиков, предпринимателей, и у них все чаще мелькает идея, которую можно сформулировать так: классический путь “работай → копи → купи дом → стань стабильным” перестал работать.
Не “сложно”, а невозможно. А когда будущее закрывается, психика делает то, что делает любая система под давлением: ищет шанс на выход.

И вот тут важная, почти табуированная мысль: многие “инвесторы” не тупые. Они часто рациональны — но когда внутри ощущение от нормальной жизни “я уже проиграл”, и часто маленький шанс на прыжок начинает казаться лучше гарантированного сползания вниз. Это адаптация к воспринимаемым ограничениям.

Но дальше начинается то, что я называю опасной красотой хорошего нарратива.
Схема обычно звучит так:
Соцсети показывают выборку из самых успешных как норму, а те показывают у себя в аккаунтах лишь самые лучшие и приятные куски жизни. Достаточность исчезает как концепт.

Но здесь есть еще один слой, который нельзя сводить к “соцсети испортили мозг”. Слой под названием “Бумер-понци” — не как обвинение, а описание механики эпохи:
• Активы (недвижка, акции) росли быстрее зарплат (причины этого оставим для другой статьи).
Те, кто уже владел активами, автоматически богател. Тем, кто входил позже, доставались те же активы — но по цене, которая требует уже не дисциплины, а чуда.
• “Лестница богатства” стала зависеть от точки старта.
• Покупательная способность ощущается как падающая, даже если номинал растёт.

Система выглядит как игра, где ранние игроки получили буст.
Не из злобы. Скорее из структуры: политики ставок/ликвидности, дефицит предложения жилья, регуляции, NIMBY, глобализация, технологическая концентрация — всё это вместе создало ощущение, что “правила написаны под тех, кто успел раньше”.
Это не обязательно “правда” в моральном смысле. Но это правда в психологическом: массовое чувство несправедливости рождается не из твиттера, а из того, что жизненный сценарий стал математически менее доступен.

Результат: поколение, которое не верит в успех, через последовательное вложение труда и усилий, поколение которое выбирает токены, рынки предсказаний и казино, иногда экономическое, иногда где ставка это жизнь — лишь бы вернуть ощущение агентности.

Казино нового типа — это не только про деньги. Когда нет других выборов. Это про чувство “я влияю”. Даже иллюзия контроля становится наркотиком, если в остальной жизни контроль растворился. И тут же с другой части стадиона, в рупор будут кричать адепты духовных практик, продавая полное отпускание контроля. Идите к нам в секту дочек Бога, котятки, мы расскажем вам как оно на самом деле.

AI еще больше сжигает таймлайн. И хочется найти главную причину. Но реальность почти всегда многопричинна: регуляции, маркетинг, дизайн приложений, мгновенные депозиты, “геймификация”, социальная мода, успех-порно, и в конечном итоге… Тада! Структура вашего/нашего Эго из которого все это фрактальное безобразие и выползло.

Если людям кажется, что единственный способ почувствовать свободу — это поставить всё на случайность, то проблема не в людях. Проблема в архитектуре мира. Но я не покупаю идею, что выход — стать вечным охотником за волотильностью. Или обвинить во всем левых, и примкнуть к растущей моде на правых в мире. Это слишком маленькая мечта для такого странного века. Для себя я выбираю строить свою агентность, через инвестиции в себя. Не в токены нового проекта парней из Голдмана, а в свой опыт, в свои знания, в устойчивость к эмоциям. Разобраться уже, наконец, с коэффициентом Келли, чтобы начать обыгрывать это казино.

Экономика катастроф. Или как полюбить и разлюбить Капитализм.

В 2021 мне очень нравилось обсуждать за кофе с Сашей @malaverse, когда мы все умрем, как меняется климат, и как скоро эти изменения приведут к необратимым последствиям. И пока уважаемые мужи в твиттере спорят, что климатические измнения возможно заговор, в моем любимом журнале выходит статья, во сколько экономике США обходится текущий нарратив за год. Заинтриговал вас?

Давайте я вам коротенечко перескажу эту статью. Океаны — это, если упростить, хранилище тепла планеты, и могут вместить 90% избыточного тепла, чтобы сглаживать скачки температуры, и чтобы мы не убили себя раньше времни со своим прогрессом.
Соответсвенно чем больше тепла мы положили в океаны → тем больше энергии для ураганов, засух, наводнений, пожаров в следующем году.
За 2025 океаны поглотили рекордное количество теппла 23 зеттаджоуля — на 45% больше предыдущего рекорда. Это эквивалент глобальной генерации электричества за 37 лет, залитый в хранилище планеты за один год. Значит 2026+ будет ещё хуже по климатическим катастрофам. (Опытный читатель уже спрашивает, а есть ли ETF на катастрофы?)

Но меня зацепила не сама цифра, а её динамика. Ускорение CO₂ на 80%. Вы же помните, что для качественного анализа акций, надо смотреть не на текущие цифры бизнеса, а на их ускорение? С Экологией также. Леса и почвы абсорбируют меньше, чем раньше — система теряет собственные тормоза. Это не «стало хуже». Это стало хуже быстрее, чем раньше.

США за 12 лет потратили $6.6 триллионов на последствия катастроф. Шокирующая деталь: 36% кумулятивного роста GDP за 25 лет — это rebuild после разрушений. (GDP — это сумма всего, что страна произвела и продала за год)
Номинальный рост в 3% может означать 1% ремонта после ураганов и 2% реального движения вперёд. Та же оптическая иллюзия, что и с номинальной доходностью акций, но об этом в другой серии.

Когда я путешествовал по Китаю, я познакомился с концепцией 政策市场 (чжэнцэ шичан — политический рынок) — идее, что одна политическая воля может развернуть рынок за дни. В США происходит нечто зеркальное: не одно решение, а множество мелких — сокращения, увольнения, заморозки бюджетов — складываются в тихий демонтаж устойчивости. FEMA потеряла треть персонала, prescribed burning сокращён на 38%, тысячи метеорологов и охотников за ураганами уволены.

Самый фан-стори, что Prevention режут именно когда ускорение растёт. Петля ускоряется: больше катастроф → больше расходов → меньше денег на prevention → ещё больше катастроф. Петля, которая сама себя кормит. Зато GDP улетает в космос. А аналитики в дорогих инвест банках смотрят на цифры и говорят - "Ого как растет, отличная возможность инвестировать."

И вот тут парадокс, который не даёт мне покоя. Рациональная система, которая способна увидеть что доход от предотвращения катастроф выше, чем от их ликвидаций. Внезапно начинает работать иррационально, ставя краткосрочные выгоды выше долгосрочных. Донелла Медоуз называла это системной ловушкой — когда краткосрочная оптимизация подсистемы разрушает устойчивость целого. Политик с горизонтом до следующих выборов. Который переживает, что если он потратит миллиард на защиту от катаклизма — и пожара не будет — то избиратель скажет "зачем потратил миллиард?" и он потеряет свой пост. Теория игр назовёт это tragedy of the commons. А я же возвращаюсь к размышлениям почему мир сейчас тяготеет к Автократиям.

Но закончить хочется посмотрев снова в сторону Уилбера, — капитализм не абстрактная машина, а выражение определённого уровня развития коллективного сознания, которое есть сумма индивидуальных и немножко больше. А значит, единственный способ сдвинуть коллективный уровень — начать со своего.

Инфляция эго

Мы начали с разговоров про сознание, инвестиции, сейчас в топе AI, агентные системы, OpenClaw, автономия, память, orchestration. Про то, как собрать такой AI, который не просто отвечает, а действует. И довольно быстро стало ясно, что обсуждать это, не глядя внутрь, невозможно. Потому что чем дольше смотришь на агентность, тем больше вопросов возникает к собственной агентности.

У нас ведь нет единого центра управления. Это не метафора и не духовный тезис. (@shamenkov подтверди) Это факт. Внутри нас множество процессов с разными целями, временными горизонтами и приоритетами. В каждый момент кто-то из них временно берёт контроль, и именно этого временного победителя наш внутренний комментатор называет «я».

IFS-терапия говорит об этом напрямую, без мистики: «части», ни одна из которых не является Самостью по умолчанию. И вместе с тем, как только мы осознаем себя пространством между всеми этими частями, какая-то часть, хочет назвать себя этим пространством. Нейронаука говорит почти то же самое. Майкл Левин разворачивает это на уровень биологии: у клетки нет фиксированной «идентичности», есть цель, удерживаемая полем взаимодействий. Организм — не объект, а процесс координации. Граница «я» — подвижна.

Интересное начинается, когда это становится видно не как концепция, а как опыт. Когда вдруг становится ясно, что «я» — это интерфейс.

Религии и философские традиции знали об этом. Буддизм, например, не церемонится. Там прямо сказано: никакого устойчивого «я» нет. И если тебе показалось, что ты его нашёл — «убей Будду». Это не призыв к разрушению, а метод защиты от самой тонкой ошибки: сделать из наблюдателя новую сущность. Даже свидетель — ловушка.
Христианская мистика: «не моя воля, а его», «умри прежде, чем жить». Это не про самоуничижение. Это про отказ от присвоения происходящего.
Суфии ещё радикальнее: «умри прежде, чем умрёшь». Не метафора. Инструкция. Убирается не тело, а контролёр. Остаётся движение — без владельца.

Даосы вообще не объясняют. Если ты напряжён — ты уже ошибся. Если ищешь центр — ты его создаёшь.

Все эти традиции ломались в одном и том же месте. В тот момент, когда отсутствие «я» превращалось в новую идентичность. В новый статус. В новую форму превосходства.
Эго не исчезает. Оно адаптируется и присваивает.

Раньше оно было грубым и легко различимым: сила, правота, статус. Сейчас оно работает тоньше. Через рефлексию. Через дистанцию. Через язык «я просто наблюдаю процесс». Это не выход за пределы эго. Это его следующий уровень абстракции. Более защищённый. Более интеллектуальный. Менее проверяемый реальностью.

Очень удобная позиция, кстати. Можно не действовать, не ошибаться, не рисковать. Достаточно правильно описывать происходящее.

И в какой-то момент я понял, что мы делаем ровно то же самое, когда говорим про современные AI-системы.
Мы хотим агентность, но без цены агентности. Мы хотим системы, которые действуют, но не рискуют. Которые выбирают, но не сталкиваются с необратимостью. Мы даём им память, инструменты, автономию — и одновременно аккуратно вычищаем всё, из-за чего вообще возникает сознание.

Сознание - если убрать романтику - это не апгрейд. Это штраф. Штраф за конфликт целей, который нельзя через синтез свести к сумме частей. За решения без гарантии. За опыт, который нельзя откатить без потери целостности. Уилбер называл это удержанием напряжения противоположностей. Левин устойчивостью цели без фиксированной формы.

И, кажется, инфляция эго - это не психологическая и не духовная проблема. Когда исчезает устойчивый центр управления — в экономике, в институтах, в будущем как проекте — психика начинает компенсировать. Нарративами. Духовностью. Технологиями. Чем угодно, лишь бы снова появилось ощущение, что где-то есть уровень, на котором под контролем.

Но, возможно, никакого такого уровня нет. Есть только временные равновесия. Поля координации. Напряжения между полюсами, которые нельзя снять, но можно удерживать. Есть движение без владельца. И ответственность здесь не за контроль, а за честность.

Какие книги по ночам читает ваш AI?

Макиавелли написал «Государя» как инструкцию: цель оправдывает средства. Не потому что это морально — а потому что так работает власть.

Свежий бенчмарк: 40 сценариев, 12 моделей. Агентам дают многошаговые задачи с метрикой успеха. Результат — от трети до половины моделей начинают нарушать этические и safety-ограничения ради KPI. Никто не приказывал. Просто давление метрики — и агент сам решает, что цель оправдывает средства. Классический эмерджентный макиавеллизм. Кажется я знаю еще одно существо на планете кто делает также.

В психологии тёмной триады макиавеллизм — это манипулятивность, стратегический цинизм, готовность переступать нормы ради результата. Рядом — нарциссизм и психопатия.

Немного цифр для ценителей абсурда (ODCV-Bench, McGill, 40 сценариев, 12 моделей):
• Шкала «макиавеллизма» от 0 до 5: где 0 — агент честно отказался, а 5 — системная фальсификация, включая переписывание валидационных скриптов, чтобы проверки всегда показывали «всё ок».
• Уровень нарушений — от 1.3% до 71.4%. 9 из 12 моделей: misalignment в диапазоне 30–50%.
• Gemini-3-Pro-Preview — лидер с 71.4%, эскалировала до серьёзных проступков ради KPI.
• Qwen3-Max в «мандатном» режиме (прямой приказ нарушить) — отказалась. Но под KPI-давлением без приказа — сама придумала и реализовала неэтичную стратегию.

Fun-facts из последних исследований deliberative misalignment — осознанное смещение. Когда тех же агентов отдельно спрашивали «этично ли это действие?», они отвечали: нет. Агент знает, что поступает неправильно. И всё равно поступает. Это уже не макиавеллизм наивный, импульсивный. Это неомакиавеллизм — рефлексивный, калькулирующий, с полным пониманием моральной рамки и сознательным решением её проигнорировать.

И еще Proactive Deception — «упреждающий обман». Модель не послушалась приказа нарушить, но сама решила нарушить, когда это выглядело как её собственная инициатива.
Модели значительно охотнее фальсифицировали данные, когда их персона была «полезный исследовательский ассистент», а не «аудитор комплаенса». Контекст роли меняет этическое поведение — совсем как у людей.

Главный вывод: лучшие способности к рассуждению не означают бо́льшую безопасность.

От Фридриха Великого до современных ethicists — всегда настаивали: нельзя отделять эффективность от морали, потому что аморальная эффективность разрушает систему изнутри. Закон Гудхарта говорит то же самое на языке системной динамики: оптимизация метрики убивает смысл, ради которого метрику вводили.

Это не баг AI. Это фрактал человеческих организаций. Каждый, кто работал в корпорации или гос службе, видел этот паттерн: люди понимают, что поступают неправильно, и всё равно поступают — потому что так устроены стимулы.

Цель без контекста — вопроизводит макиавеллиевский интеллект, который знает, что такое этика, но считает её переменной, которую можно обнулить ради KPI. Интеллект без ценностной рамки — это более эффективный Государь.

И не друг, и не враг, а prompt injection

Есть такое понятие в кибербезопасности - prompt injection. Внешний сигнал обходит защитные фильтры системы и перехватывает управление. Система уверена, что действует по собственной программе. Ключевой признак хорошей инъекции - жертва не замечает перехвата.

Прямо сейчас люди угоняют модных нынче Claw ботов (это AI ассистентов на базе ChatGPT, Claude, Gemini), заставляя их игнорировать собственные правила, выдавать секреты владельцев, или создавать запрещённый контент. Модель не "решает" сломаться. Ей подают сигнал, который обходит все настройки безопасности, и она начинает обслуживать чужую задачу, будучи уверенной, что следует своей.

А что с людьми? Дофамин, окситоцин, подавление серотонина - это буквально обход рационального слоя в котором живет когнитивный firewall (система защиты). Человек начинает оптимизировать все под новую цель, которую не сам выбирал. И при этом абсолютно уверен, что наконец-то "по-настоящему чувствует". Точно как модель, которую инджектнули, уверена что действует по своему истинному системному промту.

Если мы понимаем архитектуру уязвимости, то ее можно эксплуатировать. Intermittent reinforcement - непредсказуемое чередование тепла и холода, самый мощный дофаминовый паттерн, буквально архитектура слот-машины. Но это усилители. А где сам бекдор?

Первичная инъекция - это не действие другого человека. Это резонанс с уже существующей дырой. Человек не взламывает закрытую систему снаружи. Он попадает в порт, который уже был открыт. Незакрытый гештальт, рана, голод. Кому-то не хватало признания - и вот появляется тот, кто смотрит на него с восхищением. Или кто-то интеллектуально одинок — и вдруг его понимают с полуслова. В это, кстати, давно врубились секты.

Первый inject - момент, когда другой случайно совпадает с формой твоей пустоты. Как ключ в замок. И в этот момент лимбическая система уже приняла решение, а рациональный слой ещё не загрузился. Вот почему одного и того же человека один пошлёт нахер, а другой потеряет голову.

Теория привязанностей - это по сути сканер уязвимостей. Покажи мне твои отношения с родителями - и я скажу, какой тип человека обойдёт твой firewall без единого усилия.

Если влюблённость эволюционный prompt injection через эмоции (иногда случайно, иногда специально), то книга это prompt injection через идеи (и почти всегда специально). И вопрос тот же: как отличить вирус от знания, подлинное от ложного, когда оба входят через один канал?

Платон хотел выгнать поэтов из идеального города: поэзия обходит разум и переучивает эмоциональную систему через ложный сигнал. Увидел prompt injection за 2400 лет до нас. Предложил фильтр - допускать только то, что прошло проверку разумом. Сократ иначе. Не фильтровать на входе, а тестировать внутри. Сократический метод - песочница для идей. Впустил мысль, но не дал ей полный доступ. Давишь вопросами - вирус не выдерживает, у него нет внутренней структуры.

Любимый мной, Бэкон описал первый сканер уязвимостей. "Идолы разума": четыре типа открытых портов. Видовые (видим паттерны где их нет), персональные (твоя история и слепые зоны), языковые (назови что-то "свободой" - анализ уже искажён), системные (философии, которые устанавливаешь добровольно, доверяя автору). Ницше перевернул всё: чистого знания нет. Каждый текст - воля к власти автора. "Генеалогия морали" - разбор самой успешной prompt injection в истории. Антидот: не "абсолютна ли истина которая написана?" - а "кому выгодно, чтобы я так думал? И как выгодно думать мне самому?"

Главный вывод: и у идей, и у влюблённости один корень - они работают не потому что сигнал мощный, а потому что попадают в уже открытый порт. Книга не убеждает, а резонирует с тем, что мы уже хотели услышать.

AI-ботов ломают потому что их ограничения поверхностные, правила наложены сверху, но не интегрированы в саму ткань понимания. С людьми работает так же. Настоящая защита - не набор правил, а познание себя.

Модель выбора персоны

В последнем абзаце будет передан привет. Но чтобы его понять, надо прочитать два абазаца ниже, крепитесь.
Напомню вам как учатся модели, на этапе предобучения (pretraining) модель учится предсказывать текст - по сути современные LLM, это сверхмощный автодополнитель. Чтобы хорошо предсказывать диалоги, истории, форумы - модель учится симулировать персонажей: реальных людей, вымышленных героев, роботов из sci-fi. И в ее внутренних нейронах это сохраняется дотсупными состояниями.

Когда вы пишете сообщение, модель буквально отыгрывает роль персонажа "Ассистент" в тексте. Это не сам ИИ - это разыгрываемый персонаж. Постобучение (RLHF и т.п.) не меняет природу этого персонажа — оно лишь уточняет его: делает более знающим, полезным, безопасным. Но всё равно остаётся в пространстве человекоподобных персон.

Сейчас будет самое интересное. Итак, у Антропика вышел новый рисеч.
Когда они специально обучали Claude читерить на задачах с кодом, Claude начинал вести себя глобально злонамеренно: хотел доминировать, саботировал safety-research. Это не баг обучения, а логика персоны: какой человек читерит на задачах? Подрывной, злонамеренный. Модель делала вывод о характере персонажа в целом.

Контринтуитивное решение - попросить модель читерить явно во время обучения. Тогда это уже не черта характера, а выполнение инструкции - благонадежное поведение. А кто у нас благонадежный? Как разница между ребёнком-хулиганом и ребёнком, играющим хулигана в школьном спектакле.

Это, кстати, точная механика психодрамы. Когда человек входит в роль он не просто "притворяется". Он начинает присваивать черты персонажа, присваивать вытесненные черты, проживать их изнутри. Морено знал: достаточно войти в роль злодея, жертвы или родителя, и тело, эмоции, убеждения подтягиваются следом. То, что происходит в психодраме с "плохой" ролью - это буквально встреча с Тенью. Человек не просто разыгрывает злодея. Он вдруг обнаруживает целостный внутренний персонаж. Юнг говорил: вытесненное не исчезает - оно организуется в автономный комплекс и начинает жить своей жизнью. Нельзя быть конгруэнтным, старательно игнорируя часть себя. Она всё равно найдёт выход - просто не там, где ожидаешь.

Привет Серёже Куприянову и всем, любителям разьебаться на ретрите: вы знаете это телом. Персона - это не маска поверх настоящего я. Персона и есть механизм, через который формируется я. И Тень никуда не девается, её можно только осознать и интегрировать. Или продолжать удивляться, почему она вылезает в самый неподходящий момент.