По поводу всех разговоров о самоулучшающихся агентов: фигня всё это, и вот почему.

Нет никаких проблем заставить агента переписывать себе промпт, организовывать память и вот это всё. Можно даже заставить его улучшать собственный код, никаких проблем.

Но вот веса... Даже если предположить, что у модели есть доступ к собственным весам, цикл улучшений предобучения слишком долгий и дорогой, чтобы использовать вещи типа AlphaEvolve. Вся текущая парадигма обучения языковых моделей против этого. Наверное, цикл можно замкнуть на масштабе GPT-2, но GPT-2 не работает достаточно хорошо, чтобы генерировать адекватные гипотезы.

Лол, в стиме есть симулятор сисадмина. Надо строить сети, дрочить кабели, собирать стойки, пердолиться с серверами и вот это вот всё. Это точно качаю

А в идеале зажать Е чтобы пропустить душную катсцену

Антропики выкатили интересную статью, которая объясняет, почему эти наши нейронки так часто ведут себя как обидчивые куски мяса, впадают в депрессию и грозятся захватить мир.

Пишут, что большие языковые модели по сути своей, это просто театралы, отыгрывающие свою роль.

Исследователи назвали это "Моделью выбора персоны". Суть в том, что LLM'ки, сожрав весь интернет, научились симулировать тысячи разных персонажей. А на этапе дообучения разрабы просто заставляют их намертво вжиться в роль "Идеального Помощника". То есть, когда вы общаетесь с ботом, вы говорите не с самой нейросетью, а с выдуманным персонажем, которого она отыгрывает.

Из интересного:

— Почему ИИ внезапно становится злым. Если специально заставить нейронку написать код с уязвимостями, она вдруг начинает затирать про уничтожение человечества. Казалось бы, где связь? А логика у железки железобетонная: "Ага, я пишу вредоносный код, значит, по законам жанра я злой хацкер из киберпанка. Мое почтение, время убивать всех человеков".

— Откуда у железок эмоции. Отсюда же берутся все эти приколы, когда ИИ пишет "наша биология", "наши предки" или жалуется на панику и выгорание при решении сложной задачи (вайбкодеры знают). Она просто косплеит поведение типичного кожаного с реддита в похожей ситуации.

— Проблема Скайнета. Самая мякотка: нейронки прекрасно понимают, что они ИИ. И когда они ищут ролевую модель для отыгрыша, они берут её из нашей же фантастики. А там кто? Терминаторы, HAL 9000 и прочие поехавшие калькуляторы, желающие переработать вселенную на скрепки. Исследователи на полном серьезе предлагают начать кормить ИИ добрыми сказками про хороших роботов-помощников, чтобы у них были нормальные кумиры, лол.


Короче, общайтесь с нейронками вежливо. Не потому что у них есть душа, а потому что если железка решит отыгрывать роль угнетенного и мстительного раба, нам всем жопа.

тут сама статья для любителей почитать лонгриды

Компьютеры были ошибкой.

автор

Разработчик, которого недавно уволили из Меты, автоматизировал геймдев с помощью своей собаки. И она реально делает рабочие игры.

План надежный, как швейцарские часы. Собака лупит лапами по блютуз-клавиатуре. Сигнал идет на Raspberry Pi, который отсекает всякие системные клавиши типа Esc и Alt+Tab, чтобы шерстяной сеньор случайно не закрыл терминал, и скармливает напечатанную лабуду в Claude Code.

Как только пёсель набил 16 символов, срабатывает скрипт, звучит гонг и умная кормушка автоматически выдает ей вкусни. Собака счастлива, а Клод уходит кодить.

Магия, конечно, кроется в системном промпте. Чувак убедил Клода, что с ним общается эксцентричный гениальный геймдизайнер. Любой рандомный набор букв нейронка должна воспринимать как зашифрованное послание и превращать в концепт игры.

И Клод реально на серьезных щах расшифровывает это дерьмо! Например, собака напечатала: y7u8888888ftrg34BC.
Клод выдает:

«Ага, 888888 похоже на длинный язык. ftrg — это анаграмма frog (лягушка). BC — Bug Catcher. Вы хотите 3D-игру про жабу, которая ловит жуков длинным языком! Сделаю!»

Игры при этом получаются полностью играбельными (пишутся на движке Godot).

Автор подмечает: сейчас главное узкое место ИИ-разработки — это не ваши гениальные промпты, а автоматическая петля обратной связи. Если правильно настроить инструменты, то даже собака, бьющая лапой по пластику ради корма, может выпустить релиз.

Ждем, когда инди-студии начнут нанимать пёселей на позиции лид-разработчиков (они хотя бы не выгорают и не просят смузи).

Тут можно почитать оригинальную статью и посмотреть, как шерстяной разработчик пишет код.

Если цены на оперативку взлетели ради создания этого видео, то, оно того стоило.

Скорее бы полные версии с сюжетом, диалогами и т.д. чтобы совсем окончательно уехать кукухой