Кто нибудь ещё помнит? 😢

Промпт-инжиниринг: рабочая схема или карго-культ? 🤨

С одной стороны, инфоцыгане продают «секретные библиотеки промптов», с другой кричат, что всё это чушь, и возможности модели приколочены гвоздями намертво. Кто прав?

Истина в том, что промпт не добавляет модели новых знаний, которых не было в датасете. Хороший промпт может лишь повысить вероятность получения подходящих токенов (в нашем случае - кода). Но как именно?

Упрощённо, LLM — это гигантская статистическая машина. Она училась на всём интернете, где на один вылизанный коммит из ядра Linux приходятся тысячи от индусов-самоучек и заброшенных пет-проектов с GitHub.

В случае, когда мы даем слишком короткий промпт без важных деталей, модель отдаст нам "среднее по больнице". В её вероятностном облаке одинаково возможны как современные логичные паттерны, так и шизофринические костыли прошлой эпохи.

Системный промпт работает не как заклинание, а как смещение распределения вероятностей. Промптом в первую очередь мы хотим добиться:

- Сужения контекстного окна: Указывая Python 3.12+ и FastAPI, мы заставляем модель игнорировать пласты данных по старым версиям. Это не «забывание», а понижение весов (вероятности) для неактуальных токенов.

- Активации экспертных слоев: Если промпт требует соблюдения SOLID и Dry, модель с большей вероятностью будет выбирать токены, которые чаще встречаются в качественной технической литературе и документации, а не в случайном коммите с гитхаба.

- Отрицательных ограничений: Фраза «не используй глобальные переменные» — это прямой запрет на выбор определенных путей в дереве генерации.

Благодаря тому, что в том же Cursor уже прикручен системный промпт заточенный на разработку, генерация "из коробки" работает вполне приемлемо даже на базовых модельках. Добавим сверху полноценный контекст проекта и получим вполне сносный результат.

Итого: Промпт — это не способ сделать модель умнее, а способ заставить её заглянуть за пределы среднестатистической помойки для поиска лучших решений.

Так что завязывайте верить в магические заклинания. Промпт — это ТЗ. А если ТЗ через жопу, то и на выходе будет говно, даже если его сгенерировал тензорный суперкомпьютер за миллиард долларов.

🔛 @kisel_it

#ai@kisel_it #it@kisel_it

Из интересного - совсем перестал пользоваться Notion, все важные папки с заметками переехали в обычный советский... Cursor.
Заметки вообще больная тема. Тот же Obsidian не прижился вообще. Криво, неудобно, плагины работают через одно место... Да и выглядит страшненько. Не могу понять чем он так привлекает народ.

В текущей схеме хранится всё в приватном Git репозитории в .md файликах и рассортировано по папкам. Агент очень шустро ориентируется, помогает хранить всё в чистоте и порядке, находить и дополнять нужное. Так еще и без микроскопических лимитов, рекламы тупого notion-агента и колдовства с доступами.

В общем впервые кайфую от работы с заметками. Просто, надежно, ничего не отвлекает, агент на подхвате.

Знаю, что многие используют похожую схему, но вместо Cursor там консольный Claude Code.

Может я изобрел велосипед? Чем пользуетесь вы?


🔛 @kisel_it

#ai@kisel_it #it@kisel_it

Хорошая работа, Курсор 😂

Заглянем немного в (не)светлое будущее? 🔮

Вчера был на концерте "Высоцкий.Высота" — аля выступление цифрового аватара. Голос, внешность, мимика, манера говорить — всё стянули с Высоцкого. Голос клонировали через AI (как я понимаю), а персонажа собирали в Unreal Engine или чем-то подобным.

Пока что заставить это всё работать - очень сложно. Были и косяки, и технические накладки. Но голос... Голос сделали просто отлично, не придраться. Визуал конечно на троечку. "Пластиковую" модель пытались компенсировать яркими эффектами. Но всё же иногда было ну очень хорошо.

Это всё только начало. Так сказать первые шажочки на неизведанную территорию. Тренд уже есть и он пугает. Мы всё ближе подходим к времени, когда можно продать свою "цифровую личность" и пусть делает что хочет. А на ряду с "живыми" концертами в афише будет всё больше "синтетических". Ну а что? Тут тебе ни география, ни время суток не мешает. Выступай хоть на всех площадках одновременно. В-Ы-Г-О-Д-Н-О.

Ах, хотите вживую? По-настоящему? Готовьте деньги. Большие деньги. Вот вам космическая цена. Реальность - для богатых. Нету? Ну, вам тогда цифрового варианта хватит. Звучит знакомо? Мне тоже это что-то напоминает....

Сейчас для каждого такого перформанса приходится пройти огромное количество технических сложностей. Эти сложности всё более стремительно решают нейросети. Клонировать голос уже ничего не стоит, даже за бесплатно. Клонировать внешность - всё проще и проще. Остался последний шаг — real time. Да чтоб с обратной связью с залом! Как по-настоящему. И что тогда? Видимо в ближайшие годы уже узнаем.

Что думаете?

🔛 @kisel_it

#ai@kisel_it #технологии@kisel_it #будущее@kisel_it

Clawdbot: когда обезьяне дали гранату 🤡

Совсем недавно Clawdbot хайпанул. И тут такое началось... Это не цирк, это хуже. Раньше, чтобы слить всё в интернет нужны были хоть какие-то навыки. Сегодня - запускаем контейнер, даем побольше доступов и вуаля!)

Схема классическая: человек хочет себе «Джарвиса», чтобы тот сам мышкой двигал и на письма отвечал. Качает скрипт, запускает по гайду с ютуба. А чтобы управлять ботом с телефона или с работы, добрый дядя из гайда советует прокинуть туннель через ngrok или развернуть это дело на VPS с открытым портом.

Итог: любой школьник находит ваш IP или ngrok-адрес и получает RCE (удаленное выполнение команд) от вашего имени.

Какой-то цифровой эксгибиционизм. Отберите у них Докер, пока не поздно.

🔛 @kisel_it

#безопасность@kisel_it #ai@kisel_it

Ух, ну вот и пятница. Кто что успел сломать за эту неделю? Пятничный деплой в процессе? 😘

Подлый Outlook новой версии теперь все письма выкачивает на сервера Майков. Раньше данными с почты распоряжался гугл. Ладно, с этим кое-как смирились. Но зачем программе для просмотра писем требуется ПОЛНЫЙ МАТЬ ЕГО ДОСТУП к почтовому ящику? Причем там  абсолютно безумное пользовательское соглашение, без ограничений по сбору и использованию данных.

На наших глазах датамайнинг активно прогрессирует, доходя до полной шизофрении. Жду момент, когда нужно будет залогинится на холодильнике для показа таргетированной рекламы. Ну и доступ к почте дать тоже. На всякий случай. Чтобы обеспечить более персонализированный опыт! Ведь это всё еще забота о пользователе, правильно?


🔛 @kisel_it

#технологии@kisel_it

И в догоночку. Как вам концепт первого в мире вайббука? Ничего лишнего 💳

ChatGPT оказывается умеет в стиль желтушных СМИ. Собрал для вас последние актуальные новости 😂