Навайбкодил сегодня небольшую тулзу, которая позволяет выгрузить в один клик листинг вашей рабочей директории и файлов, для того, чтобы вставить его в промпт ЛЛМ.

Очень полезная софтинка в разработке, когда ЛЛМ теряют контекст, и вам нужно его восстанавливать вручную.

Клонируйте, пользуйтесь. Для запуска нужно установить go на машине.

https://github.com/glebkudr/shotgun_code

Как сделать промпт для ЛЛМ, не посещая курсов по промптингу

1) Описываете задачу сетке. Говорите "хочу промпт".
2) Несете второй сетке. Говорите "тут мне другая сетка промпт написала, улучши". Она ревнует и улучшает.
3) Несете еще раз (можно той же, у нее нету памяти, ага). И говорите — вот мне тут сетка написала... И т.д.

Работает прекрасно, с четвертого-пятого раза промпт уже будет сильно лучше, чем с первого. Попробуйте 😎

Гугл подогнал умное кэширование — моделька сама пытается понять что ты уже спрашивал нечто подобное и если находит, то прайс будет меньше.

Дисконт на кэшированные токены в 4 раза — есть за что побороться.

Для срабатывания нужно чтобы начало запроса было таким же, как и в предыдущем запросе. Имейте ввиду при конструировании промптов.

Это снижает ценность по сравнению с эксплицитным кэшированием, но все же определенный прорыв.

https://developers.googleblog.com/en/gemini-2-5-models-now-support-implicit-caching/

PS С мест подсказывают — у OpenAI работает аналогичный механизм.

Приложенька для камшот one-shot вайбкодинга развивается и обросла плюхами 😎

Использую ее саму для разработки ее самой (рекурсия)

Офигиваю, как я раньше работал без такого полезного инструмента.

Что делает:
— читает файлы и директории, умеет в исключения
— создает шаблон промпта который можно загнать в гемини. В котором есть ВЕСЬ контекст.
— вам остается достать то что он выдаст в ответ и применить к своей кодовой базе (пока что я просто делаю это курсором, но хочу встроить патчилку прямо в проект)

Works like a charm 👌

https://github.com/glebkudr/shotgun_code

Для тех кто не может в установку и компиляцию — сделал бинарники.

PS Ставьте звездочки на гитхабе, там это главная пузомерка 😁

Ого, жира навалили.

Какая-то хренова туча пайплайнов для n8n.

Не факт, что там есть что-то полезное, но в любом случае на этом материале можно учиться и подсматривать подходы.

https://github.com/enescingoz/awesome-n8n-templates

Кстати, темплейты n8n с легкостью переписываются агентами под любые взрослые AI библиотеки, например DSPy в питоне/го. Так что если вы сделали удачный воркфлоу и хотите отвязаться от n8n, то это легко сделать. Просто экспортируете его в json и переписываете в любой ЛЛМ.

Написал статью про мои приключения при разработке Шотган аппки. Поддержите лайками 🥹

https://habr.com/ru/articles/908750/

Если вам не стыдно за свой AI продукт — вы делаете не AI продукт 😁

Зато вотчман (обновляет структуру папок и файлов если там появились изменения) я впилил за два запроса к ллм и пол-часа времени. И он работает.

Но на приличную библиотеку конечно стоит потом переписать, захламление проекта однажды приводит к критической невозможности его поддержки.

Кстати, решал задачку "сделать верстку сайта похожей на ноушн". Все подобные задачки необходимо решать начиная с оптимизации промпта.
Хороший промпт позволяет движку ЛЛМ потом вам зафигачить задачу в один проход. Плохой промпт — ну будете страдать в курсоре до морковкиного заговения.

Итерационным путем подобрал вот это. Работает неплохо, пользуйтесь кому нужно. По аналогии можно попросить скомпоновать и под любую другую дизайн систему.

Вообще, ошибка думать, что внутренняя "цепь рассуждений" модели компенсирует слабый промпт на входе.

По крайней мере в текущей архитектуре — точно не так. Хотя казалось бы, она могла бы подумать внутри себя, улучшить промпт и далее уже по улучшенному отработать.

Но нет, не получается. Пробовал много раз с разными провайдерами.

А вот улучшить промпт, подать его на вход и снова улучшить можно легко. И как раз таким способом они и получаются.

Поэтому сначала готовим хорошие промпты, а потом уже их применяем. Так достигаем хорошего результата 😎

Обновил Шотган. Теперь можно выбирать предустановленный шаблон промпта (dev/architect/find bug). Так же dev стал выдавать диффы в более привычном git формате.

Глеб, привет)
уже несколько инструментов сделал, может быть стрим сделаешь по ним?

Ну давайте сегодня в 22 часа. Коротенький стрим, покажу как я применяю шотган в работе и почему это лучше Курсора. Поправим в нем пару багов с помощью его самого 😎

Провел трансляцию, почти запилили функционал применения диффов в аппку. Смотрите с 11 минуты, потому что в начале я думал что у меня включен микрофон, а вот и нет 😂

https://www.youtube.com/live/j4sn6QNiuso?si=o0oT-dmoJejkViqW&t=660

В шотгане был функционал вотчера. Это такая штука которая следит за файловой системой и обновляет дерево, если обнаруживает, что что-то там изменилось.

Вотчера я запилил по-быстрому, тупо чтобы было.

Но тут люди начали жаловаться, что оно жрет процессор. И я заметил - и правда жрет.

Т.к. оно проходилось по всем файлам каждые 200 миллисекунд, чего бы тут не жрать.

Ну, что делать — отрефакторил на библиотеку fsnotify. Она позволяет обращаться к файлам не каждый раз, а только тогда, когда детектится какое-либо изменение.

Потребление проца упало у меня с 7% до 0% 😁

Мораль? Целых две.

1) Первое решение сделать тяп-ляп было верным, оно ускорило выкладку релиза и получение хоть какой-то ценности.
2) Когда тебе пишет ИИ-шка, нужно все равно врубаться в то, что происходит. Скажем, отличать механизм постоянных запросов вотчера от событийной модели.

Ну и я закончил этот рефакторинг ровно в два запроса, отправив один запрос собираясь в гости, а второй — приехав из гостей. Один на аналитику, второй на рефакторинг.

Ну а если бы я это писал руками, это бы заняло несколько дней с матюгами 🙂

Дети, документацию в проекте пишите не для себя, а для товарища AI, чтобы ему понятно было 😎

А без документации он пожрет вам контекст, тут и сказочке конец

https://www.youtube.com/watch?v=y-WHhanPaRI

Офигенное интервью Андрея Бреслава* по теме языка программирования следующего уровня. То есть, как мы будем писать код, условно, через пару лет, при сохранении прогресса в моделях.

*создатель языка Котлин

Выписал важные мысли

— Текущие языки типа джавы, питона, js и так далее останутся в качестве промежуточной прослойки, но на них будут писать в основном машины, а не люди.
— Будет сформирован язык или диалект более высокого уровня, компилирующийся в эти более низкоуровневые языки
— Таким языком будет естественный язык + какая-то инфраструктура вокруг этого. Но НЕ в формате современного кодинга с чат ботами. Скорее что-то типа описания архитектуры/работ пользователя в проекте.
— Компилятор будет умным и сможет в режиме чата уточнять у пользователя, что он имел ввиду, но главной останется кодовая база в виде архитектурных файлов и их изменений.
— В итоге, мы будем говорить, какой нам нужен функционал, а задача модели будет угадывать или уточнять, что мы имели ввиду. Трансляция же всего этого дела в код будет под капотом и будет волновать нас не более, чем сейчас волнует трансляция инструкций из Питона в машинные коды.

Все это очень пересекается с моими размышлениями. Бреслав конечно крут и если кому и удастся это сделать, то это ему.