Гугл подогнал умное кэширование — моделька сама пытается понять что ты уже спрашивал нечто подобное и если находит, то прайс будет меньше.

Дисконт на кэшированные токены в 4 раза — есть за что побороться.

Для срабатывания нужно чтобы начало запроса было таким же, как и в предыдущем запросе. Имейте ввиду при конструировании промптов.

Это снижает ценность по сравнению с эксплицитным кэшированием, но все же определенный прорыв.

https://developers.googleblog.com/en/gemini-2-5-models-now-support-implicit-caching/

PS С мест подсказывают — у OpenAI работает аналогичный механизм.

Приложенька для камшот one-shot вайбкодинга развивается и обросла плюхами 😎

Использую ее саму для разработки ее самой (рекурсия)

Офигиваю, как я раньше работал без такого полезного инструмента.

Что делает:
— читает файлы и директории, умеет в исключения
— создает шаблон промпта который можно загнать в гемини. В котором есть ВЕСЬ контекст.
— вам остается достать то что он выдаст в ответ и применить к своей кодовой базе (пока что я просто делаю это курсором, но хочу встроить патчилку прямо в проект)

Works like a charm 👌

https://github.com/glebkudr/shotgun_code

Для тех кто не может в установку и компиляцию — сделал бинарники.

PS Ставьте звездочки на гитхабе, там это главная пузомерка 😁

Ого, жира навалили.

Какая-то хренова туча пайплайнов для n8n.

Не факт, что там есть что-то полезное, но в любом случае на этом материале можно учиться и подсматривать подходы.

https://github.com/enescingoz/awesome-n8n-templates

Кстати, темплейты n8n с легкостью переписываются агентами под любые взрослые AI библиотеки, например DSPy в питоне/го. Так что если вы сделали удачный воркфлоу и хотите отвязаться от n8n, то это легко сделать. Просто экспортируете его в json и переписываете в любой ЛЛМ.

Написал статью про мои приключения при разработке Шотган аппки. Поддержите лайками 🥹

https://habr.com/ru/articles/908750/

Если вам не стыдно за свой AI продукт — вы делаете не AI продукт 😁

Зато вотчман (обновляет структуру папок и файлов если там появились изменения) я впилил за два запроса к ллм и пол-часа времени. И он работает.

Но на приличную библиотеку конечно стоит потом переписать, захламление проекта однажды приводит к критической невозможности его поддержки.

Кстати, решал задачку "сделать верстку сайта похожей на ноушн". Все подобные задачки необходимо решать начиная с оптимизации промпта.
Хороший промпт позволяет движку ЛЛМ потом вам зафигачить задачу в один проход. Плохой промпт — ну будете страдать в курсоре до морковкиного заговения.

Итерационным путем подобрал вот это. Работает неплохо, пользуйтесь кому нужно. По аналогии можно попросить скомпоновать и под любую другую дизайн систему.

Вообще, ошибка думать, что внутренняя "цепь рассуждений" модели компенсирует слабый промпт на входе.

По крайней мере в текущей архитектуре — точно не так. Хотя казалось бы, она могла бы подумать внутри себя, улучшить промпт и далее уже по улучшенному отработать.

Но нет, не получается. Пробовал много раз с разными провайдерами.

А вот улучшить промпт, подать его на вход и снова улучшить можно легко. И как раз таким способом они и получаются.

Поэтому сначала готовим хорошие промпты, а потом уже их применяем. Так достигаем хорошего результата 😎

Обновил Шотган. Теперь можно выбирать предустановленный шаблон промпта (dev/architect/find bug). Так же dev стал выдавать диффы в более привычном git формате.

Глеб, привет)
уже несколько инструментов сделал, может быть стрим сделаешь по ним?

Ну давайте сегодня в 22 часа. Коротенький стрим, покажу как я применяю шотган в работе и почему это лучше Курсора. Поправим в нем пару багов с помощью его самого 😎

Провел трансляцию, почти запилили функционал применения диффов в аппку. Смотрите с 11 минуты, потому что в начале я думал что у меня включен микрофон, а вот и нет 😂

https://www.youtube.com/live/j4sn6QNiuso?si=o0oT-dmoJejkViqW&t=660

В шотгане был функционал вотчера. Это такая штука которая следит за файловой системой и обновляет дерево, если обнаруживает, что что-то там изменилось.

Вотчера я запилил по-быстрому, тупо чтобы было.

Но тут люди начали жаловаться, что оно жрет процессор. И я заметил - и правда жрет.

Т.к. оно проходилось по всем файлам каждые 200 миллисекунд, чего бы тут не жрать.

Ну, что делать — отрефакторил на библиотеку fsnotify. Она позволяет обращаться к файлам не каждый раз, а только тогда, когда детектится какое-либо изменение.

Потребление проца упало у меня с 7% до 0% 😁

Мораль? Целых две.

1) Первое решение сделать тяп-ляп было верным, оно ускорило выкладку релиза и получение хоть какой-то ценности.
2) Когда тебе пишет ИИ-шка, нужно все равно врубаться в то, что происходит. Скажем, отличать механизм постоянных запросов вотчера от событийной модели.

Ну и я закончил этот рефакторинг ровно в два запроса, отправив один запрос собираясь в гости, а второй — приехав из гостей. Один на аналитику, второй на рефакторинг.

Ну а если бы я это писал руками, это бы заняло несколько дней с матюгами 🙂

Дети, документацию в проекте пишите не для себя, а для товарища AI, чтобы ему понятно было 😎

А без документации он пожрет вам контекст, тут и сказочке конец

https://www.youtube.com/watch?v=y-WHhanPaRI

Офигенное интервью Андрея Бреслава* по теме языка программирования следующего уровня. То есть, как мы будем писать код, условно, через пару лет, при сохранении прогресса в моделях.

*создатель языка Котлин

Выписал важные мысли

— Текущие языки типа джавы, питона, js и так далее останутся в качестве промежуточной прослойки, но на них будут писать в основном машины, а не люди.
— Будет сформирован язык или диалект более высокого уровня, компилирующийся в эти более низкоуровневые языки
— Таким языком будет естественный язык + какая-то инфраструктура вокруг этого. Но НЕ в формате современного кодинга с чат ботами. Скорее что-то типа описания архитектуры/работ пользователя в проекте.
— Компилятор будет умным и сможет в режиме чата уточнять у пользователя, что он имел ввиду, но главной останется кодовая база в виде архитектурных файлов и их изменений.
— В итоге, мы будем говорить, какой нам нужен функционал, а задача модели будет угадывать или уточнять, что мы имели ввиду. Трансляция же всего этого дела в код будет под капотом и будет волновать нас не более, чем сейчас волнует трансляция инструкций из Питона в машинные коды.

Все это очень пересекается с моими размышлениями. Бреслав конечно крут и если кому и удастся это сделать, то это ему.