Летим зимовать ✈️

Когда холодает, айтишники пакуют чемоданы, а мы разыгрываем ваучер на 50 000 рублей в Островке.

Поехать к морю или остаться среди снежных пейзажей — выбирайте сами!

Чтобы участвовать, нужно оставить любую реакцию под этим постом и подписаться на каналы ниже:

😎 Типичный программист
🐸 Библиотека программиста
🟢 Ostrovok! Tech

Теперь осталось нажать на кнопку участия под этим постом и вы в игре!

Итоги подведём 12 декабря. Победителя выберем с помощью бота. Подробнее с правилами можно ознакомиться здесь.

Всем удачи!

Участников: 27
Призовых мест: 1
Дата розыгрыша: 19:00, 12.12.2025 MSK (4 дня)

Когда ИИ начинает вам врать: как заставить его давать честные ответы

Работая с языковыми моделями, можно заметить одну общую проблему: даже передовые ИИ уверенно генерируют вымышленные факты. Это галлюцинации и они опасны. Вы можете потратить часы на неправильный ответ или дать клиентам ложную информацию.

Но вот, что важно: исследования показывают, что правильный промпт снижает галлюцинации с 53% до 23%. То есть вы можете контролировать точность ИИ, не переучивая модель и без дорогостоящих решений. Это простые приёмы, которые проверены на практике.

Если вы используете ИИ для анализа данных, создания контента, расчётов или кодинга — эти методы сэкономят вам время, улучшат результаты и помогут избежать дорогостоящих ошибок.

0️⃣ Максимальная специфичность — сужаем фокус

Вместо размытого «Расскажи об искусственном интеллекте» я спрашиваю: «Какие три главных прорыва произошли в глубоком обучении между 2022 и 2025 годом?»

Когда вопрос конкретен, модель не может блуждать и генерировать правдоподобные вымышленные детали. Узкая область поиска — ваша защита от галлюцинаций.

1️⃣ Указываем авторитетный источник — якорирование

Модель обучена на текстах с указанными источниками, и явное упоминание авторитета направляет её на правильный путь. Она меньше импровизирует.

3️⃣ Chain-of-Verification — встроенная проверка

Это четырёхшаговый процесс, который можно использовать для критичных ответов:

Шаг 1: модель отвечает на вопрос
Шаг 2: просим сгенерировать проверочные вопросы к своему ответу
Шаг 3: модель отвечает на них честно, критически оценивая себя
Шаг 4: она даёт исправленный финальный ответ

Галлюцинации падают, потому что модель критически переоценивает собственный ответ на каждом этапе.

3️⃣ Self-Consistency — генерируем несколько раз

Сгенерируйте ответ несколько раз и выбирайте вариант, который повторяется чаще всего. Это медленнее и дороже по токенам, но для критичных решений это гарантирует надёжность. Если ответ повторился 4 раза из 5 — его правильность намного выше.

4️⃣ Few-Shot — даём правильные примеры

Если я показываю модели 2-3 правильных примера перед основным вопросом, она начинает копировать их качество и стиль. Примеры задают стандарт и показывают ожидаемый формат ответа.

А ещё я установил базовый system prompt, который модель следует для всех запросов:

Plain Text
Различай три типа информации:
• Проверенные факты — говори уверенно
• Предположения — говори «возможно»
• Неизвестное — говори «не знаю»

Не выдумывай цифры, даты, события.
Если неуверен — скажи честно.

Забирайте советы и промпт для своих задач.

#советы #ии