Кто и как сделал фразу "Hello, World" культовой? 🖥

Каждый программист, независимо от опыта, хотя бы раз писал эти знаменитые строки кода, выводящие простую фразу "Hello World" на экран. Что начиналось как скромный пример в учебнике, превратилось в культурный феномен и неотъемлемую часть процесса обучения программированию. Давайте разберемся, как и почему это произошло.

Истоки традиции 🎨
История "Hello World" началась в 1978 году с публикации знаменитой книги Брайана Керниган и Денниса Ритчи "Язык программирования С". В этой книге авторы использовали простую программу, выводящую фразу "hello, world" (заметьте, с маленькой буквы и запятой), чтобы продемонстрировать базовый синтаксис языка:

main() {
    printf("hello, world\n");
}

Почему именно эта фраза? Сам Керниган в интервью объяснял, что выбрал её просто потому, что она была короткой, понятной и немного забавной.

Культурный феномен 🐱
С течением времени "Hello World" превратился в нечто большее, чем просто учебный пример. Это стало своеобразным ритуалом посвящения в программисты, общим опытом, объединяющим разработчиков по всему миру. Фраза обросла мемами, появилась на футболках, наклейках для ноутбуков и даже татуировках.
Для многих программистов "Hello World" символизирует начало пути, первый шаг в бесконечное путешествие по миру кода.

Возможно, в этом и кроется секрет её долговечности — она напоминает нам, что независимо от сложности современных технологий, всё начинается с простого приветствия. А какой был Ваш первый "Hello, World!"? Признавайтесь, на каком языке Вы его писали? Обнимаю 🌻

Реальная возможность 👊

Несколько недель назад познакомился с крутыми ребятами, которым скоро сдавать ЕГЭ. Они ведут свои каналы, где рассказывают о своем пути, вместе решают задачи и мотивируют друг друга 🧑‍🏫.

Я агитирую всех будущих выпускников школ обратить на их каналы и проект «РЕШАЛЫ» внимание. Думаю, Вам будет полезно. Я же решил им помогать в продвижении, потому что мне нравятся они и их настрой ❤️.

🐱Я знаю, что мой канал не совсем про ЕГЭ, но, тем не менее, я через него прошел и весьма удачно. Может, мой канал послужит для молодых и стремящихся ребят неким кладезем интересных знаний, уровнем, примером того, чему они научатся, если не остановятся на своем пути. По крайней мере мне бы этого хотелось.

Всем моим новым молодым подписчикам удачи! Я желаю Вам затащить все экзамены. Не ленитесь, узнавайте новое, окружайте себя правильными и заряженными людьми. А я буду стараться мотивировать Вас, делать кайфовый контент, который пригодится Вам как на экзаменах, так и в жизни, создавать уют в канале. Обнимаю ❤️

Вкуснятина снизу 😍🍿

У нас появился шанс посоревноваться с ИИ-шками 🍳

Вчера наткнулся на интересный ресурс — TrackingAI.org. Это попытка создать единую систему мониторинга развития ИИ в реальном времени.

В рамках проекта модели проходят оффлайн-IQ тесты 🧐
Сейчас лидер — GPT Pro 5, новейшая модель. Она набрала 123 IQ, причем тест не использовался при её обучении, что делает результат особенно показательным. Результат не прямо гениальный, но и далеко неглупый. Поэтому...

Я предлагаю нам заморочиться и победить ее 💪. Я сам на днях пройду этот тест и честно напишу о результате, думаю будет забавно. Если Вам не лень, делитесь результатами в комментах тоже.

+ На самом деле, тема оценки уровня интеллекта очень дискуссионная и иногда спекулятивная. Очень много вопросов к этим тестам, когда речь идет об оценке людей, а здесь вообще ИИ. Мне пока не совсем ясно, как его проводили и интерпретировали? Хочу разобраться и сделать публикацию об этом. Если Вам интересно, поддержите пост реакцией и репостом. Пусть другие тоже попробуют унизить GPT 📱.

Хорошей недели, друзья. Всех обнял ❤️. Жду результатов 🤫

Всем привет! ‼️

Пост будет завтра! Пишите в комментариях, о чем. Думаю, тут быстро отгадаете ❤️

Сегодня сдал экзамен по иностранному 💪

+ Напоминаю, всем про конкурсы на канале. У РЕШАЛ совсем немного времени осталось 😶🐱.

Удачи, обнимаю 😘

Цифровая детоксикация: когда алгоритмы знают нас лучше, чем мы сами ‼️

Всем привет! Об алгоритмах соцсетей всем известно. Но как они работают? - мне стало интересно узнать…

В эпоху информационного изобилия рекомендательные системы превратились из простых помощников в изощрённые инструменты управления вниманием. За кажущейся услужливостью "вам также понравится" стоит целая инфраструктура инженерии поведения.

📖 Математическая модель нашей личности

Современные алгоритмы давно вышли за рамки примитивного "похожий контент для похожих пользователей". В цифровом мире каждый пользователь представлен как многомерный вектор характеристик, постоянно уточняющийся с каждым взаимодействием. Наши действия, бездействие и даже микропаузы формируют всё более точную модель цифрового "я".

🥕 Алгоритмы работают с двумя типами данных:

Эксплицитные — то, что мы сами явно сообщаем системе (лайки, оценки, подписки).

Имплицитные — то, что отражает наше реальное поведение: время просмотра, задержка скролла, глубина прочтения, последовательность действий.

Именно имплицитные данные часто являются более точными предикторами, поскольку показывают не то, что мы думаем о себе, а то, как мы на самом деле действуем.

Что уже знает о вас алгоритм 🤨

1. Циркадные ритмы внимания
Системы точно определяют не только в какие дни, но и в какие часы мы наиболее восприимчивы к разным типам контента.
2. Карта эмоциональных триггеров
Рекомендательные системы создают детальные карты контентных триггеров, вызывающих у нас наиболее сильную эмоциональную реакцию. Негодование, умиление, ностальгия, профессиональный интерес — каждая эмоция каталогизирована и используется для максимизации вовлеченности.
3. Предсказательные модели решений
Алгоритмы анализируют последовательности наших действий, создавая вероятностные модели принятия решений. Например, после просмотра определенного типа видео в определенное время суток вероятность перехода на связанный товар возрастает на конкретный процент.
4. Метрики информационного потребления
Системы отслеживают не только что мы смотрим, но и как: скорость скролла, время задержки на элементах, глубину прочтения материалов. Это позволяет определять оптимальную информационную плотность контента для каждого пользователя.
5. Алгоритмическое определение когнитивной усталости
Современные системы умеют распознавать признаки "усталости внимания" — момент, когда мы готовы покинуть платформу. Именно в эти критические моменты алгоритм предлагает наиболее привлекательный для нас контент.

Почему мы поддаёмся? 😐

Наш мозг эволюционно не приспособлен к противостоянию алгоритмическим манипуляциям. Дофаминовая система вознаграждения, миллионы лет обеспечивавшая выживание вида, сегодня эксплуатируется цифровыми платформами. Каждое уведомление, новая рекомендация или обновление ленты — это микродоза дофамина, запускающая замкнутый цикл поведения.

Исследования показывают, что предсказуемость награды может быть не менее сильным стимулом, чем сама награда. Именно поэтому феномен doom scrolling (бесконечной прокрутки) стал повсеместным — мы подсаживаемся не только на контент, но и на ожидание следующей порции.

Так, современные системы создают иллюзию свободы: мы чувствуем, что выбираем сами, но на деле идём по траектории, рассчитанной для удержания нашего внимания.

Моя ставочка 🐱

Учитывая ситуацию сейчас, я думаю, что через 10 лет способность к глубокому фокусу станет суперсилой 👊. Те, кто научится управлять вниманием, получат преимущество в мире, где остальные будут теряться в алгоритмических ловушках.

Вопрос/вызов к нам: если алгоритм знает наши желания лучше нас самих — кто на самом деле принимает решения в нашей жизни?
И главное, готовы ли мы вернуть контроль над своим вниманием? Можете поделиться своими мыслями, если хотите. Чувствуете ли Вы свою зависимость? Боритесь ли с ней? Обнимаю, хорошего дня ❤️

ИИ-словарь 📢

В мире ИИ существует множество терминов, которые звучат сложно для непосвященных. Решил, что буду объяснять их простым и понятным языком, чтобы вы могли:

💪Понимать новости об ИИ без гугления

💪Увереннее общаться с техническими специалистами,

💪 Видеть за хайпом реальные технологии и их возможности

Какие термины вызывают у вас больше всего вопросов? Оставляйте их в комментариях — я включу самые популярные запросы в ближайшие выпуски.

Начнем с базы:

1️⃣Искусственный интеллект (ИИ) — компьютерные системы, которые могут выполнять задачи, обычно требующие человеческого интеллекта.
Пример: когда Siri понимает ваш вопрос и отвечает на него, или когда Netflix предлагает фильмы, которые могут вам понравиться — это работа ИИ.

2️⃣Машинное обучение — подход, при котором компьютер учится на примерах, а не следует жестко запрограммированным инструкциям.
Пример: вместо того, чтобы прописывать правила "как выглядит кошка на фото", мы показываем системе тысячи фотографий кошек, и она сама находит закономерности.

3️⃣Нейронная сеть — система соединенных между собой "нейронов", имитирующая работу человеческого мозга.
Пример: представьте огромную сеть переключателей, где каждый переключатель решает, передавать ли сигнал дальше. Информация проходит через многие слои таких переключателей, постепенно выявляя все более сложные признаки — от простых линий до распознавания лиц.

Очень полезно — ❤️
Сложновато — 🤔
Лучше разбери 1 термин, но подробнее 🔥

Удачи, ребята! Спасибо за актив😘

Нейронные сети: как машины учатся "видеть" закономерности ❔

😇 Привет, друзья! Сегодня чуть глубже погрузимся в мир нейронных сетей — алгоритмов, вдохновленных работой человеческого мозга (наше определение в словаре выше). Как мы уже выяснили, нейроны в такой сети организованы в слои:

Входной слой – принимает данные
Скрытые слои – обрабатывают информацию
Выходной слой – выдает результат

- все просто. Каждый нейрон получает входные сигналы, применяет к ним функцию активации и передает результат дальше. В процессе обучения сеть корректирует веса связей между нейронами, минимизируя ошибку предсказания.

Я сделал для Вас небольшой наглядный пример, чтобы показать процесс обучения в реальном времени:
На видео красные и синие точки — это данные двух типов (например, "яблоки" и "мандаринки"). Белая линия — это граница, которую проводит нейросеть, чтобы разделить эти типы.
Вначале сеть "не понимает", как правильно разделить точки, но с каждой итерацией становится умнее, а к концу обучения сеть находит ту границу, которая идеально разделяет наши 🍎 и 🍊.

Полный код для воспроизведения эксперимента прилагается по этой ссылке 🐱. Попробуйте запустить его на своем компьютере, измените параметры в коде (например, "инициализация весов"), делитесь результатами.

Скажу по секрету, я хочу сделать из этого канала настоящую большую платформу, где люди узнают новое, учатся и мотивируют друг друга. Поэтому лучшей поддержкой для меня будут Ваши репосты и рекомендации друзьям. Всех обнимаю, хорошей субботы 🥰.

Вступить в наши ряды 🫡

Подгон к началу учебного года 🐱

Всем привет! ❤️❤️❤️
Хотел порекомендовать Вам инструмент, который особенно пригодится всем школьникам и студентам — NotebookLM. По факту, его основная фишка в том, что он буквально ищет иголку в стоге сена. Сейчас объясню. Представьте, у Вас есть гигантский учебник, нет, три гиганстских учебника, одна монография и 15 статей... Вам нужно как-то поработать с этим массивом информации. Но понятно, что делать это вручную долго.

Вы берете, грузите все в NotebookLM (можете грузануть еще видео и ссылки ❤️), задаете любой Ваш запрос и он приводит ответ исключительно по тем источникам, что Вы ему сами дали + делает ссылку и выделяет в тексте те места, которые легли в основу его ответа. То есть Вы можете проверить выдумывает он информацию (как иногда делает ГПТ) или нет. По факту это некий симбиоз работы ИИ и старых добрых проверенных источников, на которые можно спокойно ссылаться. При этом интерфейс построен как диалог — можно уточнять, переформулировать запросы и даже просить систему объяснить сложные концепты простыми словами. При этом, чтобы дойти до лимита объема информации надо реально постараться (я как-то работал с 60 источниками одновременно) 🖥

Недавно они выкатили обновление, говорят, что он научился презентации какие-то делать с графиками и иллюстрациями (как на видео). — этот функционал пока не проверял. Но базовая способность шерстить и ссылаться на проверенный текст — очень удобна 🐱.

Всем пятерок в предстоящем учебном году. Успейте поймать последнюю неделю лета. Делитесь постом с товарищами по учебе. Всем хорошего воскресенья, обнимаю ❤️

Вступить в наши ряды 🫡

Квантовые вычисления: когда физика встречается с информатикой ❔

Всем привет! Поговорим о мощи квантовых вычислений и что не так с обычными компьютерами 🖥.

Классические компьютеры работают с битами — единицами информации, которые могут быть либо 0, либо 1. Представьте выключатель света: он либо включён, либо выключен. Но для решения очень сложных задач (например, моделирования молекул или подбора шифров) классическому компьютеру приходится перебирать огромное количество вариантов. Это похоже на поиск нужной книги в библиотеке, просматривая полку за полкой.

Магия квантовых битов 🙂

Квантовый бит — кубит — устроен иначе. Он может находиться в суперпозиции, то есть быть в состоянии 0 и 1 с разными вероятностями. Простая аналогия: кот Шрёдингера 🥳. Пока мы не заглянули в коробку, он одновременно и жив, и мёртв. Кубит работает похоже — до измерения он находится в комбинации состояний.

Почему это революционно? 💪

Если у вас есть n классических битов, вы можете хранить одно из 2^n возможных значений. А n кубитов могут находиться в суперпозиции всех 2^n комбинаций. Для примера: всего 300 кубитов могут описывать пространство состояний большее, чем количество атомов во Вселенной... Конечно, это не значит, что компьютер "сразу хранит всё", но это открывает невероятные возможности для параллельных вычислений.

Где это уже работает? 🔧

В 2019 году квантовый процессор Google Sycamore выполнил задачу за 200 секунд, тогда как самому мощному суперкомпьютеру на Земле потребовались бы тысячи лет. Этот эксперимент называют «квантовым превосходством». Правда, сама задача была больше демонстрацией возможностей, чем практическим применением. Компании IBM, IonQ, Rigetti уже дают доступ к квантовым компьютерам через облако. То есть прямо сейчас можно написать квантовую программу и запустить её на настоящем квантовом процессоре.

Почему домой такой комп не купишь? 😭

Кубиты очень чувствительны к шуму 📢. Малейшие вибрации, тепло или электромагнитные поля разрушают суперпозицию. Поэтому квантовые компьютеры охлаждают почти до абсолютного нуля (−273 °C) и тщательно изолируют. Думаю, через 10–15 лет мы, скорее всего, будем использовать квантовые вычисления через облачные сервисы. Не на домашнем ноутбуке, но как дополнительный инструмент для задач, которые классические компьютеры решают слишком долго.

Для тех, кто хочет попробовать новый уровень 🍿

IBM Qiskit — бесплатная платформа для изучения квантового программирования.

Microsoft Q# — язык для квантовых алгоритмов.

Google Cirq — библиотека для работы с квантовыми схемами.

Удачи и быстрой недельки, а нет, она же последняя этим летом... долгой недельки тогда, обнимаю 🌻

Еще один подгон 🍳

📱 Бесплатные курсы по ИИ от Anthropic

Стартап Anthropic, разрабатывающий чат-бота Claude, выпустил три новых онлайн-курса, рассказывающих, как интегрировать искусственный интеллект в образовательный процесс, с фокусом на практике.

AI Fluency for Students — для школьников и студентов 📕

AI Fluency for Educators — для преподавателей 🧑‍🏫

Teaching AI Fluency — для всех 🍀

Будем делать обзор на каждый? - не знаю, посмотрим на Ваши реакции. Но репосты точно делаем 🫰🏻

Больше не пропускать ➕

Обнимаю 🥰

Пока готовил материал для следующего поста, чуть не сломал себе мозг. Будет интересно, обнимаю ❤️

Думаю, с вероятностью 66% выйдет сегодня вечером*

Сегодня я научу Вас всегда выигрывать 🎲

Всем доброго вечера! Я расскажу о том, как математика обманывает интуицию... Начнем с самого знаменитого парадокса, который заставил усомниться в логике даже математиков.

Расслабьтесь и представьте 🛀: Вы участвуете в телешоу. Перед вами три закрытые двери. За одной из них — автомобиль, за двумя другими — козы (goat 🐐) Вы выбираете дверь №1.
Ведущий, который точно знает, где находится приз, открывает одну из оставшихся дверей — №3, за которой оказывается коза. Затем он спрашивает: "Хотите изменить свой выбор на дверь №2?"
Вопрос: стоит ли менять свой выбор?
Большинство людей (включая многих математиков, когда эта задача впервые стала известной) считают, что шансы выиграть автомобиль равны 50/50 🥕для обеих оставшихся дверей. Поэтому, казалось бы, не имеет значения, менять выбор или нет. Просто хитрый ведущий пытается нас запутать и сбить столку глупыми вопросами.
Но это неверно…

Если вы не меняете свой выбор, вероятность выигрыша составляет 1/3 (около 33%).
Если вы меняете свой выбор, вероятность выигрыша возрастает до 2/3 (около 67%).

Это кажется невероятным, не так ли? И вот сейчас, прежде чем я объясню, попробуйте самостоятельно подумать почему так получается. Когда я узнал ответ, я долго ломал голову, как так может быть и, честно скажу, самостоятельно не догадался, может у Вас получится.

Теоретический спойлер: когда вы делаете первый выбор, вероятность выбрать дверь с автомобилем составляет 1/3, а вероятность выбрать дверь с козой — 2/3.
Что знает ведущий: ведущий знает, где находится автомобиль, и всегда открывает дверь с козой.
Ключевой момент: если Ваш первоначальный выбор был неправильным (что происходит с вероятностью 2/3), то после того, как ведущий открыл дверь с козой, автомобиль гарантированно находится за оставшейся дверью.

Таким образом:

Если вы изначально выбрали дверь с автомобилем (вероятность 1/3) и поменяли выбор, вы проиграете.
Если вы изначально выбрали дверь с козой (вероятность 2/3) и поменяли выбор, вы выиграете.

Я решил проверить теорию на практике и написал код 🖥 (можете сами поиграть с ним по ссылочке), который сыграл в эту игру 2000 раз. В 1000 играх он придерживался первоначального выбора, а в других 1000 играх менял свой выбор на вторую доступную дверь. Результаты на картиночке (совпали с теорией).

То есть, математика работает, а стратегия смены выбора действительно увеличивает Ваши шансы более чем вдвое.

Теперь давайте разберемся в механизме, почему интуиция ошибается 🙂

Мы игнорируем условную вероятность — не учитываем, что новая информация (открытие двери с козой) меняет вероятности.
А иллюзия симметрии убеждает нас, что две оставшиеся двери равнозначны, но это не так, потому что ведущий делает неслучайный выбор, а основанный на своем знании. + эмоциональная привязанность — нам психологически сложно отказаться от первоначального выбора (думаю, в быту все с этим сталкивались). Люди также склонны упрощать, свести сложные вероятностные задачи к простым пропорциям (например, 50/50 🇲🇽).

Эти знания теперь можно использовать в реальной жизни. Ведь парадокс — не просто математическая головоломка. Он демонстрирует важные принципы 📖

🌷Не всегда доверяйте интуиции в вопросах вероятности — проверяйте математикой.
🐭Любая новая информация может радикально изменить Ваши шансы.
🍉Иногда лучшая стратегия противоречит привычным шаблонам мышления.
❕+ симуляции на питоне — топ, надо подписываться на канал, чтобы научиться также 💎

А вы бы сменили дверь? Поверили бы в правильность стратегии "поменять" без симуляции?

P.S. Если вам понравился этот пост, попробуйте объяснить парадокс Монти Холла другу. Вы быстро поймете, насколько глубоко наша интуиция сопротивляется правильному ответу.

Всем хороших выходных, дорогие ❤️

Недаром говорят, лето — маленькая жизнь.

Вот и подошло к концу лето 2025 года. Надеюсь, оно подарило Вам множество позитивных воспоминаний, событий и моментов. Не прошло для Вас зря. Лично для меня лето выдалось очень насыщенным. Приятно оглядываться назад и подмечать все, что подарили эти три месяца. Особенно символично и трогательно это делать 31 августа. Сегодня я задумался, что вечер последнего дня лета всегда какой-то особенный. Думаю, максимально сильно это ощущают ребята, окончившие 11 класс в этом году. Школа, стресс от экзаменов, олимпиад, волокита с документами и поступлением позади, а впереди некая неизвестность, некий новый этап, новые знакомства, надежды, возможности. Кто-то переехал в другой город, следуя за своей мечтой... Даже не могу представить, какие мысли и возбуждение испытывают уже завтрашние студенты.

Да, кому-то экзамены предстоит сдать в следующем году. Думаю, новоиспеченные 11-классники уже начали ощущать их своими затылками (сразу проспойлерю, не переживайте, все будет хорошо). Кто-то напротив, уже учится в ВУЗе или даже давно закончил его.

Что я хочу сказать? - Мы все здесь разные. Но всех нас объединяет тяга к новому, знаниям, развитию, стремление к чему-то лучшему, своему счастью. Это и есть настоящая связь поколений — не через возраст или статус, а через общую страсть к познанию. И пусть она ведет нас дальше этой осенью. Каждого на своем жизненном этапе. Ведь осень — это не конец чего-то прекрасного, а начало нового витка развития. Я же, Ваш верный слуга, буду дальше поддерживать это сообщество и Вас на этом непростом, извилистом, тернистом, но очень интересном пути.

А сейчас, время мыть решетки и вешать их на гвоздь до следующего лета. Обнимаю 🐱❤️

ИИ-словарь (часть 2) 🍽

Продолжаем разбираться в терминах, которые постоянно встречаются в новостях об ИИ.

Сегодня копнем чуть глубже 🙂

4️⃣ Глубокое обучение — это когда нейронная сеть состоит из множества слоев (десятки или даже сотни).
Пример: когда вы загружаете фото в Google Photos, и он автоматически находит все снимки с вашей собакой — это работа глубоких нейросетей. Первые слои распознают простые формы, средние — части тела, а глубокие слои уже понимают "это именно моя собака Рекс".
5️⃣ Большая языковая модель (LLM) — ИИ-система, обученная на огромном количестве текстов и способная понимать и генерировать человеческую речь.
Пример: ChatGPT, Claude, Яндекс GPT — все это LLM. Они "прочитали" миллиарды страниц текста и научились отвечать почти как люди.
6️⃣ Генеративный ИИ — системы, которые создают новый контент: тексты, картинки, музыку, код.
Пример: Midjourney рисует картинки по описанию, GitHub Copilot дописывает код, а некоторые ИИ даже сочиняют мелодии. Они не копируют существующее, а создают что-то новое на основе изученных паттернов.
В следующем выпуске разберем, что такое "обучение с подкреплением" и "токены".

С Вас как всегда ❤️ и подписка

Обнимаю 👨‍🚀

Первая часть словаря тут. Читайте, чтобы за все шарить ✊

Как же меня это бесит 😵‍💫

Всем привет! Еще с самого начала развития канала мне казалось странным, когда авторы других сообществ запрещают писать комментарии/общаться в чатах от лица канала. Иногда просто блокировали, иногда напрямую просили общаться с личного аккаунта…

Не знаю, ребят, мне для Вас этого «хайпа» вот совсем не жалко. Пишите с каналов, не стесняйтесь, давайте коллабиться, делать совместки. Пусть это канал вопреки всему будет тем местом, где взаимная поддержка и пиар будет частью комьюнити. Я буду очень рад, если здесь, среди нас, будут зарождаться новые знакомства, которые приведут к сотрудничеству, породят новые идеи и посты.

Думаете, это возможно? Всех обнимаю 😍

❤️, если крутая идея
Репост друзьям с каналами 🙂

Галлюцинации ИИ: почему нейросети врут так уверенно? ПС: Если вдруг Вы вегетарианец лучше не читать этот пост, заранее прошу прощения 🙏

Привет, хорошки 😘 Сегодня разберем научным языком, но простыми словами, почему ЧатГПТ и другие нейросети иногда выдают ложь с таким уверенным видом. Я думаю многим здесь известен мем, где пользователь попросил ГПТшку выдать ему рецепт свиных крылышек 👨‍🍳. Для нас это абсурд с самого начала, но модель не растерялась и вплоть до мельчайших подробностей выдала крепкий ответ. Этот забавный пример стал символом "галлюцинаций" ИИ. Недавние исследования, в том числе при участии OpenAI, предлагают математическое объяснение этого феномена (сложная статья) ❓

Корень проблемы кроется в математике обучения. Представьте, Вы сдаете экзамен с вариантами ответов 🧑‍🏫. За правильный ответ дают 1 балл, за неправильный — 0 баллов, за пропуск тоже 0. Какую стратегию выберет любой студент? Правильно — будет отвечать на ВСЕ вопросы, даже если придется угадывать. Нейросети обучаются по той же логике. Исследователи доказали, если модель не может надёжно отличить факт от выдумки, вероятность галлюцинаций возрастает экспоненциально. Как со свиными крылышками — модель "знает" про куриные крылышки 🐔 и свинину 🐷, поэтому уверенно комбинирует 🐔

Другая причина — проблема редких фактов. Здесь даже идеальные данные не спасут. День рождения малоизвестного учёного встречается в обучении раз-два — модель его "запомнит" плохо, но ответит уверенно. Это как попросить рецепт блюда из несуществующих ингредиентов.

Галлюцинации со свиными крыльями была выявлена пару лет назад. Готовя пост, я проверил как с ней обстоят дела сейчас 🙂. Стало лучше. Но все равно странно. Он говорит, что свиными крылышками называют свиные ребрышки. Я решил это прогуглить и знаете что? — феномен в том, что если мы посмотрим записи 7-летней давности, например, никто свиные ребра так не называл (за исключением какой-то рекламы 2016 года, но там это был маркетинговый ход, построенный на абсурдности, чтобы привлечь внимание зрителя). Зато куча ссылок и споров об этом (крылья=ребра) датируются недавними ссылками 24-25 гг. То есть ИИ сам породил инфоповод, люди стали обсуждать это в сети, доказывать, что свиные крылья существуют, что это просто какая-то там, хитрая мясная часть, жаргонизм итп (уверен, эти аргументы тоже были сгенерированы) и теперь современная модель сегодня опирается на эти данные с чистой совестью. Ведь теперь в интернете полно информации об этом. Бумеранг вернулся 🪃 . Как эту проблему решают в компаниях? В OpenAI тестирует "process supervision" — проверку каждого шага рассуждений, а не только ответа, Anthropic (создатели Claude) внедрили Constitutional AI — модель учится говорить "не уверен".

Иногда мы сами усиливаем проблему. Например, казалось бы, что мешает учить модели на человеческих оценках (RLHF) 🎨, логично, что это должно исправлять ситуацию. Но исследования показывают, иногда после RLHF модели становятся более уверенными даже в неверных ответах. То есть калибровка уверенности может ухудшаться, а не улучшаться. Почему? Потому что люди-оценщики чаще предпочитают уверенные ответы честному "не знаю". Получается, мы сами подталкиваем ИИ отвечать убедительно, даже когда он ошибается. Ну, кстати, в нашей человеческой жизни на экзаменах эта стратегия тоже может сработать. Уверенный, но неверный ответ, бывает, удовлетворяет экзаменатора. Кто пробовал, ставьте лайк 🧐🫶

Сейчас, учёные предлагают изменить правила и внедрить "порог уверенности". Если модель уверена выше порога — пусть отвечает, если ниже — должна честно сказать "не знаю" (а вот так на экзаменах лучше не отвечать). При этом за ошибку стоит штрафовать сильнее 👮‍♂️, чем за отказ

Как защититься от галлюцинаций? Не лениться и гуглить факты + формулировать промты с порогом самостоятельно (добавляйте: "если не уверен, скажи 'не знаю'") 😏

Пишите, какие галлюцинации попадались Вам. Делитесь постом с друзьями, это лучшая поддержка канала. Обнимаю ☺️

Привет, хорошки 🙃

Сегодня день программиста. Не могу отнести себя к профессионалам этого дела, но диплом имею. Буду рад, если поддержите наше сообщество ⚡️. Сегодня идеальный день для этого☺️

Всем хороших выходных, обнимаю. Всех причастных поздравляю 🙏 ❤️

https://news.1rj.ru/str/boost/LoFiCoders