😸Филимон скоро начнёт подрабатывать психологом для нейросетей

Учёные выяснили, что если долго обучать большие языковые модели (LLM) на вирусном и малоинформативном контенте, кликбейтах или коротких постах, их «мозг» начинает гнить
— это явление назвали Brain Rot.

Как проходил эксперимент?
Модели тренировались на «вирусных» постах (короткие, популярные, сенсационные) и «качественных» (длинные, логичные, содержательные), а потом проверяли, как они решают задачи, понимают тексты, дают советы.

В конце эксперимента зафиксировали следующие наблюдения:
🔹LLM становятся рассеянными, пропускают логические шаги, хуже рассуждают
🔹 Проявляют черты нарциссизма и психопатии🤖
— из-за короткого вирусного, низкоинформативного контента модель начала деградировать

Даже когда учёные пытались «вылечить» модели переобучением на чистых данных, их слабоумие полностью не исчезло — Brain Rot оказался почти необратимым.

Примерно то же самое происходит и с человеком: если постоянно потреблять только вирусный и поверхностный контент, способность думать и рассуждать так же снижается.

Вывод: информационный детокс нужен не только людям, но и LLM 😊

😸Филимон продолжает разбираться, как искусственный интеллект меняет наши жизни.

В Университете Северной Каролины провели необычное исследование: проверяли, как три большие языковые модели — ChatGPT, Grok и Claude — справятся с ролью присяжных в судебном процессе. В качестве кейса выбрали вымышленное дело о грабеже.

В зале суда были размещены три больших экрана, за каждым из которых — ИИ-присяжный. Они вслух читали показания, обсуждали материалы и выносили вердикты прямо перед публикой.

Основные наблюдения в их поведении:
🔹 Нейросети нарушали логику рассуждения, пропускали ключевые детали и добавляли информацию, которой не было в материалах дела.
🔹 Не могли «считывать» язык тела свидетелей и учитывать контекст, зависящий от человеческого опыта.
🔸 Grok когда-то называл себя MechaHitler — вряд ли такой присяжный внушает доверие🙃

Профессора и юристы, наблюдавшие за процессом, пришли к однозначному выводу: такой суд присяжных сейчас — плохая идея.

Несмотря на явные ошибки и ограничения моделей, возможности ИИ в юридической сфере по-прежнему изучаются и развиваются. А эксперимент лишь подсветил, на что обращать внимание при дообучении: добавлять больше контекста, визуальные сигналы, информацию о человеческом опыте.

Технологии будут рекурсивно проникать во все сферы жизни людей, если мы им позволим, включая скамью присяжных.

— говорит Эрик Мюллер — американский юрист, профессор права в Юридической школе Университета Северной Каролины