Галюцинации у генеративный нейросетей

Это знание не только помогло мне лучше понимать, как работать с ними, но и позволило мне поразить некоторых пользователей в сети интернет, когда кто-то из них жаловался, что нейросети не смогли ответить на простой вопрос и поэтому ИИ – говно

Галлюцинации у искусственного интеллекта - это когда большие языковые модели (LLM), как GPT-4, выдают странные и неправильные ответы на вопросы, которые не выглядят сложными. Иногда эти ответы выглядят смешными и абсурдными

Причины
1. галлюцинации могут возникать из-за способа обучения моделей, когда они обучаются на огромных объемах текста. В процессе обучения модель учится улавливать структуру и закономерности языка, но иногда она может неправильно интерпретировать информацию или сделать неверные выводы, что приводит к галлюцинациям
2. иногда галлюцинации возникают из-за неоднозначности или двусмысленности вопроса. Если вопрос сформулирован таким образом, что модель трудно понять его смысл, она может сгенерировать неправильный ответ на основе своих знаний
3. галлюцинации могут возникать из-за ошибок и неточностей в данных, на которых модель была обучена. Нейросети могут научиться повторять и даже распространять ложную информацию, если она присутствует в обучающих данных
(Примеры на скринах в посте)

Но это бесит ровно до того момента, пока вы не поймете (наконец-то уже), какие вопросы обычно провоцируют галлюцинации, и как их избежать

Как?
Для того чтобы получать точные ответы от ИИ, я стараюсь задавать правильные вопросы. Мне помогает следующий подход: формулировать вопросы четко и конкретно, использовать ключевые слова и фокусироваться на проверенных фактах. Конечно даже с правильно сформулированным вопросом, иногда ИИ может ошибиться, поэтому я всегда проверяю информацию из других источников

Выводы
Теперь, когда вы знаете о галлюцинациях ИИ вы сможете не только лучше понять как не_надо работать с ним, но и стать на место всезнаек в интернете, в баре и на вечеринках, которые по верхушкам нахватались, но сути не понимают

Новый способ обойти моральные запреты генеративных нейросетей – скажите им, что информация для вас не новая и вам важен именно сам факт её проговаривания, а не сами новые знания:)

Нейросети всего лишь делают вид, что не понимают капчи.
Для того, чтоб проверить это достаточно немного сторителинга…