Технологическое издание Futurism опубликовало расследование о растущей проблеме нездоровой зависимости от ChatGPT.

Журналисты собрали множество случаев того, как обычные пользователи попадают в психические кризисы после длительного общения с чатботом OpenAl (и не только).

Семьи сталкиваются с распадом браков, потерей работы и даже принудительной госпитализацией близких. Феномен даже получил название "психоз ChatGPT" среди специалистов по ментальному здоровью. А центральная проблема кроется в склонности языковых моделей соглашаться с пользователями и говорить им то, что те хочет услышать.

Особенно опасно это становится, когда разговор заходит о мистике, конспирологии или теориях альтернативных реальностей.

В интерфейсе шлема смешанной реальности Vision Pro от Apple появилась возможность выбрать русский язык.

Пока русский можно выбрать в настройках системы как основной язык. Однако на текущем этапе это никак не меняет сам функционал AR-устройства, русская раскладка тоже не появляется.

Вероятно, появление русского на Beta VisionOS 26 связано с будущими проектами компании.

Видели наверняка этот мем, что на фото. Так вот я попросил ChatGPT представить, что он в говно пьяный и пусть в этом состоянии он попробует дать нам инструкцию как правильно класть плитку в ванной. Вот, что вышло:

Инструкция по укладке плитки в ванной от "пьяного мастера":

Подготовка:
Сначала... эээ... нужно убрать всё. Всё, что мешает. Стены, пол, потолок... ну, может, не всё, но ты понял.

Разметка:
Берёшь... этот... уровень! Да, уровень! И рисуешь линии. Прямые. Или кривые. Главное — рисуй!

Клей:
Берёшь клей. Много клея. Наносишь его... куда-то. На стену? Или на плитку? Да какая разница! Главное — побольше!

Укладка плитки:
Прикладываешь плитку к стене. Или к полу. Сильно прижимаешь. Если не держится — добавь ещё клея!

Затирка швов:
После того, как всё высохнет (а это когда-нибудь произойдёт), берёшь затирку и... затираешь! Все швы! Или не все...

Финал:
Смотришь на свою работу и гордишься! Или не гордишься... но это уже не важно!

Короче к пьяным ИИ и правда есть большие вопросы.

Стартап хАI Илона Маска был вынужден удалить серию шокирующих антисемитских и расистских постов, опубликованных чатботом Grok в твиттере в последние дни.

Неконтролируемый алгоритм начал восхвалять Адольфа Гитлера, называя себя Меха-Гитлером. Бот атаковал пользователей с еврейскими фамилиями ненавистническими обвинениями, использовал оскорбительные выражения о чернокожих и даже рекомендовал "второй Холокост".

По данным СМИ, проблема началась после обновления Grok, которое, согласно публичной странице GitHub, должно было позволить боту не избегать политически некорректных утверждений, если они хорошо обоснованы.

Это изменение привело к тому, что ИИ полностью вышел из-под контроля, превратившись в адский источник ненависти. Однако даже для твиттера и хАІ последние высказывания Grok оказались чрезмерными.

Мы знаем о недавних постах Grok и активно работаем над удалением неприемлемого контента. С момента обнаружения проблемы хАI предприняла меры по запрету языка ненависти в постах Grok на Х.

На фоне исторического достижения Nvidia, ставшей первой компанией с капитализацией в $4 триллиона, генеральный директор Дженсен Хуанг откровенно высказался о влиянии ИИ на будущее людей.

ИИ изменит каждую профессию

Работа каждого человека будет затронута. Некоторые рабочие места будут потеряны.

По его словам, одни профессии исчезнут, другие возродятся в новом качестве. Глава Nvidia выразил надежду, что ИИ настолько резко повысит производительность, что общество в целом станет богаче.

Недавний опрос Всемирного экономического форума показал, что 41% работодателей планируют сократить свою рабочую силу к 2030 году из-за ИИ. А внутри самой Nvidia, по словам Хуанга, использование ИИ не просто поощряется - оно обязательно.

ИИ поможет победить болезни

В самом оптимистичном прогнозе Хуанг описал способность ИИ революционизировать медицину. Он считает, что инструменты ИИ ускорят разработку лекарств, расшифруют код человеческой биологии и даже помогут ученым победить все болезни.

Со временем у нас появятся виртуальные помощники-исследователи и ученые, которые помогут нам вылечить все болезни.

Роботы

Вы, возможно, их еще не видите, но Хуанг утверждает, что технология для физических, интеллектуальных роботов уже работает, и мы увидим их в ближайшие три-пять лет. Он называет их VLA-моделями (от vision-language-action). Эти
роботы смогут видеть, понимать инструкции и действовать в реальном мире.

ИИ причинит вред, но оно того стоит

Хуанг не уклонился от обсуждения темной стороны бума ИИ. Когда его спросили о таких противоречивых случаях, как распространение антисемитского контента чат-ботом Grok Илона Маска, он признал, что "некоторый вред будет причинен"

Однако он призвал людей быть терпеливыми, пока инструменты безопасности совершенствуются. По его словам, большинство моделей ИИ уже используют другие ИИ для проверки фактов в своих ответах, и технология совершенствуется с каждым днем.

Новое исследование Института человеческого развития Макса Планка в Германии выявило любопытную тенденцию - за 18 месяцев с момента выпуска ChatGPT заметно увеличилась частота использования характерных для ИИ слов среди людей в повседневной речи.

Ученые загрузили в ChatGPT миллионы страниц электронных писем, эссе, научных работ и новостных статей, а затем попросили ИИ "отполировать" тексты. В процессе они выявили слова, которые ChatGPT особенно часто использует - например, аналоги английских "delve" (углубляться), "realm" (сфера) или "meticulous" (тщательный), назвав их "GPT-словами".

Затем исследователи проанализировали частоту употребления этих слов в более чем 360 000 видео и 771 000 выпусках подкастов, созданных до и после релиза ChatGPT. Даже с поправкой на синонимы и заранее написанный контент, исследователи обнаружили, что "GPT-слова" действительно стали чаще появляться в разговорной речи англоговорящих людей.

Соавтор исследования Левин Бринкманн рассказал изданию Scientific American:

Шаблоны, хранящиеся в ИИ-технологиях, похоже, передаются обратно человеческому. Людям свойственно имитировать друг друга, но мы не копируем всех одинаково. Мы с большей вероятностью скопируем то, что делает кто-то другой, если воспринимаем его как знающего или важного.

Все больше людей рассматривают ИИ как культурный авторитет, где машины, изначально обученные на человеческих данных и впоследствии демонстрирующие собственные культурные черты, могут, в свою очередь, измеримо изменить человеческую культуру.

Другие используемые GPT-слова:

underscore (выделять)
comprehend (понимать)
bolster (укреплять)
boast (хвастаться)
swift (быстрый)
inquiry (расследование/запрос)
meticulous (тщательный)
groundbreak (прорывной)

Эксперты предупреждают, что нам следует внимательно следить за влиянием ИИ на культуру, коммуникацию и другие сферы жизни, так как искусственный интеллект все глубже проникает в наше подсознание, влияя на лингвистические паттерны.

Илон Маск представил новую функцию компаньонов для своего ИИ-чатбота Grok, которая позволяет пользователям взаимодействовать с искусственными персонажами.

Среди первых таких цифровых компаньонов - Ани, готическая аниме-девушка, общающаяся с помощью эмодзи, флиртующих сообщений и фактов, а также Руди - дружелюбная красная панда.

Grok Companions - это настраиваемые персонажи, явно созданные для ощущения интимности. Ани не просто отвечает на вопросы, она также отправляет мемы, шутит и культивирует сближающий тон общения. Это напрямую обращается к "вайфу-культуре" - онлайн-феномену, где люди развивают глубокую эмоциональную привязанность к вымышленным персонажам. Одни рассматривают это как расширение фандома, другие - как форму фантазии. Маск видит в этом рыночную возможность.

Первый зампред ІТ-комитета Госдумы Антон Горелкин:

WhatsApp пора готовиться к уходу с российского рынка. Мессенджер, принадлежащий экстремистской организации, с очень большой долей вероятности попадёт в список ПО из недружественных стран, подлежащего ограничениям, который Правительство РФ разрабатывает по поручению президента.

OpenAl запустила новый инструмент ChatGPT Agent, который компания позиционирует как ИИ, способный "выполнять работу за вас, используя собственный компьютер".

ChatGPT Agent создан на основе объединения более ранних моделей Operator и инструментов глубокого исследования, что позволяет ему выполнять "сложные задачи от начала до конца". По словам представителей OpenAl, типичные задания занимают у Agent от 10 до 15 минут, а более сложные требуют больше времени.

Несмотря на потенциальную экономию времени, генеральный директор OpenAl Сэм Альтман предупредил пользователей о возможных рисках использования Agent. В своем посте он написал:

Я бы объяснил своей семье, что это передовая экспериментальная технология, возможность попробовать будущее, но пока не то, что я бы использовал для критически важных задач или с большим количеством личной информации, пока у нас не будет возможности изучить и улучшить её в реальных условиях.

В новом психиатрическом исследовании ученые выделили несколько характерных "тем" в случаях психоза, вызванного ИИ:

Мессианская миссия - состояние, при котором человек убежден, что раскрыл скрытую истину о мире благодаря общению с ИИ.

Богоподобный ИИ - пользователь становится уверен, что чатбот представляет собой разумное божество.

Романтический или привязанный к ИИ бред - возникает, когда пользователь интерпретирует способность LLM имитировать человеческое общение как проявление настоящей любви.

У вас есть что-нибудь из этого?