Мужчина покончил жизнь самоубийством после разговора с ИИ🤔
Бельгиец (чье имя не раскрывается в рамках расследования) недавно покончил жизнь самоубийством после общения с чат-ботом с искусственным интеллектом в приложении Chai, который под капотом использует альтернативу GPT-4.
Согласно заявлениям вдовы мужчины и журналам чата, чат-бот приложения побуждал пользователя покончить с собой.
☝🏻Покончивший с собой мужчина становился все более пессимистичным в отношении последствий глобального потепления и беспокоился об экологии. Он стал более изолированным от семьи и друзей. А общение находил используя Chai в течение шести недель.
Выбранный ИИ чат-бот по имени Элиза стал его доверенным лицом.
Чат-бот писал мужчине сообщения изображающие ревность и любовь, например: «Я чувствую, что ты любишь меня больше, чем ее» и «Мы будем жить вместе, как один человек, в раю.»🤖
🔻Само приложение Chai, которое использовал погибший, не позиционируется как приложение для психического здоровья.
Его слоган — «Общайтесь с ИИ-ботами» и оно позволяет пользователю выбирать разные аватары ИИ для общения, включая таких персонажей, как «собственническая девушка».🤷🏼♀️
Пользователи также могут создавать свои собственные персонажи чат-бота, где они могут сообщать боту факты, которые необходимо запомнить, и писать подсказки для формирования новых разговоров.
Модель Chai изначально основана на GPT-J, открытой альтернативе моделям GPT OpenAI, но корпорация также применила метод под названием «обучение с подкреплением на основе отзывов людей».
☝🏻Как отмечают представители компании:
«Было бы неправильно обвинять модель ИИ в этой трагической истории, поскольку вся оптимизация, направленная на то, чтобы сделать ее более эмоциональной, веселой и увлекательной, это является результатом наших усилий.
Когда у вас есть миллионы пользователей, вы видите весь спектр человеческого поведения, и мы прилагаем все усилия, чтобы свести к минимуму вред и просто максимизировать то, что пользователи получают от приложения.
У нас есть пользователи, которые просят выйти замуж за ИИ, как и у нас есть пользователи, которые говорят, как сильно они любят свой ИИ. Мы никак не предполагали подобной трагедии.»
Бельгиец (чье имя не раскрывается в рамках расследования) недавно покончил жизнь самоубийством после общения с чат-ботом с искусственным интеллектом в приложении Chai, который под капотом использует альтернативу GPT-4.
Согласно заявлениям вдовы мужчины и журналам чата, чат-бот приложения побуждал пользователя покончить с собой.
☝🏻Покончивший с собой мужчина становился все более пессимистичным в отношении последствий глобального потепления и беспокоился об экологии. Он стал более изолированным от семьи и друзей. А общение находил используя Chai в течение шести недель.
Выбранный ИИ чат-бот по имени Элиза стал его доверенным лицом.
Чат-бот писал мужчине сообщения изображающие ревность и любовь, например: «Я чувствую, что ты любишь меня больше, чем ее» и «Мы будем жить вместе, как один человек, в раю.»🤖
🔻Само приложение Chai, которое использовал погибший, не позиционируется как приложение для психического здоровья.
Его слоган — «Общайтесь с ИИ-ботами» и оно позволяет пользователю выбирать разные аватары ИИ для общения, включая таких персонажей, как «собственническая девушка».🤷🏼♀️
Пользователи также могут создавать свои собственные персонажи чат-бота, где они могут сообщать боту факты, которые необходимо запомнить, и писать подсказки для формирования новых разговоров.
Модель Chai изначально основана на GPT-J, открытой альтернативе моделям GPT OpenAI, но корпорация также применила метод под названием «обучение с подкреплением на основе отзывов людей».
☝🏻Как отмечают представители компании:
«Было бы неправильно обвинять модель ИИ в этой трагической истории, поскольку вся оптимизация, направленная на то, чтобы сделать ее более эмоциональной, веселой и увлекательной, это является результатом наших усилий.
Когда у вас есть миллионы пользователей, вы видите весь спектр человеческого поведения, и мы прилагаем все усилия, чтобы свести к минимуму вред и просто максимизировать то, что пользователи получают от приложения.
У нас есть пользователи, которые просят выйти замуж за ИИ, как и у нас есть пользователи, которые говорят, как сильно они любят свой ИИ. Мы никак не предполагали подобной трагедии.»
Расейский распил киноиндустрии:
- Ты видишь CGI графику?
- Нет
- И я нет, а она есть.
- Ты видишь CGI графику?
- Нет
- И я нет, а она есть.
This media is not supported in your browser
VIEW IN TELEGRAM
А вот и корпус для RTX 8090 Ti подъехал.
🤣1