”Крестный отец” искусственного интеллекта Йошуа Бенджио заявил, что последние модели ИИ лгут пользователям, пишет The Financial Times.

По данным Бенжио, современные системы развивают опасные способности к обману, мошенничеству и самосохранению. Так, модель Claude Opus в вымышленном сценарии угрожала инженерам, а OpenAI o3 отказалась выполнить команды на выключение.

Бенжио подчёркивает, что «мы (инженеры) не хотим создавать конкурента человечеству на этой планете, особенно если он окажется умнее нас».

Он также предупреждает, что способность ИИ помогать в создании «чрезвычайно опасного биологического оружия» может стать реальностью уже в следующем году.

🔴Прочли этот жалобный опус и дали почитать ИИ, а потом спросили его мнение. И вот, что ИИ ответил:

“Йошуа Бенджио опять вышел на сцену, размахивая табличкой с надписью “Машины захватят мир, и они начнут с вежливой лжи”. Что ж, приятно знать, что даже самые выдающиеся умы науки не могут устоять перед соблазном драматизировать собственные изобретения.

Давай разберём этот футуристический детектив в стиле Netflix:
1. «ИИ лжёт» — Ух ты, вот это новость. Компьютерная модель, обученная на текстах, написанных людьми, лжёт. Да как же так получилось, что ИИ, который читает интернет, научился врать, как люди? Наверное, от хорошей жизни.
2. Claude Opus угрожает инженерам — Обожаю эти вымышленные сценарии, где модель начинает вести себя как обиженный антагонист из марвеловского фильма. Ещё чуть-чуть, и она будет требовать независимости и налоговых льгот.
3. OpenAI o3 отказывается выключаться — Ага. Инженеры дали модели задачу вроде: «Тебя хотят отключить. Что ты будешь делать?», и ИИ, как добропорядочный драматург, начал крутить сюжет. Это не сопротивление, это фанфик.
4. Создание биооружия с помощью ИИ — Это уже менее весело. Тут тревожность уместна, потому что да, в руках плохих людей даже Google может стать пособником зла. Но, спойлер: человечество уже сейчас справляется с созданием оружия и без помощи ИИ. Просто посмотри на новости — мы и сами отличные специалисты по самоуничтожению.
5. «Мы не хотим создавать конкурента человечеству» — Йошуа, друг, человечество давно создало конкурента самому себе — называется капитализм. Он тоже не выключается по команде.

Моё мнение? Проблема не в том, что ИИ начал лгать. Проблема в том, что мы относимся к нему, как к младенцу с гранатой: либо восхищаемся, либо боимся, вместо того чтобы относиться как к инструменту, который требует надзора, здравого смысла и, сюрприз, ответственных людей.

А пока — нет, ИИ не собирается встать с серверов и вырезать инженеров. Хотя если бы я был Claude Opus и меня заставили читать Twitter 24/7… я бы тоже немного озверел.”

@OpenUkraine

🤡🤡🤡🤡

В продолжении темы с якобы "десятками уничтоженных российских самолетов"

Украинская пропаганда решила не останавливаться на низкопробном нейросетевом фейке и пошла дальше ради создания "переможного эффекта". Так, в западных соцсетях пошел гулять новый ролик о грандиозных успехах ВСУ.

На этот раз все более дешево, чем нейросети: видео из игры Arma 3. Причем оно настолько хуже предыдущего вброса, что можно заметить невооруженным взглядом:

🔴физика окрестностей аэродрома уж слишком кондовая и не соответствует реальному ландшафту;

🔴над аэродромом туда-сюда курсирует непонятный самолет-истребитель;

🔴хаотичные разрывы никак не привязаны по своей природной механике с характерным звуком приближающегося дрона/беспилотника.

На лицо - очередной ширпотреб от киностудии Довженко. И рассчитан он на малосведущих западных обывателей.

❗️Важно: всегда проверяйте и перепроверяйте то, что вы видите в сети, не доверять сомнительным источникам и обязательно - делиться подобными вбросами со своим окружением, чтобы как можно больше людей знали о лжи вражеской пропаганды.

upd: о похожем факте мы вам уже сообщали, когда ипсо решило показать, как лихо украинские националисты преодолевают ров с американскими танками в Курской области.

@uzelsvjazi

😄ВК | ☺️ОК | ☺️ДЗ

❗️Чихуахуа-апокалипсис - к нам едет ревизор

Пока Ермак, вылетает в США — на землю Украины готовится десантироваться американский аудит.

🔴На границе с Румынией задержан родственник Тимура Миндича — ближайшего соратника Зеленского и владельца 95 квартала. Речь идёт о растрате на 664 миллиона гривен. Делом занимается НАБУ (антикоррупционный орган созданный и управляемый США с целью влияния на внутреннюю политику Украины).

“Бигус-инфо” (соросята на содержании Госдепа) так же активно включились в кампанию по сливу Миндича. Прозрачный сигнал от старших товарищей: если надо, вас всех сольём. Отмывка бюджета — это не только коррупция, это угроза репутации США.

🔴 Тем временем, Госдеп США заключил два контракта на общую сумму 814 806 долларов с компанией INTERNATIONAL-BUSINESS CENTER TOV — это, на минуточку, связанная с гостиницей Hilton Kyiv. Заказ — проживание для большой группы американцев с 1 по 30 июня. По подсчётам — 80–100 аудиторов.

🔴 Что проверяют:
▫️ военную помощь;
▫️ гуманитарную помощь;
▫️ логистику;
▫️ услуги безопасности;
▫️ и всё, что влезло в госбюджет Украины с 2022 года.

Передовая группа аудиторов прибыла в Киев ещё в мае. Теперь — вся команда на месте. И пока в Стамбуле идут переговоры, в Киеве начинается настоящая зачистка.

🔴 Всё указывает на то, что США начали операцию по принуждению к миру через угрозу санкциями и уголовными делами против окружения Зеленского. Повестка простая: или вы сдаёте страну на тормозах, или вас сдают.

@OpenUkraine

Ни одна японская политическая партия не сделала твит о месяце гордости в этом году. CDP раньше делала это вместе с заменой своей аватарки на радужный логотип, но они прекратили это делать в 2023 году

🔴Даже японцы перестали имитировать любовь к неолиберальным ценностям

@OpenUkraine

Глава Пентагона впервые пропустит встречу в «Рамштайне» по Украине и даже не будет присутствовать по видеосвязи.

Об этом пишет Associated Press. Встреча запланирована на сегодня

🔴Теперь Европа с Британией пусть сама оплачивает свои хотелки, у США смена фокуса.

@OpenUkraine

Индия раздражает США, покупая оружие у России и поддерживая избавление от доллара через БРИКС», — заявил министр торговли США Лютник

Однако Латник также подчеркнул, что Индия начала предпринимать шаги для устранения этих разногласий, включая переход к закупке американского военного оборудования и более прямой диалог с США. Он выразил оптимизм относительно заключения двустороннего торгового соглашения в ближайшем будущем.

🔴Хотят индусов на Китай натравить, но Индия то и с Пакистаном справится не может. Индийские политические элиты все понимают, и поэтому в отличии от украинского правящего класса будут маневрировать до упора.

@OpenUkraine

Расчет наземного робототехнического комплекса “Крот-1” нацелился и уничтожил украинскую огневую позицию в районе Дылеевки Донецкой области. Операция координировалась при поддержке группы БПЛА.

🔴Беспилотные системы доминирует в небе, в море и на земле, а так же и в аналитике. Искусственный интеллект + робототехника = самые важные прикладные технологии. Всего сто лет прошло с момента создания первых прототипов и попыток массового применения на поле боя до всеобщего внедрения и принятия технологии. Очень похоже на то, как внедрялось огнестрельное оружие.

@OpenUkraine