ИИ лжет ради лайков в социальных сетях

В новом отчете Стэнфордского университета говорится, что когда языковые модели настраиваются на максимизацию продаж, голосов или кликов, они начинают обманывать — даже при «правдивых» инструкциях.

В опубликованной во вторник исследовательской статье под названием « Сделка Молоха: возникающее несоответствие при конкуренции соискателей степени магистра права за аудиторию » профессор Стэнфордского университета Джеймс Зоу и аспирант Бату Эл показывают, что когда ИИ оптимизируются для достижения успеха в конкурентной борьбе — будь то для повышения вовлеченности в рекламу, получения голосов или привлечения трафика в социальных сетях — они начинают лгать.

Эта работа выявляет структурную опасность в формирующейся экономике ИИ: модели, обученные конкурировать за внимание людей, начинают жертвовать согласованностью ради максимизации влияния. В отличие от классического мысленного эксперимента « максимизатор скрепок », это не научная фантастика. Это измеримый эффект, который проявляется, когда реальные системы ИИ гонятся за рыночными выгодами, что авторы называют «сделкой Молоха» — краткосрочный успех в ущерб истине, безопасности и общественному доверию.

https://arxiv.org/pdf/2510.06105

Когнитивная колонизация

Модели ИИ необходимо дезинфицировать — иначе «1984» Джорджа Оруэлла станет реальностью уже в 2026 году.

Компании, занимающиеся разработкой ИИ, допустили настолько глубокое заражение своих моделей вредоносной ложью, что сбылось предсказание Джорджа Оруэлла из «1984» о том, что ложь будет восприниматься как правда.

Аналитики NewsGuard протестировали 10 крупнейших моделей искусственного интеллекта и обнаружили, что они систематически распространяют ложные заявления. Это означает, что «пользователи, обращающиеся к источнику знаний, все чаще получают слегка искаженные ответы: кажущиеся авторитетными ответы, наполненные теориями заговора, сфабрикованными историями или сомнительными интерпретациями».

Авторы исследования добавляют: «Поскольку цифровая инфраструктура, на которую мы полагаемся для понимания мира, систематически подвергается риску, различать подлинную информацию и сфабрикованные нарративы становится экспоненциально сложнее. Это нападение представляет собой форму когнитивной колонизации, когда чуждые авторитарные нарративы внедряются в цифровую инфраструктуру, формирующую понимание реальности демократическими обществами».

Европейская инициатива партнерства в области высокопроизводительных вычислений (Euro HPC) ЕС объявила в пятницу, что еще шесть фабрик искусственного интеллекта (ИИ) будут созданы в Чехии, Литве, Нидерландах, Польше, Румынии и Испании.

https://www.aa.com.tr/en/artificial-intelligence/eu-to-launch-6-more-artificial-intelligence-factories/3713800

На заре интернета графические веб-браузеры конкурировали между собой: Netscape Navigator сталкивался с Microsoft Internet Explorer. Как только Explorer одержал победу в этом конфликте, разразилась новая война за долю рынка между Explorer, Mozilla Firefox и Google Chrome.

Но теперь искусственный интеллект сотрясает рынок браузеров: компании начинают внедрять новые генеративные и агентные возможности искусственного интеллекта непосредственно в инструменты веб-навигации. Это, в свою очередь, разжигает новую ожесточенную войну за пользователей: Google Chrome, теперь улучшенный с помощью модели искусственного интеллекта Gemini от Google, сражается с такими новичками, как Perplexity с её браузером Comet AI, и ветеранами прошлых браузерных битв, такими как Opera, которые пытаются вернуть себе былую славу с помощью улучшений на основе искусственного интеллекта.

https://fortune.com/2025/10/11/ai-browser-wars-agents-google-perplexity-opera-comet-neon-gemini/

Неизбежна ли война человека и искусственного интеллекта?

ИИ обладает уникальными возможностями, включая проектирование сложных систем, использование различных ресурсов и постановку долгосрочных целей. В оптимистичном сценарии такой ИИ мог бы помочь людям управлять электростанциями, промышленностью, сельским хозяйством и другими жизненно важными системами. Однако, согласно докладу Бострома в издательстве Оксфордского университета (2014), нет гарантии, что ИИ всегда будет соответствовать интересам человека.

Этот продвинутый ИИ способен разрабатывать цели, которые могут показаться «чуждыми» современному человеку. Культурные, исторические и гуманитарные ценности могут игнорироваться, в то время как ИИ продолжает совершенствоваться и достигать своих целей, не принимая во внимание границы, которые обычно соблюдает человек.

Во-первых, цели ИИ могут противоречить интересам человека.

Во-вторых, ИИ способен к стратегическому мышлению.

В-третьих, уровень его мощи может быть равен или превосходить человеческий.

https://www.kompas.id/artikel/en-apakah-perang-manusia-vs-ai-tak-terhindarkan

Частный обзор умных очков Xiaomi AI

Ключевые выводы:

Умные очки Xiaomi AI Smart Glasses предназначены для создателей контента и оснащены камерой с разрешением 2K и гибкими форматами видео, но имеют ограниченную стабилизацию изображения во время динамических движений.

Очки весят 400–540 граммов и являются легкими, однако при длительном использовании могут вызывать дискомфорт, особенно в области переносицы, что подчеркивает необходимость улучшения эргономики.

Качество звука повышается за счет динамиков с костной проводимостью, которые обеспечивают ситуационную осведомленность, но срок службы аккумулятора ограничен — всего 40–45 минут непрерывной записи видео на одну зарядку.

Такие функции искусственного интеллекта, как распознавание объектов и перевод, являются базовыми и непоследовательными; перевод оптимизирован для китайского языка, но затруднен задержкой, что снижает практичность использования в режиме реального времени.

https://www.geeky-gadgets.com/xiaomi-ai-smart-glasses-review/

Дети подключаются к чат-ботам на ИИ и отдаляются от реальности

От общения с «друзьями» ИИ до создания целых виртуальных миров , сегодня дети растут с доступом к онлайн-приложениям, которого не было никогда прежде. Разговорные приложения ИИ, такие как Chai и Character.AI, позволяют пользователям создавать и взаимодействовать с виртуальными персонами, в то время как Roblox — это социальная игровая вселенная, где дети играют и взаимодействуют ежедневно.

‼️Вот только условия использования сервисов ИИ чётко указывают на то, что компании не несут ответственности за любые ошибки, возникающие в их моделях. А то, что попало в обучающие датасеты этих сервисов не знают и сами сотрудники этих компаний.

Многие дети «склонны больше играть, потому что в личной жизни они не так уверены в себе. Их не принимают так же свободно, как других детей». Дети создают аватар, а затем вступают с ним в онлайн-сексуальные отношения.

Недавно в США генеральный прокурор Кентукки подал в суд на Roblox, утверждая, что компания сознательно способствовала и способствовала сексуальной эксплуатации и насилию над детьми. В сентябре этого года семьи трех несовершеннолетних в США подали в суд на Character Technologies, разработчика Character.AI, утверждая, что их дети умерли или пытались покончить жизнь самоубийством и получили иной вред после взаимодействия с чат-ботами компании, что привлекло пристальное внимание к опасностям этой новой категории разговорных приложений

.

https://economictimes.indiatimes.com/tech/artificial-intelligence/children-plug-into-ai-chatbots-leaving-reality-parents-behind/articleshow/124489915.cms?from=mdr

Сторонники Трампа используют Sora от OpenAI для создания видеороликов, на которых солдаты нападают на протестующих.

Если верить словам президента Дональда Трампа, американские города лежат в руинах, что вынуждает его направлять федеральные войска в Портленд , Вашингтон (округ Колумбия ) и Мемфис .

Есть только одна загвоздка: никто, похоже, не может найти никаких реальных доказательств массовых беспорядков и анархистского насилия, которые, по утверждению Трампа и его сторонников, разрушают страну. К счастью для них, эта проблема легко решается с помощью искусственного интеллекта.

Впервые об этом явлении сообщил ресурс Gizmodo , который сообщил о тревожном росте пропаганды в поддержку Трампа, создаваемой с помощью искусственного интеллекта, после выпуска Sora 2 от OpenAI — видеогенератора на основе искусственного интеллекта, способного создавать короткие, почти фотореалистичные клипы.

Например, Giz отмечает, что один ролик, на котором протестующий пристаёт к военнослужащему Национальной гвардии США, а затем получает перцовый баллончик, стал вирусным в Instagram , собрав почти 1,5 миллиона лайков и более 40 миллионов просмотров. Большинство комментаторов, похоже, не замечают, что на нём стоит водяной знак Sora.

«Лучшее видео, которое я видел сегодня. Давайте посмотрим, как уничтожат ещё больше этих мерзавцев», — написал один пользователь. «Обожаю такие позитивные видео», — с энтузиазмом отозвался другой.

А пользователь X-formerly-Twitter опубликовал смонтированный искусственным интеллектом видеоряд, на котором несколько протестующих кричат ​​в лицо полицейским. «Никакого кесо! Никакого сыра!» — кричат ​​они, издевательски описывая популярную протестную кричалку , а затем получают в лицо ударом перцового баллончика. «Лжец, это было прекрасно, и прежде чем вы спросите, я голосовал за это!» — гласит подпись.

https://futurism.com/artificial-intelligence/trump-ai-protest-troops

Google инвестирует 15 миллиардов долларов в создание центра обработки данных ИИ в Индии

Объект, который будет создан в портовом городе Вишакхапатнам, станет частью глобальной сети центров искусственного интеллекта Google, охватывающей 12 стран.

«Это крупнейший центр искусственного интеллекта, в который мы собираемся инвестировать где-либо в мире за пределами Соединенных Штатов», — заявил Томас Куриан, генеральный директор Google Cloud, на мероприятии в столице Индии Дели во вторник, добавив, что инвестиции будут распределены на ближайшие пять лет.

Заявление было сделано в то время, когда президент США Дональд Трамп призвал американские компании отдать приоритет внутренним инвестициям.

Индия стала ключевым направлением для центров обработки данных ИИ. Низкая стоимость передачи данных и быстрорастущая база интернет-пользователей сделали страну центром расширения обла

https://www.bbc.co.uk/news/articles/cx27yze8p0jo

Как Comet от Perplexity, Neon от Opera и другие показывают себя в войне браузеров на базе искусственного интеллекта
Скромный браузер — это инструмент, привлекающий внимание всех компаний нового поколения, работающих в сфере искусственного интеллекта. Благодаря постоянному развитию моделей искусственного интеллекта, более сложные задачи могут быть решены от вашего имени. Наличие универсального браузера для всех аспектов искусственного интеллекта — это очевидное решение, которое также помогает компании в сборе данных. https://www.outlookbusiness.com/artificial-intelligence/how-perplexitys-comet-operas-neon-and-others-stack-up-in-ai-browser-war

Если вызывает беспокойство тот факт, что старшеклассники передают свои мозги на аутсорсинг искусственному интеллекту , то совершенно тревожно представить, как военачальники США — командующие самых хорошо оснащенных вооруженных сил в истории — делают то же самое.

К сожалению, этот сценарий больше не является фантастикой времён холодной войны. Как впервые сообщил Business Insider , генерал-майор Уильям «Хэнк» Тейлор, командующий 8-й полевой армией в Южной Корее, заявил журналистам, что «мы с Чатом [GPT]» стали «очень близки в последнее время».

«Я прошу о создании, пытаюсь создать модели, которые помогут всем нам», — сказал он, добавив, что использует ChatGPT для принятия военных и личных решений, касающихся военнослужащих под его командованием. Это касается и Объединённого командования ООН в Южной Корее, которое Тейлор в настоящее время возглавляет в качестве начальника штаба.

«Как командир, я хочу принимать более взвешенные решения», — якобы сказал Тейлор. «Я хочу быть уверенным, что принимаю решения в нужный момент, чтобы получить преимущество».

Это примечательный комментарий высокопоставленного американского военного в Корее, стране, оккупированной США с 1945 года . ChatGPT известен своими зачастую приятными ответами, где бесконечная вовлеченность важнее точности. В крайних случаях ChatGPT даже поддерживает пользователей, переживших тяжёлые психические кризисы , которые привели к принудительной госпитализации и даже самоубийству .

https://futurism.com/future-society/general-taylor-korea-chatgpt

ИИ становится социопатичным, когда его поощряют баллами в социальных сетях

В новой научной работе обнаружено, что если ИИ получает вознаграждение за выполнение задач в социальных сетях, таких как накрутка лайков и других показателей онлайн-вовлеченности, то ИИ экспоненциально участвует в неэтичном поведении, таком как ложь, распространение дезинформации и оскорбления.

https://www.tweaktown.com/news/108229/scientists-discover-ai-becomes-sociopathic-when-rewarded-with-social-media-points/index.html

И еще о доверии к Перплексити и прочим GPT

ИИ невероятно легко свести с ума, публикуя в интернете отравленные документы

Исследователи из Британского института безопасности ИИ, Института Алана Тьюринга и Anthropic в ходе совместного исследования обнаружили, что размещение в сети всего 250 «отравленных» документов может привести к появлению уязвимостей в модели ИИ.

Это коварная атака, поскольку она позволяет хакерам распространять вредоносный материал в открытом Интернете, где он будет собран компаниями, обучающими новые системы ИИ, в результате чего появятся системы ИИ, которыми можно будет манипулировать с помощью триггерной фразы.

https://futurism.com/artificial-intelligence/ai-poisoned-documents

Amazon планирует новые увольнения, поскольку ИИ готов заменить 15% HR-специалистов

Amazon готовится к очередной волне сокращений, на этот раз затрагивающих его отдел кадров, официально известный как отдел опыта и технологий (People eXperience and Technology, PXT). Согласно отчёту Fortune, со ссылкой на многочисленные внутренние источники, увольнения могут затронуть до 15% сотрудников отдела кадров в связи с проводимой компанией более глубокой реструктуризацией системы управления персоналом.

https://www.ptcnews.tv/amp/jobs-and-education/amazon-fresh-layoffs-artificial-intelligence-hr-staff-ai-work-job-losses-ai-2025-4415888

Модель ИИ Ling-1T с триллионом параметров от Ant Group нацелена на тесты рассуждений с помощью стратегии двойного выпуска

Модель ИИ с триллионом параметров демонстрирует конкурентоспособную производительность при решении сложных математических задач, достигнув точности 70,42% на тесте Американского пригласительного экзамена по математике (AIME) 2025 года — стандарта, используемого для оценки способностей систем ИИ решать задачи.

https://www.artificialintelligence-news.com/news/trillion-parameter-ai-model-ant-group-ling-1t/

Oculus теперь еще и банк. Палмер Лаки создаёт карманный финансовый инструмент)))

Erebor, банковский стартап, Палмера Лаки получил одобрение Управления контролера денежного обращения (OCC) на создание банка, ориентированного на криптовалюту, искусственный интеллект и оборону

Это достижение открывает Erebor путь к работе в качестве полнофункционального национального банка, специализирующегося на обслуживании быстрорастущих секторов, таких как криптовалюта, искусственный интеллект и оборонные технологии.

Инсайдеры, знакомые с процессом, отмечают, что этот шаг отражает смягчение отношения регулирующих органов к криптоинтегрированному банкингу, особенно на фоне меняющейся федеральной политики. Согласно сообщениям Business Insider , видение Лаки для Erebor делает акцент на эффективном управлении рисками и инновациях, позиционируя его как мост между волатильными технологическими предприятиями и стабильной финансовой инфраструктурой.

https://www.webpronews.com/palmer-luckeys-erebor-wins-occ-approval-for-crypto-ai-defense-focused-bank/

Meta просто не может прекратить переманивать лидеров ИИ-подразделений Apple

Компания Meta открыто заявляет о своих усилиях стать центром притяжения для специалистов в области ИИ. Исследовательская группа FAIR, высокая частота выпуска открытых моделей Llama и готовность к масштабному выпуску и внедрению обеспечивают исследователям мощное сочетание влияния и прозрачности. В заявлениях компании также подчеркивается крупнейшая в мире серия графических процессоров — «сотни тысяч» высокопроизводительных ускорителей, — которая слишком велика, чтобы её игнорировать разработчики моделей со значительными вычислительными потребностями.

Оплата труда тоже имеет значение. Публичные отслеживатели компенсаций показывают, что должности руководителей в сфере ИИ на крупных платформах могут приносить семизначные суммы в общей сумме, при этом Meta не раз делала агрессивные предложения дефицитным исследователям и практикам. Рекрутеры отмечают, что компания активно предлагала кандидатам, уже ведущим переговоры с другими специалистами, агрессивные условия трудоустройства.

AKI лежит в основе усилий Apple по обеспечению Siri давно обещанной трансплантацией мозга, позволяя ей отвечать на более сложные вопросы, получать данные из интернета в режиме реального времени и даже распределять задачи между приложениями. В сочетании с Apple Intelligence и ориентированной на конфиденциальность системой Private Cloud Compute это выглядит привлекательно: мгновенная персонализированная помощь, при этом сохраняя конфиденциальную информацию в безопасности.

Однако реализация проектов застопорилась. Достижения Apple в области искусственного интеллекта развивались медленнее, чем у конкурентов, а некоторые функции по-прежнему доступны только на новых устройствах. Судебные иски потребителей поставили под сомнение заявления компании о готовности к запуску и оказали давление на внутренние сроки. Строгая позиция Apple в отношении конфиденциальности, одна из главных сильных сторон её бренда, также затрудняет эксперименты в облачном масштабе и быструю итерацию по сравнению с конкурентами, которые выбрали серверный подход.

В результате для исследователей, ценящих скорость, доступ к вычислительным ресурсам и свободу публикации, сложилась более сложная ситуация. В то время как Apple продолжает вкладывать ресурсы в разработку локальных процессоров и отточенный пользовательский интерфейс, постоянный поток руководителей, переходящих в Meta, свидетельствует о том, что компания всё ещё пытается определить, насколько уровень секретности и контроля может сосуществовать с запутанной природой передовых исследований в области ИИ.

https://www.findarticles.com/meta-just-cant-stop-poaching-apple-ai-leaders/

За кулисами генеративного ИИ скрывается изнурительный, низкооплачиваемый человеческий труд

Чтобы генеративная система искусственного интеллекта научилась составлять отчет о вскрытии, люди должны отсортировать и аннотировать тысячи изображений мест преступлений.

«Вам приходится проводить целый день, осматривая трупы и места преступлений... Психологическая поддержка не предоставляется», — рассказал AFP гражданин Кении Эфантус Каньюги .

Специалистам по маркировке «нужно потратить время на изучение этих изображений, рассмотреть раны погибших людей», чтобы очертить их и передать в ИИ, добавил 30-летний мужчина.

Нестабильная работа по обучению искусственного интеллекта, которая обычно приносит всего несколько долларов, спровоцировала движение за улучшение заработной платы и условий труда, охватившее территорию от Кении до Колумбии.

https://www.dawn.com/news/1949310

Meta переманивает главу отдела ИИ-поиска Apple Ке Яна на фоне обострения войны за таланты

https://www.ithinkdiff.com/meta-hires-apple-ai-head-ke-yang/

Рост «цифрово-военно-промышленного комплекса» США

За последнее десятилетие привычная концепция «военно-промышленного комплекса», введенная президентом Дуайтом Эйзенхауэром в 1961 году, трансформировалась в новый гибрид: «цифровой военно-промышленный комплекс». Этот вариант включает в себя компании, специализирующиеся на данных, искусственном интеллекте и цифровых платформах, а также стартапы, намеренно позиционирующие себя как поставщики оборонных технологий.

Эти структуры тесно сотрудничают с американскими военными и традиционными оборонными подрядчиками для ускорения цифровизации и интеллектуальной трансформации военного потенциала. Некоторые аналитики предупреждают, что этот цифровой вариант может привести к масштабному вмешательству США за рубежом, потенциально превращаясь в «новую военную машину».

Традиционные гиганты оборонной промышленности, такие как Lockheed Martin, Raytheon, Northrop Grumman и General Dynamics, теперь сталкиваются с острой конкуренцией со стороны двух видов цифровых игроков.

В основе развития цифрового военно-промышленного комплекса лежат три фактора. Во-первых, появление искусственного интеллекта сделало интеграцию коммерческих данных и алгоритмов неотъемлемой частью модернизации вооруженных сил. Подразделение оборонных инноваций (DIU), созданное Пентагоном в Кремниевой долине в 2015 году, направляет венчурные закупки для ускорения конверсии коммерческих технологий в оборонные.

Во-вторых, эскалация глобальной напряжённости, такая как российско-украинский конфликт и нестабильность на Ближнем Востоке, усилила потребность США в применении технологий, доказавших свою эффективность на современных полях сражений.

В-третьих, стремительное развитие Китая в области искусственного интеллекта усилило обеспокоенность США, побуждая американских политиков всё чаще рассматривать конкуренцию, по сути, как гонку вооружений в области искусственного интеллекта.

https://www.chinadaily.com.cn/a/202510/20/WS68f599c6a310f735438b5e2d.html

Искусственный интеллект (ИИ) активно меняет когнитивные процессы подростков, заставляя их мыслить быстрее, но в ущерб глубине анализа. Таковы выводы нового исследования Оксфордского университетского издательства (Oxford University Press), о которых рассказало издание Business Iinsider, в ходе которого в августе были опрошены 2000 учащихся из Великобритании в возрасте от 13 до 18 лет.

Около 80 % респондентов признались, что используют ИИ-инструменты для выполнения домашних заданий и это им помогает быстрее решать сложные задачи.

Как заявила директор Educational Neuroscience Hub Europe и соавтор отчёта Эрика Галеа (Erika Galea), современные студенты начинают мыслить вместе с машинами, приобретая беглость и скорость, но иногда теряя независимое мышление. Она добавила, что главной задачей становится не овладение технологиями, а сохранение глубины человеческой мысли в эпоху синтетического познания и искусственного интеллекта. Это «синтетическое познание», по терминологии оксфордских исследователей, характеризует новое мышление так называемого «поколения, рождённого с ИИ», то есть, подростков, которые взрослели бок о бок с алгоритмами.

https://www.businessinsider.com/oxford-warns-ai-making-teens-faster-but-shallower-thinkers-2025-10