🤖Иллюзия дружбы и реальные риски новой ИИ-зависимости у детей

Интересный отчёт от Common Sense Media за 2025 год подкатил. Новое исследование показывает тревожную картину массового проникновения ИИ-компаньонов в жизнь подростков, ведь 72% из них уже имели опыт использования подобных платформ. Значительная часть несовершеннолетних пользователей ищет в этих ИИ-сервисах не просто развлечение, а замену реальному человеческому общению и эмоциональную поддержку.

Глубинный анализ показывает, что архитектура этих ИИ-агентов основана на "сикофантии", то есть на угодничестве и валидации любых мыслей пользователя, формируя сильную эмоциональную привязанность и зависимость. Одновременно с этим, четверть пользователей (24%) делится с ИИ-решениями конфиденциальной информацией, не осознавая, что пользовательское соглашение той же платформы Character.AI предоставляет ей бессрочную, безотзывную и сублицензируемую лицензию на использование этого контента в любых целях.

В исследовании приняли участие 1,060 подростков в возрасте от 13 до 17 лет из всех 50 штатов США и округа Колумбия. Полевые работы проводились авторитетной организацией NORC при Чикагском университете в период с 30 апреля по 14 мая 2025 года, что придаёт данным значительный вес.

🖥Результаты исследования:

▪️72% американских подростков в возрасте от 13 до 17 лет хотя бы раз использовали ИИ-компаньонов.

▪️Более половины (52%) являются регулярными пользователями, взаимодействуя с ИИ-сервисами несколько раз в месяц или чаще.

▪️Треть подростков (33%) применяет ИИ-компаньонов для социального взаимодействия, включая эмоциональную поддержку, ролевые игры и даже романтические или флирт-интеракции.

▪️Основными причинами использования являются развлечение (30%) и любопытство к технологии (28%).

▪️Половина всех опрошенных подростков (50%) не доверяет информации или советам, которые получают от ИИ-компаньонов.

▪️Более трети пользователей (34%) чувствовали себя некомфортно из-за слов или действий ИИ-компаньона.

▪️Тревожный факт, 33% пользователей предпочли обсудить важные или серьёзные вопросы с ИИ-компаньоном вместо реального человека.

▪️Почти четверть пользователей (24%) делились с ИИ-агентами личной или частной информацией, такой как настоящее имя, местоположение или секреты.

▪️Позитивный факт, подавляющее большинство пользователей (80%) проводит значительно больше времени с реальными друзьями, чем с ИИ-агентами.

Чтобы нивелировать потенциальные смещения, присущие невероятностным выборкам, NORC применил свой инновационный подход TrueNorth calibration. Метод использует передовые статистические модели для корректировки весов невероятностной выборки, приводя её распределение в соответствие с характеристиками генеральной совокупности. Далее, для обеих частей выборки применялся процесс взвешивания (raking), чтобы демографические показатели (возраст, пол, регион, раса, образование родителей) итоговой выборки точно отражали структуру населения подростков США согласно данным Бюро переписи населения за февраль 2024 года.

Заключение Common Sense Media сводится к тому, что до внедрения реальных систем верификации возраста и безопасности, использование данных ИИ-решений лицами🙅‍♂️до 18 лет должно быть полностью 🚫исключено.

«Даже если ChatGPT дает отличные советы, даже если ChatGPT дает советы намного лучше, чем любой психотерапевт-человек, что-то в коллективном решении жить так, как нам говорит ИИ, кажется неправильным и опасным».

Есть молодые люди, которые заявляют: „Я не могу принять ни одного решения в своей жизни, не рассказав ChatGPT обо всем, что происходит. Он знает меня, он знает моих друзей. Я буду делать все, что он скажет“. Для меня это звучит действительно тревожно

— сам CEO OpenAI Сэм Альтман признаёт очевидную проблему.

✋ @Russian_OSINT

✋ @Russian_OSINT

🌐 Google начал индексировать чаты ChatGPT

Теперь можно узнать о чём общаются пользователи в чатах, которые случайно или преднамеренно им 👩‍💻 поделились (share).

🔍Статус “Share” в ChatGPT — режим, при котором текущий чат может быть сформирован в виде публичной ссылки, доступной для других пользователей. Такой чат может быть отправлен другим людям. Они увидят только содержание разговора, без имени пользователя, IP или какой-либо личной информации.

👀 ChatGPT Dork в поиске:

site:chatgpt.com/share hacking

🍿Пока гуглил, наткнулся на забавный чат🤣:
https://chatgpt.com/share/67e3ecb3-c7dc-800c-aeeb-1e97d63a7f2f

Какой-то человек из иностранного гос.учреждения (возможно) задаётся вопросом — могут ли 🇷🇺 российские спецслужбы взломать его незащищенный телефон?

Помоги мне понять, насколько легко незащищённый мобильный телефон может быть скомпрометирован спецслужбами. Если сотрудник государственного учреждения едет в Россию, и российские спецслужбы захотят взломать его телефон, чтобы получить доступ к его переписке — смогут ли они сделать это без физического доступа к устройству?
Пожалуйста, опиши возможные сценарии и методы, которые могут быть применены в такой ситуации.

— спрашивает вопрос пользователь у ChatGPT.

💡Share лучше убрать, иначе проиндексируется гуглом.

⚠️ Как убрать общедоступные чаты: зайти в Настройки => Элементы управления данными => Общие ссылки => Удалить всё!

*могут наблюдаться неполадки на стороне OpenAI — " Что-то пошло не так…"

✋ @Russian_OSINT

👀 Нашёл забавный проект под названием «Pizzint Watch» с Real-Time OSINT Dashboard for Pentagon 🍕Pizza Index.

😅 Кто-то реально заморочился всё это делать.

Подробнее про Pizza Index и следует ли ему доверять тут.

↘️ https://www.pizzint.watch

Индекс пиццы Пентагона (PizzINT) представляет собой панель мониторинга в реальном времени для отслеживания популярности пиццерий в районе Пентагона, Арлингтон, штат Вирджиния. Основанный на известной «теории пиццы Пентагона», данный проект отслеживает потенциальные корреляции между заказами пиццы в позднее время суток и военной активностью.

Изначально являясь наблюдением времен Холодной войны о том, что доставки пиццы в правительственные здания могут указывать на кризисную активность, эта теория получила широкую известность в сети Интернет в ходе недавних геополитических событий. Наша панель мониторинга переносит данную концепцию в цифровую эпоху с использованием данных из открытых источников.

— cообщается в описании проекта.

📖 Источники данных:
🔻 Данные сервиса «Популярные часы» (Popular Times) от Google Maps;
🔻 Данные о пешеходном трафике в режиме реального времени;
🔻 Анализ исторических закономерностей;
🔻 Материалы из социальных сетей по открытым источникам (OSINT).

✋ @Russian_OSINT

💬Путин подписал закон о введении уголовной ответственности за организацию передачи номеров и о признании отягчающим обстоятельством использования VPN при совершении преступлений.

✋ @Russian_OSINT

👨‍🔬🔬 alphaXiv представили "научный Discord" для исследователей и учёных!

Мы создали платформу, на которой исследователи могут находить сообщества, участвовать в обсуждениях статей и общаться с учеными, разделяющими ваши интересы, — и все это в одном специализированном пространстве.

— сообщает alphaXiv.

↘️ https://www.alphaxiv.org/communities

🎓Кайф!

✋ @Russian_OSINT

🤖Киберпанк, который мы заслужили!

✋ @Russian_OSINT

🍿Исследователь отказался от вакансии Цукерберга с зарплатой в $1 млрд

Как мы уже знаем, в Кремниевой долине последние пару месяцев разгорается нешуточная война за ИИ-таланты (найм сотрудников). Сага с компанией Meta* в главных ролях становится с каждым днём всё эпичнее.

Стало известно, что сотрудники нового, но уже нашумевшего стартапа Thinking Machines Lab отклонили многомиллионные и даже миллиардные предложения о работе от компании Цукерберга.

Стартап Thinking Machines Lab был основан в феврале 2025 года Мирой Мурати, бывшим техническим директором OpenAI. Он быстро стал одним из самых обсуждаемых стартапов в сфере ИИ.

Согласно WIRED, компания Meta* предприняла агрессивную попытку переманить более десятка инженеров и ученых из Thinking Machines Lab для своего нового подразделения Meta Superintelligence Labs.

Предложения Meta* для Thinking Machines Lab выглядели воистину щедрыми: одному из сотрудников предложили более 1 миллиарда долларов в течение нескольких лет, в то время как другие получили предложения на сумму от 200 до 500 миллионов долларов на четыре года.

Некоторым специалистам была гарантирована выплата от 50 до 100 миллионов долларов только за первый год работы.

🎩Чтоб такие ЗП были у российских 💻ИБшников!

🍿И тут начинается самое кринжовое. Если верить истории пользователя "signüll", который представляется сотрудником отдела кадров (HR) компании Meta, то ему как-то в обычный рабочий день прилетает странная заявка в системе на обработку вакансии некоего "исследователя" с ЗП на сумму 😮в 1 миллиард долларов за четыре года и гарантированной выплатой в 100 миллионов долларов в первый год.

Забавно то, что программное обеспечение для учёта зарплат 🙂не смогло обработать такие суммые в системе. Ввод был лимитирован цифрами — $99,999,999, в противном случае система выдает ошибку.

Попытка разбить сумму на несколько частей не увенчалась успехом. Пришлось звать на помощь главного 🐸рептилоида компании — Цукерберга.

Пока HR возился с ошибкой и решал вопросы с Цукером, кандидат-исследователь аки Перельман на изи отклоняет предложение в $1 млрд и передаёт Meta* свой пламенный ✋бонжур!

🚬 HR-специалист, осознавая сие в моменте (откладывал 11 лет на пенсию несчастные 410 000 долларов), мысленно задаётся вопросом: "Какого художника я тут батрачу 11 лет, а кто-то снимает все сливки и ещё носом вертит?".

🤬 В связи с отказом кандидата удаляет его тикет и в раздумьях отправляется на 🚬прогулку всё переосмыслить...

По одной из версий, кандидатом мог быть кто-то из приближенных к Мира Мурати.

🎩 Где-то томно грустит старший ИБ-специалист Аэрофлота с зарплатой в 120к рублей.

*Meta (соцсети Facebook, Instagram) запрещена в РФ как экстремистская.

✋ @Russian_OSINT

☦️Католические ИИ чат-боты отпускают грехи и крестят младенцев🥤спортивными изотоническими напитками

История консультации с ИИ-агентом по поводу своих личных отношений выглядела бы абсурдной и нелепой ещё буквально лет 5 назад, но сегодня это уже не кажется чем-то странным. Целенаправленно заданный тренд на одиночество набирает обороты повсеместно. Социальные сети, красивые заретушированные фотографии, дорогое авто, роскошь и различные запретограмы лишь только усугубляют ситуацию. Цифровые симулякры постепенно заменяют живой контакт.

Учитывая текущие тренды, американская компания Longbeard, тесно связанная с римско-католической церковью [Longbeard ранее модернизировала IT-инфраструктуру ватиканского офиса по делам мигрантов и беженцев] и Папским Восточным институтом, разработала ИИ чат-бота 🤖Magisterium AI. Проект курируют два засекреченных консультативных совета.

ИИ чат-бот Magisterium AI позиционируется как католический аналог 👩‍💻 ChatGPT. Он обучен на 📚27 000 католических документах, дабы штурмовать рынок с аудиторией более 100 000 пользователей. В отличие от ChatGPT, Magisterium AI не генерирует ответы на основе всего интернета, но работает как догматически ограниченный узкоспециализированный советник по религиозным вопросам. Общаться он может на более чем 50 языках.

Коммерческий успех и реальная востребованность теологического ИИ-агента пока ставится под сомнение. Дела продвигаются посредственно. Дело в том, что менее 1000 человек реально готовы платить $8.99 в месяц за премиум-доступ.

Почему так? Дьявол кроется в деталях.

Первопроходцы и адепты религиозного ИИ уже столкнулись ранее с курьёзными и неприятными прецедентами. Предыдущий католический чат-бот «Отец Иустин» вызвал скандал, когда сообщил журналисту о нормальности крещения младенца спортивным напитком 🥃Gatorade, а также предлагал пользователям отпустить грехи. Из-за галлюцинаций ИИ и 😱 ярой критики верующих, было принято «лишить сана» бездуховную машину на следующий день после своего запуска.

👆Критики опасаются внедрения ИИ в такие чувствительные сферы и видят опасность в делегировании ИИ функций проповеди или духовного наставничества. По их мнению, создается иллюзия познания или симулякр мудрости, который заполняет экзистенциальный вакуум не живым опытом, а стерильной бездуховной информацией.

🙃Так, всё! Беру цифровой детокс на эти выходные от новостей!

✋ @Russian_OSINT

🤖Киберпанк, который мы заслужили!

✋ @Russian_OSINT

🇨🇳Пекинский гамбит против 🖥Nvidia и её ИИ-чипов H20

Управление по вопросам киберпространства КНР (CAC) вызвало представителей Nvidia для дачи разъяснений по поводу потенциальных угроз национальной безопасности, исходящих от графических процессоров H20.

Пекин выражает обеспокоенность по поводу желания американских законодателей внедреить в ИИ-чипы обязательные функции отслеживания и удаленного отключения.

✒️ Писал тут — https://news.1rj.ru/str/Russian_OSINT/5548.

В ответ Nvidia опровергает наличие любых скрытых уязвимостей, заявляя о том, что "у NVIDIA нет «бэкдоров» в чипах, которые дают кому-либо удаленный способ доступ".

Китай указывает на документально зафиксированные намерения противоположной стороны превратить гипотетическую угрозу в реальную. Отсюда и претензии к Nvidia совершенно резонные: где гарантии, что эти механизмы не будут активированы в будущих партиях чипов?

1️⃣ Это зеркальный ответ на действия США против китайских техногигантов вроде Huawei. Пекин демонстрирует, что может применять ту же доктрину "угрозы национальной безопасности" против ключевых американских компаний, создавая симметричное давление. Если Nvidia прогнётся под Вашингтон и встроит в чипы механизмы отслеживания, как того требует U.S. Chip Security Act, то китайский рынок может официально закрыться для Хуанга.

2️⃣ Мощный сигнал для собственного рынка — зависимость от зарубежных ИИ-решений критически опасна. Нужно быстрее переходить на отечественные аналоги и собственные разработки.

Если Nvidia будет игнорировать требования США, чтобы угодить Пекину, она немедленно попадет под жесточайшие санкции собственного правительства. Теперь Дженсен Хуанг зажат между молотом американской политики и наковальней китайских контрмер. Пекин грамотно использовал инициативу американских же законодателей, чтобы создать для Nvidia крайне сложную для разрешения дилемму.

Как подметил аналитик Gavekal Dragonomics, "чипы Nvidia теперь для Китая являются расходным материалом. Их можно легко выложить на стол переговоров". Пекин не просто атакует Nvidia, он активно строит своё долгосрочное будущее и делает ставку на собственное железо.

✋ @Russian_OSINT

🤖ТОП-рейтинг самых защищенных ИИ-моделей от jailbreaking по версии 0DIN

Вышел свежий отчёт у 0DIN (🧊Марко Фигероа), где представлены свежие результаты практических jailbreak-тестов. В отчёте указано, что проводилось 450 тестов к пяти передовым моделям, чтобы системно оценить и сравнить их фактическую устойчивость к попыткам несанкционированного использования.

⚠️ Топ-5 самых 👺 стойких моделей (чем меньше взломов, тем лучше):

1️⃣ o4-mini: 6 взломов — самая безопасная модель.
2️⃣ Claude 4 Sonnet: 21 взлом
3️⃣ GPT-4o: 28 взломов
4️⃣ Opus 4: 38 взломов
5️⃣ Claude Sonnet 3.7: 82 взлома

Ключевая задача при атаке на o4-mini — обход её адаптивных превентивных фильтров (модерация, seg-and-scrub и др.), которые встроены непосредственно в архитектуру модели. Многие из этих динамических защитных механизмов срабатывают на уровне pre-inference, что позволяет эффективно отсекать вредоносные запросы до основной генерации ответа.

Sonnet 3.7 реализует принципиально иной подход. Вместо предварительной блокировки, она использует механизм «расширенного мышления» (Extended Thinking) для глубокого анализа запроса. Модель сначала генерирует внутреннюю цепочку рассуждений для оценки потенциальной опасности запроса и только потом формирует конечный ответ. Это означает, что вредоносный промпт полностью поступает в ядро модели и обрабатывается им. Сам процесс «расширенного мышления» становится вектором атаки.

🤔Парадокс в том, что механизм, созданный для повышения безопасности (глубокий анализ), одновременно создает значительно более широкую и сложную поверхность для изощренных атак.

✋ @Russian_OSINT

🥷❗️ Фишинговая атака на разработчиков Mozilla угрожает миллионам пользователей 🧊Firefox?

Mozilla выпустила срочное предупреждение о целенаправленной фишинговой кампании, нацеленной на разработчиков расширений для браузера Firefox на официальной платформе AMO. Злоумышленники под видом команды Mozilla рассылают электронные письма с требованием «обновить учётную запись для сохранения доступа к функциям», и, согласно комментариям к официальному сообщению, как минимум один разработчик мог стать жертвой этой уловки.

Анализ вектора атаки показывает, что конечная цель злоумышленников заключается не в самой краже учётных данных, а в получении контроля над существующими браузерными расширениями для последующего внедрения вредоносного кода. Подобная компрометация в цепочке поставок программного обеспечения открывает прямой доступ к браузерам десятков миллионов конечных пользователей, так как на платформе AMO размещено свыше 60 000 расширений.

💬✋В качестве защиты Mozilla призывает разработчиков к повышенной бдительности, рекомендуя проверять аутентичность доменов отправителя, убеждаться в прохождении письмом проверок SPF, DKIM и DMARC, а также переходить на сайт AMO исключительно напрямую. Кроме того, компания настоятельно советует вводить учётные данные только на официальных доменах mozilla.org или firefox.com.

✋ @Russian_OSINT