🇺🇸 Пентагон начнёт тестировать аналитические ИИ-инструменты 👩‍💻OpenAI в реальных боевых условиях

Пентагон заключил контракт на тестирование ИИ-продуктов от компании OpenAI в боевой обстановке. Интеграция 🤖ИИ в военной сфере США становится неотъемлемой составляющей на ближайшие годы. Речь идёт о контракте Microsoft с AFRICOM (Командование вооруженных сил США в Африке) в рамках контрактной инициативы Joint Warfighting Cloud Capability (JWCC) стоимостью $9 млрд, где OpenAI выступит в качестве поставщика технологий искусственного интеллекта для Microsoft. Согласно документу [ссылка в статье], целью AFRICOM является обеспечение безопасности, эффективности и устойчивости облачной инфраструктуры, необходимой для поддержки задач на Африканском континенте.

Особо отмечается, что только Microsoft Azure соответствует всем необходимым высоким требованиям с точки зрения безопасности — особенно на уровнях IL5 и IL6, а также играет роль скорость развертывания инфраструктуры.

AFRICOM планирует задействовать облачные технологии Microsoft Azure для создания платформы 🖥«единой аналитики», где будут использоваться инструменты OpenAI для обработки данных, поиска и анализа информации​​.

Тесное сотрудничество AFRICOM с Microsoft и OpenAI поможет военным оперативно адаптироваться к новым угрозам и вызовам, при этом гибридная облачная архитектура будет способна поддерживать ❗️адаптивное управление информацией и интероперабельность данных на всём континенте. Использование инструментов ИИ от OpenAI и других сервисов автоматизирует обработку разведывательных данных, улучшит качество мониторинга угроз и повысит эффективность принятия решений.

Cпециалисты по ИИ предупреждают о серьезных рисках использования таких технологий в боевых условиях, так как LLM до сих пор галлюцинируют и могут выдать ложные данные. Например, ИИ-модель ошибочно в отчётах укажет🙍‍♂️гражданского человека в качестве 🎖военнослужащего одной из сторон, что может повлечь за собой непредсказуемые последствия в будущем.

Ранее OpenAI заявляла, что её продукты не будут использоваться в военных целях, но в январе 2024 года OpenAI нарушила свои обещания и решила наладить cотрудничество с военными США.

✋ @Russian_OSINT

👀 https://github.com/jasonxtn/Argus - The Ultimate Information Gathering Toolkit от💻 ИБ-специалиста Аймена Раисси из Туниса.

*OSINT-инструменты рекомендуется тестировать на 🗳 виртуалке или 🖥 VPS.

✋ @Russian_OSINT

😎 Минцифры планирует создать собственное 😁 Linux-сообщество

Как сообщает РБК, Минцифры предложило создать собственное Linux-сообщество для разработчиков из стран, готовых сотрудничать с Россией. Об этом РБК рассказал представитель министерства. Это заявление стало реакцией на увольнение 11 российских сотрудников, занимавшихся разработкой ядра операционной системы Linux.

https://news.1rj.ru/str/Russian_OSINT/4758
https://news.1rj.ru/str/Russian_OSINT/4760

«Увольнение российских сотрудников Linux можно расценить как очередной факт дискриминации. Ключевым направлением, на наш взгляд, на сегодняшний день являются усиление кооперации и установление диалога с теми странами, которые готовы работать с нами...Необходимо договариваться с ними и строить свою альтернативную структуру»

— сообщил представитель Минцифры.

✋ @Russian_OSINT

🖥 Nvidia видит будущее роботов с ИИ рядом с человеком

На недавно состоявшемся форуме Global Management Dialogue в Токио вице-президент по операциям Nvidia Масатака Осаки заявил, что искусственный интеллект постепенно «приобретает человеческий облик», подчёркивая перспективы скрещивания ИИ и робототехники в будущем.

Осаки призвал развивать свои собственные языковые модели и ИИ-инфраструктуру в 🇯🇵Японии. Например, создать адаптированные под японский язык и культуру отечественные LLM, которые укрепят позиции Японии на мировой арене.

«👷‍♂️Воспитание инженеров, инвестиции и развитие ИИ внутри Японии повысят ее конкурентоспособность»

— cообщил вице-президент Nvidia.

Nvidia предполагает, что со временем произойдет слияние между ИИ и роботами в физическом мире. 🤖Роботы-гуманоиды будут работать не только на заводах или производстве, но также станут домашними помощниками по хозяйству.

Cогласнно данным Stocklytics, на данный момент капитализация компании NVIDIA составляет $3.47 триллиона.

👆🤔Если пофантазировать, то представляю картину, когда ПО домашнего робокопа 🥷хакнут какие-нибудь злоумышленники и направят его против владельца🤖❗️ — плати выкуп в крипте или придётся отвесить жестких люлей металлическими🤖культяпками. Весьма сомнительная перспектива держать у себя дома такого "железного дровосека".

✋ @Russian_OSINT

🚰🇺🇸 Крупнейшая утечка данных в сфере здравоохранения США: пострадали 100 миллионов американцев

UnitedHealth Group (UHG) сообщила, что кибератака на принадлежащую ей компанию Change Healthcare привела к утечке данных 100 миллионов американцев, делая её крупнейшим случаем кражи данных медицинских записей в истории США.

По данным Министерства здравоохранения и социальных служб США, атака обернулась не только огромной утечкой персональных и медицинских данных, но и привела к сбоям в медицинском секторе по всей стране.

Похищенные данные: имена, адреса, даты рождения, контактные данные, а также идентификационные номера (например, номера социального страхования, водительских удостоверений и паспортов). Также в список утечек попали данные о медицинской истории пациентов, включая диагнозы, результаты тестов, информацию о назначенных лекарствах, а также планах лечения. Дополнительно были украдены и финансовые данные, такие как банковские счета, найденные в страховых заявках и платёжных документах.

Согласно заявлениям UHG, первая информация об атаке была обнародована 21 февраля 2024 года, когда Change Healthcare отключила большую часть своей сети, чтобы предотвратить дальнейшее распространение вредоносного ПО. Это привело к массовым сбоям в медицинских учреждениях, зависящих от Change для обработки страховых и платежных данных. Задержки в обработке информации вызвали перебои в предоставлении услуг в тысячах больниц по всей стране.

В ходе расследования было выявлено, что хакеры смогли проникнуть в систему, используя украденные учетные данные одного из сотрудников Change Healthcare. Эта учетная запись не была защищена многофакторной аутентификацией (MFA), что существенно упростило задачу.

Ответственность за атаку UHG возложила на хакеров из 🐈‍⬛ALPHV/BlackCat, которая специализируется на ransomware-атаках. UHG утверждают, что выплатили сумму хакерам в размере 22 миллионов долларов в качестве выкупа.

Неясно, почему система не была защищена MFA, но это, вероятно, останется ключевой частью продолжающегося расследования законодателей и правительства.

— пишет Techcrunch.

⬇️ Генеральный директор UHG Эндрю Витти, выступая перед Конгрессом США в мае 2024 года, признал, что MFA была внедрена в систему лишь после инцидента.

На текущий момент продолжается расследование инцидента, а компания UHG и законодатели продолжают оценивать последствия утечки данных для миллионов американцев.

🛡@Russian_OSINT

🤖Яндекс с помощью IoT-модуля замедлит самокаты с 2 пассажирами

Как сообщает Forbes, Яндекс будет бороться с ездой на самокатах "вдвоем" технологическими методами.

С помощью IoT-модуля и машинного обучения самокаты смогут определять сколько пассажиров находятся на нём.

Два человека одновременно на самокате замедлят скорость его движения до "пешеходного" (5 км/ч). Как только второй пассажир сойдет и нагрузка на самокат придет в норму, то скорость восстановится до нормальной. Сейчас идет тестирование на полигонах, получена точность срабатывания больше 95%, внедрение планируется уже в следующем сезоне — весной 2025 года, сообщили в «Яндексе».

👆Чтобы определить, что на самокате больше одного человека, алгоритм учитывает более 120 параметров движения, поэтому обмануть будет практически нереально.

🛡@Russian_OSINT

👩‍💻 Модель Whisper от OpenAI для транскрибации аудио в текст 🤯"ловит галлюцинации" в медицинских клиниках

Как сообщает AP, проведённое журналистами издания расследование выявило ряд серьезных проблем в работе инструмента транскрибации Whisper, разработанного компанией OpenAI. Несмотря на громкие заявления OpenAI о высокой точности и надежности модели, специалисты и инженеры отмечают, что Whisper, предназначенная для преобразования/расшифровки речи в текст, склонна к сильным 🦠"галлюцинациям" – генерации несуществующих фрагментов текста при расшифровке, странным комментариям на расовую тему, рекомендациям вымышленных лекарств.

Журналисты приводят один из примеров: на приёме во время диалога между врачом и пациентом прозвучала безобидная фраза, которая была переведена Whisper в текст с упоминанием 💊вымышленного лекарства, которого никогда не существовало.

🇺🇸Сейчас галлюцинирующая ИИ-модель активно внедряется в 🏥больницах США для автоматической расшифровки диалогов между 👨‍⚕️врачами и пациентами. По данным компании Nabla, более 30 000 медицинских работников и 40 клиник уже применяют модифицированную версию Whisper для расшифровки записей медицинских приёмов.

В ходе расследованиям выяснилось, что аудиозаписи диалогов между врачами и пациентами удаляются сразу после транскрибации «по соображениям безопасности», что делает невозможным проведение объективной проверки всех косяков Whisper cо стороны журналистов.

Тем не менее, журналисты попросили разных ученых-исследователей вместе с инженерами оценить в целом "косячность" модели и пришли к неутешительным результатам:

1️⃣ По данным одного из исследователей Университета Мичигана, 8 из 10 проверенных расшифровок Whisper содержали вымышленные элементы или факты.
2️⃣ Один из инженеров сообщил: 50% случаев "галлюцинаций" на выборке из 100 часов аудио.
3️⃣ Около 40% данных при расшифровке были потенциально опасны или вводили в заблуждение из-за "галлюцинаций".
4️⃣ Проблема распространена даже в качественных аудиофайлах, где присутствует отличное качество звука. Было обнаружено 187 галлюцинаций в более чем 13 000 чистых аудиофрагментах.
5️⃣ Whisper иногда используется для создания субтитров для слабослышащих, подвергая риску эту группу людей, если модель начинает выбрасывать "галлюцинации".

Законодатель штата Калифорния Ребекка Бауэр-Кахан рассказала, что в начале этого года она отвела одного из своих детей к врачу и отказалась подписывать форму, которая требовала от неё разрешения на передачу аудиозаписи 🪟 Microsoft Azure. По ее словам, Бауэр-Кахан не хотела, чтобы столь интимные медицинские беседы с тайнами передавались технологическим компаниям.

🛡@Russian_OSINT

🌐 C удивлением прочитал в блоге гугла, что на сегодняшний день более 25% всего нового кода в Google пишется 🤖искусственным интеллектом, а потом он проверяется инженерами.

🛡@Russian_OSINT

🥷McAfee Celebrity Hacker Hotlist: ТОП-10 самых вожделенных знаменитостей у скамеров

Команда McAfee Threat Research Labs провела исследование в попытке определить самых популярных знаменитостей и инфлюенсеров (кино, музыка), чьи имена и образы чаще всего используются скамерами в онлайн-мошенничестве.

😭Несчастливый ТОП-10 McAfee Celebrity Hacker Hotlist 2024 возглавили следующие знаменитости:

1️⃣ Скарлетт Йоханссон – актриса и певица, чье имя и изображение применяются для поддельной рекламы и фальшивых одобрений.
2️⃣ Кайли Дженнер – звезда реалити-шоу и инфлюенсер, чье имя используют в мошеннических розыгрышах и для фальшивых сайтов косметических продуктов.
3️⃣ Тейлор Свифт – певица, которая становится объектом афер с билетами на концерты, поддельных розыгрышей и политической дезинформации.
4️⃣ Аня Тейлор-Джой – актриса, чьи соцсети и образ используют для ложных розыгрышей и распространения ложной информации о её проектах.
5️⃣ Том Хэнкс – актер, чье имя используют для продвижения «чудодейственных» средств и поддельных медицинских продуктов.
6️⃣ Сабрина Карпентер – певица, чье имя используется в мошенничестве с билетами и рекламе приложений для создания откровенного контента.
7️⃣ Сидни Суини – актриса, ставшая объектом криптовалютных афер.
8️⃣ Блейк Лайвли – актриса, чье изображение используют для рекламы фальшивых средств для похудения.
9️⃣ Джонни Депп – актер, чье имя задействуют в розыгрышах, криптовалютных и благотворительных мошенничествах.
🔟 Эддисон Рэй – певица и актриса, чье изображение используют для поддельной рекламы, розыгрышей и криптовалютных афер.

👆В основном злоумышленники выбирают звёзд для 🥷❗️скама и дипфейковых рекламных кампаний, которые связаны с криптовалютами и другими финансовыми махинациями.

========
Примечательно, что получившая почётное 🥇первое меcто Скарлетт Йоханссон является ярым противником 🤖ИИ-технологий. Помимо скама лицо актрисы дипфейкеры используют в десятках 🤖 порно-роликов для монетизации контента, где лицо других актрис (схожих по фигуре) заменяют на Скарлетт Йоханссон.

Достаётся Скарлетт ещё и от легальных компаний. В мае 2024 Йоханссон обвинила OpenAI в том, что один из голосов новой LLM «пугающе похож» на ее собственный. Актриса потребовала, чтобы компания раскрыла процесс создания голоса для ИИ-помощника. Йоханссон подчеркнула, что ранее отказала OpenAI в предложении использовать её голос.

🛡@Russian_OSINT

🇷🇺 АНО "Диалог" будет судиться с 🇺🇸 ФБР в США по делу о распространении фейков

Как сообщает RG.ru, 4 сентября этого года ФБР, Министерство юстиции и Министерство финансов США обвинили АНО "Диалог" в распространении фейков. Одним из основных фактчекинговых проектов организации является 📖"Война с фейками", который был создан в целях противодействия дестабилизации общественно-политической обстановки внутри страны с помощью фейковой информации.

🧠 АНО "Диалог" - главный в России оператор по противодействию фейкам. Организация имеет экспертизу по вопросам фактчекинга и никогда не участвовал в распространении недостоверной информации.

— подчеркнули в пресс-службе АНО "Диалог".

Основываясь на своем опыте противодействия фейкам, мы думали, что фейки все-таки не распространяют официальные государственные структуры. Однако на примере показаний официальных лиц в США мы увидели, что фейки могут распространять, например, и агенты ФБР, и представители Министерства юстиции США и других ведомств. Мы как раз не собирались заниматься международной деятельностью, но эта ситуация заставляет нас пересмотреть свои планы - и первый фейк, который мы опровергнем на международном уровне, - будет фейк ФБР про нас самих.

— сказал генеральный директор АНО "Диалог" Владимир Табак.

Он также добавил, что организация планирует судиться с 🎩ФБР именно в США.

Мы будем судиться с ФБР именно в США и готовы к взаимодействию с любыми странами и организациями, разделяющими наши взгляды.

— отметил Табак.

👆Иск будет подан в суд 🇺🇸 Пенсильвании, уточнили РБК в АНО «Диалог».

🛡@Russian_OSINT

❗️📝 Spectre Nightmare: уязвимы даже новые процессоры Intel и AMD

Казалось бы, атаки Spectre не новы, однако исследование специалистов из ETH Zurich Йоханнеса Викнера и Кавеха Разави заставляет взглянуть на эту проблему по-новому. Ученые утверждают, что современные процессоры 🖥Intel и AMD остаются уязвимыми для Spectre, даже несмотря на использование IBPB (Indirect Branch Predictor Barrier).

В своей работе 👨‍🔬исследователи подробно разбирают механизм работы IBPB, предназначенный для защиты от атак Spectre. Они обнаружили, что даже при активированном IBPB злоумышленники могут эксплуатировать уязвимости, такие как Post-Barrier Restricted Return Stack Buffer Alternate (PB-RRSBA) на процессорах Intel и на процессорах AMD Zen 1(+)/2 через PB-Inception. Уязвимости позволяют обходить защиту IBPB и осуществлять утечки конфиденциальной информации с использованием кросс-процессных и кросс-привилегированных атак Spectre.

По данным Викнер и Разави, на современной микроархитектуре ЦП Golden Cove (например, процессоры 12-го поколения, такие как Intel Core i7-12700K) и Raptor Cove (процессоры 13-го и 14-го поколения, такие как Intel Core i7-13700K и Core i7-14700K), IBPB не полностью устраняет предсказания возвратов. Изъян позволяет злоумышленникам применять «пост-барьерную» спекуляцию для обхода защитных механизмов. В частности, они выявили проблему, названную Post-Barrier Restricted Return Stack Buffer Alternate (PB-RRSBA), которая позволяет эксплуатировать предсказания возвратов на основе IP-адреса даже после применения IBPB.

👺❗️ Ученые продемонстрировали атаку на Intel, при которой возможна утечка хэша пароля root из процесса с повышенными привилегиями (suid), несмотря на активированный IBPB. Эта атака стала возможной из-за ошибки в реализации микрокода IBPB, которая не полностью очищает альтернативные предсказания возвратов.

👺❗️ Процессоры AMD также уязвимы, поскольку их реализация IBPB не затрагивает предсказания возвратов, делая их подверженными для так называемой «фантомной спекуляции» — Zen 1(+)/2 (процессоры семейства 17h, такие как AMD EPYC 7252, и 19h, такие как Ryzen 5 5600G).

🗳 Демо-атаки позволили атакующим осуществить «пост-барьерную спекуляцию» с целью обхода ограничений безопасности на основной операционной системе, хотя теоретически атаки могут быть применены к виртуальным машинам тоже.

🤖 В FAQ к исследованию сказано: тесты были проведены на 😁Linux, так как исходные коды других операционных систем исследователям недоступны, но не исключено, что проблема также затрагивает 🪟 Windows и другие платформы.

👆Чтобы снизить риски, исследователи рекомендуют поддерживать микрокод процессоров Intel в актуальном состоянии, а пользователям AMD следует убедиться в установке свежих обновлений для ядра.

Согласно заявлению исследователей, выявленные проблемы были ответственно адресованы компаниям Intel и AMD в июне 2024 года. Intel подтвердила наличие проблемы и зарегистрировала её под номером INTEL-SA—00982, сообщив, что они внесли исправление в обновление для микрокода. В свою очередь AMD тоже подтвердила проблему и присвоила номер — AMD-SB-1040.

Обе компании продолжают выпускать обновления, чтобы минимизировать риски, связанные с атаками на основе спекулятивного выполнения.

📄 Исследование — https://comsec.ethz.ch/wp-content/files/ibpb_sp25.pdf
📖 Статья (чуть более доступным языком) — https://grsecurity.net/cross_process_spectre_exploitation

🛡@Russian_OSINT

🤖Илон Маск: к 2040 году человекоподобных роботов на Земле будет больше, чем людей.

🛡@Russian_OSINT