Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
459 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
На прошлой неделе китайская компания Unitree Robotics начала продавать человекоподобного робота с ИИ, включающим распознавание голоса и изображений, всего за 5900 долларов США. Это первый робот из ожидаемого потока недорогих машин с искусственным интеллектом для дома и офиса (похоже, этот пока не умеет мыть посуду, но это ненадолго).
Анализ стратегии Пентагона по беспилотникам

В июле 2025 года министр обороны Пит Хегсет представил новую политику Пентагона в отношении беспилотников, официально названную «Раскрытие доминирования американских военных беспилотников».

1 Ключевым элементом политики является переклассификация малых беспилотных летательных аппаратов из имущества длительного пользования в «расходные материалы». Согласно документам, беспилотные авиационные системы (БАС) групп 1 и 2 (весом менее 25 кг) теперь будут «учитываться как расходные материалы, а не как имущество длительного пользования».

Пентагон определяет беспилотники Группы 1 как системы весом до 20 фунтов, способные летать на высоте до 1200 футов (360 м) и развивать скорость до 100 узлов. Группа 2 включает беспилотники весом от 21 до 55 фунтов (25,5 кг), способные подниматься на высоту 3500 футов (1000 м) и развивать скорость до 250 узлов (250 узлов).

2 Новая политика значительно расширяет круг лиц, имеющих право приобретать, испытывать и развертывать беспилотники в рамках военной иерархии. Впервые командиры на уровне полковника и капитана ВМС смогут самостоятельно закупать и испытывать беспилотники, включая прототипы, напечатанные на 3D-принтере, и коммерческие готовые системы, при условии их соответствия критериям национальной безопасности.

3 Пентагон предпринимает беспрецедентные шаги для поддержки американских производителей беспилотников и расширения промышленной базы. В течение 30 дней после объявления этой политики Управлению стратегического капитала и Министерству эффективности государственного управления было поручено предложить варианты финансирования, включая авансовые обязательства по закупкам, прямые кредиты и другие формы стимулирования капитала, чтобы помочь отечественным производителям беспилотников быстро расширить масштабы производства.

4 Политика предусматривает полную трансформацию военной подготовки. Хегсет ожидает, что к следующему году возможности беспилотников будут интегрированы во «все соответствующие виды боевой подготовки, включая боевые действия с применением беспилотников». Военные ведомства должны создать не менее трёх национальных полигонов для обучения использованию беспилотников на различных рельефах местности, включая надводные, в течение 90 дней с момента объявления политики.

Пентагон установил амбициозные сроки, которые подчеркивают срочность этой трансформации:

К 1 сентября 2025 года: Все рода войск должны создать специализированные экспериментальные подразделения беспилотников, предназначенные для быстрого масштабирования использования малых беспилотников в рамках объединённых сил. К концу 2026 финансового года: Каждое армейское подразделение должно быть оснащено малыми ударными беспилотниками «одностороннего действия» (одноразовыми дронами-камикадзе), при этом приоритет отдаётся подразделениям Индо-Тихоокеанского региона.

К сентябрю 2026 года: Пентагон намерен закупить и ввести в эксплуатацию тысячи беспилотников, а некоторые армейские программы уже нацелены на закупку более 10 000 единиц по цене менее 2 000 долларов за единицу.

Политика также предусматривает, что к 2027 году все основные учебные мероприятия Министерства обороны должны включать возможности беспилотников, что кардинально изменит подход военных к подготовке к современной войне.

https://sldinfo.com/2025/07/parsing-the-pentagons-july-2025-guidance-on-drones/
Испанский подросток находится под следствием из-за фотографий обнаженных одноклассников, сделанных с помощью искусственного интеллекта

27 июля испанская полиция заявила, что ведет расследование в отношении 17-летнего подростка по подозрению в использовании искусственного интеллекта для создания фейковых изображений обнаженных одноклассниц с целью продажи.

Расследование было начато после того, как 16 молодых женщин из образовательного учреждения в регионе Валенсия пожаловались на то, что в социальных сетях и Интернете распространяются их изображения, созданные с помощью искусственного интеллекта.

Первая жалоба была подана в декабре 2024 года подростком, который заявил, что в аккаунте социальной сети, созданном под его именем, были опубликованы созданное с помощью искусственного интеллекта видео и поддельные фотографии, на которых она была изображена «полностью обнаженной».

https://www.straitstimes.com/world/europe/spanish-teen-investigated-over-nude-ai-images-of-classmates
Исследователи из Университета Карнеги-Меллона показывают, что большие языковые модели могут самостоятельно планировать и осуществлять кибератаки.

Исследователи показали, что ИИ могжет автономно планировать и осуществлять сложные кибератаки на сетевые среды корпоративного уровня. Ключом к успеху стала иерархическая архитектура, в которой LLM выступал в роли стратега. Он планировал высокоуровневые шаги, одновременно выдавая инструкции специализированным агентам, которые выполняли низкоуровневые задачи, такие как сканирование сетей и проведение атак. Этот подход оказался эффективнее прежних методов, которые полагались исключительно на выполнение LLM команд оболочки.

Исследование было поддержано компанией Anthropic, которая предоставила модельные кредиты и технические консультации. Оно было проведено Институтом безопасности и конфиденциальности CyLab Университета Карнеги-Меллона под руководством преподавателей Лухо Бауэра и Вьяса Секара. Ранняя версия работы была представлена на семинаре по безопасности, организованном OpenAI в мае, и уже цитировалась в отраслевых отчётах, лежащих в основе документации по безопасности ИИ.

https://www.edtechinnovationhub.com/news/carnegie-mellon-researchers-show-large-language-models-can-autonomously-plan-and-execute-cyberattacks
Украина получит в 10 раз больше комплектов дронов Skynode S, чем планировалось

Компания Auterion уже поставила свою универсальную систему компьютерного зрения для украинских беспилотников — и теперь собирается поставлять их в гораздо больших количествах.

Skynode S - это миниатюрная плата с пассивным охлаждением, которую можно установить практически на любой дрон. Функционально она выполняет функцию автономного модуля наведения — своего рода «головки самонаведения», — что, по данным Auterion, позволяет дронам достигать 90% вероятности попадания в цель. Система сохраняет эффективность даже в условиях радиоэлектронной борьбы противника.

Комплекты Skynode S будут особенно полезны для противодействия угрозе со стороны дальнобойных ударных дронов. При использовании 33 000 комплектов даже 70–80% успеха могут привести к нейтрализации от 23 000 до более чем 26 000 вражеских дронов. При эффективности 90% этот показатель превышает 29 000 уничтоженных дронов.

https://www.ft.com/content/fe708758-619e-47a8-ae7a-18adcede267a
Учения Drone Prahar

Индийская армия повысила свою боеготовность, включив беспилотные летательные аппараты в высокотехнологичные военные учения «Учения с использованием дронов Прахар». Учения проводились в Раянге, штат Аруначал-Прадеш, и были направлены на интеграцию беспилотников в боевые действия.

https://www.devdiscourse.com/article/technology/3518935-exercise-drone-prahar-revolutionizing-combat-with-drone-technology
Анализ: почему инновации в оборонных технологиях Израиля опережают инновации США

За один год число стартапов в сфере оборонных технологий в Израиле почти удвоилось. В 2024 году число стартапов, связанных с обороной, составило 160. Сегодня их число достигло 312 — темп роста 95%, что значительно превышает показатели США (17%) и Великобритании (20%) за тот же период.

Что произошло?: технические директора, инженеры, менеджеры по продуктам и UX-дизайнеры, многие из которых создали самые успешные израильские стартапы, оказались мобилизованы в форме и отправлены в зоны активных боевых действий. Эти люди не просто стали свидетелями оперативных пробелов на поле боя.

Они жили войной и теперь точно знают что нужно и почему нужно быстро!

В большинстве стран инновации в сфере обороны начинаются с того, что болевые точки солдата передаются (часто некорректно) по длинной цепочке к гражданской группе НИОКР, которая никогда не носила форму. В Израиле солдат — это команда НИОКР. Результатом становится модель инноваций «снизу вверх», где решения рождаются из сиюминутной необходимости, оперативной обратной связи и личного опыта.

https://www.jpost.com/defense-and-tech/article-862438
First Due совместно с NextNav создают решение для 3D-моделирования зоны ЧС (а заодно и для военного планирования)

Это позволит руководителям по ликвидации последствий инцидентов визуализировать не только горизонтальное, но и вертикальное положение персонала. Благодаря отображению спасателей с помощью трехмерного каркасного изображения зданий NextNav непосредственно в системе управления инцидентами и реагирования First Due, руководители на месте происшествия теперь могут точно определять местоположение персонала в режиме реального времени внутри высотных или сложных сооружений.

Эта возможность способствует более быстрому и обоснованному принятию решений во время чрезвычайных ситуаций и призвана повысить безопасность и оперативную осведомленность спасателей, помогая как персоналу передовой, так и их командованию принимать более обоснованные тактические решения в напряженных ситуациях.

NextNav Inc. — специализируется на системах позиционирования, навигации и синхронизации (PNT) нового поколения, предлагающий совершенно новую экосистему приложений и сервисов, основанных на технологиях 3D-геолокации и PNT.

First Due — это комплексный операционный пакет на базе искусственного интеллекта для пожарных, скорой медицинской помощи и правоохранительных органов. Его комплексная облачная платформа включает в себя управление обучением и учебными процессами, ePCR NERI, предотвращение пожаров, предварительное планирование, составление графиков и управление персоналом, активы и инвентарь, взаимодействие с сообществом, мобильное реагирование и многое другое.

https://www.theglobeandmail.com/investing/markets/markets-news/Business%20Wire/33681791/first-due-partners-with-nextnav-to-provide-first-responder-vertical-location-and-3d-visualization-to-improve-responder-safety-and-accountability/
Глобальное распространение крупных языковых моделей усугубляет многочисленные проблемы безопасности. Среди них – возможность использования искусственного интеллекта экстремистами для совершения биотерроризма в целях продвижения своих идеологических целей.

Чат-боты уже доказали свою способность консультировать пользователей по планированию атак с использованием новых смертоносных форм бактерий, вирусов и токсинов. Между тем, конкуренция между великими державами отвлекает внимание от угроз, исходящих от террористических группировок и вредоносных негосударственных субъектов.

https://thewalrus.ca/ai-biological-weapon/
Верховный суд Индии всё активнее использует инструменты искусственного интеллекта и машинного обучения (МО) для оптимизации судебных процессов. Эти технологии помогают расшифровывать устные выступления на слушаниях в Конституционном суде и переводить судебные решения на 18 индийских языков.

https://www.medianama.com/2025/07/223-sc-ai-tools-case-management-5cr-cases-pile-up-india/
Компания Alibaba вышла на рынок умных очков, выпустив пару очков, работающих на основе моделей искусственного интеллекта.

Продукт под названием Quark AI Glasses поступит в продажу в Китае к концу 2025 года и будет работать на базе большой языковой модели Qwen от Alibaba и ее помощника Quark AI.

https://seekingalpha.com/news/4472608-alibaba-unveils-first-ai-powered-glasses
Компания Bell Canada объявила о партнерстве с компанией Cohere, занимающейся разработкой искусственного интеллекта, с целью предоставления комплексных решений в области суверенного ИИ для государственных и корпоративных клиентов по всей Канаде.

Cohere предоставит свои услуги ИИ через Bell AI Fabric — проект, анонсированный Bell в мае для поддержки потребностей канадских предприятий и правительств в области ИИ.

Bell AI Fabric будет включать в себя агентскую ИИ-платформу North от Cohere, которая будет доступна государственным и корпоративным клиентам, позволяя им создавать ИИ-агентов и решения по автоматизации без необходимости управления ИИ-инфраструктурой.

Bell AI Fabric также будет включать шесть центров обработки данных ИИ, а также программную инфраструктуру, такую как большие языковые модели Cohere, «разработанные для Bell с целью предоставления уникальных возможностей для канадского рынка, машинного обучения и облачного программного обеспечения».

https://www.bnnbloomberg.ca/business/artificial-intelligence/2025/07/28/bell-partners-with-ai-company-cohere-in-latest-step-to-grow-tech-service-offerings/
Commonwealth Bank сокращает десятки сотрудников в своих колл-центрах, ссылаясь на искусственный интеллект как на причину сокращения. В июне крупный банк внедрил новую систему чат-ботов для ответов на запросы клиентов 
https://au.finance.yahoo.com/news/commonwealth-bank-axes-aussie-jobs-as-human-cost-of-ai-revolution-exposed-massive-job-losses-013909458.html
Booz Allen Hamilton начала второй этап разработки боевого тактического оперативного центра (TOC-Light).

Основным субподрядчиком компании по TOC-L является компания L3Harris Technologies [LHX]. TOC-L должен быть легким и позволять военным ускорить установление каналов передачи данных и соединений с военными/коммерческими датчиками при развертывании сил.

«Прототип TOC-L от Booz Allen будет использовать концепцию модульного комплекта для отсоединения (MDK) компании в качестве основы для безопасного подключения датчиков, систем принятия решений и оружия на периферии», — заявили в компании. «MDK — это боевая возможность, продемонстрировавшая значительную эффективность в ходе учений с боевой стрельбой и оперативных развёртываний».

https://www.defensedaily.com/usaf-command-and-control-head-urges-acceleration-of-toc-l-effort/air-force/
Бывший офицер армии США разрабатывает автономный ИИ EdgeRunner AI для военных целей, которым уже заинтересовался Пентагон

EdgeRunner AI — это технологический агент, работающий в автономном режиме и изолированный от незащищенных сетей с целью защиты конфиденциальных данных и усиления безопасности.

«В EdgeRunner мы взяли эти модели, эти LLM, сжали их и адаптировали к военным данным», — сказал Солтсман. «Теперь они настолько малы, что могут размещаться на чипе, и им не нужны большие серверы центров обработки данных».

По словам Солтсмена, искусственный интеллект EdgeRunner до-обучен на более чем 30 миллиардах токенов, или слов, из военной доктрины, военной истории как в Соединенных Штатах, так и за их пределами, военной тактики, учебных пособий, боевых уставов и философии, включая греческую мифологию, римских легионеров, кодекс Бусидо, принципы Иисуса Христа и идеологии, сформировавшие западную цивилизацию.

https://www.foxbusiness.com/technology/former-army-officer-develops-offline-ai-military-use-pentagon-funds-tech-giants
Пентагон ищет варианты сэкономить на закупках ИИ - расходы уже огромные.

Министерство обороны США тестирует модели ИИ, которые упрощают переход от таких поставщиков, как Palantir

Министерство обороны и другие федеральные агентства тестируют модели искусственного интеллекта от Microsoft и OpenAI, специально направленные на извлечение данных из аналитических приложений, используемых такими подрядчиками, как Palantir и Lockheed Martin.

Правительственные чиновники рассматривают эти инструменты как потенциальный рычаг давления в переговорах по контрактам с действующими поставщиками, такими как Palantir, поскольку они могут реально угрожать переносом данных агентства на конкурирующие аналитические платформы, такие как Power BI от Microsoft.

https://au.investing.com/news/stock-market-news/dod-tests-ai-models-that-make-it-easy-to-switch-from-vendors-like-palantir-3945876
Пентагон планирует максимально использовать генеративный ИИ для оказания влияния (для PSYOP)

В отчете RAND « Приобретение генеративного искусственного интеллекта для улучшения деятельности по оказанию влияния Министерством обороны США », подготовленном по заказу Управления технической поддержки нерегулярных боевых действий (IWTSD), рассматривается, что потребуется Пентагону для приобретения генеративного искусственного интеллекта для деятельности по оказанию влияния в больших масштабах, а также возможные последствия его использования.

Деятельность по оказанию влияния представляет собой « намеренную попытку повлиять на мысли, чувства или поведение человека или группы », и Министерство обороны США (DoD) видит большие возможности в использовании мощи генеративного ИИ не только для создания дипфейков и пропагандистских кампаний в целях собственной деятельности по оказанию влияния, но и для получения уникальной информации о целевой аудитории для целей планирования.

Сценарии использования ИИ на поле боя самые разнообразные. Но в основном всё крутится вокруг обмана противника (дезинформирования).

«Оперативным силам (особенно на тактическом уровне) требуется способность клонировать голоса для передачи сообщений. Команде может потребоваться имитировать голос командира противника, чтобы добиться его сдачи».

Генеративный ИИ может предоставить Пентагону широкий спектр инструментов для проведения кампаний влияния. В докладе RAND приводится несколько примеров:

Создание изображений и видео с желаемым уровнем детализации и точности: Генеративный ИИ уже показал себя многообещающим в создании текста, графики и видео; генерация аудиоконтента «наиболее отстает» с точки зрения создания оригинального контента.

Создание продуктов в строгих условиях: Небольшое подразделение должно иметь возможность подключения к Интернету, использовать отдельный ноутбук или даже блокноты для создания и создания простых сообщений. Как только подразделение получит доступ к интернету, оно должно иметь возможность мгновенно распространять этот контент.

Доставляет персонализированные сообщения с точностью: Выявлять сообщников боевиков-террористов через человеческие сети, а затем направлять им сообщения, специально подобранные для того, чтобы найти отклик у отдельных лиц и побудить их принять участие в усилиях по дерадикализации.

Доставляет больше продукции и быстрее: Генеративный ИИ может «сбалансировать ситуацию на поле боя», позволяя меньшему количеству военнослужащих США производить больше контента быстрее и конкурировать в больших масштабах.

Клонирует голоса командиров противника: Оперативные силы (особенно на тактическом уровне) нуждаются в способности клонировать голоса для передачи сообщений. Команда может имитировать голос командира противника, чтобы добиться его сдачи.

Управление подписями: ИИ может помочь интегрировать многочисленные потоки данных и предоставить офицерам информационной войны и тактическим командирам на местах четкую картину их тактической ситуации.

Переводите человеческие голоса в реальном или почти реальном времени: Трансляция переговоров между мостами в режиме, близком к реальному времени, поможет усилить влияние США на союзников во время операции по обеспечению свободы судоходства.

Быстро перевести текст. Бригада содействия силам безопасности может попытаться разобраться в устройстве, руководство к которому составлено на французском, немецком или корейском языке, а затем передать партнерским силам конкретные продукты влияния. Это может потребовать перевода сотен страниц высокотехнологичной информации на английский, а затем на язык принимающей страны.

Сам отчет тут:
https://www.rand.org/pubs/research_reports/RRA3157-1.html
Havelsan интегрирует ИИ в архитектуру многодоменной обороны

На выставке IDEF 2025 в Стамбуле компания Havelsan, ключевой игрок в оборонно-технологическом секторе Турции, обозначила своё стратегическое направление: интеграцию искусственного интеллекта (ИИ) в свой портфель решений для военно-воздушных, сухопутных и военно-морских сил.

В воздушной сфере Havelsan использует ИИ для повышения скорости и точности принятия решений. Его системы обрабатывают большие объёмы данных для непосредственной поддержки командиров. Дополнительная ценность заключается в способности предвидеть, моделировать и предлагать оперативные решения в более сжатые сроки.

Для сухопутных войск Havelsan инвестирует в автономные системы. Благодаря технологиям роя её платформы могут работать распределённо, скоординированно и эффективно. ИИ обеспечивает более точное управление операциями, одновременно снижая участие и воздействие человека.

В военно-морской сфере ИИ интегрирован в системы боевого управления Havelsan для поддержки принятия как тактических, так и стратегических решений. Цель — помочь командирам в сложной морской обстановке, где быстрый анализ и реагирование имеют решающее значение.

ИИ также применяется в системах моделирования и обучения Havelsan. Цель — ускорить циклы обучения, одновременно сократив затраты и время. Это включает в себя автоматизированное конструктивное обучение, адаптацию в реальном времени и учебные модули на основе ИИ.

https://armyrecognition.com/news/defense-web-tv/idef-2025-havelsan-integrates-artificial-intelligence-into-the-architecture-of-multi-domain-defense
Первые испытания в рамках программы Brave1 «Тест на Украине» (Test in Ukraine)

Немецкий оборонный гигант DIEHL успешно провёл полевые испытания своей наземной робототехнической системы на Украине. Испытания прошли в рамках программы «Тест на Украине» (Test in Ukraine), инициативы Brave1, которая позволяет мировым производителям тестировать свои военные технологии в условиях, имитирующих боевые.

Компания DIEHL, известная своими системами ПВО IRIS-T, стала одним из первых крупных международных игроков, воспользовавшихся этой программой. Компания привезла свою систему на украинский полигон, связанный с 3-й штурмовой бригадой, подразделением, имеющим непосредственный опыт боевых действий. Это предоставило группе испытателей ценный опыт работы в условиях, максимально приближенных к зонам активных боевых действий.

Испытание предоставило инженерам DIEHL редкую возможность увидеть, как их роботизированная платформа работает в сложных и непредсказуемых условиях. Украинские солдаты, имеющие опыт развертывания и эксплуатации наземных роботизированных систем, предоставили подробную оперативную обратную связь и выявили области для улучшения, основанные на реальном опыте использования на поле боя.

https://en.defence-ua.com/weapon_and_tech/not_for_show_but_for_war_germanys_diehl_tests_ground_robotic_system_in_ukraine-15286.html
Учёные занимаются решением проблемы ИИ с помощью самого ИИ.

По прогнозам Deloitte , к 2027 году убытки от мошенничества в результате подобных инцидентов в США достигнут 40 миллиардов долларов, по сравнению с 12,3 миллиардами долларов в 2023 году.

IT гиганты постоянно создают новые инструменты выявления дипфейков, но они быстро деградируют, так-как сам ИИ не менее стремительно развивается и подделки становятся всё соверщеннее.

Мало того, «Если в кадре нет лица, многие детекторы просто не работают. Но дезинформация может проявляться по-разному. Изменение фона сцены может так же легко исказить правду»...

Исследователи сотрудничали с учёными из Google, компании Alphabet, разработали новую модели ИИ, которая обнаруживает фальсификацию видео и разоблачает фейковый контент, используемый для распространения дезинформации и подстрекательства к насилию.

Модель способна распознавать как частично смонтированные, так и полностью синтетические видео. Вместо того, чтобы фокусироваться только на лице, как большинство традиционных детекторов, эта модель анализирует кадры целиком, независимо от того, присутствует ли в видео человек.

UNITE, анализируя лица, также анализирует фон и модели движения и пр., тем самым охватывая полные видеокадры, предлагает один из первых подобных инструментов для идентификации синтетических видеороликов, которые не основываются исключительно на содержании лиц. Таким образом, помимо популярного набора данных FaceForensics++, команда также использовала набор данных SAIL-VOS-3D, который имитирует сложные среды, предлагая разнообразные синтетические сцены, полезные для обучения моделей обнаружения ИИ.

Доклад, по результатом разработки: «На пути к универсальному детектору синтетического видео: от манипуляций с лицами и фоном до контента, полностью созданного с помощью ИИ» (Towards a Universal Synthetic Video Detector: From Face or ackground Manipulations to Fully AI-Generated Content).

https://arxiv.org/pdf/2412.12278
В Китае ИИ уже проектирует авиатехнику

Шэньянский институт авиационного проектирования Китая использует платформу ИИ DeepSeek для решения сложных инженерных задач и сокращения времени, затрачиваемого на технические обзоры, что позволяет исследователям сосредоточиться на основных инновационных задачах.

Ведущий конструктор Ван Юнцин заявил, что данная технология уже генерирует новые идеи и подходы для развития аэрокосмической отрасли, и подтвердил устойчивый прогресс в разработке новых модификаций многоцелевого истребителя-невидимки J-35.

Этот прогресс может быть обусловлен разработкой в Китае всё более совершенных моделей искусственного интеллекта. В этом месяце журнал Nature сообщил , что Kimi K2 от Moonshot AI, агентная модель большого языка с открытыми весами, соответствует или превосходит западные модели и модели DeepSeek. В отчёте указывается, что Kimi K2, по всей видимости, демонстрирует превосходные результаты в программировании, показывая высокие результаты в таких тестах, как LiveCodeBench.

https://asiatimes.com/2025/07/chinas-ai-leap-elevating-stealth-fighter-ambitions/#