Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
459 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Channel created
Channel photo updated
Как ИИ и киберсдерживание подрывают мораль

Новое исследование под названием «Воображая призрачное насилие: о морали и смысле в киберядерную эпоху» предупреждает, что современные технологии порождают форму невидимого принуждения, которая подрывает глобальную стабильность и управление, ориентированное на человека. Сочетание искусственного интеллекта (ИИ), ядерного сдерживания и кибервойны порождает то, что исследователи называют «спектральным насилием», определяемым как постоянная, всеобъемлющая угроза, подрывающая этичное принятие решений и демократический надзор.

В исследовании вводится концепция «спектрального насилия» для описания новой формы сдерживания, при которой насилие не осуществляется физически, а поддерживается постоянной угрозой нарушения. В этой модели ядерное оружие и киберсредства действуют не посредством развёртывания, а посредством алгоритмического предвосхищения, символической сигнализации и предиктивной аналитики. Эти системы образуют технологическую архитектуру страха, которая формирует международную политику и управление, не оставляя видимых следов конфликта.

Само исследование:
https://journals.sagepub.com/doi/10.1177/07255136251353240
На прошлой неделе китайская компания Unitree Robotics начала продавать человекоподобного робота с ИИ, включающим распознавание голоса и изображений, всего за 5900 долларов США. Это первый робот из ожидаемого потока недорогих машин с искусственным интеллектом для дома и офиса (похоже, этот пока не умеет мыть посуду, но это ненадолго).
Анализ стратегии Пентагона по беспилотникам

В июле 2025 года министр обороны Пит Хегсет представил новую политику Пентагона в отношении беспилотников, официально названную «Раскрытие доминирования американских военных беспилотников».

1 Ключевым элементом политики является переклассификация малых беспилотных летательных аппаратов из имущества длительного пользования в «расходные материалы». Согласно документам, беспилотные авиационные системы (БАС) групп 1 и 2 (весом менее 25 кг) теперь будут «учитываться как расходные материалы, а не как имущество длительного пользования».

Пентагон определяет беспилотники Группы 1 как системы весом до 20 фунтов, способные летать на высоте до 1200 футов (360 м) и развивать скорость до 100 узлов. Группа 2 включает беспилотники весом от 21 до 55 фунтов (25,5 кг), способные подниматься на высоту 3500 футов (1000 м) и развивать скорость до 250 узлов (250 узлов).

2 Новая политика значительно расширяет круг лиц, имеющих право приобретать, испытывать и развертывать беспилотники в рамках военной иерархии. Впервые командиры на уровне полковника и капитана ВМС смогут самостоятельно закупать и испытывать беспилотники, включая прототипы, напечатанные на 3D-принтере, и коммерческие готовые системы, при условии их соответствия критериям национальной безопасности.

3 Пентагон предпринимает беспрецедентные шаги для поддержки американских производителей беспилотников и расширения промышленной базы. В течение 30 дней после объявления этой политики Управлению стратегического капитала и Министерству эффективности государственного управления было поручено предложить варианты финансирования, включая авансовые обязательства по закупкам, прямые кредиты и другие формы стимулирования капитала, чтобы помочь отечественным производителям беспилотников быстро расширить масштабы производства.

4 Политика предусматривает полную трансформацию военной подготовки. Хегсет ожидает, что к следующему году возможности беспилотников будут интегрированы во «все соответствующие виды боевой подготовки, включая боевые действия с применением беспилотников». Военные ведомства должны создать не менее трёх национальных полигонов для обучения использованию беспилотников на различных рельефах местности, включая надводные, в течение 90 дней с момента объявления политики.

Пентагон установил амбициозные сроки, которые подчеркивают срочность этой трансформации:

К 1 сентября 2025 года: Все рода войск должны создать специализированные экспериментальные подразделения беспилотников, предназначенные для быстрого масштабирования использования малых беспилотников в рамках объединённых сил. К концу 2026 финансового года: Каждое армейское подразделение должно быть оснащено малыми ударными беспилотниками «одностороннего действия» (одноразовыми дронами-камикадзе), при этом приоритет отдаётся подразделениям Индо-Тихоокеанского региона.

К сентябрю 2026 года: Пентагон намерен закупить и ввести в эксплуатацию тысячи беспилотников, а некоторые армейские программы уже нацелены на закупку более 10 000 единиц по цене менее 2 000 долларов за единицу.

Политика также предусматривает, что к 2027 году все основные учебные мероприятия Министерства обороны должны включать возможности беспилотников, что кардинально изменит подход военных к подготовке к современной войне.

https://sldinfo.com/2025/07/parsing-the-pentagons-july-2025-guidance-on-drones/
Испанский подросток находится под следствием из-за фотографий обнаженных одноклассников, сделанных с помощью искусственного интеллекта

27 июля испанская полиция заявила, что ведет расследование в отношении 17-летнего подростка по подозрению в использовании искусственного интеллекта для создания фейковых изображений обнаженных одноклассниц с целью продажи.

Расследование было начато после того, как 16 молодых женщин из образовательного учреждения в регионе Валенсия пожаловались на то, что в социальных сетях и Интернете распространяются их изображения, созданные с помощью искусственного интеллекта.

Первая жалоба была подана в декабре 2024 года подростком, который заявил, что в аккаунте социальной сети, созданном под его именем, были опубликованы созданное с помощью искусственного интеллекта видео и поддельные фотографии, на которых она была изображена «полностью обнаженной».

https://www.straitstimes.com/world/europe/spanish-teen-investigated-over-nude-ai-images-of-classmates
Исследователи из Университета Карнеги-Меллона показывают, что большие языковые модели могут самостоятельно планировать и осуществлять кибератаки.

Исследователи показали, что ИИ могжет автономно планировать и осуществлять сложные кибератаки на сетевые среды корпоративного уровня. Ключом к успеху стала иерархическая архитектура, в которой LLM выступал в роли стратега. Он планировал высокоуровневые шаги, одновременно выдавая инструкции специализированным агентам, которые выполняли низкоуровневые задачи, такие как сканирование сетей и проведение атак. Этот подход оказался эффективнее прежних методов, которые полагались исключительно на выполнение LLM команд оболочки.

Исследование было поддержано компанией Anthropic, которая предоставила модельные кредиты и технические консультации. Оно было проведено Институтом безопасности и конфиденциальности CyLab Университета Карнеги-Меллона под руководством преподавателей Лухо Бауэра и Вьяса Секара. Ранняя версия работы была представлена на семинаре по безопасности, организованном OpenAI в мае, и уже цитировалась в отраслевых отчётах, лежащих в основе документации по безопасности ИИ.

https://www.edtechinnovationhub.com/news/carnegie-mellon-researchers-show-large-language-models-can-autonomously-plan-and-execute-cyberattacks
Украина получит в 10 раз больше комплектов дронов Skynode S, чем планировалось

Компания Auterion уже поставила свою универсальную систему компьютерного зрения для украинских беспилотников — и теперь собирается поставлять их в гораздо больших количествах.

Skynode S - это миниатюрная плата с пассивным охлаждением, которую можно установить практически на любой дрон. Функционально она выполняет функцию автономного модуля наведения — своего рода «головки самонаведения», — что, по данным Auterion, позволяет дронам достигать 90% вероятности попадания в цель. Система сохраняет эффективность даже в условиях радиоэлектронной борьбы противника.

Комплекты Skynode S будут особенно полезны для противодействия угрозе со стороны дальнобойных ударных дронов. При использовании 33 000 комплектов даже 70–80% успеха могут привести к нейтрализации от 23 000 до более чем 26 000 вражеских дронов. При эффективности 90% этот показатель превышает 29 000 уничтоженных дронов.

https://www.ft.com/content/fe708758-619e-47a8-ae7a-18adcede267a
Учения Drone Prahar

Индийская армия повысила свою боеготовность, включив беспилотные летательные аппараты в высокотехнологичные военные учения «Учения с использованием дронов Прахар». Учения проводились в Раянге, штат Аруначал-Прадеш, и были направлены на интеграцию беспилотников в боевые действия.

https://www.devdiscourse.com/article/technology/3518935-exercise-drone-prahar-revolutionizing-combat-with-drone-technology
Анализ: почему инновации в оборонных технологиях Израиля опережают инновации США

За один год число стартапов в сфере оборонных технологий в Израиле почти удвоилось. В 2024 году число стартапов, связанных с обороной, составило 160. Сегодня их число достигло 312 — темп роста 95%, что значительно превышает показатели США (17%) и Великобритании (20%) за тот же период.

Что произошло?: технические директора, инженеры, менеджеры по продуктам и UX-дизайнеры, многие из которых создали самые успешные израильские стартапы, оказались мобилизованы в форме и отправлены в зоны активных боевых действий. Эти люди не просто стали свидетелями оперативных пробелов на поле боя.

Они жили войной и теперь точно знают что нужно и почему нужно быстро!

В большинстве стран инновации в сфере обороны начинаются с того, что болевые точки солдата передаются (часто некорректно) по длинной цепочке к гражданской группе НИОКР, которая никогда не носила форму. В Израиле солдат — это команда НИОКР. Результатом становится модель инноваций «снизу вверх», где решения рождаются из сиюминутной необходимости, оперативной обратной связи и личного опыта.

https://www.jpost.com/defense-and-tech/article-862438
First Due совместно с NextNav создают решение для 3D-моделирования зоны ЧС (а заодно и для военного планирования)

Это позволит руководителям по ликвидации последствий инцидентов визуализировать не только горизонтальное, но и вертикальное положение персонала. Благодаря отображению спасателей с помощью трехмерного каркасного изображения зданий NextNav непосредственно в системе управления инцидентами и реагирования First Due, руководители на месте происшествия теперь могут точно определять местоположение персонала в режиме реального времени внутри высотных или сложных сооружений.

Эта возможность способствует более быстрому и обоснованному принятию решений во время чрезвычайных ситуаций и призвана повысить безопасность и оперативную осведомленность спасателей, помогая как персоналу передовой, так и их командованию принимать более обоснованные тактические решения в напряженных ситуациях.

NextNav Inc. — специализируется на системах позиционирования, навигации и синхронизации (PNT) нового поколения, предлагающий совершенно новую экосистему приложений и сервисов, основанных на технологиях 3D-геолокации и PNT.

First Due — это комплексный операционный пакет на базе искусственного интеллекта для пожарных, скорой медицинской помощи и правоохранительных органов. Его комплексная облачная платформа включает в себя управление обучением и учебными процессами, ePCR NERI, предотвращение пожаров, предварительное планирование, составление графиков и управление персоналом, активы и инвентарь, взаимодействие с сообществом, мобильное реагирование и многое другое.

https://www.theglobeandmail.com/investing/markets/markets-news/Business%20Wire/33681791/first-due-partners-with-nextnav-to-provide-first-responder-vertical-location-and-3d-visualization-to-improve-responder-safety-and-accountability/
Глобальное распространение крупных языковых моделей усугубляет многочисленные проблемы безопасности. Среди них – возможность использования искусственного интеллекта экстремистами для совершения биотерроризма в целях продвижения своих идеологических целей.

Чат-боты уже доказали свою способность консультировать пользователей по планированию атак с использованием новых смертоносных форм бактерий, вирусов и токсинов. Между тем, конкуренция между великими державами отвлекает внимание от угроз, исходящих от террористических группировок и вредоносных негосударственных субъектов.

https://thewalrus.ca/ai-biological-weapon/
Верховный суд Индии всё активнее использует инструменты искусственного интеллекта и машинного обучения (МО) для оптимизации судебных процессов. Эти технологии помогают расшифровывать устные выступления на слушаниях в Конституционном суде и переводить судебные решения на 18 индийских языков.

https://www.medianama.com/2025/07/223-sc-ai-tools-case-management-5cr-cases-pile-up-india/
Компания Alibaba вышла на рынок умных очков, выпустив пару очков, работающих на основе моделей искусственного интеллекта.

Продукт под названием Quark AI Glasses поступит в продажу в Китае к концу 2025 года и будет работать на базе большой языковой модели Qwen от Alibaba и ее помощника Quark AI.

https://seekingalpha.com/news/4472608-alibaba-unveils-first-ai-powered-glasses
Компания Bell Canada объявила о партнерстве с компанией Cohere, занимающейся разработкой искусственного интеллекта, с целью предоставления комплексных решений в области суверенного ИИ для государственных и корпоративных клиентов по всей Канаде.

Cohere предоставит свои услуги ИИ через Bell AI Fabric — проект, анонсированный Bell в мае для поддержки потребностей канадских предприятий и правительств в области ИИ.

Bell AI Fabric будет включать в себя агентскую ИИ-платформу North от Cohere, которая будет доступна государственным и корпоративным клиентам, позволяя им создавать ИИ-агентов и решения по автоматизации без необходимости управления ИИ-инфраструктурой.

Bell AI Fabric также будет включать шесть центров обработки данных ИИ, а также программную инфраструктуру, такую как большие языковые модели Cohere, «разработанные для Bell с целью предоставления уникальных возможностей для канадского рынка, машинного обучения и облачного программного обеспечения».

https://www.bnnbloomberg.ca/business/artificial-intelligence/2025/07/28/bell-partners-with-ai-company-cohere-in-latest-step-to-grow-tech-service-offerings/
Commonwealth Bank сокращает десятки сотрудников в своих колл-центрах, ссылаясь на искусственный интеллект как на причину сокращения. В июне крупный банк внедрил новую систему чат-ботов для ответов на запросы клиентов 
https://au.finance.yahoo.com/news/commonwealth-bank-axes-aussie-jobs-as-human-cost-of-ai-revolution-exposed-massive-job-losses-013909458.html
Booz Allen Hamilton начала второй этап разработки боевого тактического оперативного центра (TOC-Light).

Основным субподрядчиком компании по TOC-L является компания L3Harris Technologies [LHX]. TOC-L должен быть легким и позволять военным ускорить установление каналов передачи данных и соединений с военными/коммерческими датчиками при развертывании сил.

«Прототип TOC-L от Booz Allen будет использовать концепцию модульного комплекта для отсоединения (MDK) компании в качестве основы для безопасного подключения датчиков, систем принятия решений и оружия на периферии», — заявили в компании. «MDK — это боевая возможность, продемонстрировавшая значительную эффективность в ходе учений с боевой стрельбой и оперативных развёртываний».

https://www.defensedaily.com/usaf-command-and-control-head-urges-acceleration-of-toc-l-effort/air-force/
Бывший офицер армии США разрабатывает автономный ИИ EdgeRunner AI для военных целей, которым уже заинтересовался Пентагон

EdgeRunner AI — это технологический агент, работающий в автономном режиме и изолированный от незащищенных сетей с целью защиты конфиденциальных данных и усиления безопасности.

«В EdgeRunner мы взяли эти модели, эти LLM, сжали их и адаптировали к военным данным», — сказал Солтсман. «Теперь они настолько малы, что могут размещаться на чипе, и им не нужны большие серверы центров обработки данных».

По словам Солтсмена, искусственный интеллект EdgeRunner до-обучен на более чем 30 миллиардах токенов, или слов, из военной доктрины, военной истории как в Соединенных Штатах, так и за их пределами, военной тактики, учебных пособий, боевых уставов и философии, включая греческую мифологию, римских легионеров, кодекс Бусидо, принципы Иисуса Христа и идеологии, сформировавшие западную цивилизацию.

https://www.foxbusiness.com/technology/former-army-officer-develops-offline-ai-military-use-pentagon-funds-tech-giants
Пентагон ищет варианты сэкономить на закупках ИИ - расходы уже огромные.

Министерство обороны США тестирует модели ИИ, которые упрощают переход от таких поставщиков, как Palantir

Министерство обороны и другие федеральные агентства тестируют модели искусственного интеллекта от Microsoft и OpenAI, специально направленные на извлечение данных из аналитических приложений, используемых такими подрядчиками, как Palantir и Lockheed Martin.

Правительственные чиновники рассматривают эти инструменты как потенциальный рычаг давления в переговорах по контрактам с действующими поставщиками, такими как Palantir, поскольку они могут реально угрожать переносом данных агентства на конкурирующие аналитические платформы, такие как Power BI от Microsoft.

https://au.investing.com/news/stock-market-news/dod-tests-ai-models-that-make-it-easy-to-switch-from-vendors-like-palantir-3945876
Пентагон планирует максимально использовать генеративный ИИ для оказания влияния (для PSYOP)

В отчете RAND « Приобретение генеративного искусственного интеллекта для улучшения деятельности по оказанию влияния Министерством обороны США », подготовленном по заказу Управления технической поддержки нерегулярных боевых действий (IWTSD), рассматривается, что потребуется Пентагону для приобретения генеративного искусственного интеллекта для деятельности по оказанию влияния в больших масштабах, а также возможные последствия его использования.

Деятельность по оказанию влияния представляет собой « намеренную попытку повлиять на мысли, чувства или поведение человека или группы », и Министерство обороны США (DoD) видит большие возможности в использовании мощи генеративного ИИ не только для создания дипфейков и пропагандистских кампаний в целях собственной деятельности по оказанию влияния, но и для получения уникальной информации о целевой аудитории для целей планирования.

Сценарии использования ИИ на поле боя самые разнообразные. Но в основном всё крутится вокруг обмана противника (дезинформирования).

«Оперативным силам (особенно на тактическом уровне) требуется способность клонировать голоса для передачи сообщений. Команде может потребоваться имитировать голос командира противника, чтобы добиться его сдачи».

Генеративный ИИ может предоставить Пентагону широкий спектр инструментов для проведения кампаний влияния. В докладе RAND приводится несколько примеров:

Создание изображений и видео с желаемым уровнем детализации и точности: Генеративный ИИ уже показал себя многообещающим в создании текста, графики и видео; генерация аудиоконтента «наиболее отстает» с точки зрения создания оригинального контента.

Создание продуктов в строгих условиях: Небольшое подразделение должно иметь возможность подключения к Интернету, использовать отдельный ноутбук или даже блокноты для создания и создания простых сообщений. Как только подразделение получит доступ к интернету, оно должно иметь возможность мгновенно распространять этот контент.

Доставляет персонализированные сообщения с точностью: Выявлять сообщников боевиков-террористов через человеческие сети, а затем направлять им сообщения, специально подобранные для того, чтобы найти отклик у отдельных лиц и побудить их принять участие в усилиях по дерадикализации.

Доставляет больше продукции и быстрее: Генеративный ИИ может «сбалансировать ситуацию на поле боя», позволяя меньшему количеству военнослужащих США производить больше контента быстрее и конкурировать в больших масштабах.

Клонирует голоса командиров противника: Оперативные силы (особенно на тактическом уровне) нуждаются в способности клонировать голоса для передачи сообщений. Команда может имитировать голос командира противника, чтобы добиться его сдачи.

Управление подписями: ИИ может помочь интегрировать многочисленные потоки данных и предоставить офицерам информационной войны и тактическим командирам на местах четкую картину их тактической ситуации.

Переводите человеческие голоса в реальном или почти реальном времени: Трансляция переговоров между мостами в режиме, близком к реальному времени, поможет усилить влияние США на союзников во время операции по обеспечению свободы судоходства.

Быстро перевести текст. Бригада содействия силам безопасности может попытаться разобраться в устройстве, руководство к которому составлено на французском, немецком или корейском языке, а затем передать партнерским силам конкретные продукты влияния. Это может потребовать перевода сотен страниц высокотехнологичной информации на английский, а затем на язык принимающей страны.

Сам отчет тут:
https://www.rand.org/pubs/research_reports/RRA3157-1.html
Havelsan интегрирует ИИ в архитектуру многодоменной обороны

На выставке IDEF 2025 в Стамбуле компания Havelsan, ключевой игрок в оборонно-технологическом секторе Турции, обозначила своё стратегическое направление: интеграцию искусственного интеллекта (ИИ) в свой портфель решений для военно-воздушных, сухопутных и военно-морских сил.

В воздушной сфере Havelsan использует ИИ для повышения скорости и точности принятия решений. Его системы обрабатывают большие объёмы данных для непосредственной поддержки командиров. Дополнительная ценность заключается в способности предвидеть, моделировать и предлагать оперативные решения в более сжатые сроки.

Для сухопутных войск Havelsan инвестирует в автономные системы. Благодаря технологиям роя её платформы могут работать распределённо, скоординированно и эффективно. ИИ обеспечивает более точное управление операциями, одновременно снижая участие и воздействие человека.

В военно-морской сфере ИИ интегрирован в системы боевого управления Havelsan для поддержки принятия как тактических, так и стратегических решений. Цель — помочь командирам в сложной морской обстановке, где быстрый анализ и реагирование имеют решающее значение.

ИИ также применяется в системах моделирования и обучения Havelsan. Цель — ускорить циклы обучения, одновременно сократив затраты и время. Это включает в себя автоматизированное конструктивное обучение, адаптацию в реальном времени и учебные модули на основе ИИ.

https://armyrecognition.com/news/defense-web-tv/idef-2025-havelsan-integrates-artificial-intelligence-into-the-architecture-of-multi-domain-defense