Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
459 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Channel created
Channel photo updated
Как ИИ и киберсдерживание подрывают мораль

Новое исследование под названием «Воображая призрачное насилие: о морали и смысле в киберядерную эпоху» предупреждает, что современные технологии порождают форму невидимого принуждения, которая подрывает глобальную стабильность и управление, ориентированное на человека. Сочетание искусственного интеллекта (ИИ), ядерного сдерживания и кибервойны порождает то, что исследователи называют «спектральным насилием», определяемым как постоянная, всеобъемлющая угроза, подрывающая этичное принятие решений и демократический надзор.

В исследовании вводится концепция «спектрального насилия» для описания новой формы сдерживания, при которой насилие не осуществляется физически, а поддерживается постоянной угрозой нарушения. В этой модели ядерное оружие и киберсредства действуют не посредством развёртывания, а посредством алгоритмического предвосхищения, символической сигнализации и предиктивной аналитики. Эти системы образуют технологическую архитектуру страха, которая формирует международную политику и управление, не оставляя видимых следов конфликта.

Само исследование:
https://journals.sagepub.com/doi/10.1177/07255136251353240
На прошлой неделе китайская компания Unitree Robotics начала продавать человекоподобного робота с ИИ, включающим распознавание голоса и изображений, всего за 5900 долларов США. Это первый робот из ожидаемого потока недорогих машин с искусственным интеллектом для дома и офиса (похоже, этот пока не умеет мыть посуду, но это ненадолго).
Анализ стратегии Пентагона по беспилотникам

В июле 2025 года министр обороны Пит Хегсет представил новую политику Пентагона в отношении беспилотников, официально названную «Раскрытие доминирования американских военных беспилотников».

1 Ключевым элементом политики является переклассификация малых беспилотных летательных аппаратов из имущества длительного пользования в «расходные материалы». Согласно документам, беспилотные авиационные системы (БАС) групп 1 и 2 (весом менее 25 кг) теперь будут «учитываться как расходные материалы, а не как имущество длительного пользования».

Пентагон определяет беспилотники Группы 1 как системы весом до 20 фунтов, способные летать на высоте до 1200 футов (360 м) и развивать скорость до 100 узлов. Группа 2 включает беспилотники весом от 21 до 55 фунтов (25,5 кг), способные подниматься на высоту 3500 футов (1000 м) и развивать скорость до 250 узлов (250 узлов).

2 Новая политика значительно расширяет круг лиц, имеющих право приобретать, испытывать и развертывать беспилотники в рамках военной иерархии. Впервые командиры на уровне полковника и капитана ВМС смогут самостоятельно закупать и испытывать беспилотники, включая прототипы, напечатанные на 3D-принтере, и коммерческие готовые системы, при условии их соответствия критериям национальной безопасности.

3 Пентагон предпринимает беспрецедентные шаги для поддержки американских производителей беспилотников и расширения промышленной базы. В течение 30 дней после объявления этой политики Управлению стратегического капитала и Министерству эффективности государственного управления было поручено предложить варианты финансирования, включая авансовые обязательства по закупкам, прямые кредиты и другие формы стимулирования капитала, чтобы помочь отечественным производителям беспилотников быстро расширить масштабы производства.

4 Политика предусматривает полную трансформацию военной подготовки. Хегсет ожидает, что к следующему году возможности беспилотников будут интегрированы во «все соответствующие виды боевой подготовки, включая боевые действия с применением беспилотников». Военные ведомства должны создать не менее трёх национальных полигонов для обучения использованию беспилотников на различных рельефах местности, включая надводные, в течение 90 дней с момента объявления политики.

Пентагон установил амбициозные сроки, которые подчеркивают срочность этой трансформации:

К 1 сентября 2025 года: Все рода войск должны создать специализированные экспериментальные подразделения беспилотников, предназначенные для быстрого масштабирования использования малых беспилотников в рамках объединённых сил. К концу 2026 финансового года: Каждое армейское подразделение должно быть оснащено малыми ударными беспилотниками «одностороннего действия» (одноразовыми дронами-камикадзе), при этом приоритет отдаётся подразделениям Индо-Тихоокеанского региона.

К сентябрю 2026 года: Пентагон намерен закупить и ввести в эксплуатацию тысячи беспилотников, а некоторые армейские программы уже нацелены на закупку более 10 000 единиц по цене менее 2 000 долларов за единицу.

Политика также предусматривает, что к 2027 году все основные учебные мероприятия Министерства обороны должны включать возможности беспилотников, что кардинально изменит подход военных к подготовке к современной войне.

https://sldinfo.com/2025/07/parsing-the-pentagons-july-2025-guidance-on-drones/
Испанский подросток находится под следствием из-за фотографий обнаженных одноклассников, сделанных с помощью искусственного интеллекта

27 июля испанская полиция заявила, что ведет расследование в отношении 17-летнего подростка по подозрению в использовании искусственного интеллекта для создания фейковых изображений обнаженных одноклассниц с целью продажи.

Расследование было начато после того, как 16 молодых женщин из образовательного учреждения в регионе Валенсия пожаловались на то, что в социальных сетях и Интернете распространяются их изображения, созданные с помощью искусственного интеллекта.

Первая жалоба была подана в декабре 2024 года подростком, который заявил, что в аккаунте социальной сети, созданном под его именем, были опубликованы созданное с помощью искусственного интеллекта видео и поддельные фотографии, на которых она была изображена «полностью обнаженной».

https://www.straitstimes.com/world/europe/spanish-teen-investigated-over-nude-ai-images-of-classmates
Исследователи из Университета Карнеги-Меллона показывают, что большие языковые модели могут самостоятельно планировать и осуществлять кибератаки.

Исследователи показали, что ИИ могжет автономно планировать и осуществлять сложные кибератаки на сетевые среды корпоративного уровня. Ключом к успеху стала иерархическая архитектура, в которой LLM выступал в роли стратега. Он планировал высокоуровневые шаги, одновременно выдавая инструкции специализированным агентам, которые выполняли низкоуровневые задачи, такие как сканирование сетей и проведение атак. Этот подход оказался эффективнее прежних методов, которые полагались исключительно на выполнение LLM команд оболочки.

Исследование было поддержано компанией Anthropic, которая предоставила модельные кредиты и технические консультации. Оно было проведено Институтом безопасности и конфиденциальности CyLab Университета Карнеги-Меллона под руководством преподавателей Лухо Бауэра и Вьяса Секара. Ранняя версия работы была представлена на семинаре по безопасности, организованном OpenAI в мае, и уже цитировалась в отраслевых отчётах, лежащих в основе документации по безопасности ИИ.

https://www.edtechinnovationhub.com/news/carnegie-mellon-researchers-show-large-language-models-can-autonomously-plan-and-execute-cyberattacks
Украина получит в 10 раз больше комплектов дронов Skynode S, чем планировалось

Компания Auterion уже поставила свою универсальную систему компьютерного зрения для украинских беспилотников — и теперь собирается поставлять их в гораздо больших количествах.

Skynode S - это миниатюрная плата с пассивным охлаждением, которую можно установить практически на любой дрон. Функционально она выполняет функцию автономного модуля наведения — своего рода «головки самонаведения», — что, по данным Auterion, позволяет дронам достигать 90% вероятности попадания в цель. Система сохраняет эффективность даже в условиях радиоэлектронной борьбы противника.

Комплекты Skynode S будут особенно полезны для противодействия угрозе со стороны дальнобойных ударных дронов. При использовании 33 000 комплектов даже 70–80% успеха могут привести к нейтрализации от 23 000 до более чем 26 000 вражеских дронов. При эффективности 90% этот показатель превышает 29 000 уничтоженных дронов.

https://www.ft.com/content/fe708758-619e-47a8-ae7a-18adcede267a
Учения Drone Prahar

Индийская армия повысила свою боеготовность, включив беспилотные летательные аппараты в высокотехнологичные военные учения «Учения с использованием дронов Прахар». Учения проводились в Раянге, штат Аруначал-Прадеш, и были направлены на интеграцию беспилотников в боевые действия.

https://www.devdiscourse.com/article/technology/3518935-exercise-drone-prahar-revolutionizing-combat-with-drone-technology
Анализ: почему инновации в оборонных технологиях Израиля опережают инновации США

За один год число стартапов в сфере оборонных технологий в Израиле почти удвоилось. В 2024 году число стартапов, связанных с обороной, составило 160. Сегодня их число достигло 312 — темп роста 95%, что значительно превышает показатели США (17%) и Великобритании (20%) за тот же период.

Что произошло?: технические директора, инженеры, менеджеры по продуктам и UX-дизайнеры, многие из которых создали самые успешные израильские стартапы, оказались мобилизованы в форме и отправлены в зоны активных боевых действий. Эти люди не просто стали свидетелями оперативных пробелов на поле боя.

Они жили войной и теперь точно знают что нужно и почему нужно быстро!

В большинстве стран инновации в сфере обороны начинаются с того, что болевые точки солдата передаются (часто некорректно) по длинной цепочке к гражданской группе НИОКР, которая никогда не носила форму. В Израиле солдат — это команда НИОКР. Результатом становится модель инноваций «снизу вверх», где решения рождаются из сиюминутной необходимости, оперативной обратной связи и личного опыта.

https://www.jpost.com/defense-and-tech/article-862438
First Due совместно с NextNav создают решение для 3D-моделирования зоны ЧС (а заодно и для военного планирования)

Это позволит руководителям по ликвидации последствий инцидентов визуализировать не только горизонтальное, но и вертикальное положение персонала. Благодаря отображению спасателей с помощью трехмерного каркасного изображения зданий NextNav непосредственно в системе управления инцидентами и реагирования First Due, руководители на месте происшествия теперь могут точно определять местоположение персонала в режиме реального времени внутри высотных или сложных сооружений.

Эта возможность способствует более быстрому и обоснованному принятию решений во время чрезвычайных ситуаций и призвана повысить безопасность и оперативную осведомленность спасателей, помогая как персоналу передовой, так и их командованию принимать более обоснованные тактические решения в напряженных ситуациях.

NextNav Inc. — специализируется на системах позиционирования, навигации и синхронизации (PNT) нового поколения, предлагающий совершенно новую экосистему приложений и сервисов, основанных на технологиях 3D-геолокации и PNT.

First Due — это комплексный операционный пакет на базе искусственного интеллекта для пожарных, скорой медицинской помощи и правоохранительных органов. Его комплексная облачная платформа включает в себя управление обучением и учебными процессами, ePCR NERI, предотвращение пожаров, предварительное планирование, составление графиков и управление персоналом, активы и инвентарь, взаимодействие с сообществом, мобильное реагирование и многое другое.

https://www.theglobeandmail.com/investing/markets/markets-news/Business%20Wire/33681791/first-due-partners-with-nextnav-to-provide-first-responder-vertical-location-and-3d-visualization-to-improve-responder-safety-and-accountability/
Глобальное распространение крупных языковых моделей усугубляет многочисленные проблемы безопасности. Среди них – возможность использования искусственного интеллекта экстремистами для совершения биотерроризма в целях продвижения своих идеологических целей.

Чат-боты уже доказали свою способность консультировать пользователей по планированию атак с использованием новых смертоносных форм бактерий, вирусов и токсинов. Между тем, конкуренция между великими державами отвлекает внимание от угроз, исходящих от террористических группировок и вредоносных негосударственных субъектов.

https://thewalrus.ca/ai-biological-weapon/
Верховный суд Индии всё активнее использует инструменты искусственного интеллекта и машинного обучения (МО) для оптимизации судебных процессов. Эти технологии помогают расшифровывать устные выступления на слушаниях в Конституционном суде и переводить судебные решения на 18 индийских языков.

https://www.medianama.com/2025/07/223-sc-ai-tools-case-management-5cr-cases-pile-up-india/
Компания Alibaba вышла на рынок умных очков, выпустив пару очков, работающих на основе моделей искусственного интеллекта.

Продукт под названием Quark AI Glasses поступит в продажу в Китае к концу 2025 года и будет работать на базе большой языковой модели Qwen от Alibaba и ее помощника Quark AI.

https://seekingalpha.com/news/4472608-alibaba-unveils-first-ai-powered-glasses
Компания Bell Canada объявила о партнерстве с компанией Cohere, занимающейся разработкой искусственного интеллекта, с целью предоставления комплексных решений в области суверенного ИИ для государственных и корпоративных клиентов по всей Канаде.

Cohere предоставит свои услуги ИИ через Bell AI Fabric — проект, анонсированный Bell в мае для поддержки потребностей канадских предприятий и правительств в области ИИ.

Bell AI Fabric будет включать в себя агентскую ИИ-платформу North от Cohere, которая будет доступна государственным и корпоративным клиентам, позволяя им создавать ИИ-агентов и решения по автоматизации без необходимости управления ИИ-инфраструктурой.

Bell AI Fabric также будет включать шесть центров обработки данных ИИ, а также программную инфраструктуру, такую как большие языковые модели Cohere, «разработанные для Bell с целью предоставления уникальных возможностей для канадского рынка, машинного обучения и облачного программного обеспечения».

https://www.bnnbloomberg.ca/business/artificial-intelligence/2025/07/28/bell-partners-with-ai-company-cohere-in-latest-step-to-grow-tech-service-offerings/
Commonwealth Bank сокращает десятки сотрудников в своих колл-центрах, ссылаясь на искусственный интеллект как на причину сокращения. В июне крупный банк внедрил новую систему чат-ботов для ответов на запросы клиентов 
https://au.finance.yahoo.com/news/commonwealth-bank-axes-aussie-jobs-as-human-cost-of-ai-revolution-exposed-massive-job-losses-013909458.html
Booz Allen Hamilton начала второй этап разработки боевого тактического оперативного центра (TOC-Light).

Основным субподрядчиком компании по TOC-L является компания L3Harris Technologies [LHX]. TOC-L должен быть легким и позволять военным ускорить установление каналов передачи данных и соединений с военными/коммерческими датчиками при развертывании сил.

«Прототип TOC-L от Booz Allen будет использовать концепцию модульного комплекта для отсоединения (MDK) компании в качестве основы для безопасного подключения датчиков, систем принятия решений и оружия на периферии», — заявили в компании. «MDK — это боевая возможность, продемонстрировавшая значительную эффективность в ходе учений с боевой стрельбой и оперативных развёртываний».

https://www.defensedaily.com/usaf-command-and-control-head-urges-acceleration-of-toc-l-effort/air-force/
Бывший офицер армии США разрабатывает автономный ИИ EdgeRunner AI для военных целей, которым уже заинтересовался Пентагон

EdgeRunner AI — это технологический агент, работающий в автономном режиме и изолированный от незащищенных сетей с целью защиты конфиденциальных данных и усиления безопасности.

«В EdgeRunner мы взяли эти модели, эти LLM, сжали их и адаптировали к военным данным», — сказал Солтсман. «Теперь они настолько малы, что могут размещаться на чипе, и им не нужны большие серверы центров обработки данных».

По словам Солтсмена, искусственный интеллект EdgeRunner до-обучен на более чем 30 миллиардах токенов, или слов, из военной доктрины, военной истории как в Соединенных Штатах, так и за их пределами, военной тактики, учебных пособий, боевых уставов и философии, включая греческую мифологию, римских легионеров, кодекс Бусидо, принципы Иисуса Христа и идеологии, сформировавшие западную цивилизацию.

https://www.foxbusiness.com/technology/former-army-officer-develops-offline-ai-military-use-pentagon-funds-tech-giants
Пентагон ищет варианты сэкономить на закупках ИИ - расходы уже огромные.

Министерство обороны США тестирует модели ИИ, которые упрощают переход от таких поставщиков, как Palantir

Министерство обороны и другие федеральные агентства тестируют модели искусственного интеллекта от Microsoft и OpenAI, специально направленные на извлечение данных из аналитических приложений, используемых такими подрядчиками, как Palantir и Lockheed Martin.

Правительственные чиновники рассматривают эти инструменты как потенциальный рычаг давления в переговорах по контрактам с действующими поставщиками, такими как Palantir, поскольку они могут реально угрожать переносом данных агентства на конкурирующие аналитические платформы, такие как Power BI от Microsoft.

https://au.investing.com/news/stock-market-news/dod-tests-ai-models-that-make-it-easy-to-switch-from-vendors-like-palantir-3945876