Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
459 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Первые испытания в рамках программы Brave1 «Тест на Украине» (Test in Ukraine)

Немецкий оборонный гигант DIEHL успешно провёл полевые испытания своей наземной робототехнической системы на Украине. Испытания прошли в рамках программы «Тест на Украине» (Test in Ukraine), инициативы Brave1, которая позволяет мировым производителям тестировать свои военные технологии в условиях, имитирующих боевые.

Компания DIEHL, известная своими системами ПВО IRIS-T, стала одним из первых крупных международных игроков, воспользовавшихся этой программой. Компания привезла свою систему на украинский полигон, связанный с 3-й штурмовой бригадой, подразделением, имеющим непосредственный опыт боевых действий. Это предоставило группе испытателей ценный опыт работы в условиях, максимально приближенных к зонам активных боевых действий.

Испытание предоставило инженерам DIEHL редкую возможность увидеть, как их роботизированная платформа работает в сложных и непредсказуемых условиях. Украинские солдаты, имеющие опыт развертывания и эксплуатации наземных роботизированных систем, предоставили подробную оперативную обратную связь и выявили области для улучшения, основанные на реальном опыте использования на поле боя.

https://en.defence-ua.com/weapon_and_tech/not_for_show_but_for_war_germanys_diehl_tests_ground_robotic_system_in_ukraine-15286.html
Учёные занимаются решением проблемы ИИ с помощью самого ИИ.

По прогнозам Deloitte , к 2027 году убытки от мошенничества в результате подобных инцидентов в США достигнут 40 миллиардов долларов, по сравнению с 12,3 миллиардами долларов в 2023 году.

IT гиганты постоянно создают новые инструменты выявления дипфейков, но они быстро деградируют, так-как сам ИИ не менее стремительно развивается и подделки становятся всё соверщеннее.

Мало того, «Если в кадре нет лица, многие детекторы просто не работают. Но дезинформация может проявляться по-разному. Изменение фона сцены может так же легко исказить правду»...

Исследователи сотрудничали с учёными из Google, компании Alphabet, разработали новую модели ИИ, которая обнаруживает фальсификацию видео и разоблачает фейковый контент, используемый для распространения дезинформации и подстрекательства к насилию.

Модель способна распознавать как частично смонтированные, так и полностью синтетические видео. Вместо того, чтобы фокусироваться только на лице, как большинство традиционных детекторов, эта модель анализирует кадры целиком, независимо от того, присутствует ли в видео человек.

UNITE, анализируя лица, также анализирует фон и модели движения и пр., тем самым охватывая полные видеокадры, предлагает один из первых подобных инструментов для идентификации синтетических видеороликов, которые не основываются исключительно на содержании лиц. Таким образом, помимо популярного набора данных FaceForensics++, команда также использовала набор данных SAIL-VOS-3D, который имитирует сложные среды, предлагая разнообразные синтетические сцены, полезные для обучения моделей обнаружения ИИ.

Доклад, по результатом разработки: «На пути к универсальному детектору синтетического видео: от манипуляций с лицами и фоном до контента, полностью созданного с помощью ИИ» (Towards a Universal Synthetic Video Detector: From Face or ackground Manipulations to Fully AI-Generated Content).

https://arxiv.org/pdf/2412.12278
В Китае ИИ уже проектирует авиатехнику

Шэньянский институт авиационного проектирования Китая использует платформу ИИ DeepSeek для решения сложных инженерных задач и сокращения времени, затрачиваемого на технические обзоры, что позволяет исследователям сосредоточиться на основных инновационных задачах.

Ведущий конструктор Ван Юнцин заявил, что данная технология уже генерирует новые идеи и подходы для развития аэрокосмической отрасли, и подтвердил устойчивый прогресс в разработке новых модификаций многоцелевого истребителя-невидимки J-35.

Этот прогресс может быть обусловлен разработкой в Китае всё более совершенных моделей искусственного интеллекта. В этом месяце журнал Nature сообщил , что Kimi K2 от Moonshot AI, агентная модель большого языка с открытыми весами, соответствует или превосходит западные модели и модели DeepSeek. В отчёте указывается, что Kimi K2, по всей видимости, демонстрирует превосходные результаты в программировании, показывая высокие результаты в таких тестах, как LiveCodeBench.

https://asiatimes.com/2025/07/chinas-ai-leap-elevating-stealth-fighter-ambitions/#
Теперь этот документ называют так: План президента Трампа по полному переходу Америки на искусственный интеллект

«Тот, кто обладает крупнейшей экосистемой ИИ, установит мировые стандарты в этой области и получит колоссальные экономические и военные преимущества», — говорится далее во введении.

Из примерно 19 «рекомендуемых политических действий», пять относятся к внутренней работе Пентагона. А все остальные пункты отводят Пентагону видную, даже ведущую, роль в установлении стандартов и координации усилий всех органов исполнительной власти.

Особый интерес представляет призыв к DARPA возглавить междисциплинарную «программу разработки технологий» для решения фундаментальной проблемы передового ИИ — невежества.

Это особенно актуально для генеративного ИИ, такого как большие языковые модели, которые могут обобщать большие объемы данных и даже генерировать удивительные идеи, но также часто «галлюцинируют» и дезинформируют непредсказуемым образом.

Помимо программы под руководством DARPA, целевая группа под названием «Интерпретируемость, контроль и надежность ИИ» также призывает Пентагон сотрудничать с министерствами энергетики, торговли, внутренней безопасности и другими в проведении «хакатонов по ИИ».

https://www.vietnam.vn/ru/ke-hoach-ai-hoa-toan-dien-nuoc-my-cua-tong-thong-trump
Оборонный стартап Slingshot Aerospace объявил во вторник, что создал систему на ИИ, которая позволяет Космическим силам обучать персонал защите спутников от терактов и сложным маневрам.

Инструмент Thinking Agent for Logical Operations and Strategy (TALOS) представляет собой агента на базе искусственного интеллекта, способного изучать и воспроизводить различные операции космического корабля в условиях, имитирующих космическую среду, говорится в пресс-релизе Slingshot. Военнослужащие Космических сил уже протестировали и использовали TALOS во время учений, и теперь компания изучает, как эта технология может ещё больше помочь службе.

https://defensescoop.com/2025/07/29/space-force-ai-training-satellite-operations-slingshot-aerospace-talos/
Компания ZenaTech объявила о создании Zena AI, Inc., специализированного центра разработки ИИ в рамках своей дочерней компании ZenaDrone в США.

Новое подразделение будет заниматься исключительно разработкой ИИ для Министерства обороны и служб внутренней безопасности США. Сосредоточившись на ИИ-решениях для госструктур США, ZenaTech удовлетворяет острую потребность федерального правительства в отечественных идеологически нейтральных ИИ-инструментах.

https://www.ainvest.com/news/zenatech-strategic-ai-pivot-defense-high-growth-play-government-priorities-2507/
1
Китайские компании, занимающиеся разработкой ИИ, формируют альянсы для создания внутренней экосистемы на фоне ограничений, введенных США.

https://www.reuters.com/world/china/chinese-ai-firms-form-alliances-build-domestic-ecosystem-amid-us-curbs-2025-07-28/
Та-дам!....

Модели ИИ могут непреднамеренно (или преднамеренно) учиться друг у друга посредством общих ндатасетов, особенно в сообществах с открытыми данным.

На это указывают совпадения в обучении моделей ИИ, особенно в моделях ИИ для написания программного кода. И это поднимает не простые вопросы об оригинальности и безопасности.

https://www.analyticsinsight.net/artificial-intelligence/are-ai-models-secretly-learning-from-each-other
Anthropic пиратит пиратов? Грабь награбленное как говориться.

Коллективный иск против Anthropic, утверждающий, что компания использовала пиратские книги из теневых библиотек, таких как LibGen и PiLiMi, для обучения своих моделей искусственного интеллекта, может привести к существенному ущербу, связанному с нарушением авторских прав, при этом федеральный судья вынесет решение о раздельных судебных разбирательствах по вопросам приобретения и обучения.

Понятно, что Anthropic делал это исключительно из благих намерений и из-за недостатка очищенных данных. Прогресс человечества, все дела...

https://dataconomy.com/2025/07/29/anthropic-faces-trial-over-pirated-ai-training-books/
Компания Meta* пиратила порно гигабайтами и активно заливала на торренты — главный рептилоид планеты превратил свою компанию в крупнейшего поставщика похабщины в интернете. И вишенка - в классификации всего этого задействована их Llama.

https://arstechnica.com/tech-policy/2025/07/meta-pirated-and-seeded-porn-for-years-to-train-ai-lawsuit-says/
OpenAI представила новый инструмент в ChatGPT — «Режим обучения» (Study Mode), который помогает студентам разбираться в задачах поэтапно, а не выдаёт готовые ответы.

Это решение стало ответом на распространённую проблему: многие учащиеся используют ИИ для списывания, избегая самостоятельной работы. В OpenAI заявили, что создали Study Mode как «первый шаг на долгом пути к улучшению обучения в ChatGPT».

https://www.cnbc.com/2025/07/29/openai-announces-new-study-mode-product-for-students-.html
Компании, заменившие людей на ИИ, стали осознавать свою ошибку

Больше половины СЕО теперь говорят, что откажутся от планов «значительного сокращения персонала службы поддержки клиентов» к 2027 году.

И это речь идёт о поддержке клиентов, где задачи, казалось бы, обычно решаются вполне типичные!

Даже лучший ИИ-агент (от Anthropic) мог выполнить только 24% от порученных ему типичных задач. А стоимость поддержки и оплата за серверы оказалась выше, чем большинство ожидали.

Оптимисты сразу заявляют о качестве промптов.

https://www.gartner.com/en/newsroom/press-releases/2025-06-10-gartner-predicts-50-percent-of-organizations-will-abandon-plans-to-reduce-customer-service-workforce-due-to-ai
Brightline Interactive предоставляет Министерству обороны экосистему синтетического обучения с эффектом погружения.

Группа компаний Glimpse объявила, что её дочерняя компания Brightline Interactive разработала комплексную экосистему синтетического обучения для Министерства обороны США.

Платформа сочетает пространственные вычисления на ИИ с возможностями виртуальной и дополненной реальности, обеспечивая военную подготовку в виртуализированной среде.

Эта унифицированная платформа позволяет солдатам обучать, планировать и выполнять задания, поддерживая интеграцию ресурсов реального времени, виртуальных и конструктивных (LVC) ресурсов.

https://www.stocktitan.net/news/VRAR/brightline-interactive-provides-immersive-synthetic-training-zisoa01g9cpc.html
Армия США тестирует автономное тактическое транспортное средство ULTRA

Разработанный сиэтлской компанией Overland AI, занимающейся оборонными технологиями, автономный грузовой автомобиль ULTRA предназначен для выполнения автономных логистических операций в условиях ожесточенного противостояния без участия человека-оператора или телеуправления, что обеспечивает армии США стратегическое преимущество в области автономного наземного снабжения.

https://armyrecognition.com/news/army-news/2025/exclusive-report-u-s-army-tests-ultra-autonomous-tactical-vehicle-to-reduce-risk-in-frontline-logistics-operations
Командование ССО США внесло поправки в свой список пожеланий по технологиям дополнительные возможности ИИ и расширенные возможности автономности.

«Конкретные области интереса включают, помимо прочего, агентный ИИ и модели действий на языке зрения (VLA) для достижения более сложного автономного поведения, такого как адаптивное обучение; нейронные поля излучения (NeRF) для представления и навигации в трехмерной сцене; генеративный ИИ для моделирования и дополнения данных; усовершенствованные алгоритмы автоматического распознавания целей (ATR) с уточнением узлов ребер и автономной переподготовкой моделей; усовершенствованные операции машинного обучения (MLOP) для поддержки управления данными, обучения моделей, проверки и мониторинга»



Сам документ "Развитие технологий для использования силами специального назначения" тут:
https://sam.gov/workspace/contract/opp/5ee91e9f4f1349bfb7e8db3231a4e48e/view
Моделирование кризисов с помощью ИИ для управления поведением агентов (не тех, про которых вы подумали)

Команда профессора Хан Сын Ёля из Высшей школы ИИ при Ульсанском национальном институте науки и технологий (UNIST) объявила о разработке «Wolfpack Attack» — стратегии атаки на уязвимости, которая систематически разрушает многоагентные кооперативные структуры, а также «WALL» — защитной структуры, которая использует это для обучения.

Разработанная исследовательской группой стратегия «Атака волчьей стаи» сначала приводит к сбою одного агента, затем последовательно создаёт проблемы для остальных агентов, пытающихся помочь, что в конечном итоге разрушает всю кооперативную структуру. Эта стратегия имитирует метод охоты волков, которые изолируют слабых особей в стае, а затем последовательно подавляют сородичей, приходящих им на помощь.

В этой модели атаки модель прогнозирования на основе трансформатора автоматически выбирает начальное время атаки, рассчитывая будущие потери, а последующие цели атаки определяются по порядку, анализируя изменения поведения агентов, чувствительных к сотрудничеству.

Параллельно разрабатываемая модель WALL (Wolfpack-Adversarial Learning for MARL) представляет собой защитную обучающую структуру, которая внедряет подобные стратегии нарушения в среду обучения ИИ. Экспериментальные результаты показали, что ИИ, обученный с помощью WALL, демонстрирует высокую адаптивность и стабильную кооперативную эффективность, например, достигает целевых точек без столкновений или сохраняет строй при сталкивании объектов, даже в ситуациях с ошибками позиционирования или задержками связи.

https://www.businesskorea.co.kr/news/articleView.html?idxno=248419
Бывший офицер армии США Брэндон Корона основал компанию EdgeRunner AI для разработки автономных, безопасных инструментов ИИ, разработанных на основе военной доктрины для использования в условиях отсутствия связи на поле боя, что позволяет устранить пробелы в системах, зависящих от подключения, но основное бабло уходит в OpenAI и Google.

https://www.webpronews.com/ex-army-officer-builds-offline-ai-for-battlefields-amid-pentagons-1b-push/
😁1
Safe Pro Group Inc. выбрана для участия в экспериментальных учениях по концептуальным боевым действиям (CFWE-M) 2026.

Компания планирует продемонстрировать на мероприятии свои технологии компьютерного зрения на базе искусственного интеллекта, включая платформу анализа изображений SpotlightAI.

Эта система способна обнаруживать и идентифицировать более 150 типов мин и неразорвавшихся боеприпасов менее чем за секунду на каждый снимок. Технология Safe Pro используется в Украине уже более 2,5 лет. По данным компании, она проанализировала более 1,66 млн снимков с дронов и выявила около 28 000 угроз на площади 6 705 гектаров.

https://au.investing.com/news/company-news/safe-pro-group-to-showcase-ai-tech-at-us-army-experiment-in-2026-93CH-3949592
изображение.png
531.4 KB
In-Q-Tel ЦРУ проинвестировала уже в 800 технологий ИИ

Инсайдеры отмечают уникальность модели In-Q-Tel: она не стремится к традиционной венчурной доходности, а, скорее, гарантирует, что портфельные компании адаптируют свои продукты к потребностям разведки.

Помимо отдельных инвестиций, портфель In-Q-Tel отражает более широкую стратегию развития экосистем. Например, финансирование компаний, занимающихся квантовым ИИ, таких как D-Wave, и блокчейн-трекеров, таких как Chainalysis, как упоминалось в обсуждениях X от июля 2025 года, распространяется на наблюдение за криптовалютами, что соответствует приоритетам национальной безопасности в области цифровых финансов.

https://www.webpronews.com/cias-in-q-tel-hits-800-investments-in-ai-and-defense-tech/
Новый план действий Китая в области ИИ, представленный в июле 2025 года, ставит амбициозные цели по укреплению позиции Китая как мирового лидера в области ИИ к 2030 году. В плане особое внимание уделяется масштабным инвестициям в исследования ИИ, разработке отечественных чипов для ИИ и интеграции ИИ в такие отрасли, как производство, здравоохранение и оборона.

Ключевые элементы включают:

1️⃣ Самодостаточность в области оборудования для ИИ: Столкнувшись с экспортным контролем США на современные полупроводники, Китай намерен ускорить производство собственных чипов для ИИ, снизив зависимость от Nvidia и других западных поставщиков.

2️⃣ Талант и инновации: план предусматривает выделение миллиардов долларов на образование и научно-исследовательские институты в области ИИ с целью подготовки 100 000 новых специалистов в области ИИ к 2028 году.

3️⃣ Этическая структура ИИ: В ответ на глобальные опасения Китай обещает разработать «ответственные» системы ИИ, хотя критики утверждают, что это может отдать приоритет государственному контролю над инновациями.

4️⃣ Влияние глобальных стандартов: Китай стремится сформировать международное управление ИИ, бросая вызов возглавляемым США структурам на таких форумах, как Организация Объединенных Наций.

Этот план действий является прямым ответом на эскалацию технологической напряжённости, в частности, на ограничения США на доступ Китая к передовым технологиям. С 2022 года экспортный контроль США ограничивает возможности Китая по приобретению передовых чипов и средств обучения искусственному интеллекту, что побуждает Пекин ещё активнее стремиться к самодостаточности. В недавнем отчёте Reuters отмечалось, что инвестиции Китая в ИИ достигли 25 миллиардов долларов в 2024 году, что сопоставимо с расходами частного сектора США.

https://www.bbntimes.com/technology/china-s-ai-action-plan-signals-escalating-tech-rivalry-amid-u-s-china-trade-talks
Девушки начали просить ChatGPT честно оценить их внешность и дать совет

Многие считают, что бот даёт более честную и объективную оценку, чем друзья и семья. Но эксперты предупреждают: ChatGPT обучен на огромных объёмах информации из интернета, включая сайты с субъективными, а иногда даже «токсичными» стандартами красоты. Это значит, что рекомендации могут быть предвзятыми или продвигать покупку определённых товаров.
😁5💯31