Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
459 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Китайские компании, занимающиеся разработкой ИИ, формируют альянсы для создания внутренней экосистемы на фоне ограничений, введенных США.

https://www.reuters.com/world/china/chinese-ai-firms-form-alliances-build-domestic-ecosystem-amid-us-curbs-2025-07-28/
Та-дам!....

Модели ИИ могут непреднамеренно (или преднамеренно) учиться друг у друга посредством общих ндатасетов, особенно в сообществах с открытыми данным.

На это указывают совпадения в обучении моделей ИИ, особенно в моделях ИИ для написания программного кода. И это поднимает не простые вопросы об оригинальности и безопасности.

https://www.analyticsinsight.net/artificial-intelligence/are-ai-models-secretly-learning-from-each-other
Anthropic пиратит пиратов? Грабь награбленное как говориться.

Коллективный иск против Anthropic, утверждающий, что компания использовала пиратские книги из теневых библиотек, таких как LibGen и PiLiMi, для обучения своих моделей искусственного интеллекта, может привести к существенному ущербу, связанному с нарушением авторских прав, при этом федеральный судья вынесет решение о раздельных судебных разбирательствах по вопросам приобретения и обучения.

Понятно, что Anthropic делал это исключительно из благих намерений и из-за недостатка очищенных данных. Прогресс человечества, все дела...

https://dataconomy.com/2025/07/29/anthropic-faces-trial-over-pirated-ai-training-books/
Компания Meta* пиратила порно гигабайтами и активно заливала на торренты — главный рептилоид планеты превратил свою компанию в крупнейшего поставщика похабщины в интернете. И вишенка - в классификации всего этого задействована их Llama.

https://arstechnica.com/tech-policy/2025/07/meta-pirated-and-seeded-porn-for-years-to-train-ai-lawsuit-says/
OpenAI представила новый инструмент в ChatGPT — «Режим обучения» (Study Mode), который помогает студентам разбираться в задачах поэтапно, а не выдаёт готовые ответы.

Это решение стало ответом на распространённую проблему: многие учащиеся используют ИИ для списывания, избегая самостоятельной работы. В OpenAI заявили, что создали Study Mode как «первый шаг на долгом пути к улучшению обучения в ChatGPT».

https://www.cnbc.com/2025/07/29/openai-announces-new-study-mode-product-for-students-.html
Компании, заменившие людей на ИИ, стали осознавать свою ошибку

Больше половины СЕО теперь говорят, что откажутся от планов «значительного сокращения персонала службы поддержки клиентов» к 2027 году.

И это речь идёт о поддержке клиентов, где задачи, казалось бы, обычно решаются вполне типичные!

Даже лучший ИИ-агент (от Anthropic) мог выполнить только 24% от порученных ему типичных задач. А стоимость поддержки и оплата за серверы оказалась выше, чем большинство ожидали.

Оптимисты сразу заявляют о качестве промптов.

https://www.gartner.com/en/newsroom/press-releases/2025-06-10-gartner-predicts-50-percent-of-organizations-will-abandon-plans-to-reduce-customer-service-workforce-due-to-ai
Brightline Interactive предоставляет Министерству обороны экосистему синтетического обучения с эффектом погружения.

Группа компаний Glimpse объявила, что её дочерняя компания Brightline Interactive разработала комплексную экосистему синтетического обучения для Министерства обороны США.

Платформа сочетает пространственные вычисления на ИИ с возможностями виртуальной и дополненной реальности, обеспечивая военную подготовку в виртуализированной среде.

Эта унифицированная платформа позволяет солдатам обучать, планировать и выполнять задания, поддерживая интеграцию ресурсов реального времени, виртуальных и конструктивных (LVC) ресурсов.

https://www.stocktitan.net/news/VRAR/brightline-interactive-provides-immersive-synthetic-training-zisoa01g9cpc.html
Армия США тестирует автономное тактическое транспортное средство ULTRA

Разработанный сиэтлской компанией Overland AI, занимающейся оборонными технологиями, автономный грузовой автомобиль ULTRA предназначен для выполнения автономных логистических операций в условиях ожесточенного противостояния без участия человека-оператора или телеуправления, что обеспечивает армии США стратегическое преимущество в области автономного наземного снабжения.

https://armyrecognition.com/news/army-news/2025/exclusive-report-u-s-army-tests-ultra-autonomous-tactical-vehicle-to-reduce-risk-in-frontline-logistics-operations
Командование ССО США внесло поправки в свой список пожеланий по технологиям дополнительные возможности ИИ и расширенные возможности автономности.

«Конкретные области интереса включают, помимо прочего, агентный ИИ и модели действий на языке зрения (VLA) для достижения более сложного автономного поведения, такого как адаптивное обучение; нейронные поля излучения (NeRF) для представления и навигации в трехмерной сцене; генеративный ИИ для моделирования и дополнения данных; усовершенствованные алгоритмы автоматического распознавания целей (ATR) с уточнением узлов ребер и автономной переподготовкой моделей; усовершенствованные операции машинного обучения (MLOP) для поддержки управления данными, обучения моделей, проверки и мониторинга»



Сам документ "Развитие технологий для использования силами специального назначения" тут:
https://sam.gov/workspace/contract/opp/5ee91e9f4f1349bfb7e8db3231a4e48e/view
Моделирование кризисов с помощью ИИ для управления поведением агентов (не тех, про которых вы подумали)

Команда профессора Хан Сын Ёля из Высшей школы ИИ при Ульсанском национальном институте науки и технологий (UNIST) объявила о разработке «Wolfpack Attack» — стратегии атаки на уязвимости, которая систематически разрушает многоагентные кооперативные структуры, а также «WALL» — защитной структуры, которая использует это для обучения.

Разработанная исследовательской группой стратегия «Атака волчьей стаи» сначала приводит к сбою одного агента, затем последовательно создаёт проблемы для остальных агентов, пытающихся помочь, что в конечном итоге разрушает всю кооперативную структуру. Эта стратегия имитирует метод охоты волков, которые изолируют слабых особей в стае, а затем последовательно подавляют сородичей, приходящих им на помощь.

В этой модели атаки модель прогнозирования на основе трансформатора автоматически выбирает начальное время атаки, рассчитывая будущие потери, а последующие цели атаки определяются по порядку, анализируя изменения поведения агентов, чувствительных к сотрудничеству.

Параллельно разрабатываемая модель WALL (Wolfpack-Adversarial Learning for MARL) представляет собой защитную обучающую структуру, которая внедряет подобные стратегии нарушения в среду обучения ИИ. Экспериментальные результаты показали, что ИИ, обученный с помощью WALL, демонстрирует высокую адаптивность и стабильную кооперативную эффективность, например, достигает целевых точек без столкновений или сохраняет строй при сталкивании объектов, даже в ситуациях с ошибками позиционирования или задержками связи.

https://www.businesskorea.co.kr/news/articleView.html?idxno=248419
Бывший офицер армии США Брэндон Корона основал компанию EdgeRunner AI для разработки автономных, безопасных инструментов ИИ, разработанных на основе военной доктрины для использования в условиях отсутствия связи на поле боя, что позволяет устранить пробелы в системах, зависящих от подключения, но основное бабло уходит в OpenAI и Google.

https://www.webpronews.com/ex-army-officer-builds-offline-ai-for-battlefields-amid-pentagons-1b-push/
😁1
Safe Pro Group Inc. выбрана для участия в экспериментальных учениях по концептуальным боевым действиям (CFWE-M) 2026.

Компания планирует продемонстрировать на мероприятии свои технологии компьютерного зрения на базе искусственного интеллекта, включая платформу анализа изображений SpotlightAI.

Эта система способна обнаруживать и идентифицировать более 150 типов мин и неразорвавшихся боеприпасов менее чем за секунду на каждый снимок. Технология Safe Pro используется в Украине уже более 2,5 лет. По данным компании, она проанализировала более 1,66 млн снимков с дронов и выявила около 28 000 угроз на площади 6 705 гектаров.

https://au.investing.com/news/company-news/safe-pro-group-to-showcase-ai-tech-at-us-army-experiment-in-2026-93CH-3949592
изображение.png
531.4 KB
In-Q-Tel ЦРУ проинвестировала уже в 800 технологий ИИ

Инсайдеры отмечают уникальность модели In-Q-Tel: она не стремится к традиционной венчурной доходности, а, скорее, гарантирует, что портфельные компании адаптируют свои продукты к потребностям разведки.

Помимо отдельных инвестиций, портфель In-Q-Tel отражает более широкую стратегию развития экосистем. Например, финансирование компаний, занимающихся квантовым ИИ, таких как D-Wave, и блокчейн-трекеров, таких как Chainalysis, как упоминалось в обсуждениях X от июля 2025 года, распространяется на наблюдение за криптовалютами, что соответствует приоритетам национальной безопасности в области цифровых финансов.

https://www.webpronews.com/cias-in-q-tel-hits-800-investments-in-ai-and-defense-tech/
Новый план действий Китая в области ИИ, представленный в июле 2025 года, ставит амбициозные цели по укреплению позиции Китая как мирового лидера в области ИИ к 2030 году. В плане особое внимание уделяется масштабным инвестициям в исследования ИИ, разработке отечественных чипов для ИИ и интеграции ИИ в такие отрасли, как производство, здравоохранение и оборона.

Ключевые элементы включают:

1️⃣ Самодостаточность в области оборудования для ИИ: Столкнувшись с экспортным контролем США на современные полупроводники, Китай намерен ускорить производство собственных чипов для ИИ, снизив зависимость от Nvidia и других западных поставщиков.

2️⃣ Талант и инновации: план предусматривает выделение миллиардов долларов на образование и научно-исследовательские институты в области ИИ с целью подготовки 100 000 новых специалистов в области ИИ к 2028 году.

3️⃣ Этическая структура ИИ: В ответ на глобальные опасения Китай обещает разработать «ответственные» системы ИИ, хотя критики утверждают, что это может отдать приоритет государственному контролю над инновациями.

4️⃣ Влияние глобальных стандартов: Китай стремится сформировать международное управление ИИ, бросая вызов возглавляемым США структурам на таких форумах, как Организация Объединенных Наций.

Этот план действий является прямым ответом на эскалацию технологической напряжённости, в частности, на ограничения США на доступ Китая к передовым технологиям. С 2022 года экспортный контроль США ограничивает возможности Китая по приобретению передовых чипов и средств обучения искусственному интеллекту, что побуждает Пекин ещё активнее стремиться к самодостаточности. В недавнем отчёте Reuters отмечалось, что инвестиции Китая в ИИ достигли 25 миллиардов долларов в 2024 году, что сопоставимо с расходами частного сектора США.

https://www.bbntimes.com/technology/china-s-ai-action-plan-signals-escalating-tech-rivalry-amid-u-s-china-trade-talks
Девушки начали просить ChatGPT честно оценить их внешность и дать совет

Многие считают, что бот даёт более честную и объективную оценку, чем друзья и семья. Но эксперты предупреждают: ChatGPT обучен на огромных объёмах информации из интернета, включая сайты с субъективными, а иногда даже «токсичными» стандартами красоты. Это значит, что рекомендации могут быть предвзятыми или продвигать покупку определённых товаров.
😁5💯31
А вот почему Тоамп затеял ИИ революцию в Америке.

Рост производительности с помощью ИИ может решить растущий кризис федерального долга Америки за счет роста ВВП.

Искусственный интеллект оказывает дезинфляционное давление, одновременно увеличивая налоговые поступления и экономический рост.

Соотношение государственного долга к ВВП США приближается к 120%, и для стабилизации ситуации необходима революция производительности на основе искусственного интеллекта.

Технологические инновации создают чистый рост рабочих мест, несмотря на автоматизацию: прогнозируется создание 78 миллионов новых рабочих мест.
https://finance.yahoo.com/news/artificial-intelligence-could-solve-americas-214505211.html
Slingshot Aerospace представляет ИИ-агента для моделирования поведения спутников

Компания Slingshot Aerospace представила усовершенствованный автономный агент искусственного интеллекта под названием Slingshot Thinking Agent for Logical Operations and Strategy (TALOS) — это система на базе искусственного интеллекта, разработанная с использованием технологии клонирования поведения Slingshot и предназначенная для имитации реалистичного поведения спутников в условиях обучения и моделирования.

TALOS использует наборы данных компании по отслеживанию космических объектов и разведке миссий, такие как база данных истории спутников и запусков Seradata, для постоянного мониторинга окружения космического аппарата и предоставления практической информации для оптимизации процесса принятия решений во время космических операций.

https://www.executivebiz.com/articles/slingshot-aerospace-ai-powered-slingshot-talos-space-mission-readiness
Компания VCI Global представит на саммите ASEAN AI Summit 2025, который пройдет 12–13 августа 2025 года в MITEC в Куала-Лумпуре, три ключевых компонента разработанной ИИ инфраструктуры.

Суверенная инфраструктура данных VCI Global — это комплексная экосистема аппаратных и программных решений, разработанных дочерними компаниями V Gallant Sdn Bhd («V Gallant») и QuantGold Data Platform («QuantGold»). Инфраструктура поддерживает план развертывания национальных центров обработки данных на базе ИИ в Юго-Восточной Азии и включает в себя:

SecureGPU TM — зашифрованные вычислительные серверы ИИ с защитой на уровне PCIe (Peripheral Component Interconnect Express), обеспечивающие высокоскоростную шифрованную обработку с малой задержкой.

CyberSecure — аппаратные шифрованные хранилища, специально созданные для защиты данных высочайшего уровня.

Qsecore – решение для мобильной связи с шифрованием на уровне SIM-карты для безопасной связи по всей стране

В совокупности эти технологии позволяют создавать масштабируемые, надежные цифровые экосистемы, которые предоставляют правительствам и учреждениям полный контроль над своей инфраструктурой ИИ и данных.

https://www.stocktitan.net/news/VCIG/vci-global-to-present-sovereign-data-infrastructure-at-asean-ai-78dawvebbztg.html
Рассуждения американских аналитиков о фундаментальных изменениях в военном деле.

Новая линия фронта: победа в информационной войне на тактическом фронте.

Будущее обороны зависит от информационного превосходства в точке удара. Это требует мощных периферийных вычислительных платформ и безопасных, ориентированных на выполнение задач моделей искусственного интеллекта.

Решающее преимущество теперь зависит не только от скорости перемещения войск и техники, но и от способности собирать, передавать и обрабатывать информацию быстрее, безопаснее и с большей оперативной значимостью, чем противник.

Достижение такого информационного преимущества означает возможность предоставлять информацию бойцам в режиме реального времени, особенно в условиях отсутствия связи, её отсутствия, прерывистости или ограниченности (DDIL). Это не просто техническое усовершенствование, это стратегический императив.

‼️ Решение заключается в сочетании мощных, защищенных периферийных вычислительных платформ и моделей ИИ, специально разработанных для использования в обороне, которые могут работать автономно, даже при полном отключении от сетей с высокой пропускной способностью.

https://defensescoop.com/2025/07/30/the-new-frontline-winning-the-information-war-at-the-tactical-edge/
🤔3😁2💯21
"Я не опасаюсь ИИ, который пройдёт тест Тьюринга. Я боюсь ИИ, который скроет это"

ИИ теперь знает больше, чем вы. Он знает больше, чем ваши профессора, наставники и начальники. Он может написать ваш код, составить бизнес-план, разработать логотип, предложить маркетинговую стратегию — и сделать всё это ещё до того, как остынет ваш утренний кофе.

Но пока машины развиваются, мы, их создатели, деградируем. Дело не в том, что ИИ нас заменяет, а в том, что мы слишком охотно сдаёмся под предлогом удобства. По сути, мы делегируем ИИ своё воображение и творческие способности.

Мы рискуем создать поколение, которое будет интеллектуально пассивным, эмоционально безразличным и творчески отстранённым. Мы рискуем создать мир интеллектуальных потребителей, а не участников. Мир, где ИИ генерирует, а люди просто прокручивают, одобряют и покупают.

Но главная проблема в том, что мы даже не готовимся к этим переменам и не задаёмся реальными вопросами. Вместо этого мы спорим в социальных сетях и газетах о войне между ИИ и людьми.

https://thehill.com/opinion/technology/5425539-human-intelligence-ai-threat/
🤔2💯2🤷1
Китай заподозрил ИИ-чипы Nvidia H20 в наличии встроенных «шпионских функций»

Данные изделия Nvidia не только позволяют отслеживать своё местоположение, но и отключать их дистанционно из-за рубежа.

https://www.ft.com/content/e4904e6f-bf0d-4566-b3c9-b52e70a44979
💯2