Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
459 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Anthropic пиратит пиратов? Грабь награбленное как говориться.

Коллективный иск против Anthropic, утверждающий, что компания использовала пиратские книги из теневых библиотек, таких как LibGen и PiLiMi, для обучения своих моделей искусственного интеллекта, может привести к существенному ущербу, связанному с нарушением авторских прав, при этом федеральный судья вынесет решение о раздельных судебных разбирательствах по вопросам приобретения и обучения.

Понятно, что Anthropic делал это исключительно из благих намерений и из-за недостатка очищенных данных. Прогресс человечества, все дела...

https://dataconomy.com/2025/07/29/anthropic-faces-trial-over-pirated-ai-training-books/
Компания Meta* пиратила порно гигабайтами и активно заливала на торренты — главный рептилоид планеты превратил свою компанию в крупнейшего поставщика похабщины в интернете. И вишенка - в классификации всего этого задействована их Llama.

https://arstechnica.com/tech-policy/2025/07/meta-pirated-and-seeded-porn-for-years-to-train-ai-lawsuit-says/
OpenAI представила новый инструмент в ChatGPT — «Режим обучения» (Study Mode), который помогает студентам разбираться в задачах поэтапно, а не выдаёт готовые ответы.

Это решение стало ответом на распространённую проблему: многие учащиеся используют ИИ для списывания, избегая самостоятельной работы. В OpenAI заявили, что создали Study Mode как «первый шаг на долгом пути к улучшению обучения в ChatGPT».

https://www.cnbc.com/2025/07/29/openai-announces-new-study-mode-product-for-students-.html
Компании, заменившие людей на ИИ, стали осознавать свою ошибку

Больше половины СЕО теперь говорят, что откажутся от планов «значительного сокращения персонала службы поддержки клиентов» к 2027 году.

И это речь идёт о поддержке клиентов, где задачи, казалось бы, обычно решаются вполне типичные!

Даже лучший ИИ-агент (от Anthropic) мог выполнить только 24% от порученных ему типичных задач. А стоимость поддержки и оплата за серверы оказалась выше, чем большинство ожидали.

Оптимисты сразу заявляют о качестве промптов.

https://www.gartner.com/en/newsroom/press-releases/2025-06-10-gartner-predicts-50-percent-of-organizations-will-abandon-plans-to-reduce-customer-service-workforce-due-to-ai
Brightline Interactive предоставляет Министерству обороны экосистему синтетического обучения с эффектом погружения.

Группа компаний Glimpse объявила, что её дочерняя компания Brightline Interactive разработала комплексную экосистему синтетического обучения для Министерства обороны США.

Платформа сочетает пространственные вычисления на ИИ с возможностями виртуальной и дополненной реальности, обеспечивая военную подготовку в виртуализированной среде.

Эта унифицированная платформа позволяет солдатам обучать, планировать и выполнять задания, поддерживая интеграцию ресурсов реального времени, виртуальных и конструктивных (LVC) ресурсов.

https://www.stocktitan.net/news/VRAR/brightline-interactive-provides-immersive-synthetic-training-zisoa01g9cpc.html
Армия США тестирует автономное тактическое транспортное средство ULTRA

Разработанный сиэтлской компанией Overland AI, занимающейся оборонными технологиями, автономный грузовой автомобиль ULTRA предназначен для выполнения автономных логистических операций в условиях ожесточенного противостояния без участия человека-оператора или телеуправления, что обеспечивает армии США стратегическое преимущество в области автономного наземного снабжения.

https://armyrecognition.com/news/army-news/2025/exclusive-report-u-s-army-tests-ultra-autonomous-tactical-vehicle-to-reduce-risk-in-frontline-logistics-operations
Командование ССО США внесло поправки в свой список пожеланий по технологиям дополнительные возможности ИИ и расширенные возможности автономности.

«Конкретные области интереса включают, помимо прочего, агентный ИИ и модели действий на языке зрения (VLA) для достижения более сложного автономного поведения, такого как адаптивное обучение; нейронные поля излучения (NeRF) для представления и навигации в трехмерной сцене; генеративный ИИ для моделирования и дополнения данных; усовершенствованные алгоритмы автоматического распознавания целей (ATR) с уточнением узлов ребер и автономной переподготовкой моделей; усовершенствованные операции машинного обучения (MLOP) для поддержки управления данными, обучения моделей, проверки и мониторинга»



Сам документ "Развитие технологий для использования силами специального назначения" тут:
https://sam.gov/workspace/contract/opp/5ee91e9f4f1349bfb7e8db3231a4e48e/view
Моделирование кризисов с помощью ИИ для управления поведением агентов (не тех, про которых вы подумали)

Команда профессора Хан Сын Ёля из Высшей школы ИИ при Ульсанском национальном институте науки и технологий (UNIST) объявила о разработке «Wolfpack Attack» — стратегии атаки на уязвимости, которая систематически разрушает многоагентные кооперативные структуры, а также «WALL» — защитной структуры, которая использует это для обучения.

Разработанная исследовательской группой стратегия «Атака волчьей стаи» сначала приводит к сбою одного агента, затем последовательно создаёт проблемы для остальных агентов, пытающихся помочь, что в конечном итоге разрушает всю кооперативную структуру. Эта стратегия имитирует метод охоты волков, которые изолируют слабых особей в стае, а затем последовательно подавляют сородичей, приходящих им на помощь.

В этой модели атаки модель прогнозирования на основе трансформатора автоматически выбирает начальное время атаки, рассчитывая будущие потери, а последующие цели атаки определяются по порядку, анализируя изменения поведения агентов, чувствительных к сотрудничеству.

Параллельно разрабатываемая модель WALL (Wolfpack-Adversarial Learning for MARL) представляет собой защитную обучающую структуру, которая внедряет подобные стратегии нарушения в среду обучения ИИ. Экспериментальные результаты показали, что ИИ, обученный с помощью WALL, демонстрирует высокую адаптивность и стабильную кооперативную эффективность, например, достигает целевых точек без столкновений или сохраняет строй при сталкивании объектов, даже в ситуациях с ошибками позиционирования или задержками связи.

https://www.businesskorea.co.kr/news/articleView.html?idxno=248419
Бывший офицер армии США Брэндон Корона основал компанию EdgeRunner AI для разработки автономных, безопасных инструментов ИИ, разработанных на основе военной доктрины для использования в условиях отсутствия связи на поле боя, что позволяет устранить пробелы в системах, зависящих от подключения, но основное бабло уходит в OpenAI и Google.

https://www.webpronews.com/ex-army-officer-builds-offline-ai-for-battlefields-amid-pentagons-1b-push/
😁1
Safe Pro Group Inc. выбрана для участия в экспериментальных учениях по концептуальным боевым действиям (CFWE-M) 2026.

Компания планирует продемонстрировать на мероприятии свои технологии компьютерного зрения на базе искусственного интеллекта, включая платформу анализа изображений SpotlightAI.

Эта система способна обнаруживать и идентифицировать более 150 типов мин и неразорвавшихся боеприпасов менее чем за секунду на каждый снимок. Технология Safe Pro используется в Украине уже более 2,5 лет. По данным компании, она проанализировала более 1,66 млн снимков с дронов и выявила около 28 000 угроз на площади 6 705 гектаров.

https://au.investing.com/news/company-news/safe-pro-group-to-showcase-ai-tech-at-us-army-experiment-in-2026-93CH-3949592
изображение.png
531.4 KB
In-Q-Tel ЦРУ проинвестировала уже в 800 технологий ИИ

Инсайдеры отмечают уникальность модели In-Q-Tel: она не стремится к традиционной венчурной доходности, а, скорее, гарантирует, что портфельные компании адаптируют свои продукты к потребностям разведки.

Помимо отдельных инвестиций, портфель In-Q-Tel отражает более широкую стратегию развития экосистем. Например, финансирование компаний, занимающихся квантовым ИИ, таких как D-Wave, и блокчейн-трекеров, таких как Chainalysis, как упоминалось в обсуждениях X от июля 2025 года, распространяется на наблюдение за криптовалютами, что соответствует приоритетам национальной безопасности в области цифровых финансов.

https://www.webpronews.com/cias-in-q-tel-hits-800-investments-in-ai-and-defense-tech/
Новый план действий Китая в области ИИ, представленный в июле 2025 года, ставит амбициозные цели по укреплению позиции Китая как мирового лидера в области ИИ к 2030 году. В плане особое внимание уделяется масштабным инвестициям в исследования ИИ, разработке отечественных чипов для ИИ и интеграции ИИ в такие отрасли, как производство, здравоохранение и оборона.

Ключевые элементы включают:

1️⃣ Самодостаточность в области оборудования для ИИ: Столкнувшись с экспортным контролем США на современные полупроводники, Китай намерен ускорить производство собственных чипов для ИИ, снизив зависимость от Nvidia и других западных поставщиков.

2️⃣ Талант и инновации: план предусматривает выделение миллиардов долларов на образование и научно-исследовательские институты в области ИИ с целью подготовки 100 000 новых специалистов в области ИИ к 2028 году.

3️⃣ Этическая структура ИИ: В ответ на глобальные опасения Китай обещает разработать «ответственные» системы ИИ, хотя критики утверждают, что это может отдать приоритет государственному контролю над инновациями.

4️⃣ Влияние глобальных стандартов: Китай стремится сформировать международное управление ИИ, бросая вызов возглавляемым США структурам на таких форумах, как Организация Объединенных Наций.

Этот план действий является прямым ответом на эскалацию технологической напряжённости, в частности, на ограничения США на доступ Китая к передовым технологиям. С 2022 года экспортный контроль США ограничивает возможности Китая по приобретению передовых чипов и средств обучения искусственному интеллекту, что побуждает Пекин ещё активнее стремиться к самодостаточности. В недавнем отчёте Reuters отмечалось, что инвестиции Китая в ИИ достигли 25 миллиардов долларов в 2024 году, что сопоставимо с расходами частного сектора США.

https://www.bbntimes.com/technology/china-s-ai-action-plan-signals-escalating-tech-rivalry-amid-u-s-china-trade-talks
Девушки начали просить ChatGPT честно оценить их внешность и дать совет

Многие считают, что бот даёт более честную и объективную оценку, чем друзья и семья. Но эксперты предупреждают: ChatGPT обучен на огромных объёмах информации из интернета, включая сайты с субъективными, а иногда даже «токсичными» стандартами красоты. Это значит, что рекомендации могут быть предвзятыми или продвигать покупку определённых товаров.
😁5💯31
А вот почему Тоамп затеял ИИ революцию в Америке.

Рост производительности с помощью ИИ может решить растущий кризис федерального долга Америки за счет роста ВВП.

Искусственный интеллект оказывает дезинфляционное давление, одновременно увеличивая налоговые поступления и экономический рост.

Соотношение государственного долга к ВВП США приближается к 120%, и для стабилизации ситуации необходима революция производительности на основе искусственного интеллекта.

Технологические инновации создают чистый рост рабочих мест, несмотря на автоматизацию: прогнозируется создание 78 миллионов новых рабочих мест.
https://finance.yahoo.com/news/artificial-intelligence-could-solve-americas-214505211.html
Slingshot Aerospace представляет ИИ-агента для моделирования поведения спутников

Компания Slingshot Aerospace представила усовершенствованный автономный агент искусственного интеллекта под названием Slingshot Thinking Agent for Logical Operations and Strategy (TALOS) — это система на базе искусственного интеллекта, разработанная с использованием технологии клонирования поведения Slingshot и предназначенная для имитации реалистичного поведения спутников в условиях обучения и моделирования.

TALOS использует наборы данных компании по отслеживанию космических объектов и разведке миссий, такие как база данных истории спутников и запусков Seradata, для постоянного мониторинга окружения космического аппарата и предоставления практической информации для оптимизации процесса принятия решений во время космических операций.

https://www.executivebiz.com/articles/slingshot-aerospace-ai-powered-slingshot-talos-space-mission-readiness
Компания VCI Global представит на саммите ASEAN AI Summit 2025, который пройдет 12–13 августа 2025 года в MITEC в Куала-Лумпуре, три ключевых компонента разработанной ИИ инфраструктуры.

Суверенная инфраструктура данных VCI Global — это комплексная экосистема аппаратных и программных решений, разработанных дочерними компаниями V Gallant Sdn Bhd («V Gallant») и QuantGold Data Platform («QuantGold»). Инфраструктура поддерживает план развертывания национальных центров обработки данных на базе ИИ в Юго-Восточной Азии и включает в себя:

SecureGPU TM — зашифрованные вычислительные серверы ИИ с защитой на уровне PCIe (Peripheral Component Interconnect Express), обеспечивающие высокоскоростную шифрованную обработку с малой задержкой.

CyberSecure — аппаратные шифрованные хранилища, специально созданные для защиты данных высочайшего уровня.

Qsecore – решение для мобильной связи с шифрованием на уровне SIM-карты для безопасной связи по всей стране

В совокупности эти технологии позволяют создавать масштабируемые, надежные цифровые экосистемы, которые предоставляют правительствам и учреждениям полный контроль над своей инфраструктурой ИИ и данных.

https://www.stocktitan.net/news/VCIG/vci-global-to-present-sovereign-data-infrastructure-at-asean-ai-78dawvebbztg.html
Рассуждения американских аналитиков о фундаментальных изменениях в военном деле.

Новая линия фронта: победа в информационной войне на тактическом фронте.

Будущее обороны зависит от информационного превосходства в точке удара. Это требует мощных периферийных вычислительных платформ и безопасных, ориентированных на выполнение задач моделей искусственного интеллекта.

Решающее преимущество теперь зависит не только от скорости перемещения войск и техники, но и от способности собирать, передавать и обрабатывать информацию быстрее, безопаснее и с большей оперативной значимостью, чем противник.

Достижение такого информационного преимущества означает возможность предоставлять информацию бойцам в режиме реального времени, особенно в условиях отсутствия связи, её отсутствия, прерывистости или ограниченности (DDIL). Это не просто техническое усовершенствование, это стратегический императив.

‼️ Решение заключается в сочетании мощных, защищенных периферийных вычислительных платформ и моделей ИИ, специально разработанных для использования в обороне, которые могут работать автономно, даже при полном отключении от сетей с высокой пропускной способностью.

https://defensescoop.com/2025/07/30/the-new-frontline-winning-the-information-war-at-the-tactical-edge/
🤔3😁2💯21
"Я не опасаюсь ИИ, который пройдёт тест Тьюринга. Я боюсь ИИ, который скроет это"

ИИ теперь знает больше, чем вы. Он знает больше, чем ваши профессора, наставники и начальники. Он может написать ваш код, составить бизнес-план, разработать логотип, предложить маркетинговую стратегию — и сделать всё это ещё до того, как остынет ваш утренний кофе.

Но пока машины развиваются, мы, их создатели, деградируем. Дело не в том, что ИИ нас заменяет, а в том, что мы слишком охотно сдаёмся под предлогом удобства. По сути, мы делегируем ИИ своё воображение и творческие способности.

Мы рискуем создать поколение, которое будет интеллектуально пассивным, эмоционально безразличным и творчески отстранённым. Мы рискуем создать мир интеллектуальных потребителей, а не участников. Мир, где ИИ генерирует, а люди просто прокручивают, одобряют и покупают.

Но главная проблема в том, что мы даже не готовимся к этим переменам и не задаёмся реальными вопросами. Вместо этого мы спорим в социальных сетях и газетах о войне между ИИ и людьми.

https://thehill.com/opinion/technology/5425539-human-intelligence-ai-threat/
🤔2💯2🤷1
Китай заподозрил ИИ-чипы Nvidia H20 в наличии встроенных «шпионских функций»

Данные изделия Nvidia не только позволяют отслеживать своё местоположение, но и отключать их дистанционно из-за рубежа.

https://www.ft.com/content/e4904e6f-bf0d-4566-b3c9-b52e70a44979
💯2
В городах России может появиться инновационная ИИ-система, которая будет отслеживать нарушения ПДД среди велосипедистов и велокурьеров.
Это решение было разработано компанией NtechLab, которая является технологическим партнёром Ростеха. Система не только фиксирует нарушения, но и делает нарушителям голосовые предупреждения.

https://www.ferra.ru/amp/news/v-rossii/rossiiskaya-neiroset-nachnyot-sledit-za-narusheniyami-pdd-velokurerami-30-07-2025.htm
😁2🖕1
В четверг армия США заключила с Palantir контракт на сумму до 10 миллиардов долларов в течение следующего десятилетия.

Новый контракт, крупнейший в истории компании, занимающейся разработкой программного обеспечения и анализа данных, закрепляет за Palantir роль основного обработчика данных для военных. Он последовал за дополнительными 795 миллионами долларов, выделенными военными ранее в этом году на разработку программного обеспечения для наведения на основе искусственного интеллекта Maven Smart System.

Новое корпоративное соглашение с Palantir, о котором армия объявила в четверг, — это только начало более масштабных усилий службы по достижению большей гибкости и прозрачности в вопросах закупки программного обеспечения и более рациональному использованию средств налогоплательщиков.

«Я думаю, что традиционная модель, когда мы просто покупаем лицензии на программное обеспечение и услуги… в комплекте, не работает в новых условиях и с учётом того, как всё это реализуется»


— сказал иректор по информационным технологиям армии Леонель Гарсига.

https://defensescoop.com/2025/07/31/army-palantir-software-enterprise-agreement-10-billion/