Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
459 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Компания Bell Canada объявила о партнерстве с компанией Cohere, занимающейся разработкой искусственного интеллекта, с целью предоставления комплексных решений в области суверенного ИИ для государственных и корпоративных клиентов по всей Канаде.

Cohere предоставит свои услуги ИИ через Bell AI Fabric — проект, анонсированный Bell в мае для поддержки потребностей канадских предприятий и правительств в области ИИ.

Bell AI Fabric будет включать в себя агентскую ИИ-платформу North от Cohere, которая будет доступна государственным и корпоративным клиентам, позволяя им создавать ИИ-агентов и решения по автоматизации без необходимости управления ИИ-инфраструктурой.

Bell AI Fabric также будет включать шесть центров обработки данных ИИ, а также программную инфраструктуру, такую как большие языковые модели Cohere, «разработанные для Bell с целью предоставления уникальных возможностей для канадского рынка, машинного обучения и облачного программного обеспечения».

https://www.bnnbloomberg.ca/business/artificial-intelligence/2025/07/28/bell-partners-with-ai-company-cohere-in-latest-step-to-grow-tech-service-offerings/
Commonwealth Bank сокращает десятки сотрудников в своих колл-центрах, ссылаясь на искусственный интеллект как на причину сокращения. В июне крупный банк внедрил новую систему чат-ботов для ответов на запросы клиентов 
https://au.finance.yahoo.com/news/commonwealth-bank-axes-aussie-jobs-as-human-cost-of-ai-revolution-exposed-massive-job-losses-013909458.html
Booz Allen Hamilton начала второй этап разработки боевого тактического оперативного центра (TOC-Light).

Основным субподрядчиком компании по TOC-L является компания L3Harris Technologies [LHX]. TOC-L должен быть легким и позволять военным ускорить установление каналов передачи данных и соединений с военными/коммерческими датчиками при развертывании сил.

«Прототип TOC-L от Booz Allen будет использовать концепцию модульного комплекта для отсоединения (MDK) компании в качестве основы для безопасного подключения датчиков, систем принятия решений и оружия на периферии», — заявили в компании. «MDK — это боевая возможность, продемонстрировавшая значительную эффективность в ходе учений с боевой стрельбой и оперативных развёртываний».

https://www.defensedaily.com/usaf-command-and-control-head-urges-acceleration-of-toc-l-effort/air-force/
Бывший офицер армии США разрабатывает автономный ИИ EdgeRunner AI для военных целей, которым уже заинтересовался Пентагон

EdgeRunner AI — это технологический агент, работающий в автономном режиме и изолированный от незащищенных сетей с целью защиты конфиденциальных данных и усиления безопасности.

«В EdgeRunner мы взяли эти модели, эти LLM, сжали их и адаптировали к военным данным», — сказал Солтсман. «Теперь они настолько малы, что могут размещаться на чипе, и им не нужны большие серверы центров обработки данных».

По словам Солтсмена, искусственный интеллект EdgeRunner до-обучен на более чем 30 миллиардах токенов, или слов, из военной доктрины, военной истории как в Соединенных Штатах, так и за их пределами, военной тактики, учебных пособий, боевых уставов и философии, включая греческую мифологию, римских легионеров, кодекс Бусидо, принципы Иисуса Христа и идеологии, сформировавшие западную цивилизацию.

https://www.foxbusiness.com/technology/former-army-officer-develops-offline-ai-military-use-pentagon-funds-tech-giants
Пентагон ищет варианты сэкономить на закупках ИИ - расходы уже огромные.

Министерство обороны США тестирует модели ИИ, которые упрощают переход от таких поставщиков, как Palantir

Министерство обороны и другие федеральные агентства тестируют модели искусственного интеллекта от Microsoft и OpenAI, специально направленные на извлечение данных из аналитических приложений, используемых такими подрядчиками, как Palantir и Lockheed Martin.

Правительственные чиновники рассматривают эти инструменты как потенциальный рычаг давления в переговорах по контрактам с действующими поставщиками, такими как Palantir, поскольку они могут реально угрожать переносом данных агентства на конкурирующие аналитические платформы, такие как Power BI от Microsoft.

https://au.investing.com/news/stock-market-news/dod-tests-ai-models-that-make-it-easy-to-switch-from-vendors-like-palantir-3945876
Пентагон планирует максимально использовать генеративный ИИ для оказания влияния (для PSYOP)

В отчете RAND « Приобретение генеративного искусственного интеллекта для улучшения деятельности по оказанию влияния Министерством обороны США », подготовленном по заказу Управления технической поддержки нерегулярных боевых действий (IWTSD), рассматривается, что потребуется Пентагону для приобретения генеративного искусственного интеллекта для деятельности по оказанию влияния в больших масштабах, а также возможные последствия его использования.

Деятельность по оказанию влияния представляет собой « намеренную попытку повлиять на мысли, чувства или поведение человека или группы », и Министерство обороны США (DoD) видит большие возможности в использовании мощи генеративного ИИ не только для создания дипфейков и пропагандистских кампаний в целях собственной деятельности по оказанию влияния, но и для получения уникальной информации о целевой аудитории для целей планирования.

Сценарии использования ИИ на поле боя самые разнообразные. Но в основном всё крутится вокруг обмана противника (дезинформирования).

«Оперативным силам (особенно на тактическом уровне) требуется способность клонировать голоса для передачи сообщений. Команде может потребоваться имитировать голос командира противника, чтобы добиться его сдачи».

Генеративный ИИ может предоставить Пентагону широкий спектр инструментов для проведения кампаний влияния. В докладе RAND приводится несколько примеров:

Создание изображений и видео с желаемым уровнем детализации и точности: Генеративный ИИ уже показал себя многообещающим в создании текста, графики и видео; генерация аудиоконтента «наиболее отстает» с точки зрения создания оригинального контента.

Создание продуктов в строгих условиях: Небольшое подразделение должно иметь возможность подключения к Интернету, использовать отдельный ноутбук или даже блокноты для создания и создания простых сообщений. Как только подразделение получит доступ к интернету, оно должно иметь возможность мгновенно распространять этот контент.

Доставляет персонализированные сообщения с точностью: Выявлять сообщников боевиков-террористов через человеческие сети, а затем направлять им сообщения, специально подобранные для того, чтобы найти отклик у отдельных лиц и побудить их принять участие в усилиях по дерадикализации.

Доставляет больше продукции и быстрее: Генеративный ИИ может «сбалансировать ситуацию на поле боя», позволяя меньшему количеству военнослужащих США производить больше контента быстрее и конкурировать в больших масштабах.

Клонирует голоса командиров противника: Оперативные силы (особенно на тактическом уровне) нуждаются в способности клонировать голоса для передачи сообщений. Команда может имитировать голос командира противника, чтобы добиться его сдачи.

Управление подписями: ИИ может помочь интегрировать многочисленные потоки данных и предоставить офицерам информационной войны и тактическим командирам на местах четкую картину их тактической ситуации.

Переводите человеческие голоса в реальном или почти реальном времени: Трансляция переговоров между мостами в режиме, близком к реальному времени, поможет усилить влияние США на союзников во время операции по обеспечению свободы судоходства.

Быстро перевести текст. Бригада содействия силам безопасности может попытаться разобраться в устройстве, руководство к которому составлено на французском, немецком или корейском языке, а затем передать партнерским силам конкретные продукты влияния. Это может потребовать перевода сотен страниц высокотехнологичной информации на английский, а затем на язык принимающей страны.

Сам отчет тут:
https://www.rand.org/pubs/research_reports/RRA3157-1.html
Havelsan интегрирует ИИ в архитектуру многодоменной обороны

На выставке IDEF 2025 в Стамбуле компания Havelsan, ключевой игрок в оборонно-технологическом секторе Турции, обозначила своё стратегическое направление: интеграцию искусственного интеллекта (ИИ) в свой портфель решений для военно-воздушных, сухопутных и военно-морских сил.

В воздушной сфере Havelsan использует ИИ для повышения скорости и точности принятия решений. Его системы обрабатывают большие объёмы данных для непосредственной поддержки командиров. Дополнительная ценность заключается в способности предвидеть, моделировать и предлагать оперативные решения в более сжатые сроки.

Для сухопутных войск Havelsan инвестирует в автономные системы. Благодаря технологиям роя её платформы могут работать распределённо, скоординированно и эффективно. ИИ обеспечивает более точное управление операциями, одновременно снижая участие и воздействие человека.

В военно-морской сфере ИИ интегрирован в системы боевого управления Havelsan для поддержки принятия как тактических, так и стратегических решений. Цель — помочь командирам в сложной морской обстановке, где быстрый анализ и реагирование имеют решающее значение.

ИИ также применяется в системах моделирования и обучения Havelsan. Цель — ускорить циклы обучения, одновременно сократив затраты и время. Это включает в себя автоматизированное конструктивное обучение, адаптацию в реальном времени и учебные модули на основе ИИ.

https://armyrecognition.com/news/defense-web-tv/idef-2025-havelsan-integrates-artificial-intelligence-into-the-architecture-of-multi-domain-defense
Первые испытания в рамках программы Brave1 «Тест на Украине» (Test in Ukraine)

Немецкий оборонный гигант DIEHL успешно провёл полевые испытания своей наземной робототехнической системы на Украине. Испытания прошли в рамках программы «Тест на Украине» (Test in Ukraine), инициативы Brave1, которая позволяет мировым производителям тестировать свои военные технологии в условиях, имитирующих боевые.

Компания DIEHL, известная своими системами ПВО IRIS-T, стала одним из первых крупных международных игроков, воспользовавшихся этой программой. Компания привезла свою систему на украинский полигон, связанный с 3-й штурмовой бригадой, подразделением, имеющим непосредственный опыт боевых действий. Это предоставило группе испытателей ценный опыт работы в условиях, максимально приближенных к зонам активных боевых действий.

Испытание предоставило инженерам DIEHL редкую возможность увидеть, как их роботизированная платформа работает в сложных и непредсказуемых условиях. Украинские солдаты, имеющие опыт развертывания и эксплуатации наземных роботизированных систем, предоставили подробную оперативную обратную связь и выявили области для улучшения, основанные на реальном опыте использования на поле боя.

https://en.defence-ua.com/weapon_and_tech/not_for_show_but_for_war_germanys_diehl_tests_ground_robotic_system_in_ukraine-15286.html
Учёные занимаются решением проблемы ИИ с помощью самого ИИ.

По прогнозам Deloitte , к 2027 году убытки от мошенничества в результате подобных инцидентов в США достигнут 40 миллиардов долларов, по сравнению с 12,3 миллиардами долларов в 2023 году.

IT гиганты постоянно создают новые инструменты выявления дипфейков, но они быстро деградируют, так-как сам ИИ не менее стремительно развивается и подделки становятся всё соверщеннее.

Мало того, «Если в кадре нет лица, многие детекторы просто не работают. Но дезинформация может проявляться по-разному. Изменение фона сцены может так же легко исказить правду»...

Исследователи сотрудничали с учёными из Google, компании Alphabet, разработали новую модели ИИ, которая обнаруживает фальсификацию видео и разоблачает фейковый контент, используемый для распространения дезинформации и подстрекательства к насилию.

Модель способна распознавать как частично смонтированные, так и полностью синтетические видео. Вместо того, чтобы фокусироваться только на лице, как большинство традиционных детекторов, эта модель анализирует кадры целиком, независимо от того, присутствует ли в видео человек.

UNITE, анализируя лица, также анализирует фон и модели движения и пр., тем самым охватывая полные видеокадры, предлагает один из первых подобных инструментов для идентификации синтетических видеороликов, которые не основываются исключительно на содержании лиц. Таким образом, помимо популярного набора данных FaceForensics++, команда также использовала набор данных SAIL-VOS-3D, который имитирует сложные среды, предлагая разнообразные синтетические сцены, полезные для обучения моделей обнаружения ИИ.

Доклад, по результатом разработки: «На пути к универсальному детектору синтетического видео: от манипуляций с лицами и фоном до контента, полностью созданного с помощью ИИ» (Towards a Universal Synthetic Video Detector: From Face or ackground Manipulations to Fully AI-Generated Content).

https://arxiv.org/pdf/2412.12278
В Китае ИИ уже проектирует авиатехнику

Шэньянский институт авиационного проектирования Китая использует платформу ИИ DeepSeek для решения сложных инженерных задач и сокращения времени, затрачиваемого на технические обзоры, что позволяет исследователям сосредоточиться на основных инновационных задачах.

Ведущий конструктор Ван Юнцин заявил, что данная технология уже генерирует новые идеи и подходы для развития аэрокосмической отрасли, и подтвердил устойчивый прогресс в разработке новых модификаций многоцелевого истребителя-невидимки J-35.

Этот прогресс может быть обусловлен разработкой в Китае всё более совершенных моделей искусственного интеллекта. В этом месяце журнал Nature сообщил , что Kimi K2 от Moonshot AI, агентная модель большого языка с открытыми весами, соответствует или превосходит западные модели и модели DeepSeek. В отчёте указывается, что Kimi K2, по всей видимости, демонстрирует превосходные результаты в программировании, показывая высокие результаты в таких тестах, как LiveCodeBench.

https://asiatimes.com/2025/07/chinas-ai-leap-elevating-stealth-fighter-ambitions/#
Теперь этот документ называют так: План президента Трампа по полному переходу Америки на искусственный интеллект

«Тот, кто обладает крупнейшей экосистемой ИИ, установит мировые стандарты в этой области и получит колоссальные экономические и военные преимущества», — говорится далее во введении.

Из примерно 19 «рекомендуемых политических действий», пять относятся к внутренней работе Пентагона. А все остальные пункты отводят Пентагону видную, даже ведущую, роль в установлении стандартов и координации усилий всех органов исполнительной власти.

Особый интерес представляет призыв к DARPA возглавить междисциплинарную «программу разработки технологий» для решения фундаментальной проблемы передового ИИ — невежества.

Это особенно актуально для генеративного ИИ, такого как большие языковые модели, которые могут обобщать большие объемы данных и даже генерировать удивительные идеи, но также часто «галлюцинируют» и дезинформируют непредсказуемым образом.

Помимо программы под руководством DARPA, целевая группа под названием «Интерпретируемость, контроль и надежность ИИ» также призывает Пентагон сотрудничать с министерствами энергетики, торговли, внутренней безопасности и другими в проведении «хакатонов по ИИ».

https://www.vietnam.vn/ru/ke-hoach-ai-hoa-toan-dien-nuoc-my-cua-tong-thong-trump
Оборонный стартап Slingshot Aerospace объявил во вторник, что создал систему на ИИ, которая позволяет Космическим силам обучать персонал защите спутников от терактов и сложным маневрам.

Инструмент Thinking Agent for Logical Operations and Strategy (TALOS) представляет собой агента на базе искусственного интеллекта, способного изучать и воспроизводить различные операции космического корабля в условиях, имитирующих космическую среду, говорится в пресс-релизе Slingshot. Военнослужащие Космических сил уже протестировали и использовали TALOS во время учений, и теперь компания изучает, как эта технология может ещё больше помочь службе.

https://defensescoop.com/2025/07/29/space-force-ai-training-satellite-operations-slingshot-aerospace-talos/
Компания ZenaTech объявила о создании Zena AI, Inc., специализированного центра разработки ИИ в рамках своей дочерней компании ZenaDrone в США.

Новое подразделение будет заниматься исключительно разработкой ИИ для Министерства обороны и служб внутренней безопасности США. Сосредоточившись на ИИ-решениях для госструктур США, ZenaTech удовлетворяет острую потребность федерального правительства в отечественных идеологически нейтральных ИИ-инструментах.

https://www.ainvest.com/news/zenatech-strategic-ai-pivot-defense-high-growth-play-government-priorities-2507/
1
Китайские компании, занимающиеся разработкой ИИ, формируют альянсы для создания внутренней экосистемы на фоне ограничений, введенных США.

https://www.reuters.com/world/china/chinese-ai-firms-form-alliances-build-domestic-ecosystem-amid-us-curbs-2025-07-28/
Та-дам!....

Модели ИИ могут непреднамеренно (или преднамеренно) учиться друг у друга посредством общих ндатасетов, особенно в сообществах с открытыми данным.

На это указывают совпадения в обучении моделей ИИ, особенно в моделях ИИ для написания программного кода. И это поднимает не простые вопросы об оригинальности и безопасности.

https://www.analyticsinsight.net/artificial-intelligence/are-ai-models-secretly-learning-from-each-other
Anthropic пиратит пиратов? Грабь награбленное как говориться.

Коллективный иск против Anthropic, утверждающий, что компания использовала пиратские книги из теневых библиотек, таких как LibGen и PiLiMi, для обучения своих моделей искусственного интеллекта, может привести к существенному ущербу, связанному с нарушением авторских прав, при этом федеральный судья вынесет решение о раздельных судебных разбирательствах по вопросам приобретения и обучения.

Понятно, что Anthropic делал это исключительно из благих намерений и из-за недостатка очищенных данных. Прогресс человечества, все дела...

https://dataconomy.com/2025/07/29/anthropic-faces-trial-over-pirated-ai-training-books/
Компания Meta* пиратила порно гигабайтами и активно заливала на торренты — главный рептилоид планеты превратил свою компанию в крупнейшего поставщика похабщины в интернете. И вишенка - в классификации всего этого задействована их Llama.

https://arstechnica.com/tech-policy/2025/07/meta-pirated-and-seeded-porn-for-years-to-train-ai-lawsuit-says/
OpenAI представила новый инструмент в ChatGPT — «Режим обучения» (Study Mode), который помогает студентам разбираться в задачах поэтапно, а не выдаёт готовые ответы.

Это решение стало ответом на распространённую проблему: многие учащиеся используют ИИ для списывания, избегая самостоятельной работы. В OpenAI заявили, что создали Study Mode как «первый шаг на долгом пути к улучшению обучения в ChatGPT».

https://www.cnbc.com/2025/07/29/openai-announces-new-study-mode-product-for-students-.html
Компании, заменившие людей на ИИ, стали осознавать свою ошибку

Больше половины СЕО теперь говорят, что откажутся от планов «значительного сокращения персонала службы поддержки клиентов» к 2027 году.

И это речь идёт о поддержке клиентов, где задачи, казалось бы, обычно решаются вполне типичные!

Даже лучший ИИ-агент (от Anthropic) мог выполнить только 24% от порученных ему типичных задач. А стоимость поддержки и оплата за серверы оказалась выше, чем большинство ожидали.

Оптимисты сразу заявляют о качестве промптов.

https://www.gartner.com/en/newsroom/press-releases/2025-06-10-gartner-predicts-50-percent-of-organizations-will-abandon-plans-to-reduce-customer-service-workforce-due-to-ai
Brightline Interactive предоставляет Министерству обороны экосистему синтетического обучения с эффектом погружения.

Группа компаний Glimpse объявила, что её дочерняя компания Brightline Interactive разработала комплексную экосистему синтетического обучения для Министерства обороны США.

Платформа сочетает пространственные вычисления на ИИ с возможностями виртуальной и дополненной реальности, обеспечивая военную подготовку в виртуализированной среде.

Эта унифицированная платформа позволяет солдатам обучать, планировать и выполнять задания, поддерживая интеграцию ресурсов реального времени, виртуальных и конструктивных (LVC) ресурсов.

https://www.stocktitan.net/news/VRAR/brightline-interactive-provides-immersive-synthetic-training-zisoa01g9cpc.html
Армия США тестирует автономное тактическое транспортное средство ULTRA

Разработанный сиэтлской компанией Overland AI, занимающейся оборонными технологиями, автономный грузовой автомобиль ULTRA предназначен для выполнения автономных логистических операций в условиях ожесточенного противостояния без участия человека-оператора или телеуправления, что обеспечивает армии США стратегическое преимущество в области автономного наземного снабжения.

https://armyrecognition.com/news/army-news/2025/exclusive-report-u-s-army-tests-ultra-autonomous-tactical-vehicle-to-reduce-risk-in-frontline-logistics-operations