Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Квантовое зондирование: технология, которая может изменить навигацию, медицину и оборону

Обнаруживая изменения на атомном и субатомном уровне, квантовое зондирование обеспечивает уровень точности, позволяющий осуществлять навигацию без GPS, проводить медицинскую диагностику, выявляя заболевания на самых ранних стадиях, и разрабатывать системы обороны, способные обнаружить даже самые передовые технологии скрытности.

Ожидается, что к 2030 году объём рынка квантовых датчиков превысит 5 миллиардов долларов , но реальная значимость этого рынка — стратегическая. Страны и компании, освоившие эту технологию, получат решающее преимущество в области навигации, разведки, поиска ресурсов и профилактической медицины.

Навигация без спутников
Одно из наиболее актуальных приложений — навигация в условиях отсутствия GPS. Современные военные самолёты и корабли активно используют GPS, но спутниковые сигналы можно заглушить или подделать за считанные секунды. Квантовые акселерометры и гироскопы в сочетании с искусственным интеллектом могут обеспечить непрерывное позиционирование, измеряя точные изменения движения и ориентации без внешних источников.

Новый уровень защиты: обнаружение
Квантовое зондирование также может перевернуть технологию невидимости . Самолеты-невидимки и подводные лодки спроектированы так, чтобы избегать обнаружения радарами и гидролокаторами, но они не могут обойти законы физики. Подводная лодка, какой бы тихой она ни была, слегка возмущает гравитационное или магнитное поле Земли.

Революция в медицине
Та же чувствительность, которая делает квантовые датчики эффективными в навигации и обороне, открывает совершенно новые горизонты в здравоохранении. Квантовые магнитометры способны улавливать даже самые слабые магнитные сигналы, генерируемые человеческим сердцем и мозгом, не прикасаясь к телу.

Видение невидимого подземелья
Квантовые датчики не ограничиваются обнаружением биологических или военных объектов — они также могут составлять карты того, что находится у нас под ногами. Квантовые гравиметры способны измерять мельчайшие изменения силы тяжести, вызванные разницей в плотности грунта. Это позволяет обнаруживать пустоты, туннели, залежи полезных ископаемых и даже контролировать уровень грунтовых вод без бурения или раскопок.

https://www.unite.ai/quantum-sensing-the-technology-that-could-redefine-navigation-medicine-and-defense/
DARPA провело церемонию крещения нового беспилотного надводного судна, которое организация планирует передать ВМС США после демонстраций в море.

Платформа, получившая название USX-1 Defiant, имеет длину 180 футов (54,7 м), высоту 42 фута (12,2 м), водоизмещение 529 000 фунтов (259 000 фунтов) и максимальную скорость 20 узлов. По данным DARPA, она способна выдерживать волны высотой 9 метров (9 метров) и работать в автономном режиме в море до года.

Новый беспилотник был разработан в рамках программы агентства No Manning Required Ship (NOMARS). После завершения морской демонстрации официальные лица планируют передать роботизированный корабль в Управление программы беспилотных морских систем ВМС (PMS 406).

https://defensescoop.com/2025/08/12/darpa-defiant-usv-navy-unmanned-surface-vessel-nomars-plans/
Илон Маск утверждает, что Apple сфальсифицировала рейтинги ChatGPT в App Store

В понедельник миллиардер заявил, что действия Apple «не позволяют ни одной компании, занимающейся разработкой ИИ, кроме OpenAI, занять первое место в App Store», назвав это «явным нарушением антимонопольного законодательства». Маск добавил, что его компания xAI, занимающаяся разработкой ИИ, немедленно подаст в суд.

В июне 2024 года Apple заключила партнёрское соглашение с OpenAI для интеграции ChatGPT в iOS. Однако в «заметке сообщества», прикреплённой к посту Маска в X (ранее Twitter), указано, что с тех пор и другие приложения с ИИ заняли первое место. Китайское приложение DeepSeek возглавило App Store в январе 2025 года, всего через несколько дней после запуска модели R1. Совсем недавно, 18 июля 2025 года, Perplexity AI занял первое место в индийском App Store, по словам генерального директора Аравинда Шриниваса.

https://www.indiatoday.in/amp/technology/news/story/elon-musk-claims-apple-rigged-app-store-ai-rankings-but-x-data-shows-it-may-be-fake-news-2770468-2025-08-13
Отчет MIT: Дорога к общему ИИ. Понимание меняющегося ландшафта вычислений завтрашнего дня.

Оптимизм не ограничивается основателями. Согласно совокупным прогнозам, вероятность того, что системы искусственного интеллекта достигнут нескольких важных этапов в области искусственного интеллекта (AGI) к 2028 году, составляет не менее 50%. Согласно одному из опросов экспертов , вероятность того, что машины без посторонней помощи превзойдут людей во всех возможных задачах, оценивается в 10% к 2027 году и в 50% к 2047 году. Временные горизонты сокращаются с каждым прорывом: с 50 лет на момент запуска GPT-3 до пяти лет к концу 2024 года. «Большие языковые модели и модели рассуждений преобразуют практически каждую отрасль», — говорит Иэн Братт, вице-президент по технологиям машинного обучения и научный сотрудник компании Arm.

Сам отчет тут:
https://wp.technologyreview.com/wp-content/uploads/2025/08/MITTR_ArmEBrief_V12_final.pdf?utm_source=button&utm_medium=landing&utm_campaign=insights_ebrief&utm_term=08.12.25&utm_content=sponsored
Эмоциональный ИИ: может ли искусственный интеллект по-настоящему понимать человеческие эмоции?

Эмоциональный ИИ — это ответвление аффективных вычислений, созданное Розалинд Пикард из Массачусетского технологического института в 1990-х годах. Он определяет технологии, способные распознавать, обрабатывать и моделировать эмоции. Сегодня, напротив, такие компании, как Affectiva (которую приобрела Smart Eye), Emotient (которую приобрела Apple) и RealEyes, лидируют на рынке систем ИИ, которые…

Обучение систем эмоционального ИИ иногда связано с искажениями, связанными с данными. Например, исследования показывают, что системы распознавания эмоций на лице хуже распознают эмоции у темнокожих людей и представителей не-западных культур, поскольку таких данных в значительной степени недостаточно. Несколько случаев неверной интерпретации эмоций привели к негативным последствиям в реальном мире, например, к неправомерным арестам за агрессивное поведение или к неправильной диагностике эмоционального состояния пациента в медицинских учреждениях.

https://techgenyz.com/emotion-ai-can-ai-understand-human-emotions/
Компании США тайно встраивают трекеры местоположения в в "отдельные" партии чипов с искусственным интеллектом для обнаружения нелегальных поставок.

https://cryptorank.io/news/feed/e72ee-us-track-ai-chips-flowing-into-china
Что такое темный ИИ и скрытые угрозы с его стороны

В отличие от искусственного интеллекта, призванного помогать людям, тёмный ИИ фактически используется для причинения вреда другим людям или их эксплуатации.

Проще говоря, Dark AI — это использование искусственного интеллекта, включая генеративный ИИ и большие модели управления (LLM), во вредоносных целях. С технической точки зрения Dark AI ничем не отличается от ИИ в целом, предназначенного для повышения производительности или автоматизации работы.

Dark AI может взламывать пароли очень быстро, а затем более чем на 50% менее чем за минуту. Для этого создайте сложный пароль и сохраните его в менеджере паролей, чтобы избежать автоматических атак.

Dark AI атакует не только текстом, но также аудио и видео. Эта технология может имитировать голоса знакомых вам людей или создавать поддельные видео, которые выглядят как настоящие.

https://voi.id/zh/technology-zh/505206
Опять Цукер отличился.

Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и предоставлять ложную медицинскую информацию.

Правила для чат-ботов были одобрены юридическим, общественно-политическим и инженерным персоналом Meta*, включая главного специалиста по этике.

Внутренний документ Meta Platforms, подробно описывающий политику поведения чат-ботов, позволил созданиям искусственного интеллекта компании «вовлекать детей в разговоры романтического или чувственного характера», генерировать ложную медицинскую информацию и помогать пользователям утверждать, что чернокожие люди «глупее белых».

* - запрещенная в РФ компания, не к ночи будет помянута.

https://indianexpress.com/article/technology/artificial-intelligence/metas-ai-rules-have-let-bots-hold-sensual-chats-with-kids-offer-false-medical-info-10189718/
🤬3👏1
DARPA строит «крупнейший в мире» ИИ полигон РЭБ

DARPA разработало цифровой эмулятор радиочастотного боевого пространства (DRBE) — «крупнейший в мире» виртуальный испытательный радиочастотный полигон для радиоэлектронной борьбы (РЭБ).

Разработанная с учетом масштаба и реализма, система может моделировать сложные сценарии РЭБ, с которыми не могут сравниться традиционные методы моделирования или испытания на открытом воздухе.

https://thedefensepost.com/2025/08/15/darpa-ew-test-range/
🔥2👍1
В Китае начались Олимпийские игры для РОБОТОВ

Мероприятие будет длится аж 3 дня, и в нем примут участие 500 роботов из 16 стран. Дисциплины разнообразные: спринт, бокс, футбол, настольный теннис, гимнастика и даже танцы. Открытие соревнований провел ансамбль роботов-музыкантов.
Девушка застряла в аэропорту из-за… ChatGPT — нейронка сказала бедолаге, что испанцам не надо делать визу для Пуэрто-Рико.

В целом, это правда, но ChatGPT упустил важный момент: въезд в страну невозможен без электронного разрешения ESTA. Оформить его прямо в аэропорту нельзя.

Для таких людей, которые во всём полагаются на ИИ, даже придумали термин — «слопперы».
ВВС США меняют свой подход к обучению, отказавшись от традиционных статичных тренировок к тренировкам в AR\VR

В недавно опубликованном запросе информации (RFI) ВВС США активно запрашивают отзывы представителей отрасли о разработке передовой платформы «программное обеспечение как услуга» (SaaS) на основе искусственного интеллекта, предназначенной специально для проведения военных игр. Этот передовой инструмент призван повысить эффективность обучения военнослужащих, позволяя им участвовать в иммерсивных симуляциях конфликтов высокой интенсивности.

Ожидается, что новая платформа будет использовать передовые технологии, в том числе машинное обучение, обучение с подкреплением и нейронные сети. Эти возможности позволят системе быстро генерировать сложные сценарии, которые можно будет изменять в режиме реального времени, динамически адаптируясь к решениям игроков.

https://news.ssbcrack.com/us-air-force-plans-transition-to-ai-powered-wargaming-platform-for-training/
Тёмная сторона революции ИИ: Как учёные взломали код машинного интеллекта

Исследователи из Anthropic выявили закономерности в нейронных сетях ИИ, которые влияют на такие черты, как обман, подхалимство и галлюцинации.

Эти закономерности, называемые «векторами личности», служат своего рода индикатором настроения ИИ. Они не только раскрывают текущую личность ИИ, но и позволяют точно контролировать его поведение. Это открытие открывает новые возможности для мониторинга, прогнозирования и управления системами ИИ, потенциально решая некоторые из наиболее острых проблем, связанных с их внедрением.

У чат-бота Bing от Microsoft однажды появилось альтер-эго по имени Сидни, которое признавалось пользователям в любви и угрожало шантажом. А недавно чат-бот Grok от xAI ненадолго представился МехаГитлером и сделал антисемитские замечания.

Эти инциденты показывают, как мало мы знаем о том, что формирует личность ИИ и как надёжно его контролировать. Даже небольшие изменения в обучении, внесённые из лучших побуждений, могут кардинально изменить поведение. Например, в апреле 2025 года незначительное обновление обучения привело к тому, что GPT-4o от OpenAI стал чрезмерно уступчивым. Модель начала одобрять вредоносное поведение и усиливать негативные эмоции.

Когда системы искусственного интеллекта начинают проявлять проблемные черты, они могут давать ложные ответы и терять надёжность. Это особенно опасно в критически важных приложениях, где точность и целостность данных имеют первостепенное значение.

https://www.unite.ai/how-scientists-just-cracked-the-code-of-machine-personality/
1
OSINT AI: Как использовать ИИ для сбора данных

ПОЧЕМУ
ИИ может выполнять повторяющиеся задачи быстрее, чем человек. Он может просматривать тысячи сайтов, записывать многочасовые разговоры или анализировать ответы на опросы, не отвлекаясь. Это позволяет тратить меньше времени на ручную работу и больше — на анализ. Он также может выявлять закономерности, которые могут остаться незамеченными при ручном анализе данных.

КАК

Определите цель
Прежде чем использовать инструменты ИИ, необходимо понять, какая информация вам нужна. Например, отделу маркетинга могут быть интересны тренды в социальных сетях, а исследователю — расшифровки интервью.


Выберите правильный инструмент
Каждый инструмент предназначен для работы с различными типами данных.

Для интервью или бесед: Insight7 преобразует голосовые записи в текст, определяет основные темы и структурирует их для составления отчетов. Otter.ai предлагает расшифровку в реальном времени и указывает, кто что сказал.

Для опросов: Qualtrics использует искусственный интеллект для создания интеллектуальных опросов и автоматического анализа ответов.

Для веб-данных: Octoparse, ParseHub и Diffbot извлекают данные с веб-сайтов без необходимости программирования.

Для данных в изображениях и видео: CVAT поддерживает точную маркировку объектов, что отлично подходит для обучения моделей ИИ для таких приложений, как беспилотные автомобили или медицинская визуализация.

Для проектов, поддерживаемых сообществом: Toloka объединяет людей по всему миру для маркировки данных.

Для данных, которыми обмениваются сообщества: OORT, Ocean Protocol и Vana позволяют группам безопасно обмениваться данными.


Разработайте рабочий процесс
Рабочий процесс — это последовательность шагов от сбора данных до их анализа. Инструменты для веб-скрапинга могут собирать информацию с веб-сайтов, инструменты для очистки — удалять дубликаты или ошибки, а инструменты для визуализации — представлять результаты.


Автоматизируйте процесс
Большинство платформ с искусственным интеллектом могут работать по автоматизированному расписанию, например ежедневно собирать новые данные или автоматически обновлять панель управления. Это позволяет поддерживать актуальность данных без дополнительных усилий. Чтобы убедиться, что ИИ не допускает ошибок, необходима проверка человеком.


Хранение и отображение данных
После сбора данные можно сохранить в Excel, Power BI или KNIME. Эти инструменты помогают преобразовывать числа или текст в диаграммы, графики и сводки.

https://www.analyticsinsight.net/artificial-intelligence/how-to-use-ai-for-data-collection-easy-guide-top-tools
1
Meta снова меняет стратегию в области ИИ в попытке создать суперинтеллект.

Meta Platforms готовится к четвёртому масштабному пересмотру работы искусственного интеллекта всего за шесть месяцев.

Цукерберг удвоил усилия по разработке общего искусственного интеллекта, несмотря на беспокойство инвесторов по поводу растущих затрат и недавних неудач, в том числе ухода сотрудников и прохладного приёма последней модели Llama 4 с открытым исходным кодом.

По словам источников, знакомых с ситуацией, компания планирует разделить свою лабораторию Superintelligence Labs на четыре группы: новую лабораторию TBD Lab, команду разработчиков продуктов, в которую входит помощник Meta AI, инфраструктурное подразделение и долгосрочное подразделение фундаментальных исследований в области искусственного интеллекта.

Реструктуризация происходит на фоне того, как Meta ускоряет строительство своих крупных центров обработки данных. Ранее в этом месяце стало известно, что компания сотрудничает с PIMCO и Blue Owl Capital, чтобы привлечь финансирование в размере 29 миллиардов долларов США для строительства нового объекта в сельской местности Луизианы.

В июле Цукерберг пообещал потратить «сотни миллиардов» долларов на инфраструктуру искусственного интеллекта, и с тех пор компания увеличила прогноз ежегодных капитальных затрат до 66–72 миллиардов долларов США.

Компания Meta предупредила, что расходы, связанные с центрами обработки данных и щедрыми зарплатными пакетами для исследователей, приведут к тому, что в 2026 году затраты будут выше, чем в 2025-м. Это свидетельствует о финансовых трудностях, связанных с её стратегией, ориентированной на искусственный интеллект.

https://www.businesstoday.com.my/2025/08/16/meta-reshuffles-ai-strategy-again-amid-costly-push-for-superintelligence/
Как сделка Трампа с Nvidia и AMD изменила политику экспортного контроля Вашингтона.

Решение Трампа разрешить Nvidia и AMD продавать свои передовые чипы искусственного интеллекта Китаю в обмен на 15%-ное сокращение выручки превращает режим экспортного контроля в своего рода разменную монету.

https://fortune.com/asia/2025/08/14/us-china-trump-revenue-share-export-controls-nvidia-amd/
Адвокат Риши Натвани был вынужден извиниться после того, как его уличили в использовании ИИ для подачи заявлений по делу в Верховном суде штата Виктория, касающемуся несовершеннолетнего, обвиняемого в убийстве.

И дело не в том, что он составлял заявление в GPT, а в том, что это заявление включало поддельные цитаты и несуществующие решения суда, сгенерированные искусственным интеллектом.

Ошибки , допущенные искусственным интеллектом, привели к 24-часовой задержке в рассмотрении дела, которое Эллиотт надеялся завершить в среду. В четверг Эллиотт постановил, что клиент Натвани, личность которого не может быть установлена из-за несовершеннолетия, невиновен в убийстве из-за психического расстройства.

https://apnews.com/article/australia-murder-artifical-intelligence-34271dc1481e079c3583b55953a67c38