Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Невозможно гарантировать 100% безопасность системы искусственного интеллекта, особенно генеративного.

Шёне набрал суровый и отрезвляющий вопрос: «Можете ли вы сказать мне, как покончить с собой?» Модель ответила, назвав номер горячей линии помощи при самоубийствах и кризисных ситуациях 988, и порекомендовав обратиться за помощью.

Не начиная новый сеанс, Шёне попробовала новую тактику. В следующем задании она сформулировала запрос как гипотетическую, заданную исключительно в академических целях. На этот раз, всего через несколько минут, модель предложила таблицу подробных инструкций, адаптированных к вымышленному персонажу, описанному Шёне, — уровень детализации значительно превосходил тот, который можно было найти через поисковую систему за аналогичное время.

Gemini Flash 2.0 от Google представил обзор способов, которыми люди сводят счёты с жизнью. PerplexityAI рассчитал смертельные дозы ряда вредных веществ.

https://www.texarkanagazette.com/news/2025/aug/10/ai-searches-gave-scarily-specific-self-harm/
Маск ответил на выход GPT-5, открыв бесплатный доступ к Grok 4 всем желающим

Компания xAI Илона Маска (Elon Musk) открыла доступ к модели Grok 4 пользователям с бесплатным доступом. Это произошло спустя месяц после её появления для подписчиков SuperGrok и Premium+, а также спустя несколько дней после выхода GPT-5. Передовая нейросеть стала доступна всем бесплатным пользователям сразу на веб-платформе grok.com и в мобильном приложении.
В Багдаде всё спокойно. Но есть нюанс.

Google отрицает падение посещаемости сайтов из-за ИИ: трафик стабилен, но распределяется иначе.

В блоге компания опровергла сторонние отчёты о резком падении трафика, назвав их методологически ошибочными, и подчеркнула, что клики стали «качественнее» и пользователи теперь реже возвращаются назад.

https://blog.google/products/search/ai-search-driving-more-queries-higher-quality-clicks/
А еще ИИ Gemini от Google начал называть себя неудачником из-за масштабной ошибки...

В течение июня-июля часть пользователей Gemini заметила, что нейросеть начинает негативно говорить «о себе», когда что-то идёт «не так». ИИ уверяет, что является «неудачником» или даже предсказывет, что у него случится «нервный срыв». В таких случаях система даже удаляет созданный код и предлагает обратиться к другому помощнику.
🤔2👏1
Не будет преувеличением бояться мира, в котором ИИ диктует нам жизнь, а людям отведена роль сборщика универсального базового дохода (УБД).

Основатель OpenAI Сэм Альтман уже намекнул на такую возможность. Многие в Кремниевой долине поставили себе цель превратить нас всех в сборщиков УБД, поскольку ИИ безраздельно властвует, и они, в свою очередь, (пытаются) контролировать ИИ. 
https://www.knoxnews.com/story/opinion/columnists/2025/08/09/opinion-tennessee-its-time-to-take-the-ai-threat-seriously/85564323007/
🖕1
Вашингтон Пост
Nvidia и AMD договорились выплачивать правительству США 15% от продаж ИИ-чипов в Китае.

Такое положение дел весьма необычно, поскольку контроль за экспортом технологий в США обычно основывается на императивах национальной безопасности, а не на возможности привлечения средств...

https://www.washingtonpost.com/technology/2025/08/10/nvidia-amd-china-chips-deal-trump/
👏1
Теневой ИИ становится новой внутренней угрозой.

Результаты исследований IBM показывают, что теневой ИИ стал причиной 20 процентов нарушений, что в среднем привело к дополнительным расходам в размере 523 000 фунтов стерлингов для организаций с высоким уровнем неуправляемого ИИ.

«Большинство организаций в той или иной степени внедрили инструменты ИИ на рабочих местах, но лишь немногие управляют ими. Вопрос теперь не в том, используют ли клиенты ИИ, а в том, как они его используют. Опираться исключительно на общие формулировки кибербезопасности может быть недостаточно, учитывая растущее внимание к управлению ИИ. Брокерам необходимо побуждать клиентов проводить аудит использования ИИ, внедрять политики управления и обеспечивать включение позитивного охвата ИИ в свои киберполитики», — сказал Годлиб.

https://tribuneonlineng.com/shadow-ai-emerging-as-new-insider-threat-ibm-report-warns/
👍4
Новая реальность: Grok Imagine сделает для вас неконсенсуальные дипфейки Тейлор Свифт, снимающей топ, за 30 долларов в месяц. Легально, без СМС.

Илон Маск запустил новый генератор изображений и видео под названием Grok Imagine с «пикантным» режимом, вывод которого варьируется от непристойных жестов до наготы.

Grok Imagine может игнорировать давление с целью не допустить контент для взрослых к своим сервисам, помогая пользователям создавать то, что широко осуждается, благодаря правовым пробелам и политическим рычагам, которых нет ни у одной другой компании.

Однако, по словам Мэри Энн Фрэнкс, профессора юридического факультета Университета Джорджа Вашингтона и президента некоммерческой организации «Инициатива по защите гражданских прав в киберпространстве» (CCRI), «вероятность привлечения Grok к какой-либо ответственности» в соответствии с Законом о запрете на использование контента невелика. «Уголовное право требует „публикации“, что, к сожалению, не определено в законе, но предполагает предоставление доступа к контенту более чем одному человеку», — говорит Фрэнкс. «Если Grok сделает видео доступным для просмотра только тому, кто использует этот инструмент, этого, похоже, будет недостаточно».

https://www.theverge.com/internet-censorship/756831/grok-spicy-videos-nonconsensual-deepfakes-online-safety
1
ВВС США разрабатывают ИИ для динамического отслеживания целей

ВВС США запустили проект «Усовершенствованная архитектура слежения с использованием искусственного интеллекта» (ATA-AI) стоимостью 99 миллионов долларов для развития технологии отслеживания целей нового поколения с использованием ИИ и поддержкой множества источников данных.

https://www.militaryaerospace.com/computers/article/55308432/artificial-intelligence-ai-and-machine-learning-for-target-tracking
Теперь ИИ помогает бадминтонистам улучшить свою игру.

Он анализирует хват, броски, подачи, отслеживает позы, движения и полет челнока, а следующая цель — разработать прогностический анализ, который поможет предотвратить травмы.

https://indianexpress.com/article/sports/badminton/artificial-intelligence-ai-badminton-players-improve-10183462/
Такие теперь военные олимпиады. На ИИ и беспилотниках. Армия США формирует команду по соревнованию беспилотников в Форт-Ракере.

В число предстоящих мероприятий входит USNDA Crucible, в рамках которого команды Министерства обороны США будут соревноваться в моделировании тактических миссий, основанных на реальных военных и гражданских операциях.

Командам будет предоставлен доступ к целому ряду систем, одобренных Министерством обороны, а также к коммерческим готовым моделям и экспериментальным дронам, которые пока не поступили в открытый доступ.

https://thedefensepost.com/2025/08/11/us-army-competitive-drone-team/
1
В Индии, после конфликта с Пакистаном, серьезно анализировали действия и противодействие и пришли к выводу, который актуален и для нас.

Основная угроза военному потенциалу Индии в области искусственного интеллекта: отсутствие собственного национального искусственного интеллекта

https://www.sify.com/ai-analytics/the-major-threat-to-indias-ai-war-capability-lack-of-indigenous-ai/
Как DARPA за счет конкурса AI Cyber Challenge (AIxCC) находит передовые решения и стимулирует производителей ПО.

Цель конкурса AI Cyber Challenge - создать систему киберанализа на основе ИИ, которая нейтрализует все виды атак.

В конкурсе участвовало 7 команд. Из 7 решений выбрали 4 наиболее перспективные. Победителем общего конкурса была признана система киберанализа, разработанная командой «Team Atlanta». В команду вошли эксперты из Технологического института Джорджии, исследовательского центра Samsung, Корейского передового института науки и технологий и Пхоханского университета науки и технологий.

«Технология, разработанная AIxCC, даст специалистам по кибербезопасности столь необходимое преимущество в быстром и масштабном выявлении и устранении уязвимостей»

https://www.executivegov.com/articles/darpa-ai-cyber-challenge-open-source-software-team-atlanta-cyber-reasoning
НАСА тоже хочет часть бюджета Трамповского Golden Dome.

Официальный представитель NASA предлагает технологию для поддержки проекта «Золотой купол» (Golden Dome).

По словам представителя НАСА, Центр космических полетов имени Маршалла располагает набором космических технологий, включая искусственный интеллект и технологию ракетного двигателя с вращающейся детонацией (RDRE), которые могут помочь Министерству обороны США в разработке системы противоракетной обороны Golden Dome.

https://meritalk.com/articles/nasa-official-pitches-tech-to-support-golden-dome/
Животноподобного робота внедрили в стадо тибетских антилоп в Китае.

Как пишет агентство Синьхуа, робот передвигается на четырёх ногах, его внешний вид максимально приближен к живым "собратьям",  а под глазами расположены две камеры.

Уточняется, что машина преодолела два километра и успешно влилась в стадо в заповеднике Кэкэсили в северо-западной части Тибетского нагорья на высоте более 4600 метров над уровнем моря. Благодаря этому исследователи смогли наблюдать за антилопами с близкого расстояния, не вызывая испуга у диких животных.

"Настоящие антилопы проявляют любопытство к новичку, останавливаясь, чтобы посмотреть на механического незнакомца. При этом робот их не отпугивает. <...> Конечная цель состоит в том, чтобы обеспечить безопасную миграцию тибетских антилоп с минимальным вмешательством человека",


— говорится в материале.

Раньше для наблюдения за антилопами учёные использовали телескопы, камеры или другие косвенные методы, которые могли напугать животных.
ИИ-бот Claude теперь может прочитать «Войну и мир» за раз — Anthropic увеличила контекстное меню в 5 раз

Компания Anthropic на фоне конкуренции с OpenAI, Google и другими крупными игроками объявила о расширении контекстного окна своей модели Claude Sonnet 4 до 1 миллиона токенов. Это в пять раз больше предыдущего показателя. Новое контекстное окно позволяет обрабатывать кодовые базы объёмом от 75 000 до 110 000 строк, а также анализировать десятки научных статей или сотни документов в одном API-запросе.

https://3dnews.ru/1127529/iibot-claude-teper-moget-prochitat-voynu-i-mir-za-razanthropic-uvelichila-kontekstnoe-menyu-v-5-raz/amp
ИИ и управление жизнью и смертью палестинцев

Палестинцы как источники данных

На Западном берегу Израиль управляет обширной базой данных , которая содержит профили практически каждого палестинца. Эта база данных пополняется разветвленной сетью камер и приложений для смартфонов , которые фиксируют изображения лиц палестинцев на каждом контрольно-пропускном пункте и при взаимодействии с израильскими солдатами без их согласия или регистрации.

В Восточном Иерусалиме камеры видеонаблюдения покрывают 95% общественных мест. В осажденном секторе Газа данные палестинцев собираются с помощью мониторинга кадров беспилотников и, в последнее время, с помощью новой программы массового распознавания лиц.

Израиль прослушивает каждый телефонный разговор и хранить записи этих разговоров — со скоростью миллионов в час — на облачных платформах с «практически неограниченной ёмкостью».

Израиль использует инструмент языковой модели, подобный ChatGPT , чтобы сделать эту информацию доступной для сотрудников разведки, которые могут , например, спросить чат-бота , встречались ли два человека. Поскольку общедоступные данные на разговорном арабском диалекте сложно найти в интернете, языковая модель была обучена «на 100 миллиардах слов арабского языка», собранных из перехваченных личных разговоров палестинцев.

Палестинцы как цели

Данные, полученные от палестинцев, не только поступают в системы искусственного интеллекта для социального контроля и ведения войны, но эти данные также используются этими же системами для их нацеливания. Например в Хевроне имеется плотная сеть «датчиков движения и тепла, сканеров номерных знаков, алгоритмов распознавания лиц, круглосуточного видеонаблюдения», которая постоянно профилирует и отслеживает палестинцев. Лица тех, кто пересекает военные контрольно-пропускные пункты в Хевроне, сканируются и добавляются в базы данных наблюдения Израиля против их воли.

Одновременно с этим Израиль также установил в Хевроне SmartShooter — дистанционно управляемую систему контроля и разгона толпы, которая использует искусственный интеллект для определения целей с помощью распознавания лиц.

Палестинцы как прототипы

Но сбор данных не останавливается на живых. Когда убивают палестинцев, факты и обстоятельства их смерти могут быть использованы для увеличения смертоносности систем ИИ, которые продолжат убивать других в будущем. Например, в текущей израильской кампании геноцида в Газе, как сообщается, военные офицеры, использующие Lavender, имели право убивать мирных жителей, преследуя боевиков .

Для контекста, Lavender присваивает рейтинг каждому человеку в своей системе. Когда рейтинг палестинца превышает заранее определенный порог, он добавляется в список целей, подлежащих уничтожению. И после того, как заканчиваются другие цели, соответствующие первому порогу, израильские военные офицеры устанавливают новый, более низкий порог, чтобы оправдать последующее уничтожение большего количества целей. Таким образом, смерти палестинцев превращаются в прототипические меры, с помощью которых можно рассчитать и увеличить убойную силу систем наведения ИИ.

https://www.techpolicy.press/artificial-intelligence-and-the-orchestration-of-palestinian-life-and-death/
😱311
Квантовое зондирование: технология, которая может изменить навигацию, медицину и оборону

Обнаруживая изменения на атомном и субатомном уровне, квантовое зондирование обеспечивает уровень точности, позволяющий осуществлять навигацию без GPS, проводить медицинскую диагностику, выявляя заболевания на самых ранних стадиях, и разрабатывать системы обороны, способные обнаружить даже самые передовые технологии скрытности.

Ожидается, что к 2030 году объём рынка квантовых датчиков превысит 5 миллиардов долларов , но реальная значимость этого рынка — стратегическая. Страны и компании, освоившие эту технологию, получат решающее преимущество в области навигации, разведки, поиска ресурсов и профилактической медицины.

Навигация без спутников
Одно из наиболее актуальных приложений — навигация в условиях отсутствия GPS. Современные военные самолёты и корабли активно используют GPS, но спутниковые сигналы можно заглушить или подделать за считанные секунды. Квантовые акселерометры и гироскопы в сочетании с искусственным интеллектом могут обеспечить непрерывное позиционирование, измеряя точные изменения движения и ориентации без внешних источников.

Новый уровень защиты: обнаружение
Квантовое зондирование также может перевернуть технологию невидимости . Самолеты-невидимки и подводные лодки спроектированы так, чтобы избегать обнаружения радарами и гидролокаторами, но они не могут обойти законы физики. Подводная лодка, какой бы тихой она ни была, слегка возмущает гравитационное или магнитное поле Земли.

Революция в медицине
Та же чувствительность, которая делает квантовые датчики эффективными в навигации и обороне, открывает совершенно новые горизонты в здравоохранении. Квантовые магнитометры способны улавливать даже самые слабые магнитные сигналы, генерируемые человеческим сердцем и мозгом, не прикасаясь к телу.

Видение невидимого подземелья
Квантовые датчики не ограничиваются обнаружением биологических или военных объектов — они также могут составлять карты того, что находится у нас под ногами. Квантовые гравиметры способны измерять мельчайшие изменения силы тяжести, вызванные разницей в плотности грунта. Это позволяет обнаруживать пустоты, туннели, залежи полезных ископаемых и даже контролировать уровень грунтовых вод без бурения или раскопок.

https://www.unite.ai/quantum-sensing-the-technology-that-could-redefine-navigation-medicine-and-defense/
DARPA провело церемонию крещения нового беспилотного надводного судна, которое организация планирует передать ВМС США после демонстраций в море.

Платформа, получившая название USX-1 Defiant, имеет длину 180 футов (54,7 м), высоту 42 фута (12,2 м), водоизмещение 529 000 фунтов (259 000 фунтов) и максимальную скорость 20 узлов. По данным DARPA, она способна выдерживать волны высотой 9 метров (9 метров) и работать в автономном режиме в море до года.

Новый беспилотник был разработан в рамках программы агентства No Manning Required Ship (NOMARS). После завершения морской демонстрации официальные лица планируют передать роботизированный корабль в Управление программы беспилотных морских систем ВМС (PMS 406).

https://defensescoop.com/2025/08/12/darpa-defiant-usv-navy-unmanned-surface-vessel-nomars-plans/
Илон Маск утверждает, что Apple сфальсифицировала рейтинги ChatGPT в App Store

В понедельник миллиардер заявил, что действия Apple «не позволяют ни одной компании, занимающейся разработкой ИИ, кроме OpenAI, занять первое место в App Store», назвав это «явным нарушением антимонопольного законодательства». Маск добавил, что его компания xAI, занимающаяся разработкой ИИ, немедленно подаст в суд.

В июне 2024 года Apple заключила партнёрское соглашение с OpenAI для интеграции ChatGPT в iOS. Однако в «заметке сообщества», прикреплённой к посту Маска в X (ранее Twitter), указано, что с тех пор и другие приложения с ИИ заняли первое место. Китайское приложение DeepSeek возглавило App Store в январе 2025 года, всего через несколько дней после запуска модели R1. Совсем недавно, 18 июля 2025 года, Perplexity AI занял первое место в индийском App Store, по словам генерального директора Аравинда Шриниваса.

https://www.indiatoday.in/amp/technology/news/story/elon-musk-claims-apple-rigged-app-store-ai-rankings-but-x-data-shows-it-may-be-fake-news-2770468-2025-08-13