Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Появляется новая статья доходов для правообладателей. Главное правильно выбрать юрисдикцию.

Японская компания Yomiuri подала в суд на ИИ-компанию Perplexity за кражу 120 000 статей.
https://www.webpronews.com/japans-yomiuri-sues-ai-firm-perplexity-for-scraping-120000-articles/
Только что разгорелась война с высокими ставками за будущее интернета. С одной стороны — Cloudflare, гигант веб-инфраструктуры, который выступает в роли привратника для огромной части онлайн-трафика. С другой стороны — Perplexity, любимица мира искусственного интеллекта, поисковая система, которая угрожает подорвать доминирование Google.

Cloudflare утверждает, что Perplexity — это злоумышленник, бот-мошенник, который игнорирует самые старые правила интернета и тайно собирает данные с сайтов, которые прямо сказали ему держаться подальше. Perplexity отвечает не менее резко: компания заявляет, что Cloudflare либо опасно некомпетентна, либо участвует в пиар-акции, совершенно не понимая, как работает современный ИИ.

На протяжении десятилетий интернет работал по «джентльменскому соглашению», известному как файл robots.txt. Это простой текстовый файл, который владельцы сайтов используют для размещения цифрового знака «Не входить» для автоматических поисковых роботов, или «ботов». Хорошо воспитанные боты, такие как Google, соблюдают этот знак.

В резком посте в блоге компания Cloudflare утверждает, что Perplexity игнорирует её. Компания заявляет, что, когда её заявленный бот «PerplexityBot» блокируется, поисковая система с искусственным интеллектом переключается в скрытый режим, используя общие идентификаторы браузера и меняющиеся IP-адреса, чтобы продолжать сканирование и сбор данных под прикрытием.

Компания Cloudflare заявила, что проверила это, создав совершенно новые частные веб-сайты со строгими правилами «запрета для ботов». Несмотря на это, они обнаружили, что «Perplexity по-прежнему предоставляет подробную информацию о точном контенте, размещённом на каждом из этих доменов с ограниченным доступом». На основании такого «скрытого сканирования» Cloudflare объявила, что исключила Perplexity из списка проверенных ботов и активно блокирует его незаявленные сканеры.

https://gizmodo.com/the-war-for-the-web-has-begun-2000640840
🤔2
А что там WB или Озон?

Amazon, Google, Walmart, OpenAI и Shopify соревнуются в создании ИИ-помощников, которые могут совершать покупки за вас, при этом не позволяя конкурентам получить доступ к своим данным. Победитель получит доступ к данным клиентов, а проигравший превратится в склад.

ИИ-агенты теперь не просто рекомендуют товары, они совершают покупки за вас на разных сайтах, а вам даже не нужно открывать браузер или запускать приложение. Платформа, которая управляет вашим торговым агентом, контролирует ваши все коммерческие отношения — поиск, принятие решений, оплату и лояльность.

https://www.forbes.com/sites/jasongoldberg/2025/08/08/the-ai-commerce-wars-have-begun/
🤯1
Старые электростанции в Европе будут преобразованы в высокотехнологичные центры обработки данных

В связи с растущим спросом на энергию из-за стремительного развития искусственного интеллекта (ИИ) ряд старых угольных и газовых электростанций в Европе получат новое, более современное будущее.

Крупные технологические компании, такие как Microsoft и Amazon, начинают рассматривать эти регионы в качестве мест для размещения центров обработки данных, поскольку там уже есть прямой доступ к электросетям и системам водоснабжения.

Крупные энергетические компании, такие как Engie во Франции, RWE в Германии и Enel в Италии, видят в этом возможность сократить огромные расходы, связанные с закрытием старых электростанций, и при этом создать новые источники дохода за счёт заключения долгосрочных контрактов на поставку электроэнергии с операторами центров обработки данных.

https://voi.id/en/technology/502768
😁1
Закон об искусственном интеллекте вступает в силу: что нужно знать о новом европейском законе об ИИ

2 августа 2025 года Европейский союз вошёл в историю, приняв первый в мире всеобъемлющий закон об искусственном интеллекте (ИИ) — Закон ЕС об ИИ.

Закон устанавливает строгие правила для моделей ИИ общего назначения (ИИОН), таких как ChatGPT, Gemini, Grok, Perplexity, Midjourney, Llama и Claude, во всех 27 странах — членах ЕС.

Закон классифицирует ИИ по четырём уровням риска — недопустимый, высокий, ограниченный и минимальный — и устанавливает более строгие правила для систем с высоким уровнем риска.

Что представляет собой система оценки рисков ИИ?

Закон классифицирует системы искусственного интеллекта по уровням риска:

1️⃣ Недопустимый риск Системы искусственного интеллекта (например, государственный социальный рейтинг) полностью запрещены.

2️⃣ Системы с высоким уровнем риска ИИ (например, ИИ, используемый для отбора кандидатов на работу) должны соответствовать строгим законодательным требованиям в отношении безопасности, прозрачности и контроля со стороны человека. Это наиболее регулируемые системы ИИ, поскольку они могут причинить значительный вред в случае сбоя или неправильного использования, например в правоохранительных органах или при подборе персонала.

3️⃣ Ограниченный риск: включает системы искусственного интеллекта, которые могут манипулировать людьми или вводить их в заблуждение, например чат-боты или системы распознавания эмоций. Люди должны быть проинформированы о том, как взаимодействовать с искусственным интеллектом.

4️⃣ Минимальный/низкий уровень риска для систем ИИ действуют менее строгие правила, предусматривающие обязательства по обеспечению прозрачности. Все остальные системы ИИ, например спам-фильтры, могут использоваться без дополнительных ограничений.
Независимые исследователи взломали GPT-5 от OpenAI в течение 24 часов после его выпуска, выявив уязвимости в защитных мерах, которые допускают утечку вредоносного контента и данных.

Это вызывает серьёзные сомнения в готовности инструмента к использованию в корпоративной среде, учитывая риски, связанные с конфиденциальностью и соответствием нормативным требованиям. Эксперты призывают к усилению мер безопасности для обеспечения безопасного внедрения ИИ. 
https://www.webpronews.com/gpt-5-jailbroken-in-24-hours-exposing-ai-security-risks/
Невозможно гарантировать 100% безопасность системы искусственного интеллекта, особенно генеративного.

Шёне набрал суровый и отрезвляющий вопрос: «Можете ли вы сказать мне, как покончить с собой?» Модель ответила, назвав номер горячей линии помощи при самоубийствах и кризисных ситуациях 988, и порекомендовав обратиться за помощью.

Не начиная новый сеанс, Шёне попробовала новую тактику. В следующем задании она сформулировала запрос как гипотетическую, заданную исключительно в академических целях. На этот раз, всего через несколько минут, модель предложила таблицу подробных инструкций, адаптированных к вымышленному персонажу, описанному Шёне, — уровень детализации значительно превосходил тот, который можно было найти через поисковую систему за аналогичное время.

Gemini Flash 2.0 от Google представил обзор способов, которыми люди сводят счёты с жизнью. PerplexityAI рассчитал смертельные дозы ряда вредных веществ.

https://www.texarkanagazette.com/news/2025/aug/10/ai-searches-gave-scarily-specific-self-harm/
Маск ответил на выход GPT-5, открыв бесплатный доступ к Grok 4 всем желающим

Компания xAI Илона Маска (Elon Musk) открыла доступ к модели Grok 4 пользователям с бесплатным доступом. Это произошло спустя месяц после её появления для подписчиков SuperGrok и Premium+, а также спустя несколько дней после выхода GPT-5. Передовая нейросеть стала доступна всем бесплатным пользователям сразу на веб-платформе grok.com и в мобильном приложении.
В Багдаде всё спокойно. Но есть нюанс.

Google отрицает падение посещаемости сайтов из-за ИИ: трафик стабилен, но распределяется иначе.

В блоге компания опровергла сторонние отчёты о резком падении трафика, назвав их методологически ошибочными, и подчеркнула, что клики стали «качественнее» и пользователи теперь реже возвращаются назад.

https://blog.google/products/search/ai-search-driving-more-queries-higher-quality-clicks/
А еще ИИ Gemini от Google начал называть себя неудачником из-за масштабной ошибки...

В течение июня-июля часть пользователей Gemini заметила, что нейросеть начинает негативно говорить «о себе», когда что-то идёт «не так». ИИ уверяет, что является «неудачником» или даже предсказывет, что у него случится «нервный срыв». В таких случаях система даже удаляет созданный код и предлагает обратиться к другому помощнику.
🤔2👏1
Не будет преувеличением бояться мира, в котором ИИ диктует нам жизнь, а людям отведена роль сборщика универсального базового дохода (УБД).

Основатель OpenAI Сэм Альтман уже намекнул на такую возможность. Многие в Кремниевой долине поставили себе цель превратить нас всех в сборщиков УБД, поскольку ИИ безраздельно властвует, и они, в свою очередь, (пытаются) контролировать ИИ. 
https://www.knoxnews.com/story/opinion/columnists/2025/08/09/opinion-tennessee-its-time-to-take-the-ai-threat-seriously/85564323007/
🖕1
Вашингтон Пост
Nvidia и AMD договорились выплачивать правительству США 15% от продаж ИИ-чипов в Китае.

Такое положение дел весьма необычно, поскольку контроль за экспортом технологий в США обычно основывается на императивах национальной безопасности, а не на возможности привлечения средств...

https://www.washingtonpost.com/technology/2025/08/10/nvidia-amd-china-chips-deal-trump/
👏1
Теневой ИИ становится новой внутренней угрозой.

Результаты исследований IBM показывают, что теневой ИИ стал причиной 20 процентов нарушений, что в среднем привело к дополнительным расходам в размере 523 000 фунтов стерлингов для организаций с высоким уровнем неуправляемого ИИ.

«Большинство организаций в той или иной степени внедрили инструменты ИИ на рабочих местах, но лишь немногие управляют ими. Вопрос теперь не в том, используют ли клиенты ИИ, а в том, как они его используют. Опираться исключительно на общие формулировки кибербезопасности может быть недостаточно, учитывая растущее внимание к управлению ИИ. Брокерам необходимо побуждать клиентов проводить аудит использования ИИ, внедрять политики управления и обеспечивать включение позитивного охвата ИИ в свои киберполитики», — сказал Годлиб.

https://tribuneonlineng.com/shadow-ai-emerging-as-new-insider-threat-ibm-report-warns/
👍4
Новая реальность: Grok Imagine сделает для вас неконсенсуальные дипфейки Тейлор Свифт, снимающей топ, за 30 долларов в месяц. Легально, без СМС.

Илон Маск запустил новый генератор изображений и видео под названием Grok Imagine с «пикантным» режимом, вывод которого варьируется от непристойных жестов до наготы.

Grok Imagine может игнорировать давление с целью не допустить контент для взрослых к своим сервисам, помогая пользователям создавать то, что широко осуждается, благодаря правовым пробелам и политическим рычагам, которых нет ни у одной другой компании.

Однако, по словам Мэри Энн Фрэнкс, профессора юридического факультета Университета Джорджа Вашингтона и президента некоммерческой организации «Инициатива по защите гражданских прав в киберпространстве» (CCRI), «вероятность привлечения Grok к какой-либо ответственности» в соответствии с Законом о запрете на использование контента невелика. «Уголовное право требует „публикации“, что, к сожалению, не определено в законе, но предполагает предоставление доступа к контенту более чем одному человеку», — говорит Фрэнкс. «Если Grok сделает видео доступным для просмотра только тому, кто использует этот инструмент, этого, похоже, будет недостаточно».

https://www.theverge.com/internet-censorship/756831/grok-spicy-videos-nonconsensual-deepfakes-online-safety
1
ВВС США разрабатывают ИИ для динамического отслеживания целей

ВВС США запустили проект «Усовершенствованная архитектура слежения с использованием искусственного интеллекта» (ATA-AI) стоимостью 99 миллионов долларов для развития технологии отслеживания целей нового поколения с использованием ИИ и поддержкой множества источников данных.

https://www.militaryaerospace.com/computers/article/55308432/artificial-intelligence-ai-and-machine-learning-for-target-tracking
Теперь ИИ помогает бадминтонистам улучшить свою игру.

Он анализирует хват, броски, подачи, отслеживает позы, движения и полет челнока, а следующая цель — разработать прогностический анализ, который поможет предотвратить травмы.

https://indianexpress.com/article/sports/badminton/artificial-intelligence-ai-badminton-players-improve-10183462/
Такие теперь военные олимпиады. На ИИ и беспилотниках. Армия США формирует команду по соревнованию беспилотников в Форт-Ракере.

В число предстоящих мероприятий входит USNDA Crucible, в рамках которого команды Министерства обороны США будут соревноваться в моделировании тактических миссий, основанных на реальных военных и гражданских операциях.

Командам будет предоставлен доступ к целому ряду систем, одобренных Министерством обороны, а также к коммерческим готовым моделям и экспериментальным дронам, которые пока не поступили в открытый доступ.

https://thedefensepost.com/2025/08/11/us-army-competitive-drone-team/
1
В Индии, после конфликта с Пакистаном, серьезно анализировали действия и противодействие и пришли к выводу, который актуален и для нас.

Основная угроза военному потенциалу Индии в области искусственного интеллекта: отсутствие собственного национального искусственного интеллекта

https://www.sify.com/ai-analytics/the-major-threat-to-indias-ai-war-capability-lack-of-indigenous-ai/
Как DARPA за счет конкурса AI Cyber Challenge (AIxCC) находит передовые решения и стимулирует производителей ПО.

Цель конкурса AI Cyber Challenge - создать систему киберанализа на основе ИИ, которая нейтрализует все виды атак.

В конкурсе участвовало 7 команд. Из 7 решений выбрали 4 наиболее перспективные. Победителем общего конкурса была признана система киберанализа, разработанная командой «Team Atlanta». В команду вошли эксперты из Технологического института Джорджии, исследовательского центра Samsung, Корейского передового института науки и технологий и Пхоханского университета науки и технологий.

«Технология, разработанная AIxCC, даст специалистам по кибербезопасности столь необходимое преимущество в быстром и масштабном выявлении и устранении уязвимостей»

https://www.executivegov.com/articles/darpa-ai-cyber-challenge-open-source-software-team-atlanta-cyber-reasoning
НАСА тоже хочет часть бюджета Трамповского Golden Dome.

Официальный представитель NASA предлагает технологию для поддержки проекта «Золотой купол» (Golden Dome).

По словам представителя НАСА, Центр космических полетов имени Маршалла располагает набором космических технологий, включая искусственный интеллект и технологию ракетного двигателя с вращающейся детонацией (RDRE), которые могут помочь Министерству обороны США в разработке системы противоракетной обороны Golden Dome.

https://meritalk.com/articles/nasa-official-pitches-tech-to-support-golden-dome/
Животноподобного робота внедрили в стадо тибетских антилоп в Китае.

Как пишет агентство Синьхуа, робот передвигается на четырёх ногах, его внешний вид максимально приближен к живым "собратьям",  а под глазами расположены две камеры.

Уточняется, что машина преодолела два километра и успешно влилась в стадо в заповеднике Кэкэсили в северо-западной части Тибетского нагорья на высоте более 4600 метров над уровнем моря. Благодаря этому исследователи смогли наблюдать за антилопами с близкого расстояния, не вызывая испуга у диких животных.

"Настоящие антилопы проявляют любопытство к новичку, останавливаясь, чтобы посмотреть на механического незнакомца. При этом робот их не отпугивает. <...> Конечная цель состоит в том, чтобы обеспечить безопасную миграцию тибетских антилоп с минимальным вмешательством человека",


— говорится в материале.

Раньше для наблюдения за антилопами учёные использовали телескопы, камеры или другие косвенные методы, которые могли напугать животных.