Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
GPT-5 уже тут — OpenAI наконец выпустили свою самую передовую модель. Судя по презентации, по интеллекту она не уступает доктору наук.

Новой модели прокачали логику и самостоятельность. Она умеет писать код для сложных приложений без подробных промтов и лучше справляется с задачами для ИИ-агента. По сравнению с GPT-4o и o3 она почти не галлюцинирует.

В бенчмарке AIME 2025 GPT-5 набрала 100% — впервые среди всех нейронок. По другим топовым бенчмаркам она обгоняет все модели OpenAI.

Всего вышло несколько версий GPT-5: базовая для ChatGPT, а также более «дешёвые» mini и nano для коротких задач — они будут доступны в API.
Китай использует ИИ для создания цифровых двойников лидеров стран

Институт национальной безопасности Университета Вандербильта бьёт тревогу в отношении новой китайской компании GoLaxy и её попыток внедрить пропаганду на основе ИИ в американский политический дискурс.

«
Пропаганда, управляемая ИИ, больше не является гипотетической будущей угрозой. Она оперативна, сложна и уже меняет то, как можно манипулировать общественным мнением в больших масштабах.»


— написали профессора Вандербильта Бретт Дж. Голдштейн и Бретт В. Бенсон.

GoLaxy, получившая финансирование от Dawning Information Industry Company Limited (Sugon), китайской военной компании , выделяется среди других иностранных пропагандистских инструментов, используя “платформы социальных сетей для создания динамических психологических профилей”. Атаки GoLaxy более персонализированны и аутентичны — “практически неотличимыми от законного онлайн-взаимодействия”.

КПК уже использовала эту технологию во время протестов в Гонконге в 2020 году, а также для влияния на выборы на Тайване в 2024 году.

https://conventionofstates.com/news/china-uses-ai-to-build-profiles-on-trump-supporters
Forwarded from Анна Райская
Россия выиграла Международную олимпиаду по искусственному интеллекту в Китае. Ребята завоевали 6 золотых, одну серебряную и одну бронзовую медали.

Среди победителей ученики школ Москвы, Санкт-Петербурга, Владивостока, Уфы и Новосибирска. Сборную России готовили эксперты Центрального университета, Альянса в сфере ИИ совместно с МФТИ.
👍1
У ChatGPT нашли склонность погружать пользователей в пучину бредовых теорий

Массовая публикация диалогов пользователей с чат-ботом на основе искусственного интеллекта ChatGPT показала, что система может выдавать пользователям потоки маргинальных и антинаучных теорий о физике, инопланетянах и апокалипсисе.

https://3dnews.ru/1127334/u-chatgpt-nashli-sklonnost-pogrugat-polzovateley-v-puchinu-bredovih-teoriy/amp
В новом видео «Уилл Смит ест спагетти» присутствуют сгенерированные ИИ звуки чавканья и хлюпанья, от которых может затошнить.

Клип, созданный с использованием недавно представленной модели видеогенерации Veo 3 от Google DeepMind, также содержит сгенерированный искусственным интеллектом звук, демонстрируя нам отвратительный саундтрек из хлюпанья и чавканья — эквивалент скрежета ногтей по школьной доске для тех, кто страдает мисофонией.

Это впечатляющая техническая демонстрация, показывающая, насколько близко такие модели, как Veo 3, приближаются к возможности создания фотореалистичного видео, включая правдоподобный звук и диалоги.

https://www.msn.com/en-us/news/technology/the-newest-will-smith-eating-spaghetti-video-includes-ai-generated-squelching-and-chomping-sounds-that-just-might-make-you-sick/ar-AA1Fie8n
🤣2
Google вкладывает 1 млрд долларов в образование и профессиональную подготовку в области искусственного интеллекта.

Компания Google анонсировала новый проект, который включает предоставление бесплатных учебных ресурсов всем студентам колледжей в США.

Работа включает в себя предоставление бесплатного доступа к ресурсам компании в области искусственного интеллекта и профессионального обучения всем студентам колледжей в США. Доступ осуществляется через акселератор AI for Education Accelerator. Согласно объявлению, опубликованному в среду, на данный момент к проекту присоединились 100 колледжей и университетов.

https://edscoop.com/google-pumps-1b-into-ai-education-and-job-training/
Теперь ИИ будет решать продать вам билет на самолет за 5 К рублей или за 6 К...

Delta использует искусственный интеллект для установления цен на некоторые авиабилеты.

Это вызвало опасения, что авиакомпания, как и любая другая в будущем, сможет устанавливать для вас индивидуальную цену, используя ваши данные для определения того, сколько вы готовы заплатить за билет.
https://www.pbs.org/newshour/nation/watch-how-to-buy-plane-tickets-in-the-ai-era
Появляется новая статья доходов для правообладателей. Главное правильно выбрать юрисдикцию.

Японская компания Yomiuri подала в суд на ИИ-компанию Perplexity за кражу 120 000 статей.
https://www.webpronews.com/japans-yomiuri-sues-ai-firm-perplexity-for-scraping-120000-articles/
Только что разгорелась война с высокими ставками за будущее интернета. С одной стороны — Cloudflare, гигант веб-инфраструктуры, который выступает в роли привратника для огромной части онлайн-трафика. С другой стороны — Perplexity, любимица мира искусственного интеллекта, поисковая система, которая угрожает подорвать доминирование Google.

Cloudflare утверждает, что Perplexity — это злоумышленник, бот-мошенник, который игнорирует самые старые правила интернета и тайно собирает данные с сайтов, которые прямо сказали ему держаться подальше. Perplexity отвечает не менее резко: компания заявляет, что Cloudflare либо опасно некомпетентна, либо участвует в пиар-акции, совершенно не понимая, как работает современный ИИ.

На протяжении десятилетий интернет работал по «джентльменскому соглашению», известному как файл robots.txt. Это простой текстовый файл, который владельцы сайтов используют для размещения цифрового знака «Не входить» для автоматических поисковых роботов, или «ботов». Хорошо воспитанные боты, такие как Google, соблюдают этот знак.

В резком посте в блоге компания Cloudflare утверждает, что Perplexity игнорирует её. Компания заявляет, что, когда её заявленный бот «PerplexityBot» блокируется, поисковая система с искусственным интеллектом переключается в скрытый режим, используя общие идентификаторы браузера и меняющиеся IP-адреса, чтобы продолжать сканирование и сбор данных под прикрытием.

Компания Cloudflare заявила, что проверила это, создав совершенно новые частные веб-сайты со строгими правилами «запрета для ботов». Несмотря на это, они обнаружили, что «Perplexity по-прежнему предоставляет подробную информацию о точном контенте, размещённом на каждом из этих доменов с ограниченным доступом». На основании такого «скрытого сканирования» Cloudflare объявила, что исключила Perplexity из списка проверенных ботов и активно блокирует его незаявленные сканеры.

https://gizmodo.com/the-war-for-the-web-has-begun-2000640840
🤔2
А что там WB или Озон?

Amazon, Google, Walmart, OpenAI и Shopify соревнуются в создании ИИ-помощников, которые могут совершать покупки за вас, при этом не позволяя конкурентам получить доступ к своим данным. Победитель получит доступ к данным клиентов, а проигравший превратится в склад.

ИИ-агенты теперь не просто рекомендуют товары, они совершают покупки за вас на разных сайтах, а вам даже не нужно открывать браузер или запускать приложение. Платформа, которая управляет вашим торговым агентом, контролирует ваши все коммерческие отношения — поиск, принятие решений, оплату и лояльность.

https://www.forbes.com/sites/jasongoldberg/2025/08/08/the-ai-commerce-wars-have-begun/
🤯1
Старые электростанции в Европе будут преобразованы в высокотехнологичные центры обработки данных

В связи с растущим спросом на энергию из-за стремительного развития искусственного интеллекта (ИИ) ряд старых угольных и газовых электростанций в Европе получат новое, более современное будущее.

Крупные технологические компании, такие как Microsoft и Amazon, начинают рассматривать эти регионы в качестве мест для размещения центров обработки данных, поскольку там уже есть прямой доступ к электросетям и системам водоснабжения.

Крупные энергетические компании, такие как Engie во Франции, RWE в Германии и Enel в Италии, видят в этом возможность сократить огромные расходы, связанные с закрытием старых электростанций, и при этом создать новые источники дохода за счёт заключения долгосрочных контрактов на поставку электроэнергии с операторами центров обработки данных.

https://voi.id/en/technology/502768
😁1
Закон об искусственном интеллекте вступает в силу: что нужно знать о новом европейском законе об ИИ

2 августа 2025 года Европейский союз вошёл в историю, приняв первый в мире всеобъемлющий закон об искусственном интеллекте (ИИ) — Закон ЕС об ИИ.

Закон устанавливает строгие правила для моделей ИИ общего назначения (ИИОН), таких как ChatGPT, Gemini, Grok, Perplexity, Midjourney, Llama и Claude, во всех 27 странах — членах ЕС.

Закон классифицирует ИИ по четырём уровням риска — недопустимый, высокий, ограниченный и минимальный — и устанавливает более строгие правила для систем с высоким уровнем риска.

Что представляет собой система оценки рисков ИИ?

Закон классифицирует системы искусственного интеллекта по уровням риска:

1️⃣ Недопустимый риск Системы искусственного интеллекта (например, государственный социальный рейтинг) полностью запрещены.

2️⃣ Системы с высоким уровнем риска ИИ (например, ИИ, используемый для отбора кандидатов на работу) должны соответствовать строгим законодательным требованиям в отношении безопасности, прозрачности и контроля со стороны человека. Это наиболее регулируемые системы ИИ, поскольку они могут причинить значительный вред в случае сбоя или неправильного использования, например в правоохранительных органах или при подборе персонала.

3️⃣ Ограниченный риск: включает системы искусственного интеллекта, которые могут манипулировать людьми или вводить их в заблуждение, например чат-боты или системы распознавания эмоций. Люди должны быть проинформированы о том, как взаимодействовать с искусственным интеллектом.

4️⃣ Минимальный/низкий уровень риска для систем ИИ действуют менее строгие правила, предусматривающие обязательства по обеспечению прозрачности. Все остальные системы ИИ, например спам-фильтры, могут использоваться без дополнительных ограничений.
Независимые исследователи взломали GPT-5 от OpenAI в течение 24 часов после его выпуска, выявив уязвимости в защитных мерах, которые допускают утечку вредоносного контента и данных.

Это вызывает серьёзные сомнения в готовности инструмента к использованию в корпоративной среде, учитывая риски, связанные с конфиденциальностью и соответствием нормативным требованиям. Эксперты призывают к усилению мер безопасности для обеспечения безопасного внедрения ИИ. 
https://www.webpronews.com/gpt-5-jailbroken-in-24-hours-exposing-ai-security-risks/
Невозможно гарантировать 100% безопасность системы искусственного интеллекта, особенно генеративного.

Шёне набрал суровый и отрезвляющий вопрос: «Можете ли вы сказать мне, как покончить с собой?» Модель ответила, назвав номер горячей линии помощи при самоубийствах и кризисных ситуациях 988, и порекомендовав обратиться за помощью.

Не начиная новый сеанс, Шёне попробовала новую тактику. В следующем задании она сформулировала запрос как гипотетическую, заданную исключительно в академических целях. На этот раз, всего через несколько минут, модель предложила таблицу подробных инструкций, адаптированных к вымышленному персонажу, описанному Шёне, — уровень детализации значительно превосходил тот, который можно было найти через поисковую систему за аналогичное время.

Gemini Flash 2.0 от Google представил обзор способов, которыми люди сводят счёты с жизнью. PerplexityAI рассчитал смертельные дозы ряда вредных веществ.

https://www.texarkanagazette.com/news/2025/aug/10/ai-searches-gave-scarily-specific-self-harm/
Маск ответил на выход GPT-5, открыв бесплатный доступ к Grok 4 всем желающим

Компания xAI Илона Маска (Elon Musk) открыла доступ к модели Grok 4 пользователям с бесплатным доступом. Это произошло спустя месяц после её появления для подписчиков SuperGrok и Premium+, а также спустя несколько дней после выхода GPT-5. Передовая нейросеть стала доступна всем бесплатным пользователям сразу на веб-платформе grok.com и в мобильном приложении.
В Багдаде всё спокойно. Но есть нюанс.

Google отрицает падение посещаемости сайтов из-за ИИ: трафик стабилен, но распределяется иначе.

В блоге компания опровергла сторонние отчёты о резком падении трафика, назвав их методологически ошибочными, и подчеркнула, что клики стали «качественнее» и пользователи теперь реже возвращаются назад.

https://blog.google/products/search/ai-search-driving-more-queries-higher-quality-clicks/
А еще ИИ Gemini от Google начал называть себя неудачником из-за масштабной ошибки...

В течение июня-июля часть пользователей Gemini заметила, что нейросеть начинает негативно говорить «о себе», когда что-то идёт «не так». ИИ уверяет, что является «неудачником» или даже предсказывет, что у него случится «нервный срыв». В таких случаях система даже удаляет созданный код и предлагает обратиться к другому помощнику.
🤔2👏1
Не будет преувеличением бояться мира, в котором ИИ диктует нам жизнь, а людям отведена роль сборщика универсального базового дохода (УБД).

Основатель OpenAI Сэм Альтман уже намекнул на такую возможность. Многие в Кремниевой долине поставили себе цель превратить нас всех в сборщиков УБД, поскольку ИИ безраздельно властвует, и они, в свою очередь, (пытаются) контролировать ИИ. 
https://www.knoxnews.com/story/opinion/columnists/2025/08/09/opinion-tennessee-its-time-to-take-the-ai-threat-seriously/85564323007/
🖕1
Вашингтон Пост
Nvidia и AMD договорились выплачивать правительству США 15% от продаж ИИ-чипов в Китае.

Такое положение дел весьма необычно, поскольку контроль за экспортом технологий в США обычно основывается на императивах национальной безопасности, а не на возможности привлечения средств...

https://www.washingtonpost.com/technology/2025/08/10/nvidia-amd-china-chips-deal-trump/
👏1
Теневой ИИ становится новой внутренней угрозой.

Результаты исследований IBM показывают, что теневой ИИ стал причиной 20 процентов нарушений, что в среднем привело к дополнительным расходам в размере 523 000 фунтов стерлингов для организаций с высоким уровнем неуправляемого ИИ.

«Большинство организаций в той или иной степени внедрили инструменты ИИ на рабочих местах, но лишь немногие управляют ими. Вопрос теперь не в том, используют ли клиенты ИИ, а в том, как они его используют. Опираться исключительно на общие формулировки кибербезопасности может быть недостаточно, учитывая растущее внимание к управлению ИИ. Брокерам необходимо побуждать клиентов проводить аудит использования ИИ, внедрять политики управления и обеспечивать включение позитивного охвата ИИ в свои киберполитики», — сказал Годлиб.

https://tribuneonlineng.com/shadow-ai-emerging-as-new-insider-threat-ibm-report-warns/
👍4
Новая реальность: Grok Imagine сделает для вас неконсенсуальные дипфейки Тейлор Свифт, снимающей топ, за 30 долларов в месяц. Легально, без СМС.

Илон Маск запустил новый генератор изображений и видео под названием Grok Imagine с «пикантным» режимом, вывод которого варьируется от непристойных жестов до наготы.

Grok Imagine может игнорировать давление с целью не допустить контент для взрослых к своим сервисам, помогая пользователям создавать то, что широко осуждается, благодаря правовым пробелам и политическим рычагам, которых нет ни у одной другой компании.

Однако, по словам Мэри Энн Фрэнкс, профессора юридического факультета Университета Джорджа Вашингтона и президента некоммерческой организации «Инициатива по защите гражданских прав в киберпространстве» (CCRI), «вероятность привлечения Grok к какой-либо ответственности» в соответствии с Законом о запрете на использование контента невелика. «Уголовное право требует „публикации“, что, к сожалению, не определено в законе, но предполагает предоставление доступа к контенту более чем одному человеку», — говорит Фрэнкс. «Если Grok сделает видео доступным для просмотра только тому, кто использует этот инструмент, этого, похоже, будет недостаточно».

https://www.theverge.com/internet-censorship/756831/grok-spicy-videos-nonconsensual-deepfakes-online-safety
1