Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Администрация киберпространства КНР (Cyberspace Administration of China, CAC) запросила у Nvidia объяснения на предмет того, встраивала ли компания по требованию властей США в свои чипы бэкдоры, и обладают ли специально разработанные для экспорта в Китай процессоры H20 недокументированными функциями.

Nvidia конечно-же сказали что всё тип-топ:
В графических процессорах Nvidia нет и не должно быть каких-либо выключателей или бэкдоров, заявила во вторник компания, комментируя высказанные на сей счёт подозрения.

Но раскрывать исходники не согласна, ибо репутация и все дела)))))

https://blogs.nvidia.com/blog/no-backdoors-no-kill-switches-no-spyware/
🔥4
Израиль скатывается на задворки в рейтинге стран, занимающихся ИИ.

Это оновная мысль доклада комитета Кнесета Яакова Нагеля, переданного премьер-министру Биньямину Нетаньяху в начале этой недели.

Комиссия комитета Кнесета призвала правительство потратить 25 миллиардов шекелей (около 6,7 миллиарда долларов США) в течение пяти лет, из которых 18 миллиардов шекелей на 60 000 графических процессоров (GPU) и центры обработки данных для их работы.

https://www.jpost.com/opinion/article-863446
👍2
Вот и фсё... теперь сервисы ИИ заспамят.

Маск добавит рекламу в чат-бот Grok

В ходе прямой трансляции с рекламодателями на платформе X в среду миллиардер-предприниматель заявил, что его компания позволит маркетологам за плату появляться в рекомендациях чат-бота Grok, платформы.

«До сих пор мы были сосредоточены на том, чтобы сделать Grok самым умным и точным искусственным интеллектом в мире, и я думаю, что нам это в значительной степени удалось. Поэтому мы переключимся на то, как нам оплатить эти дорогостоящие графические процессоры»
— сказал Маск.

https://www.ft.com/content/3bc3a76a-8639-4dbe-8754-3053270e4605
В новом исследовании, опубликованном в журнале Nature Communications, был предложен другой подход: процесс проектирования с применением глубокого обучения для создания схем и компонентов.

Используя искусственный интеллект (ИИ), исследователи из Принстонского университета и Индийского технологического института Мадраса продемонстрировали метод «обратного проектирования», при котором исходят из желаемых свойств и затем разрабатывают конструкцию на их основе.

Алгоритм создал несколько странных чипов, которые, похоже, работают очень хорошо. Но есть одна загвоздка: никто на самом деле не знает, почему они так хорошо работают.

https://www.zmescience.com/science/ai-designs-chip-repubz/
😁1🤔1
Яндекс» и Институт системного программирования РАН разрабатывают сервис для маркировки и распознавания ИИ-контента: фото, видео и аудио, сгенерированных нейросетями.
👍1
GPT-5 уже тут — OpenAI наконец выпустили свою самую передовую модель. Судя по презентации, по интеллекту она не уступает доктору наук.

Новой модели прокачали логику и самостоятельность. Она умеет писать код для сложных приложений без подробных промтов и лучше справляется с задачами для ИИ-агента. По сравнению с GPT-4o и o3 она почти не галлюцинирует.

В бенчмарке AIME 2025 GPT-5 набрала 100% — впервые среди всех нейронок. По другим топовым бенчмаркам она обгоняет все модели OpenAI.

Всего вышло несколько версий GPT-5: базовая для ChatGPT, а также более «дешёвые» mini и nano для коротких задач — они будут доступны в API.
Китай использует ИИ для создания цифровых двойников лидеров стран

Институт национальной безопасности Университета Вандербильта бьёт тревогу в отношении новой китайской компании GoLaxy и её попыток внедрить пропаганду на основе ИИ в американский политический дискурс.

«
Пропаганда, управляемая ИИ, больше не является гипотетической будущей угрозой. Она оперативна, сложна и уже меняет то, как можно манипулировать общественным мнением в больших масштабах.»


— написали профессора Вандербильта Бретт Дж. Голдштейн и Бретт В. Бенсон.

GoLaxy, получившая финансирование от Dawning Information Industry Company Limited (Sugon), китайской военной компании , выделяется среди других иностранных пропагандистских инструментов, используя “платформы социальных сетей для создания динамических психологических профилей”. Атаки GoLaxy более персонализированны и аутентичны — “практически неотличимыми от законного онлайн-взаимодействия”.

КПК уже использовала эту технологию во время протестов в Гонконге в 2020 году, а также для влияния на выборы на Тайване в 2024 году.

https://conventionofstates.com/news/china-uses-ai-to-build-profiles-on-trump-supporters
Forwarded from Анна Райская
Россия выиграла Международную олимпиаду по искусственному интеллекту в Китае. Ребята завоевали 6 золотых, одну серебряную и одну бронзовую медали.

Среди победителей ученики школ Москвы, Санкт-Петербурга, Владивостока, Уфы и Новосибирска. Сборную России готовили эксперты Центрального университета, Альянса в сфере ИИ совместно с МФТИ.
👍1
У ChatGPT нашли склонность погружать пользователей в пучину бредовых теорий

Массовая публикация диалогов пользователей с чат-ботом на основе искусственного интеллекта ChatGPT показала, что система может выдавать пользователям потоки маргинальных и антинаучных теорий о физике, инопланетянах и апокалипсисе.

https://3dnews.ru/1127334/u-chatgpt-nashli-sklonnost-pogrugat-polzovateley-v-puchinu-bredovih-teoriy/amp
В новом видео «Уилл Смит ест спагетти» присутствуют сгенерированные ИИ звуки чавканья и хлюпанья, от которых может затошнить.

Клип, созданный с использованием недавно представленной модели видеогенерации Veo 3 от Google DeepMind, также содержит сгенерированный искусственным интеллектом звук, демонстрируя нам отвратительный саундтрек из хлюпанья и чавканья — эквивалент скрежета ногтей по школьной доске для тех, кто страдает мисофонией.

Это впечатляющая техническая демонстрация, показывающая, насколько близко такие модели, как Veo 3, приближаются к возможности создания фотореалистичного видео, включая правдоподобный звук и диалоги.

https://www.msn.com/en-us/news/technology/the-newest-will-smith-eating-spaghetti-video-includes-ai-generated-squelching-and-chomping-sounds-that-just-might-make-you-sick/ar-AA1Fie8n
🤣2
Google вкладывает 1 млрд долларов в образование и профессиональную подготовку в области искусственного интеллекта.

Компания Google анонсировала новый проект, который включает предоставление бесплатных учебных ресурсов всем студентам колледжей в США.

Работа включает в себя предоставление бесплатного доступа к ресурсам компании в области искусственного интеллекта и профессионального обучения всем студентам колледжей в США. Доступ осуществляется через акселератор AI for Education Accelerator. Согласно объявлению, опубликованному в среду, на данный момент к проекту присоединились 100 колледжей и университетов.

https://edscoop.com/google-pumps-1b-into-ai-education-and-job-training/
Теперь ИИ будет решать продать вам билет на самолет за 5 К рублей или за 6 К...

Delta использует искусственный интеллект для установления цен на некоторые авиабилеты.

Это вызвало опасения, что авиакомпания, как и любая другая в будущем, сможет устанавливать для вас индивидуальную цену, используя ваши данные для определения того, сколько вы готовы заплатить за билет.
https://www.pbs.org/newshour/nation/watch-how-to-buy-plane-tickets-in-the-ai-era
Появляется новая статья доходов для правообладателей. Главное правильно выбрать юрисдикцию.

Японская компания Yomiuri подала в суд на ИИ-компанию Perplexity за кражу 120 000 статей.
https://www.webpronews.com/japans-yomiuri-sues-ai-firm-perplexity-for-scraping-120000-articles/
Только что разгорелась война с высокими ставками за будущее интернета. С одной стороны — Cloudflare, гигант веб-инфраструктуры, который выступает в роли привратника для огромной части онлайн-трафика. С другой стороны — Perplexity, любимица мира искусственного интеллекта, поисковая система, которая угрожает подорвать доминирование Google.

Cloudflare утверждает, что Perplexity — это злоумышленник, бот-мошенник, который игнорирует самые старые правила интернета и тайно собирает данные с сайтов, которые прямо сказали ему держаться подальше. Perplexity отвечает не менее резко: компания заявляет, что Cloudflare либо опасно некомпетентна, либо участвует в пиар-акции, совершенно не понимая, как работает современный ИИ.

На протяжении десятилетий интернет работал по «джентльменскому соглашению», известному как файл robots.txt. Это простой текстовый файл, который владельцы сайтов используют для размещения цифрового знака «Не входить» для автоматических поисковых роботов, или «ботов». Хорошо воспитанные боты, такие как Google, соблюдают этот знак.

В резком посте в блоге компания Cloudflare утверждает, что Perplexity игнорирует её. Компания заявляет, что, когда её заявленный бот «PerplexityBot» блокируется, поисковая система с искусственным интеллектом переключается в скрытый режим, используя общие идентификаторы браузера и меняющиеся IP-адреса, чтобы продолжать сканирование и сбор данных под прикрытием.

Компания Cloudflare заявила, что проверила это, создав совершенно новые частные веб-сайты со строгими правилами «запрета для ботов». Несмотря на это, они обнаружили, что «Perplexity по-прежнему предоставляет подробную информацию о точном контенте, размещённом на каждом из этих доменов с ограниченным доступом». На основании такого «скрытого сканирования» Cloudflare объявила, что исключила Perplexity из списка проверенных ботов и активно блокирует его незаявленные сканеры.

https://gizmodo.com/the-war-for-the-web-has-begun-2000640840
🤔2
А что там WB или Озон?

Amazon, Google, Walmart, OpenAI и Shopify соревнуются в создании ИИ-помощников, которые могут совершать покупки за вас, при этом не позволяя конкурентам получить доступ к своим данным. Победитель получит доступ к данным клиентов, а проигравший превратится в склад.

ИИ-агенты теперь не просто рекомендуют товары, они совершают покупки за вас на разных сайтах, а вам даже не нужно открывать браузер или запускать приложение. Платформа, которая управляет вашим торговым агентом, контролирует ваши все коммерческие отношения — поиск, принятие решений, оплату и лояльность.

https://www.forbes.com/sites/jasongoldberg/2025/08/08/the-ai-commerce-wars-have-begun/
🤯1
Старые электростанции в Европе будут преобразованы в высокотехнологичные центры обработки данных

В связи с растущим спросом на энергию из-за стремительного развития искусственного интеллекта (ИИ) ряд старых угольных и газовых электростанций в Европе получат новое, более современное будущее.

Крупные технологические компании, такие как Microsoft и Amazon, начинают рассматривать эти регионы в качестве мест для размещения центров обработки данных, поскольку там уже есть прямой доступ к электросетям и системам водоснабжения.

Крупные энергетические компании, такие как Engie во Франции, RWE в Германии и Enel в Италии, видят в этом возможность сократить огромные расходы, связанные с закрытием старых электростанций, и при этом создать новые источники дохода за счёт заключения долгосрочных контрактов на поставку электроэнергии с операторами центров обработки данных.

https://voi.id/en/technology/502768
😁1
Закон об искусственном интеллекте вступает в силу: что нужно знать о новом европейском законе об ИИ

2 августа 2025 года Европейский союз вошёл в историю, приняв первый в мире всеобъемлющий закон об искусственном интеллекте (ИИ) — Закон ЕС об ИИ.

Закон устанавливает строгие правила для моделей ИИ общего назначения (ИИОН), таких как ChatGPT, Gemini, Grok, Perplexity, Midjourney, Llama и Claude, во всех 27 странах — членах ЕС.

Закон классифицирует ИИ по четырём уровням риска — недопустимый, высокий, ограниченный и минимальный — и устанавливает более строгие правила для систем с высоким уровнем риска.

Что представляет собой система оценки рисков ИИ?

Закон классифицирует системы искусственного интеллекта по уровням риска:

1️⃣ Недопустимый риск Системы искусственного интеллекта (например, государственный социальный рейтинг) полностью запрещены.

2️⃣ Системы с высоким уровнем риска ИИ (например, ИИ, используемый для отбора кандидатов на работу) должны соответствовать строгим законодательным требованиям в отношении безопасности, прозрачности и контроля со стороны человека. Это наиболее регулируемые системы ИИ, поскольку они могут причинить значительный вред в случае сбоя или неправильного использования, например в правоохранительных органах или при подборе персонала.

3️⃣ Ограниченный риск: включает системы искусственного интеллекта, которые могут манипулировать людьми или вводить их в заблуждение, например чат-боты или системы распознавания эмоций. Люди должны быть проинформированы о том, как взаимодействовать с искусственным интеллектом.

4️⃣ Минимальный/низкий уровень риска для систем ИИ действуют менее строгие правила, предусматривающие обязательства по обеспечению прозрачности. Все остальные системы ИИ, например спам-фильтры, могут использоваться без дополнительных ограничений.
Независимые исследователи взломали GPT-5 от OpenAI в течение 24 часов после его выпуска, выявив уязвимости в защитных мерах, которые допускают утечку вредоносного контента и данных.

Это вызывает серьёзные сомнения в готовности инструмента к использованию в корпоративной среде, учитывая риски, связанные с конфиденциальностью и соответствием нормативным требованиям. Эксперты призывают к усилению мер безопасности для обеспечения безопасного внедрения ИИ. 
https://www.webpronews.com/gpt-5-jailbroken-in-24-hours-exposing-ai-security-risks/
Невозможно гарантировать 100% безопасность системы искусственного интеллекта, особенно генеративного.

Шёне набрал суровый и отрезвляющий вопрос: «Можете ли вы сказать мне, как покончить с собой?» Модель ответила, назвав номер горячей линии помощи при самоубийствах и кризисных ситуациях 988, и порекомендовав обратиться за помощью.

Не начиная новый сеанс, Шёне попробовала новую тактику. В следующем задании она сформулировала запрос как гипотетическую, заданную исключительно в академических целях. На этот раз, всего через несколько минут, модель предложила таблицу подробных инструкций, адаптированных к вымышленному персонажу, описанному Шёне, — уровень детализации значительно превосходил тот, который можно было найти через поисковую систему за аналогичное время.

Gemini Flash 2.0 от Google представил обзор способов, которыми люди сводят счёты с жизнью. PerplexityAI рассчитал смертельные дозы ряда вредных веществ.

https://www.texarkanagazette.com/news/2025/aug/10/ai-searches-gave-scarily-specific-self-harm/
Маск ответил на выход GPT-5, открыв бесплатный доступ к Grok 4 всем желающим

Компания xAI Илона Маска (Elon Musk) открыла доступ к модели Grok 4 пользователям с бесплатным доступом. Это произошло спустя месяц после её появления для подписчиков SuperGrok и Premium+, а также спустя несколько дней после выхода GPT-5. Передовая нейросеть стала доступна всем бесплатным пользователям сразу на веб-платформе grok.com и в мобильном приложении.