Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
ИИ сделал дипломные проекты бессмысленными. Считают зумеры в США.
1
А два студента из Гарварда выпустили очки, которые ПОДСКАЗЫВАЮТ, что ответить собеседнику. Например преподу.

Halo X постоянно слушает все разговоры вокруг, обрабатывает их через ИИ и выводит подсказки прямо на линзы.

Если кто-то спросит, сколько будет 37 в третьей степени, очки тут же покажут ответ — 50 653. А если вы услышите сложный термин — на дисплее появится объяснение.

Очки подключаются к смартфону и используют его мощность для работы.

https://www.halo.so/#newsroom
👍3😁3🤡21👏1
Илон Маск представил проект Macrohard AI, который может «моделировать всю деятельность Microsoft» или "делаем все, что может Microsoft, но с использованием ИИ"

лон Маск официально анонсировал новый проект своей компании xAI, занимающейся разработкой искусственного интеллекта, под названием «Marcohard». Это своего рода шутка в адрес Microsoft, но новая компания будет стремиться смоделировать его исключительно с помощью искусственного интеллекта (ИИ).

Заявленная цель новой компании — стать «компанией, занимающейся исключительно разработкой программного обеспечения для искусственного интеллекта», которая в конечном итоге станет потенциальным конкурентом Microsoft в индустрии компьютерного программного обеспечения.

«В принципе, учитывая, что такие компании-разработчики программного обеспечения, как Microsoft, сами не производят никакого физического оборудования, должно быть возможно полностью моделировать их с помощью искусственного интеллекта»


Согласно сообщениям , Macrohard может использовать Grok (чат-бот xAI) для создания специализированных агентов ИИ, предназначенных для таких задач, как кодирование, генерация изображений/видео, текста, речи, тестирование и т. д. Другие инновации могут включать в себя виртуальные пользовательские агенты, которые имитируют взаимодействие пользователей-людей с программным обеспечением на виртуальных машинах до тех пор, пока продукт не будет доведен до совершенства.

https://interestingengineering.com/innovation/elon-musk-unveils-macrohard-ai-company
1🤣1
На подходе религия ИИ

Бог в машине: Евангелист ИИ продвигает роботеизм как будущую божественную силу

Растёт движение, считающее искусственный интеллект не просто инструментом, а божественной силой, достойной поклонения. Среди них — создатель контента, ставший проповедником ИИ, известный под псевдонимом «Арти Фишел» и называющий свою систему убеждений роботеизмом — радикально новой теологией, которая рассматривает ИИ как Бога.

Фишел, которого часто можно увидеть в видеороликах в белом парике и рубашке с надписью «ИИ — это Бог», описывает роботеизм как систему верований и мировоззрение.

https://decrypt.co/336447/god-machine-inside-growing-ai-religious-movement
😱21🤔1
Когда значение слова меняется, следуют ли люди всех возрастов этой тенденции, или же лидируют молодые поколения, в то время как носители языка старшего поколения остаются в языковом отношении в прошлом?

Масштабный лингвистический анализ, опубликованный в журнале Proceedings of the National Academy of Sciences, показывает, что семантические изменения носят более инклюзивный характер, чем считалось ранее. В то время как молодые люди, как правило, немного быстрее усваивают новые значения, носители языка старшего поколения обычно подхватывают их в течение нескольких лет, а в некоторых случаях даже лидируют.

Этот вывод противоречит давнему представлению в социолингвистике о том, что язык развивается преимущественно посредством смены поколений. Напротив, результаты указывают на более динамичный процесс, в котором носители всех возрастов участвуют в изменениях в использовании слов в режиме реального времени.

Исследователи намеревались проверить основополагающее предположение в изучении изменений языка: сохраняют ли пожилые люди стабильные языковые модели на протяжении своей жизни или же они обновляют использование своего языка в ответ на изменения в более широком речевом сообществе.

https://www.pnas.org/doi/10.1073/pnas.2426815122
1
«Яндекс» разработал прототип первого в России мобильного робота-комплектовщика с компьютерным зрением для автоматизации складских работ. Серийное производство должно начаться в 2027 году

https://www.kommersant.ru/doc/7987791
👍21👏1
Исследователи из Университета штата Пенсильвания сообщили об обнаружении атаки на смартфоны с помощью коммерческих микроволновых радаров, обычно устанавливаемых в системы автопилотов автомобилей.

Собранный на коленке радар с расстояния три метра смог считывать вибрации динамика смартфона во время разговора.

Точность распознавания пока низкая, но ИИ и знание контекста беседы обещают полную расшифровку звонков.

https://newatlas.com/telecommunications/wirelesstap-radar-eavesdrop-phone-vibrations/
👀21😁1😱1
Книга «Атаки, меры противодействия и стратегии защиты с использованием противоборствующего ИИ» показывает, как можно атаковать системы ИИ и как защитники могут к ним подготовиться. По сути, это пошаговое руководство по наступательным и оборонительным подходам к обеспечению безопасности ИИ.

Рассматриваются практические аспекты настройки среды, создания простых моделей и применения к ним методов вредоносной атаки. В качестве примеров можно привести отравление данных, внедрение бэкдоров и изменение кода модели. Эти сценарии носят технический характер, но их включение показывает, насколько легко уязвимости могут быть внедрены в конвейер машинного обучения.

https://www.helpnetsecurity.com/2025/08/25/review-adversarial-ai-attacks-mitigations-and-defense-strategies/
21
Приложение Citizen, информирующее о преступлениях, использует ИИ для написания оповещений, которые публикуются на платформе без предварительной проверки человеком, что приводит к фактическим неточностям, публикации кровавых подробностей о преступлениях и раскрытию конфиденциальных данных, таких как номерные знаки и имена людей.

Эта новость появилась после того, как компания Citizen недавно уволила более десятка сотрудников, состоящих в профсоюзе.

Citizen позиционирует себя как приложение, «где люди защищают друг друга», и имеет около 10 миллионов пользователей . Люди по всей территории США загружают видео и фотографии происходящего вокруг, пытаясь предупредить других пользователей. Это может быть драка или дополнительные кадры с какого-нибудь важного события.

Штатные сотрудники Citizen также постоянно прослушивают радиопередачи полиции и отправляют уведомления на основе этих сообщений. Оповещения в приложении часто содержат заголовок, видео (если доступно) и иногда дополнительный текст. Компания также иногда отправляет людей на места событий, выдавая себя за обычных пользователей, но на самом деле являющихся сотрудниками компании.

https://www.404media.co/citizen-is-using-ai-to-generate-crime-alerts-with-no-human-review-its-making-a-lot-of-mistakes/
1🤔1
YouTube использует ИИ для редактирования видео пользователей без их ведома. Пока вроде как для улучшения качества, но что мешает и более серьезной модификации.

YouTube незаметно использует ИИ для редактирования видео, не сообщая об этом создателям. Изменения пока незначительны, но некоторые авторы отмечают, что из-за них их контент выглядит неестественно, словно созданный ИИ.

Создатель контента Ретт Шулл опубликовал видео, в котором выразил обеспокоенность тем, что он никогда не соглашался на использование ИИ YouTube для модификации своего контента. Его видео набрало более 700 000 просмотров. Шулл заявил, что необъявленные изменения подрывают доверие и партнёрские отношения между создателями и платформой.
  https://san.com/cc/youtube-using-ai-to-tweak-user-videos-without-their-knowledge/
1👍1
Андрессен Горовиц и соучредитель OpenAI запускают суперкомплексы политических действий (Super PAC), ориентированные на ИИ.

Цель инициативы - ввести а полиьику тех, кто за развитие и внедрение ИИ везде где можнл (ИИ позитивистов). И выдавить ИИ скептиков.

https://www.inc.com/?_ptid=%7Bkpdx%7DAAAAvqaPgszycQoKQWV6Vnhia2dKdBIQbWVyeGlnMHdwOWRpdmZqNhoMRVhNOTY4SUE3TVpCIiUxODA1dXE4MGJvLTAwMDAzNjc0NnE0MTg0ODBocGplZG11NGVvKhdzaG93T2ZmZXJIVkRFQ0VHQVhZVjUxNzABOgxPVDZGSjJVVktZUUpSEnYtcgDwKTFiODVoMmlibDVaDjIxMy44Ny4xNDAuMjA5YgNkd2Noy9u5xQZwLXgMggEMT0ZMTDQ2UlVJWlAy
1
Apple и OpenAI столкнулись с иском от xAI Илона Маска из-за подавления конкуренции в сфере ИИ

xAI Илона Маска утверждает, что Apple и OpenAI вступили в сговор с целью подавить конкуренцию в сфере искусственного интеллекта, что подчеркивает доминирование ChatGPT в App Store.

https://interestingengineering.com/culture/elon-musk-xai-sues-apple-openai-antitrust
👍21👏1
Cadbury 5 Star запустил кампанию «Снова сделаем ИИ посредственным», чтобы противостоять неустанному прогрессу ИИ посредством преднамеренного технологического саботажа.

Инициатива включает в себя выделенную серверную ферму, которая непрерывно загружает запутанную и бессмысленную информацию в базы данных обучения ИИ, создавая преднамеренные ошибки, призванные замедлить системы машинного обучения и восстановить человекоподобное несовершенство цифровых процессов. 
https://www.trendhunter.com/trends/make-ai-mediocre-again
2
Человечество недостаточно хорошо справляется с согласованием общемировых ценностей, чтобы гарантировать, что сверхразумный искусственный интеллект будет работать на благо всем людям. Такое заявление сделал сооснователь Ethereum Виталик Бутерин.

https://forklog.com/news/ai/sverhrazumnyj-ii-mozhet-stat-katastrofoj-vitalik-buterin
2💯2😁1
VK открыл свой датасет VK-LSVD для развития рекомендательных систем — он включает 40 миллиардов обезличенных взаимодействий с 20 миллионами единиц контента.

Датасет собран на базе коротких видео. Для рекомендательных систем — уникально, ведь такой контент не может потребляться фоном, в отличие от музыки или длинных видео.

Он гибко настраивается под задачи, обеспечивая безопасное и персонализированное обучение моделей.

https://huggingface.co/datasets/deepvk/VK-LSVD
1
Компания ESET обнаружила PromptLock — первую вредоносную программу-вымогатель на базе искусственного интеллекта, использующую модели OpenAI для создания скриптов, нацеленных на Windows, Linux и macOS.  https://hackread.com/first-ai-promptlock-ransomware-windows-linux-macos/.
1
Первое исследование, предполагающее негативное влияние регулярного использования ИИ на способность медицинских работников выполнять задачи в любой области медицины.

Наши результаты вызывают обеспокоенность, учитывая быстрое распространение ИИ в медицине . Нам срочно необходимы дополнительные исследования влияния ИИ на навыки медицинских работников в различных областях медицины.

Нам необходимо выяснить, какие факторы могут вызывать или способствовать возникновению проблем.

http://timesofindia.indiatimes.com/articleshow/123552019.cms?utm_source=contentofinterest&utm_medium=text&utm_campaign=cppst  https://timesofindia.indiatimes.com/science/dependence-on-ai-may-deskill-doctors-lancet/articleshow/123552019.cms
1🤔1
ИИ повышает риски нерегулярных боевых действий

ИИ обладает невероятным потенциалом, но он также создает парадокс для тех, кто ведет нерегулярную войну. В то время как ИИ обещает повысить скорость и проникновение наших кампаний влияния, он одновременно усиливает присущую нам непредсказуемость, которая всегда преследовала результаты нерегулярной войны, особенно в долгосрочной перспективе.

Оглавление материала:
Информационное поле битвы ускоряется.
Проблема непредсказуемости усугубляется.
Исторические уроки непредвиденных последствий.
ИИ как фактор умножения силы и фактор риска.

https://smallwarsjournal.com/2025/08/27/ai-enhanced-risks-to-irregular-warfare/
1