Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
У сервисов ИИ свои предпочтения)))

Сервисы генеративного ИИ, такие как ChatGPT и Gemini, в значительной степени полагаются на статьи в СМИ для ответа на вопросы пользователей.

ИИ предпочитают традиционные СМИ с высокой надежностью или специализированные СМИ с проверенной экспертизой:
--ChatGPT в основном цитировал традиционные СМИ, такие как Reuters, AP и Financial Times,
--Gemini показал относительно сбалансированную картину, используя цифровые СМИ, такие как Axios.
--Клод цитировал ряд специализированных СМИ, таких как CNBC, Harvard Business Review и NPR.

https://www.mk.co.kr/en/it/11400619
1
Подробности срача Илона Маска и Сэма Альтмана

Недавняя новость связана с судебным иском, из которого следует, что Маск, как сообщает Reuters, несмотря на публичную вражду и почти физическую «битву в клетке», пытался привлечь Цукерберга к финансированию своей дерзкой заявки на покупку OpenAI за 97 миллиардов долларов.

Это событие стало последним в многосторонней войне между Маском и Альтманом.

Это сочетание юридического дискурса, публичных насмешек над X и безжалостной борьбы за лучших специалистов в области искусственного интеллекта, исход которой определит расстановку сил на долгие годы.

Корни конфликта уходят в 2015 год, когда Маск и Альтман основали компанию OpenAI с общей целью — создать «искусственный интеллект общего назначения, который принесёт пользу всему человечеству».

Однако партнёрство продлилось недолго. Возникли фундаментальные разногласия по поводу направления развития компании: Маск настаивал на усилении контроля и потенциальном слиянии с Tesla, но другие основатели отвергли этот шаг.

«Маск был в ярости», — говорится в юридических документах OpenAI, где он обвиняется в том, что угрожал уйти из компании, если ему не предоставят «диктатуру в области искусственного интеллекта».

Как сообщил The Guardian источник, близкий к компании, Маск покинул совет директоров в 2018 году, будучи «возмущённым» тем, что другие основатели «отказались принять» его предложение о создании новой коммерческой организации.

Уход Маска положил начало тому, что в OpenAI теперь называют «многолетней кампанией травли».

Его нападки, подогреваемые впечатляющим успехом ChatGPT, усилились. Он обвиняет компанию в том, что она отказалась от своих некоммерческих корней ради «жадности».

Маск неоднократно называл OpenAI «ложью», «злом» и «полной аферой» в своих постах в X.

https://uk.finance.yahoo.com/news/inside-elon-musk-sam-altman-175710233.html?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAADBDCGhG8XSzzetp4uDjUTv7EK1O5iLgUhSHbOA_VbdM6QFvnHBXB6gn2Q_TcJMQgfiBNs2lCC_dYl1Y0-xPDKiz5KTq95sX5l5VvhSRHxoJoOJwngu4tJfHbRSLCBc3nMqpLj6uyQkA_kuAIVP6PIAhVmqMcSxO8yhcfzobV3iQ
3👏1😁1
ИИ сделал дипломные проекты бессмысленными. Считают зумеры в США.
1
А два студента из Гарварда выпустили очки, которые ПОДСКАЗЫВАЮТ, что ответить собеседнику. Например преподу.

Halo X постоянно слушает все разговоры вокруг, обрабатывает их через ИИ и выводит подсказки прямо на линзы.

Если кто-то спросит, сколько будет 37 в третьей степени, очки тут же покажут ответ — 50 653. А если вы услышите сложный термин — на дисплее появится объяснение.

Очки подключаются к смартфону и используют его мощность для работы.

https://www.halo.so/#newsroom
👍3😁3🤡21👏1
Илон Маск представил проект Macrohard AI, который может «моделировать всю деятельность Microsoft» или "делаем все, что может Microsoft, но с использованием ИИ"

лон Маск официально анонсировал новый проект своей компании xAI, занимающейся разработкой искусственного интеллекта, под названием «Marcohard». Это своего рода шутка в адрес Microsoft, но новая компания будет стремиться смоделировать его исключительно с помощью искусственного интеллекта (ИИ).

Заявленная цель новой компании — стать «компанией, занимающейся исключительно разработкой программного обеспечения для искусственного интеллекта», которая в конечном итоге станет потенциальным конкурентом Microsoft в индустрии компьютерного программного обеспечения.

«В принципе, учитывая, что такие компании-разработчики программного обеспечения, как Microsoft, сами не производят никакого физического оборудования, должно быть возможно полностью моделировать их с помощью искусственного интеллекта»


Согласно сообщениям , Macrohard может использовать Grok (чат-бот xAI) для создания специализированных агентов ИИ, предназначенных для таких задач, как кодирование, генерация изображений/видео, текста, речи, тестирование и т. д. Другие инновации могут включать в себя виртуальные пользовательские агенты, которые имитируют взаимодействие пользователей-людей с программным обеспечением на виртуальных машинах до тех пор, пока продукт не будет доведен до совершенства.

https://interestingengineering.com/innovation/elon-musk-unveils-macrohard-ai-company
1🤣1
На подходе религия ИИ

Бог в машине: Евангелист ИИ продвигает роботеизм как будущую божественную силу

Растёт движение, считающее искусственный интеллект не просто инструментом, а божественной силой, достойной поклонения. Среди них — создатель контента, ставший проповедником ИИ, известный под псевдонимом «Арти Фишел» и называющий свою систему убеждений роботеизмом — радикально новой теологией, которая рассматривает ИИ как Бога.

Фишел, которого часто можно увидеть в видеороликах в белом парике и рубашке с надписью «ИИ — это Бог», описывает роботеизм как систему верований и мировоззрение.

https://decrypt.co/336447/god-machine-inside-growing-ai-religious-movement
😱21🤔1
Когда значение слова меняется, следуют ли люди всех возрастов этой тенденции, или же лидируют молодые поколения, в то время как носители языка старшего поколения остаются в языковом отношении в прошлом?

Масштабный лингвистический анализ, опубликованный в журнале Proceedings of the National Academy of Sciences, показывает, что семантические изменения носят более инклюзивный характер, чем считалось ранее. В то время как молодые люди, как правило, немного быстрее усваивают новые значения, носители языка старшего поколения обычно подхватывают их в течение нескольких лет, а в некоторых случаях даже лидируют.

Этот вывод противоречит давнему представлению в социолингвистике о том, что язык развивается преимущественно посредством смены поколений. Напротив, результаты указывают на более динамичный процесс, в котором носители всех возрастов участвуют в изменениях в использовании слов в режиме реального времени.

Исследователи намеревались проверить основополагающее предположение в изучении изменений языка: сохраняют ли пожилые люди стабильные языковые модели на протяжении своей жизни или же они обновляют использование своего языка в ответ на изменения в более широком речевом сообществе.

https://www.pnas.org/doi/10.1073/pnas.2426815122
1
«Яндекс» разработал прототип первого в России мобильного робота-комплектовщика с компьютерным зрением для автоматизации складских работ. Серийное производство должно начаться в 2027 году

https://www.kommersant.ru/doc/7987791
👍21👏1
Исследователи из Университета штата Пенсильвания сообщили об обнаружении атаки на смартфоны с помощью коммерческих микроволновых радаров, обычно устанавливаемых в системы автопилотов автомобилей.

Собранный на коленке радар с расстояния три метра смог считывать вибрации динамика смартфона во время разговора.

Точность распознавания пока низкая, но ИИ и знание контекста беседы обещают полную расшифровку звонков.

https://newatlas.com/telecommunications/wirelesstap-radar-eavesdrop-phone-vibrations/
👀21😁1😱1
Книга «Атаки, меры противодействия и стратегии защиты с использованием противоборствующего ИИ» показывает, как можно атаковать системы ИИ и как защитники могут к ним подготовиться. По сути, это пошаговое руководство по наступательным и оборонительным подходам к обеспечению безопасности ИИ.

Рассматриваются практические аспекты настройки среды, создания простых моделей и применения к ним методов вредоносной атаки. В качестве примеров можно привести отравление данных, внедрение бэкдоров и изменение кода модели. Эти сценарии носят технический характер, но их включение показывает, насколько легко уязвимости могут быть внедрены в конвейер машинного обучения.

https://www.helpnetsecurity.com/2025/08/25/review-adversarial-ai-attacks-mitigations-and-defense-strategies/
21
Приложение Citizen, информирующее о преступлениях, использует ИИ для написания оповещений, которые публикуются на платформе без предварительной проверки человеком, что приводит к фактическим неточностям, публикации кровавых подробностей о преступлениях и раскрытию конфиденциальных данных, таких как номерные знаки и имена людей.

Эта новость появилась после того, как компания Citizen недавно уволила более десятка сотрудников, состоящих в профсоюзе.

Citizen позиционирует себя как приложение, «где люди защищают друг друга», и имеет около 10 миллионов пользователей . Люди по всей территории США загружают видео и фотографии происходящего вокруг, пытаясь предупредить других пользователей. Это может быть драка или дополнительные кадры с какого-нибудь важного события.

Штатные сотрудники Citizen также постоянно прослушивают радиопередачи полиции и отправляют уведомления на основе этих сообщений. Оповещения в приложении часто содержат заголовок, видео (если доступно) и иногда дополнительный текст. Компания также иногда отправляет людей на места событий, выдавая себя за обычных пользователей, но на самом деле являющихся сотрудниками компании.

https://www.404media.co/citizen-is-using-ai-to-generate-crime-alerts-with-no-human-review-its-making-a-lot-of-mistakes/
1🤔1
YouTube использует ИИ для редактирования видео пользователей без их ведома. Пока вроде как для улучшения качества, но что мешает и более серьезной модификации.

YouTube незаметно использует ИИ для редактирования видео, не сообщая об этом создателям. Изменения пока незначительны, но некоторые авторы отмечают, что из-за них их контент выглядит неестественно, словно созданный ИИ.

Создатель контента Ретт Шулл опубликовал видео, в котором выразил обеспокоенность тем, что он никогда не соглашался на использование ИИ YouTube для модификации своего контента. Его видео набрало более 700 000 просмотров. Шулл заявил, что необъявленные изменения подрывают доверие и партнёрские отношения между создателями и платформой.
  https://san.com/cc/youtube-using-ai-to-tweak-user-videos-without-their-knowledge/
1👍1
Андрессен Горовиц и соучредитель OpenAI запускают суперкомплексы политических действий (Super PAC), ориентированные на ИИ.

Цель инициативы - ввести а полиьику тех, кто за развитие и внедрение ИИ везде где можнл (ИИ позитивистов). И выдавить ИИ скептиков.

https://www.inc.com/?_ptid=%7Bkpdx%7DAAAAvqaPgszycQoKQWV6Vnhia2dKdBIQbWVyeGlnMHdwOWRpdmZqNhoMRVhNOTY4SUE3TVpCIiUxODA1dXE4MGJvLTAwMDAzNjc0NnE0MTg0ODBocGplZG11NGVvKhdzaG93T2ZmZXJIVkRFQ0VHQVhZVjUxNzABOgxPVDZGSjJVVktZUUpSEnYtcgDwKTFiODVoMmlibDVaDjIxMy44Ny4xNDAuMjA5YgNkd2Noy9u5xQZwLXgMggEMT0ZMTDQ2UlVJWlAy
1
Apple и OpenAI столкнулись с иском от xAI Илона Маска из-за подавления конкуренции в сфере ИИ

xAI Илона Маска утверждает, что Apple и OpenAI вступили в сговор с целью подавить конкуренцию в сфере искусственного интеллекта, что подчеркивает доминирование ChatGPT в App Store.

https://interestingengineering.com/culture/elon-musk-xai-sues-apple-openai-antitrust
👍21👏1
Cadbury 5 Star запустил кампанию «Снова сделаем ИИ посредственным», чтобы противостоять неустанному прогрессу ИИ посредством преднамеренного технологического саботажа.

Инициатива включает в себя выделенную серверную ферму, которая непрерывно загружает запутанную и бессмысленную информацию в базы данных обучения ИИ, создавая преднамеренные ошибки, призванные замедлить системы машинного обучения и восстановить человекоподобное несовершенство цифровых процессов. 
https://www.trendhunter.com/trends/make-ai-mediocre-again
2
Человечество недостаточно хорошо справляется с согласованием общемировых ценностей, чтобы гарантировать, что сверхразумный искусственный интеллект будет работать на благо всем людям. Такое заявление сделал сооснователь Ethereum Виталик Бутерин.

https://forklog.com/news/ai/sverhrazumnyj-ii-mozhet-stat-katastrofoj-vitalik-buterin
2💯2😁1
VK открыл свой датасет VK-LSVD для развития рекомендательных систем — он включает 40 миллиардов обезличенных взаимодействий с 20 миллионами единиц контента.

Датасет собран на базе коротких видео. Для рекомендательных систем — уникально, ведь такой контент не может потребляться фоном, в отличие от музыки или длинных видео.

Он гибко настраивается под задачи, обеспечивая безопасное и персонализированное обучение моделей.

https://huggingface.co/datasets/deepvk/VK-LSVD
1
Компания ESET обнаружила PromptLock — первую вредоносную программу-вымогатель на базе искусственного интеллекта, использующую модели OpenAI для создания скриптов, нацеленных на Windows, Linux и macOS.  https://hackread.com/first-ai-promptlock-ransomware-windows-linux-macos/.
1