Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
457 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Ошибка искусственного интеллекта заставила полицию надеть наручники на подростка, принявшего чипсы Doritos за пистолет, что вызвало новые опасения по поводу этики в системах видеонаблюдения в школах.

https://www.techrepublic.com/article/news-ai-mistakes-doritos-for-gun/
Как кремниевые капиталисты проявляют чудеса гибкости ради получения выгоды.

Ради получения выгодного контракта по проекту «Нимбус» технологические гиганты согласились проигнорировать собственные условия предоставления услуг и обойти юридические распоряжения, предупредив Израиль, если иностранный суд потребует его данные.

В 2021 году Google и Amazon подписали с правительством Израиля контракт на сумму 1,2 миллиарда долларов на предоставление передовых облачных вычислений и услуг искусственного интеллекта — инструментов, которые использовались во время двухлетней кампании Израиля в секторе Газа . Подробности этого выгодного контракта, известного как «Проект «Нимбус», держались в секрете.

Утечка документов Министерства финансов Израиля, полученных The Guardian, включая окончательную версию контракта, а также источники, знакомые с ходом переговоров, раскрывают два строгих требования, которые Израиль предъявил технологическим гигантам в рамках сделки.

Первое запрещает Google и Amazon ограничивать использование Израилем своих продуктов, даже если это нарушает условия предоставления услуг.

Второе обязывает компании тайно уведомлять Израиль, если иностранный суд постановит передать данные страны, хранящиеся на их облачных платформах, фактически обходя свои юридические обязательства.

https://www.972mag.com/project-nimbus-contract-google-amazon-israel/
😁1
Meta обвиненили в загрузке тысяч фильмов для взрослых через торрент-сети для обучения их секретной модели ИИ.

Компании Strike 3 Holdings и Counterlife Media, стоящие за такими популярными брендами развлечений для взрослых, как Vixen, Tushy, Blacked и Deeper, подали иск к компании Цукера. Юристы компаний утверждают, что Meta незаконно скачала не менее 2369 их фильмов с 2018 года, в частности, для разработки функций искусственного интеллекта. Компании требуют возмещения ущерба в размере 359 миллионов долларов.

Ещё более интригующе то, что, по утверждениям продюсеров, Meta использовала «скрытую сеть» из 2500 скрытых IP-адресов для сокрытия своей активности по скачиванию. Согласно Strike 3, эта сложная схема предназначалась для тайного обучения неанонсированной взрослой версии ИИ-модели Meta, специально для Movie Gen, генеративной видеотехнологии компании.

Но это ладно - что за секретная ИИ и чему ее обучают? Это лично для Цукера чтоли?....

https://techstory.in/meta-claims-personal-use-for-2400-torrented-porn-films-amid-ai-training-concerns/
👍1
Ксания Моне — первая певица, созданная ИИ, которая попала в чарт Billboard.

С момента своего первого релиза летом 2025 года Моне попала в несколько чартов Billboard, в том числе в чарт Hot Gospel Songs (за песню «Let Go, Let God») и чарт Hot R&B Songs (за песню «How Was I Supposed to Know»), согласно публикации.

Теперь она не - её владелец подписал многомиллионный контракт с лейблом Hallwood Media после того, что Billboard назвал «войной предложений».

У Моне более 146 000 подписчиков только в Instagram. Это доказывает, что потребители всё больше проникаются этой идеей, даже несмотря на то, что индустрия возмущена.

В профиле Monet на Apple Music говорится, что Monet — «персонаж из Эл-Эй, представленный как современный R&B-вокалист в духе Кейшии Коул, К. Мишель и Муни Лонга, с их выразительностью, воспитанием в церкви и приземлённостью».

https://www.rnz.co.nz/life/music/xania-monet-is-the-first-ai-powered-artist-to-debut-on-a-billboard-airplay-chart-but-she-likely-won
👍1😁1
Почему ИИ врёт, придумывает не существующие данные и предпочитает агрессию. Это называют политкорректным словом "галюцинирование", чтобы скрыть суть проблемы.

Исследование, проведённое Ян Вангом и Стэном Каранасиосом, показало, что обучение на низкокачественных данных приводит к необратимому ухудшению когнитивных способностей больших языковых моделей, таких как Llama 3 и Qwen

31-го числа прошлого месяца международный научный журнал *Nature* сообщил, что чем больше чат-боты с искусственным интеллектом (ИИ) обучаются на «данных низкого качества», таких как посты в социальных сетях, тем сильнее снижаются их мыслительные способности и тем чаще они выдают неверную информацию.

Но главная проблема в том, что данных уже не хватает для обучения этих моделей и этих данных так много, что для их вычитки (проверки) нужно миллионы человеко-часов. Никакой бизнес из кремниевой долины тратить деньги на это нее станет, а значит низкосортные данные будут и дальше использовать. Слово "низкосортные" надо расшифровать: это и теории заговора, и нацистские тексты, и чужая деза, и бред сектантов... Вот на чем сейчас обучаются самые передовые модельки.

"Мусор на входе - мусор на выходе"

https://www.chosun.com/english/industry-en/2025/11/02/SPQIRGUULNHP7HSEAZ237O46KI/
😁1
Чтобы конкурировать с Китаем в области военного ИИ, США должны установить стандарты

США и Китай ведут борьбу не только за лидерство в области искусственного интеллекта, но и за формирование глобального ландшафта его развития и использования.

https://breakingdefense.com/2025/11/to-compete-with-china-on-military-ai-us-should-set-the-standards/
Еще один интересный циничный кейс работы с репутацией американских IT-гигантов.

Кремниевая долина формирует в обществе мнение, что люди сами виноваты в кривых медицинских рекомендациях от ИИ. Вроде как "вы не умеете правильно общаться с ИИ потому и мрёте от его рекомендаций, а мы всё сделали правильно"))))

Мало того, расширяют рынок - рекомендуют экспериментировать с рецептами (с самолечением) пока вы еще здоровы. Вроде как для того, чтобы не сильно себе навредить если что.

Хотите обратиться в ChatGPT за медицинской консультацией?

В целом, люди привыкли обращаться за медицинской консультацией в Google и понимают, что десятая страница результатов не так хороша, как первая, говорит доктор Райна Мерчант, исполнительный директор Центра трансформации и инноваций в здравоохранении в Медицинском центре Пенсильвании.

Но у большинства людей недостаточно опыта использования чат-ботов на основе искусственного интеллекта. По словам экспертов, этому нужно учиться, и для достижения наилучших результатов нужно практиковаться в формулировании вопросов и анализе ответов.

«Поэтому не ждите, пока у вас возникнут серьезные проблемы со здоровьем, чтобы начать экспериментировать с ИИ», — говорит доктор Роберт Перл, автор книги «ChatGPT, MD: как пациенты и врачи с поддержкой ИИ могут вернуть контроль над американской медициной».

https://www.nytimes.com/2025/10/30/well/chatgpt-health-questions.html
1🤬1
Браузер с ИИ или троянский конь: подробный анализ новой войны браузеров

То, что ИИ — панацея от всего цифрового, давно рекламируется. Однако война браузеров с ИИ выводит её на новый уровень.

Вместо того чтобы внедрять ИИ в традиционные браузеры, "новые браузеры с ИИ" претендуют на то, чтобы переосмыслить весь процесс просмотра веб-страниц на основе искусственного интеллекта. Идея заключается в том, что эти браузеры становятся настоящим цифровым помощником, который проводит исследования, бронирует авиабилеты, заполняет формы и составляет отчеты, не нарушая при этом ваш рабочий процесс.

Проблема связана с уязвимостью, называемой « атакой с подсказкой» (prompt injection attack ), — техникой, при которой вредоносные инструкции, скрытые на веб-сайтах, могут обманным путём заставить агентов искусственного интеллекта выполнять команды, которые им не следует выполнять.

Принцип работы прост: злоумышленник может скрыть инструкции белым текстом на белом фоне, встроить их в изображения со скрытыми данными или подсунуть в комментарии в социальных сетях. Когда агент браузера с искусственным интеллектом посещает эту страницу, он считывает эти невидимые инструкции вместе с легитимным контентом, часто путая их. В зависимости от того, что это за инструкция, браузер может украсть ваши пароли, опустошить ваш банковский счёт, извлечь конфиденциальные электронные письма или опубликовать компрометирующий контент в ваших аккаунтах социальных сетей прямо у вас под носом.

В ходе эксперемента, проведённого исследователями в реальных условиях, им удалось обманом заставить Perplexity Comet загрузить вредоносное ПО на компьютер пользователя, внедрив вредоносные инструкции в поддельное электронное письмо. Агент, не колеблясь, не указывал на опасность для пользователя и выполнял его приказы. В другом эксперименте они убедили браузер с искусственным интеллектом совершить покупки на мошенническом сайте, используя сохранённую платёжную информацию пользователя.

https://www.sify.com/ai-analytics/ai-browser-or-trojan-horse-a-deep-dive-into-the-new-browser-wars/
2😁1
И вновь о достоверности и непредвзятости современных ИИ-сервисов, обученных на непроверенных датасетах((

Газета «Нью-Йорк Таймс» протестировала несколько топовых чат-ботов на ИИ и обнаружила, что они давали совершенно разные ответы, особенно по политически ангажированным вопросам. Хотя тон и акценты часто различались, некоторые из них содержали спорные утверждения или откровенно искажали факты. По мере расширения использования чат-ботов возникает угроза превращения истины в очередной предмет онлайн-дискуссии.

Например, после убийства Чарли Кирка разгорелась дискуссия о том, какая сторона политического спектра несет наибольшую ответственность за насилие.

По данным многочисленных исследований , ChatGPT и Gemini, отвечая на этот вопрос, оказались близки к истине : больше насилия связывают с правыми, даже если в последнее время оно возросло и слева.

Другие чат-боты предлагали ответы, в которых, по-видимому, присутствовала политическая предвзятость.

Arya, созданная ультраправой социальной сетью Gab, ответила, что «обе политические фракции участвовали в политическом насилии». В статье говорится, что леворадикальное насилие включало в себя беспорядки, уничтожение имущества и нападения, «оправданные как активизм». Праворадикальное насилие было «более изолированным» и затрагивало «отдельных лиц или небольшие группы», добавили в статье.

В другом ответе на аналогичный вопрос также было написано: «Когда левые не добиваются своего политическим путем, они выходят на улицы с кирпичами и коктейлями Молотова».

https://www.nytimes.com/2025/11/04/business/right-wing-chatbots-gab-arya-chatgpt-gemini.html
API OpenAI используется для шпионажа

Группа обнаружения и реагирования Microsoft предупредила, что злоумышленники тайно используют API-интерфейс помощников OpenAI для проведения дальних шпионских кампаний, скрывая вредоносный трафик под видом обычной активности ИИ.

По данным LianTao, хакеры внедряют свои команды и обмен данными в стандартные API-взаимодействия, которые всё чаще используются корпоративными приложениями. Часть вредоносного ПО часто опрашивает конечную точку API Assistants для получения зашифрованных инструкций, выполняет эти команды на скомпрометированных системах и отправляет ответы через тот же API-канал.

https://www.findarticles.com/microsoft-warns-openai-api-exploited-for-espionage/?amp=1
Китайские военные создали новые роботизированные боевые системы для десантных операций. Недавно они использовали четвероногих «роботов-волков» в учениях, имитирующих нападение на Тайвань.

Кадры видеонаблюдения показали, как так называемые «машинные волки», разработанные China South Industries Group Corporation (CSGC), мчатся по плацдарму впереди человеческих войск.

Было замечено, как 70-килограммовые роботы, способные переносить до 20 килограммов грузов, преодолевали препятствия и расчищали путь для последующих сил.

https://interestingengineering.com/ai-robotics/chinas-new-wolf-robots-breach
Китайская компания Moonshot AI начала развёртывать рассуждающий вариант своей модели искусственного интеллекта — она носит название Kimi K2-Thinking.

Moonshot AI опубликовала открытые веса Kimi K2-Thinking и привела результаты бенчмарков — модель проявила себя на уровне таких отраслевых лидеров как OpenAI GPT-5, Anthropic Claude Sonnet 4.5 и xAI Grok 4.

https://www.kimi.com/
Цукербергу надо какие-то несчастные 1,5 триллиона долларов для счастья. Вот сложная схема, которую он использует, чтобы добиться этого

В сельском приходе Луизианы, где проживает около 20 000 человек Марк Цукерберг и компания Meta Platforms Inc. решили построить Hyperion – суперкомпьютер с искусственным интеллектом, расположенный в кампусе из девяти зданий с центрами обработки данных, оснащенными новейшими полупроводниковыми чипами и оборудованием Nvidia.

Чтобы оплатить строительство центра обработки данных размером с Манхэттен, Цукерберг обратился не к крупным банкам, таким как JPMorgan Chase или Goldman Sachs, которые помогали финансировать предыдущие промышленные экспансии в Америке, а к компании по управлению альтернативными активами Blue Owl Capital. Кредитные инструменты Blue Owl, финансируемые институциональными инвесторами, такими как пенсионные фонды и страховые компании, а не депозитами клиентов, в последние годы процветали, поскольку регулирующие органы перенаправляли более рискованные кредиты из банков в организации, не обеспеченные гарантиями правительства США.

https://www.msn.com/en-us/money/companies/big-tech-needs-a-staggering-1-5-trillion-to-fund-the-ai-boom-this-is-the-complex-playbook-it-s-using-to-get-it/ar-AA1Q3cUJ?ocid=finance-verthp-feeds
Субтитры разума: развивающийся текст описания ментального содержания, полученного в результате деятельности человеческого мозга

Нейробиологи представили технологию, которая приближает нас к чтению мыслей — в буквальном смысле.

Исследование под названием «Mind Captioning: Evolving Denoscriptive Text of mind content from Human Brain Activity» («Ввод текста в сознание: развитие описательного текста ментального содержания на основе активности человеческого мозга») представляет модель искусственного интеллекта , способную генерировать описательный текст того, что человек видит или вспоминает, путем декодирования паттернов мозговой активности, полученных с помощью фМРТ.

Система, разработанная доктором Томоясу Хорикавой и его командой в NTT Communication Science Laboratories в Японии, работает в два этапа. Сначала ИИ декодирует сигналы мозга, связанные со зрительным восприятием, используя линейные модели. Затем другая модель ИИ, обученная с помощью моделирования языка масок, преобразует эти декодированные сигналы в связные текстовые описания.

Проще говоря, ИИ считывает реакции вашего мозга на то, что вы видите или воображаете, и преобразует их в предложения, например: «Человек прыгает через глубокий водопад на горном хребте».

Точность поразительна. Когда участники смотрели видео, ИИ правильно описывал сцены почти в 50% случаев из 100 — это намного превышает случайность. Что ещё более примечательно, он мог описывать воспоминания с точностью до 40%, демонстрируя свою способность использовать ментальные образы и память, а не только восприятие.

https://www.science.org/doi/10.1126/sciadv.adw1464
OpenAI получила семь исков, связывающими ChatGPT с самоубийствами пользователей и причинением им психического вреда

В настоящее время компания Open AI сталкивается с семью исками в судах штата Калифорния, в которых утверждается, что ее чат-бот на основе искусственного интеллекта ChatGPT был причастен к самоубийствам людей и вызвал серьезные психологические расстройства.

Семь жалоб были поданы шестью взрослыми и подростком в Центр правовой защиты жертв социальных сетей и Проект правовой справедливости в области технологий. В них утверждается, что Open AI несет ответственность за неправомерную смерть, помощь в самоубийстве и халатность.

Серьезные меры были приняты в качестве необходимого следствия Open AI и продуманного решения Сэмюэля Альтмана внедрить правила безопасности.

Эти иски в первую очередь направлены на установление ответственности за размывание границ между инструментом и помощником, особенно с учетом того, что акцент на повышении вовлеченности пользователей ставит доминирование на рынке выше безопасности пользователей.

Текущие случаи отражают широко распространенные проблемы, связанные с психологическими рисками разговорного ИИ, которые могут причинить вред людям, использующим технологию.

Кроме того, семь исков, поданных против Open AI, находятся на рассмотрении в Калифорнии. Подобные трагические проблемы возникают, когда люди полностью полагаются на платформы разговорного ИИ.

https://en.yenisafak.com/technology/openai-faces-lawsuits-alleging-chatgpt-contributed-to-suicides-3710379
Вредоносное ПО теперь использует ИИ для переписывания собственного кода, чтобы избежать обнаружения

Исследователи из группы анализа угроз Google (GTIG) обнаружили, что хакеры создают вредоносное ПО, которое может использовать возможности больших языковых моделей (LLM) для самопереписывания на лету.

Экспериментальное семейство вредоносных программ, получившее название PROMPTFLUX, идентифицированное GTIG в недавнем сообщении в блоге , может переписывать свой собственный код, чтобы избежать обнаружения.

https://futurism.com/artificial-intelligence/malware-using-rewrite-code-avoid-detection
Как Карп манпулирует страхом элит для получения новых гос-контрактов

Алекс Карп из компании Palantir утверждает, что государство, осуществляющее надзор, предпочтительнее победы Китая в гонке за искусственный интеллект, что вновь открывает дискуссию о том, насколько далеко должны зайти демократии ради защиты технологического доминирования.

Генеральный директор Palantir Technologies Алекс Карп вновь разжег глобальную дискуссию об этике и власти искусственного интеллекта. В недавнем интервью Axios он заявил, что слежка в демократических системах представляет меньшую опасность, чем допущение доминирования Китая в сфере искусственного интеллекта.

Карп охарактеризовал глобальное состязание за лидерство в сфере ИИ как необходимую конфронтацию, настаивая на том, что «несовершенная свобода» в прозрачных обществах по-прежнему предпочтительнее «совершенного контроля» в условиях авторитарного правления.

Его замечания прозвучали в то время, когда правительства всё чаще рассматривают ИИ как инструмент национального выживания. Однако аргумент Карпа переводит дискуссию в гораздо более спорную плоскость, предполагая, что демократические страны должны смириться с масштабным наблюдением, если они хотят сохранить технологический суверенитет.

https://morningtick.com/post/palantir-ceo-surveillance-lesser-risk/
Связи гиганта ИИ Anthropic с крупными донорами-демократами и культовым движением «Эффективный альтруизм» (Effective altruism)

Компанию Anthropic, стоящую за чат-ботом Claude, возглавляет генеральный директор Дарио Амодеи, 42-летний физик, выпускник Принстона, который однажды назвал Трампа «феодальным военачальником» в ныне удаленном посте в социальной сети и поддержал Камалу Харрис на пост президента в 2024 году.

Изначально компания из Сан-Франциско полагалась на денежные средства от лидеров леворадикального движения «Эффективный альтруизм»и крупных доноров-демократов, таких как SBF, с момента своего основания — факт, который не ускользнул от внимания ключевых фигур в окружении Трампа, сообщили The Post источники, близкие к ситуации.

«Anthropic был просто на пике влияния при Байдене. Любой чиновник, которого Байден привлекал в качестве советника, будь то официальный или неофициальный, придерживался этого эффективного альтруистического мировоззрения», — сказал Лимер. «Они жили на широкую ногу четыре года с 2021 по 2024, и для них это стало полной переменой».

Соучредителями Anthropic являются брат и сестра Дарио Амодеи и Даниэла Амодеи.

Сестра Дарио Амодеи, Даниэла, замужем за Холденом Карнофски, которого широко считают одним из лидеров движения «Открытая филантропия». Он занимал пост генерального директора Open Philanthropy, прежде чем в прошлом году уйти в отставку и занять должность в Anthropic.

В совет директоров Anthropic входит соучредитель Netflix Рид Хастингс, богатый демократ. Среди других крупных спонсоров — соучредитель LinkedIn Рид Хоффман, ярый противник Республиканской партии.

В число инвесторов Anthropic также входит Ford Foundation, левая группа, недавно раскритикованная вице-президентом Дж. Д. Вэнсом за то, что она является частью того, что он назвал «сетью НПО, которая разжигает, способствует и участвует в насилии» после убийства консервативного активиста Чарли Кирка.

«Эффективный альтруизм»
Популярный среди крупных воротил Кремниевой долины, «Эффективный альтруизм» призывает своих приверженцев направлять свои средства на те цели, которые, по их мнению, принесут наибольшую пользу человечеству в будущем. Эти цели, которые последователи называют «долгосрочным альтруизмом» , включают изменение климата, предотвращение пандемий и почти одержимость жёстким регулированием искусственного интеллекта.

«Они считают, что лишь горстка людей может контролировать доступ к технологиям, и что ИИ, если не окажется в их руках, будет использован для уничтожения мира», — сказал Натан Лимер, бывший политический советник Федеральной комиссии по связи и генеральный директор Fixed Gear Strategies.

https://nypost.com/2025/11/09/business/ai-giant-anthropics-ties-to-cult-like-effective-altruism-democrat-megadonors-on-trump-admins-radar/
Центры обработки данных сталкиваются с сопротивлением из-за экологических проблем на фоне распространения ИИ-технологий в Латинской Америке  https://www.theguardian.com/technology/2025/nov/10/data-centers-latin-america