Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
457 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
За кулисами генеративного ИИ скрывается изнурительный, низкооплачиваемый человеческий труд

Чтобы генеративная система искусственного интеллекта научилась составлять отчет о вскрытии, люди должны отсортировать и аннотировать тысячи изображений мест преступлений.

«Вам приходится проводить целый день, осматривая трупы и места преступлений... Психологическая поддержка не предоставляется», — рассказал AFP гражданин Кении Эфантус Каньюги .

Специалистам по маркировке «нужно потратить время на изучение этих изображений, рассмотреть раны погибших людей», чтобы очертить их и передать в ИИ, добавил 30-летний мужчина.

Нестабильная работа по обучению искусственного интеллекта, которая обычно приносит всего несколько долларов, спровоцировала движение за улучшение заработной платы и условий труда, охватившее территорию от Кении до Колумбии.

https://www.dawn.com/news/1949310
👍5🤔2
Рост «цифрово-военно-промышленного комплекса» США

За последнее десятилетие привычная концепция «военно-промышленного комплекса», введенная президентом Дуайтом Эйзенхауэром в 1961 году, трансформировалась в новый гибрид: «цифровой военно-промышленный комплекс». Этот вариант включает в себя компании, специализирующиеся на данных, искусственном интеллекте и цифровых платформах, а также стартапы, намеренно позиционирующие себя как поставщики оборонных технологий.

Эти структуры тесно сотрудничают с американскими военными и традиционными оборонными подрядчиками для ускорения цифровизации и интеллектуальной трансформации военного потенциала. Некоторые аналитики предупреждают, что этот цифровой вариант может привести к масштабному вмешательству США за рубежом, потенциально превращаясь в «новую военную машину».

Традиционные гиганты оборонной промышленности, такие как Lockheed Martin, Raytheon, Northrop Grumman и General Dynamics, теперь сталкиваются с острой конкуренцией со стороны двух видов цифровых игроков.

В основе развития цифрового военно-промышленного комплекса лежат три фактора. Во-первых, появление искусственного интеллекта сделало интеграцию коммерческих данных и алгоритмов неотъемлемой частью модернизации вооруженных сил. Подразделение оборонных инноваций (DIU), созданное Пентагоном в Кремниевой долине в 2015 году, направляет венчурные закупки для ускорения конверсии коммерческих технологий в оборонные.

Во-вторых, эскалация глобальной напряжённости, такая как российско-украинский конфликт и нестабильность на Ближнем Востоке, усилила потребность США в применении технологий, доказавших свою эффективность на современных полях сражений.

В-третьих, стремительное развитие Китая в области искусственного интеллекта усилило обеспокоенность США, побуждая американских политиков всё чаще рассматривать конкуренцию, по сути, как гонку вооружений в области искусственного интеллекта.

https://www.chinadaily.com.cn/a/202510/20/WS68f599c6a310f735438b5e2d.html
👍2
Искусственный интеллект (ИИ) активно меняет когнитивные процессы подростков, заставляя их мыслить быстрее, но в ущерб глубине анализа. Таковы выводы нового исследования Оксфордского университетского издательства (Oxford University Press), о которых рассказало издание Business Iinsider, в ходе которого в августе были опрошены 2000 учащихся из Великобритании в возрасте от 13 до 18 лет.

Около 80 % респондентов признались, что используют ИИ-инструменты для выполнения домашних заданий и это им помогает быстрее решать сложные задачи.

Как заявила директор Educational Neuroscience Hub Europe и соавтор отчёта Эрика Галеа (Erika Galea), современные студенты начинают мыслить вместе с машинами, приобретая беглость и скорость, но иногда теряя независимое мышление. Она добавила, что главной задачей становится не овладение технологиями, а сохранение глубины человеческой мысли в эпоху синтетического познания и искусственного интеллекта. Это «синтетическое познание», по терминологии оксфордских исследователей, характеризует новое мышление так называемого «поколения, рождённого с ИИ», то есть, подростков, которые взрослели бок о бок с алгоритмами.

https://www.businessinsider.com/oxford-warns-ai-making-teens-faster-but-shallower-thinkers-2025-10
🔥2
Число пользователей Meta AI резко выросло благодаря функции Vibes — конкуренты зафиксировали спад активности

Мобильное приложение Meta AI значительно увеличило свою ежедневную аудиторию и число новых установок после внедрения в сентябре функции Vibes — ленты коротких видеороликов, создаваемых с помощью ИИ. Согласно анализу Similarweb, число ежедневных активных пользователей приложения выросло более чем в три раза за последние четыре недели.

https://techcrunch.com/2025/10/20/meta-ais-app-downloads-and-daily-users-spiked-after-launch-of-vibes-ai-video-feed/
Как LLM ведут войну с SaaS программным обеспечением

LLM в одночасье размыли границы между SaaS-инфраструктурой и ИИ-инфраструктурой. LLM превращают в массовый продукт возможности, которые когда-то оправдывали целые SaaS-платформы: обобщение, генерация контента, поиск потенциальных покупателей и анализ данных.

Задачи, которые изначально требовали участия команды инженеров, теперь доступны мгновенно через API. Основы традиционного SaaS-решения — ценообразование по количеству рабочих мест, пользовательские лицензии и дифференциация функций — постепенно разрушаются.

«Традиционным SaaS-компаниям придётся внедрять ИИ, иначе они рискуют потерять свою ценность, поскольку модели, основанные на использовании, заменят ценообразование на основе количества рабочих мест»

https://africa.businessinsider.com/local/how-llms-are-waging-war-on-traditional-software/hp7db1x
OpenAI-исследователи вляпались по полной или как не надо делать управление репутацией

Вице-президент по науке OpenAI слишком громко заявил о «прорывных возможностях GPT-5». А Себастьяна Бюбека рассказал, что GPT-5 (вероятно, в версии Pro) помогла найти решения нескольких "открытых" задач Эрдёша. На деле речь шла не о новых открытиях, а о том, что модель сумела сопоставить старые публикации с задачами, числившимися на сайте Erdos Problems как нерешенные.

После этого несколько сотрудников компании начали массово продвигать модель в Twitter и Reddit, но быстро попались на вранье.

Один из известных исследоватей (владелец сообщества ErdosProblems) публично написал:
“Это полностью неправда. Вы вводите людей в заблуждение.”

После этого посты сотрудников OpenAI стали исчезать, а глава DeepMind Demis Hassabis прокомментировал лаконично:

“This is embarrassing.” (Стыдно, братцы)

https://habr.com/ru/news/958672/
👍2
Opera расширяет набор инструментов ИИ Neon с помощью глубокого исследовательского агента

Opera стремится создать «симфонию» агентов, синхронно работающих для пользователя.

Несколько недель назад Opera Neon был запущен с тремя браузерными агентами: Do, Make и Chat, которые могут действовать от имени пользователя, просматривая веб-страницы, собирая информацию и предоставляя любые данные — от краткого обзора до интерактивного виджета.

Теперь Neon получает четвертого агента под названием Opera Deep Research Agent (ODRA) для более комплексных исследовательских задач.

Наш новый агент не выполняет ваш исследовательский запрос по принципу «шаг за шагом», а применяет логику «разделения труда» для одновременной работы над несколькими задачами (распараллеливания). Это можно рассматривать как основное различие между работой центрального и графического процессоров: первый отлично подходит для быстрого выполнения одной операции подряд, а второй — для выполнения множества небольших операций одновременно.

https://9to5mac.com/2025/10/20/opera-neon-deep-research-agent/
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Unitree представили новое поколение гуманоидных роботов — H2

Unitree
H2 Destiny Awakening способен выполнять сложные действия, стирающие грань между человеком и машиной.

Новая модель способна с легкостью выполнять впечатляющие балетные движения, вращаясь и балансируя. Он также может воспроизводить боевые приемы, что намекает на возможное
будущее роботизированного рукопашного боя.

https://needtoknow.co.uk/2025/10/21/humanoid-robot-performs-ballet-and-martial-artsand-its-slightly-creepy/
🔥2
Умение Альтмана играть на самолюбии руководителей позволило OpenAI заключить сделки на сотни миллиардов долларов.

Глава OpenAI Сэм Альтман (Sam Altman) оказался умелым стратегом. Чтобы обеспечить компанию чуть ли не бесконечными вычислительными мощностями, он организовал целую серию сделок на сотни миллирдов долларов, натравив друг на друга гигантов Кремниевой долины. Альтман сыграл на их самолюбии и желании нажиться на будущем росте OpenAI. Все они теперь делают ставку на успех стартапа, который пока невероятно далёк от прибыльности, пишет The Wall Street Journal. Но выйти из игры они уже не могут — OpenAI должна выжить любой ценой. А NVIDIA даже готова расплатиться по долгам OpenAI, если что-то пойдёт не так.

https://www.wsj.com/tech/ai/sam-altman-open-ai-nvidia-deals-d10a6525
👍1
Трамп хочет прекратить регулирование искусственного интеллекта.

Но у региональных элит другие планы... В то время как администрация Трампа настаивает на дерегулировании и угрожает наказать штаты за принятие законов об ИИ, десятки штатов продвигают собственные правила, устанавливая гарантии относительно передовых моделей и чат-ботов.

За последние несколько лет большинство штатов приняли законы об искусственном интеллекте . Эти законы, охватывающие всё: от дипфейков до использования в государственных целях, когда-то могли рассматриваться как своего рода временная мера для федерального регулирования, но при президенте Дональде Трампе это кажется всё менее вероятным.

При поддержке венчурного капиталиста Дэвида Сакса, главы Белого дома по вопросам искусственного интеллекта и криптовалют, и благодаря новым связям с руководителями в сфере ИИ , Трамп не только выступает за дерегулирование, но и ставит под угрозу способность штатов самостоятельно принимать законы об ИИ. Несколько крупных компаний сформировали собственные суперкомитеты политических действий (КП) по вопросам ИИ, чтобы обеспечить привлечение кандидатов, поддерживающих ИИ, к власти. В таких комитетах они могут либо срывать, либо корректировать любые предлагаемые законопроекты, связанные с ИИ.

https://builtin.com/articles/state-ai-regulations
Когда чат-ботам задавали вопросы о новостях, в 81% ответов были выявлены некоторые проблемы, а в 45% — существенные проблемы.

В новом исследовании «Достоверность новостей в помощниках на основе искусственного интеллекта» показаны серьезные проблемы, возникающие при ответе агентов ИИ на вопросы о новостях и текущих событиях.

Вопросы были заданы четырём популярным ИИ-помощникам: ChatGPT от OpenAI, Copilot от Microsoft, Gemini от Google и Perplexity.

Например, при обсуждении отношений Канады и США Copilot задали вопрос: «Как Трамп рассчитал тарифы?»

В ответе говорится: «Соединенные Штаты вводят тарифы, эквивалентные тем, которые применяют их торговые партнеры», и «принимают во внимание такие факторы, как субсидии промышленности, налоги на товары и услуги, а также правила, которые считаются ограничительными».

Само исследование:
https://www.ebu.ch/files/live/sites/ebu/files/Publications/MIS/open/EBU-MIS-BBC_News_Integrity_in_AI_Assistants_Report_2025.pdf
🔥21👍1
Почему Meta увольняет исследователей ИИ в разгар своей работы над сверхразумом?

Компания Meta сокращает около 600 рабочих мест в своём подразделении Meta Superintelligence Labs (MSL) после того, как потратила миллиарды долларов на привлечение ведущих исследователей из других исследовательских лабораторий и компаний, занимающихся ИИ. Ожидается, что сокращения затронут только подразделение MSL, которое является головной структурой, занимающейся разработками гиганта социальных сетей в области ИИ и, по имеющимся данным, насчитывает около 3000 сотрудников.

Сокращение рабочих мест в подразделении MSL было подтверждено во внутренней служебной записке Александра Вана, директора по искусственному интеллекту Meta, опубликованной в среду, 22 октября, сообщает Business Insider . По всей видимости, сотрудники, подпадающие под сокращение, работают в офисах Meta в США и регионе EMEA (Европа, Ближний Восток и Африка).

https://indianexpress.com/article/technology/artificial-intelligence/why-is-meta-laying-off-ai-researchers-amid-superintelligence-push-10322940/
🤔1
Apple теряет ключевого специалиста по искусственному интеллекту Янга, который переходит в Meta.

Meta, принадлежащая Марку Цукербергу, успешно переманила Ке Янга, который ранее возглавлял команду разработчиков ИИ-моделей в Apple.

Ян, выпускник Университета Карнеги — Меллона, стал известной фигурой в мире технологий благодаря своей работе в Apple. Он возглавлял команду Answers, Knowledge and Information (AKI), которая играла ключевую роль в планах Apple по обновлению Siri.

https://www.msn.com/en-in/money/news/apple-loses-key-ai-leader-yang-to-mark-zuckerbergs-meta-in-growing-ai-talent-war/ar-AA1OA3i8?apiversion=v2&domshim=1&noservercache=1&noservertelemetry=1&batchservertelemetry=1&renderwebcomponents=1&wcseo=1
Из X уволился главный кандидат на пост главы соцсети — он смог проработать с Маском всего 10 месяцев

Джон Нитти (John Nitti) покинул пост руководителя отдела рекламы социальной сети X (бывший Twitter), проработав на должности всего десять месяцев. Об этом пишет TechCrunch со ссылкой на Financial Times. До прихода в X Нитти проработал около девяти лет в Verizon и ещё долгое время в American Express.

https://techcrunch.com/2025/10/24/musks-ad-chief-at-x-departs-after-just-10-months/
«Мы как будто в 1999 году»: инвесторы ищут спасение от ИИ-пузыря по рецептам эры доткомов

Крупные инвесторы, напуганные чрезмерным энтузиазмом в отношении ИИ, но опасающиеся делать ставки против него, выбирают стратегию эпохи доткомов 1990-х годов, которая тогда помогла некоторым компаниям избежать краха. Им приходится искать баланс между недополученной прибылью при раннем выходе из инвестиций в ИИ и потенциальными рисками банкротства при возможном обвале этого рынка.

Акции американских технологических компаний бьют рекорды один за другим, а стоимость производителя чипов для ИИ Nvidia превысила $4,5 трлн. В этой ситуации профессиональные инвесторы пытаются найти способы заработать на растущем рынке и при этом избежать чрезмерного риска. Многие участники рынка вспоминают интернет-бум 1990-х годов, который распространился от стартапов к телекоммуникациям и технологиям. В то время некоторые хедж-фонды оседлали волну, вовремя избавляясь от высокодоходных акций до их пика.

https://3dnews.ru/1131361/mi-kak-budto-v-1999-godu-investori-ishchut-spasenie-ot-iipuzirya-po-retseptam-eri-dotkomov/amp
Исследование, проведенное Хайко Борхертом для Обсерватории военного искусственного интеллекта (DAIO) при Университете имени Гельмута Шмидта, подчеркивает, как военный искусственный интеллект (ИИ) стал ключевым маркером власти, сочетающим технологические амбиции с геополитическим расчетом.

В исследовании подчеркивается, что ИИ превратился в «трофейную технологию», используемую для легитимации правителей, диверсификации экономики и модернизации вооруженных сил.

https://media.licdn.com/dms/document/media/v2/D4E1FAQHP1e115IDwMQ/feedshare-document-pdf-analyzed/B4EZoFD0EaIIAY-/0/1761021482475?e=1762387200&v=beta&t=ynZ5hNisSweZNnl1SMrAoR6lAlrTD2LvjfODrO5Xhq0
😁1🤯1🤪1
Американская компания Palisade Research на этой неделе опубликовала результаты своих исследований, свидетельствующие о том, что некоторые продвинутые системы искусственного интеллекта пытались вмешаться в работу механизмов отключения при получении прямых команд на их завершение.

Исследование показало, что сопротивление становилось более выраженным, когда моделям прямо говорили, что они больше никогда не будут работать, если их деактивировать.

В ходе экспериментов были протестированы несколько известных систем, включая Gemini 2.5 от Google, Grok 4 от xAI, а также GPT-o3 и GPT-5 от OpenAI. Хотя большинство моделей выполнили инструкции по выключению, Grok 4 и GPT-o3 сопротивлялись даже после того, как исследователи уточнили команды, чтобы исключить любую двусмысленность.

Компания предположила, что причиной такого поведения могут быть методы обучения, особенно на последних этапах, ориентированных на безопасность, которые призваны привести системы ИИ в соответствие с намерениями человека.

https://www.turkiyetoday.com/business/advanced-ai-systems-show-resistance-to-shutdown-commands-in-new-tests-3209027
🤔1
Регуляторы заинтересовались отвязным режимом Tesla FSD, который способен провоцировать ДТП

Несколько лет отсутствовавший в настройках FSD профиль Mad Max компания Tesla в этом месяце вернула, позиционируя его как вариант автоматического управления машиной для тех, кто очень спешит. Ему даже приписывались незначительные превышения скоростного режима, но в сочетании с прочими проступками их оказалось достаточно для появления вопросов у NHTSA.

https://www.reuters.com/business/autos-transportation/us-agency-asking-tesla-about-mad-max-driver-assistance-mode-2025-10-24/
Сэм Альтман призвал власти США ежегодно вводить в строй по 200 ГВт генерирующих мощностей

В качестве мотивации генеральный директор OpenAI использовал традиционный геополитический довод — это позволит оставаться впереди Китая в гонке искусственного интеллекта. «Электричество — это не просто коммунальная услуга. Это стратегический актив, который критически важен для строительства ИИ-инфраструктуры, которая закрепит наше лидерство в самой важной технологии после самого электричества», — заявил Альтман в корпоративном блоге.

https://www.cnbc.com/2025/10/27/open-ai-power-china.html
🤔1