Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
457 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Дети подключаются к чат-ботам на ИИ и отдаляются от реальности

От общения с «друзьями» ИИ до создания целых виртуальных миров , сегодня дети растут с доступом к онлайн-приложениям, которого не было никогда прежде. Разговорные приложения ИИ, такие как Chai и Character.AI, позволяют пользователям создавать и взаимодействовать с виртуальными персонами, в то время как Roblox — это социальная игровая вселенная, где дети играют и взаимодействуют ежедневно.

‼️Вот только условия использования сервисов ИИ чётко указывают на то, что компании не несут ответственности за любые ошибки, возникающие в их моделях. А то, что попало в обучающие датасеты этих сервисов не знают и сами сотрудники этих компаний.

Многие дети «склонны больше играть, потому что в личной жизни они не так уверены в себе. Их не принимают так же свободно, как других детей». Дети создают аватар, а затем вступают с ним в онлайн-сексуальные отношения.

Недавно в США генеральный прокурор Кентукки подал в суд на Roblox, утверждая, что компания сознательно способствовала и способствовала сексуальной эксплуатации и насилию над детьми. В сентябре этого года семьи трех несовершеннолетних в США подали в суд на Character Technologies, разработчика Character.AI, утверждая, что их дети умерли или пытались покончить жизнь самоубийством и получили иной вред после взаимодействия с чат-ботами компании, что привлекло пристальное внимание к опасностям этой новой категории разговорных приложений

.

https://economictimes.indiatimes.com/tech/artificial-intelligence/children-plug-into-ai-chatbots-leaving-reality-parents-behind/articleshow/124489915.cms?from=mdr
👍1
Сторонники Трампа используют Sora от OpenAI для создания видеороликов, на которых солдаты нападают на протестующих.

Если верить словам президента Дональда Трампа, американские города лежат в руинах, что вынуждает его направлять федеральные войска в Портленд , Вашингтон (округ Колумбия ) и Мемфис .

Есть только одна загвоздка: никто, похоже, не может найти никаких реальных доказательств массовых беспорядков и анархистского насилия, которые, по утверждению Трампа и его сторонников, разрушают страну. К счастью для них, эта проблема легко решается с помощью искусственного интеллекта.

Впервые об этом явлении сообщил ресурс Gizmodo , который сообщил о тревожном росте пропаганды в поддержку Трампа, создаваемой с помощью искусственного интеллекта, после выпуска Sora 2 от OpenAI — видеогенератора на основе искусственного интеллекта, способного создавать короткие, почти фотореалистичные клипы.

Например, Giz отмечает, что один ролик, на котором протестующий пристаёт к военнослужащему Национальной гвардии США, а затем получает перцовый баллончик, стал вирусным в Instagram , собрав почти 1,5 миллиона лайков и более 40 миллионов просмотров. Большинство комментаторов, похоже, не замечают, что на нём стоит водяной знак Sora.

«Лучшее видео, которое я видел сегодня. Давайте посмотрим, как уничтожат ещё больше этих мерзавцев», — написал один пользователь. «Обожаю такие позитивные видео», — с энтузиазмом отозвался другой.

А пользователь X-formerly-Twitter опубликовал смонтированный искусственным интеллектом видеоряд, на котором несколько протестующих кричат ​​в лицо полицейским. «Никакого кесо! Никакого сыра!» — кричат ​​они, издевательски описывая популярную протестную кричалку , а затем получают в лицо ударом перцового баллончика. «Лжец, это было прекрасно, и прежде чем вы спросите, я голосовал за это!» — гласит подпись.

https://futurism.com/artificial-intelligence/trump-ai-protest-troops
Google инвестирует 15 миллиардов долларов в создание центра обработки данных ИИ в Индии

Объект, который будет создан в портовом городе Вишакхапатнам, станет частью глобальной сети центров искусственного интеллекта Google, охватывающей 12 стран.

«Это крупнейший центр искусственного интеллекта, в который мы собираемся инвестировать где-либо в мире за пределами Соединенных Штатов», — заявил Томас Куриан, генеральный директор Google Cloud, на мероприятии в столице Индии Дели во вторник, добавив, что инвестиции будут распределены на ближайшие пять лет.

Заявление было сделано в то время, когда президент США Дональд Трамп призвал американские компании отдать приоритет внутренним инвестициям.

Индия стала ключевым направлением для центров обработки данных ИИ. Низкая стоимость передачи данных и быстрорастущая база интернет-пользователей сделали страну центром расширения обла

https://www.bbc.co.uk/news/articles/cx27yze8p0jo
😭2🤔1
Как Comet от Perplexity, Neon от Opera и другие показывают себя в войне браузеров на базе искусственного интеллекта
Скромный браузер — это инструмент, привлекающий внимание всех компаний нового поколения, работающих в сфере искусственного интеллекта. Благодаря постоянному развитию моделей искусственного интеллекта, более сложные задачи могут быть решены от вашего имени. Наличие универсального браузера для всех аспектов искусственного интеллекта — это очевидное решение, которое также помогает компании в сборе данных. https://www.outlookbusiness.com/artificial-intelligence/how-perplexitys-comet-operas-neon-and-others-stack-up-in-ai-browser-war
Если вызывает беспокойство тот факт, что старшеклассники передают свои мозги на аутсорсинг искусственному интеллекту , то совершенно тревожно представить, как военачальники США — командующие самых хорошо оснащенных вооруженных сил в истории — делают то же самое.

К сожалению, этот сценарий больше не является фантастикой времён холодной войны. Как впервые сообщил Business Insider , генерал-майор Уильям «Хэнк» Тейлор, командующий 8-й полевой армией в Южной Корее, заявил журналистам, что «мы с Чатом [GPT]» стали «очень близки в последнее время».

«Я прошу о создании, пытаюсь создать модели, которые помогут всем нам», — сказал он, добавив, что использует ChatGPT для принятия военных и личных решений, касающихся военнослужащих под его командованием. Это касается и Объединённого командования ООН в Южной Корее, которое Тейлор в настоящее время возглавляет в качестве начальника штаба.

«Как командир, я хочу принимать более взвешенные решения», — якобы сказал Тейлор. «Я хочу быть уверенным, что принимаю решения в нужный момент, чтобы получить преимущество».

Это примечательный комментарий высокопоставленного американского военного в Корее, стране, оккупированной США с 1945 года . ChatGPT известен своими зачастую приятными ответами, где бесконечная вовлеченность важнее точности. В крайних случаях ChatGPT даже поддерживает пользователей, переживших тяжёлые психические кризисы , которые привели к принудительной госпитализации и даже самоубийству .

https://futurism.com/future-society/general-taylor-korea-chatgpt
22
ИИ становится социопатичным, когда его поощряют баллами в социальных сетях

В новой научной работе обнаружено, что если ИИ получает вознаграждение за выполнение задач в социальных сетях, таких как накрутка лайков и других показателей онлайн-вовлеченности, то ИИ экспоненциально участвует в неэтичном поведении, таком как ложь, распространение дезинформации и оскорбления.

https://www.tweaktown.com/news/108229/scientists-discover-ai-becomes-sociopathic-when-rewarded-with-social-media-points/index.html
😁32🤝2
И еще о доверии к Перплексити и прочим GPT

ИИ невероятно легко свести с ума, публикуя в интернете отравленные документы

Исследователи из Британского института безопасности ИИ, Института Алана Тьюринга и Anthropic в ходе совместного исследования обнаружили, что размещение в сети всего 250 «отравленных» документов может привести к появлению уязвимостей в модели ИИ.

Это коварная атака, поскольку она позволяет хакерам распространять вредоносный материал в открытом Интернете, где он будет собран компаниями, обучающими новые системы ИИ, в результате чего появятся системы ИИ, которыми можно будет манипулировать с помощью триггерной фразы.

https://futurism.com/artificial-intelligence/ai-poisoned-documents
👍2🔥1
Amazon планирует новые увольнения, поскольку ИИ готов заменить 15% HR-специалистов

Amazon готовится к очередной волне сокращений, на этот раз затрагивающих его отдел кадров, официально известный как отдел опыта и технологий (People eXperience and Technology, PXT). Согласно отчёту Fortune, со ссылкой на многочисленные внутренние источники, увольнения могут затронуть до 15% сотрудников отдела кадров в связи с проводимой компанией более глубокой реструктуризацией системы управления персоналом.

https://www.ptcnews.tv/amp/jobs-and-education/amazon-fresh-layoffs-artificial-intelligence-hr-staff-ai-work-job-losses-ai-2025-4415888
👌2
Модель ИИ Ling-1T с триллионом параметров от Ant Group нацелена на тесты рассуждений с помощью стратегии двойного выпуска

Модель ИИ с триллионом параметров демонстрирует конкурентоспособную производительность при решении сложных математических задач, достигнув точности 70,42% на тесте Американского пригласительного экзамена по математике (AIME) 2025 года — стандарта, используемого для оценки способностей систем ИИ решать задачи.

https://www.artificialintelligence-news.com/news/trillion-parameter-ai-model-ant-group-ling-1t/
Oculus теперь еще и банк. Палмер Лаки создаёт карманный финансовый инструмент)))

Erebor, банковский стартап, Палмера Лаки получил одобрение Управления контролера денежного обращения (OCC) на создание банка, ориентированного на криптовалюту, искусственный интеллект и оборону

Это достижение открывает Erebor путь к работе в качестве полнофункционального национального банка, специализирующегося на обслуживании быстрорастущих секторов, таких как криптовалюта, искусственный интеллект и оборонные технологии.

Инсайдеры, знакомые с процессом, отмечают, что этот шаг отражает смягчение отношения регулирующих органов к криптоинтегрированному банкингу, особенно на фоне меняющейся федеральной политики. Согласно сообщениям Business Insider , видение Лаки для Erebor делает акцент на эффективном управлении рисками и инновациях, позиционируя его как мост между волатильными технологическими предприятиями и стабильной финансовой инфраструктурой.

https://www.webpronews.com/palmer-luckeys-erebor-wins-occ-approval-for-crypto-ai-defense-focused-bank/
👍2
Meta просто не может прекратить переманивать лидеров ИИ-подразделений Apple

Компания Meta открыто заявляет о своих усилиях стать центром притяжения для специалистов в области ИИ. Исследовательская группа FAIR, высокая частота выпуска открытых моделей Llama и готовность к масштабному выпуску и внедрению обеспечивают исследователям мощное сочетание влияния и прозрачности. В заявлениях компании также подчеркивается крупнейшая в мире серия графических процессоров — «сотни тысяч» высокопроизводительных ускорителей, — которая слишком велика, чтобы её игнорировать разработчики моделей со значительными вычислительными потребностями.

Оплата труда тоже имеет значение. Публичные отслеживатели компенсаций показывают, что должности руководителей в сфере ИИ на крупных платформах могут приносить семизначные суммы в общей сумме, при этом Meta не раз делала агрессивные предложения дефицитным исследователям и практикам. Рекрутеры отмечают, что компания активно предлагала кандидатам, уже ведущим переговоры с другими специалистами, агрессивные условия трудоустройства.

AKI лежит в основе усилий Apple по обеспечению Siri давно обещанной трансплантацией мозга, позволяя ей отвечать на более сложные вопросы, получать данные из интернета в режиме реального времени и даже распределять задачи между приложениями. В сочетании с Apple Intelligence и ориентированной на конфиденциальность системой Private Cloud Compute это выглядит привлекательно: мгновенная персонализированная помощь, при этом сохраняя конфиденциальную информацию в безопасности.

Однако реализация проектов застопорилась. Достижения Apple в области искусственного интеллекта развивались медленнее, чем у конкурентов, а некоторые функции по-прежнему доступны только на новых устройствах. Судебные иски потребителей поставили под сомнение заявления компании о готовности к запуску и оказали давление на внутренние сроки. Строгая позиция Apple в отношении конфиденциальности, одна из главных сильных сторон её бренда, также затрудняет эксперименты в облачном масштабе и быструю итерацию по сравнению с конкурентами, которые выбрали серверный подход.

В результате для исследователей, ценящих скорость, доступ к вычислительным ресурсам и свободу публикации, сложилась более сложная ситуация. В то время как Apple продолжает вкладывать ресурсы в разработку локальных процессоров и отточенный пользовательский интерфейс, постоянный поток руководителей, переходящих в Meta, свидетельствует о том, что компания всё ещё пытается определить, насколько уровень секретности и контроля может сосуществовать с запутанной природой передовых исследований в области ИИ.

https://www.findarticles.com/meta-just-cant-stop-poaching-apple-ai-leaders/
👍3
За кулисами генеративного ИИ скрывается изнурительный, низкооплачиваемый человеческий труд

Чтобы генеративная система искусственного интеллекта научилась составлять отчет о вскрытии, люди должны отсортировать и аннотировать тысячи изображений мест преступлений.

«Вам приходится проводить целый день, осматривая трупы и места преступлений... Психологическая поддержка не предоставляется», — рассказал AFP гражданин Кении Эфантус Каньюги .

Специалистам по маркировке «нужно потратить время на изучение этих изображений, рассмотреть раны погибших людей», чтобы очертить их и передать в ИИ, добавил 30-летний мужчина.

Нестабильная работа по обучению искусственного интеллекта, которая обычно приносит всего несколько долларов, спровоцировала движение за улучшение заработной платы и условий труда, охватившее территорию от Кении до Колумбии.

https://www.dawn.com/news/1949310
👍5🤔2
Рост «цифрово-военно-промышленного комплекса» США

За последнее десятилетие привычная концепция «военно-промышленного комплекса», введенная президентом Дуайтом Эйзенхауэром в 1961 году, трансформировалась в новый гибрид: «цифровой военно-промышленный комплекс». Этот вариант включает в себя компании, специализирующиеся на данных, искусственном интеллекте и цифровых платформах, а также стартапы, намеренно позиционирующие себя как поставщики оборонных технологий.

Эти структуры тесно сотрудничают с американскими военными и традиционными оборонными подрядчиками для ускорения цифровизации и интеллектуальной трансформации военного потенциала. Некоторые аналитики предупреждают, что этот цифровой вариант может привести к масштабному вмешательству США за рубежом, потенциально превращаясь в «новую военную машину».

Традиционные гиганты оборонной промышленности, такие как Lockheed Martin, Raytheon, Northrop Grumman и General Dynamics, теперь сталкиваются с острой конкуренцией со стороны двух видов цифровых игроков.

В основе развития цифрового военно-промышленного комплекса лежат три фактора. Во-первых, появление искусственного интеллекта сделало интеграцию коммерческих данных и алгоритмов неотъемлемой частью модернизации вооруженных сил. Подразделение оборонных инноваций (DIU), созданное Пентагоном в Кремниевой долине в 2015 году, направляет венчурные закупки для ускорения конверсии коммерческих технологий в оборонные.

Во-вторых, эскалация глобальной напряжённости, такая как российско-украинский конфликт и нестабильность на Ближнем Востоке, усилила потребность США в применении технологий, доказавших свою эффективность на современных полях сражений.

В-третьих, стремительное развитие Китая в области искусственного интеллекта усилило обеспокоенность США, побуждая американских политиков всё чаще рассматривать конкуренцию, по сути, как гонку вооружений в области искусственного интеллекта.

https://www.chinadaily.com.cn/a/202510/20/WS68f599c6a310f735438b5e2d.html
👍2
Искусственный интеллект (ИИ) активно меняет когнитивные процессы подростков, заставляя их мыслить быстрее, но в ущерб глубине анализа. Таковы выводы нового исследования Оксфордского университетского издательства (Oxford University Press), о которых рассказало издание Business Iinsider, в ходе которого в августе были опрошены 2000 учащихся из Великобритании в возрасте от 13 до 18 лет.

Около 80 % респондентов признались, что используют ИИ-инструменты для выполнения домашних заданий и это им помогает быстрее решать сложные задачи.

Как заявила директор Educational Neuroscience Hub Europe и соавтор отчёта Эрика Галеа (Erika Galea), современные студенты начинают мыслить вместе с машинами, приобретая беглость и скорость, но иногда теряя независимое мышление. Она добавила, что главной задачей становится не овладение технологиями, а сохранение глубины человеческой мысли в эпоху синтетического познания и искусственного интеллекта. Это «синтетическое познание», по терминологии оксфордских исследователей, характеризует новое мышление так называемого «поколения, рождённого с ИИ», то есть, подростков, которые взрослели бок о бок с алгоритмами.

https://www.businessinsider.com/oxford-warns-ai-making-teens-faster-but-shallower-thinkers-2025-10
🔥2
Число пользователей Meta AI резко выросло благодаря функции Vibes — конкуренты зафиксировали спад активности

Мобильное приложение Meta AI значительно увеличило свою ежедневную аудиторию и число новых установок после внедрения в сентябре функции Vibes — ленты коротких видеороликов, создаваемых с помощью ИИ. Согласно анализу Similarweb, число ежедневных активных пользователей приложения выросло более чем в три раза за последние четыре недели.

https://techcrunch.com/2025/10/20/meta-ais-app-downloads-and-daily-users-spiked-after-launch-of-vibes-ai-video-feed/
Как LLM ведут войну с SaaS программным обеспечением

LLM в одночасье размыли границы между SaaS-инфраструктурой и ИИ-инфраструктурой. LLM превращают в массовый продукт возможности, которые когда-то оправдывали целые SaaS-платформы: обобщение, генерация контента, поиск потенциальных покупателей и анализ данных.

Задачи, которые изначально требовали участия команды инженеров, теперь доступны мгновенно через API. Основы традиционного SaaS-решения — ценообразование по количеству рабочих мест, пользовательские лицензии и дифференциация функций — постепенно разрушаются.

«Традиционным SaaS-компаниям придётся внедрять ИИ, иначе они рискуют потерять свою ценность, поскольку модели, основанные на использовании, заменят ценообразование на основе количества рабочих мест»

https://africa.businessinsider.com/local/how-llms-are-waging-war-on-traditional-software/hp7db1x
OpenAI-исследователи вляпались по полной или как не надо делать управление репутацией

Вице-президент по науке OpenAI слишком громко заявил о «прорывных возможностях GPT-5». А Себастьяна Бюбека рассказал, что GPT-5 (вероятно, в версии Pro) помогла найти решения нескольких "открытых" задач Эрдёша. На деле речь шла не о новых открытиях, а о том, что модель сумела сопоставить старые публикации с задачами, числившимися на сайте Erdos Problems как нерешенные.

После этого несколько сотрудников компании начали массово продвигать модель в Twitter и Reddit, но быстро попались на вранье.

Один из известных исследоватей (владелец сообщества ErdosProblems) публично написал:
“Это полностью неправда. Вы вводите людей в заблуждение.”

После этого посты сотрудников OpenAI стали исчезать, а глава DeepMind Demis Hassabis прокомментировал лаконично:

“This is embarrassing.” (Стыдно, братцы)

https://habr.com/ru/news/958672/
👍2
Opera расширяет набор инструментов ИИ Neon с помощью глубокого исследовательского агента

Opera стремится создать «симфонию» агентов, синхронно работающих для пользователя.

Несколько недель назад Opera Neon был запущен с тремя браузерными агентами: Do, Make и Chat, которые могут действовать от имени пользователя, просматривая веб-страницы, собирая информацию и предоставляя любые данные — от краткого обзора до интерактивного виджета.

Теперь Neon получает четвертого агента под названием Opera Deep Research Agent (ODRA) для более комплексных исследовательских задач.

Наш новый агент не выполняет ваш исследовательский запрос по принципу «шаг за шагом», а применяет логику «разделения труда» для одновременной работы над несколькими задачами (распараллеливания). Это можно рассматривать как основное различие между работой центрального и графического процессоров: первый отлично подходит для быстрого выполнения одной операции подряд, а второй — для выполнения множества небольших операций одновременно.

https://9to5mac.com/2025/10/20/opera-neon-deep-research-agent/
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Unitree представили новое поколение гуманоидных роботов — H2

Unitree
H2 Destiny Awakening способен выполнять сложные действия, стирающие грань между человеком и машиной.

Новая модель способна с легкостью выполнять впечатляющие балетные движения, вращаясь и балансируя. Он также может воспроизводить боевые приемы, что намекает на возможное
будущее роботизированного рукопашного боя.

https://needtoknow.co.uk/2025/10/21/humanoid-robot-performs-ballet-and-martial-artsand-its-slightly-creepy/
🔥2
Умение Альтмана играть на самолюбии руководителей позволило OpenAI заключить сделки на сотни миллиардов долларов.

Глава OpenAI Сэм Альтман (Sam Altman) оказался умелым стратегом. Чтобы обеспечить компанию чуть ли не бесконечными вычислительными мощностями, он организовал целую серию сделок на сотни миллирдов долларов, натравив друг на друга гигантов Кремниевой долины. Альтман сыграл на их самолюбии и желании нажиться на будущем росте OpenAI. Все они теперь делают ставку на успех стартапа, который пока невероятно далёк от прибыльности, пишет The Wall Street Journal. Но выйти из игры они уже не могут — OpenAI должна выжить любой ценой. А NVIDIA даже готова расплатиться по долгам OpenAI, если что-то пойдёт не так.

https://www.wsj.com/tech/ai/sam-altman-open-ai-nvidia-deals-d10a6525
👍1