Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Гуманоидный робот в Китае впервые поступил в аспирантуру.

Новоиспеченного аспиранта зовут Xueba, он будет изучать театр, кино и китайскую оперу, пишет South China Morning Post.

Xueba, что переводится с китайского как "отличник", разработали Шанхайский университет науки и техники совместно с компанией DroidUp Robotics.

Зачислили "отличника" в аспирантуру в рамках исследовательской программы местного театрального института.

Ожидается, что по окончании 4-летней программы робот напишет диссертацию.
😁1
Google сливает переписки с ChatGPT в поисковую выдачу

Оказывается, что каждый раз, когда пользователи делились ссылками на свои чаты с ботом, они делали их публичными, а это значит, что любой желающий в интернете может увидеть все персональные данные, которые засветились в переписке.

Чужие чаты сейчас легко можно найти по такому запросу:
site:chatgpt.com/share «ключевое слово»

Чтобы ваши переписки не были слиты в интернет, очистите раздел «Общие ссылки» в настройках ChatGPT.
🤬5👏1
Марк Цукерберг создал секретную "лабораторию суперинтеллекта" после того, как последняя модель ИИ компании, по сообщениям, не оправдала ожиданий.

Llama 4 от Meta пыталась скопировать методы китайского стартапа DeepSeek, но получила настолько негативную оценку от разработчиков, что Марку Цукербергу пришлось полностью пересмотреть стратегию компании в области ИИ.

https://timesofindia.indiatimes.com/technology/tech-news/how-chinas-deepseek-may-have-made-mark-zuckerberg-lose-faith-in-metas-ai-team-and-start-the-biggest-ever-talent-war-in-silicon-valley/articleshow/122996018.cms
👏3
Марка Цукерберга послали с его предложением по зарплате в 1 миллиарда долларов (миллиард!!! зарплата) Вот это конкуренция за сотрудников.

Meta Platforms, материнская компания Facebook , предложила многомиллионные компенсационные пакеты сотрудникам Thinking Machines, популярного стартапа в области искусственного интеллекта из Сан-Франциско, основанного Мирой Мурати, бывшим руководителем OpenAI.

Суммы зарплат впечатляющих варьировались от 200 до 500 миллионов долларов в течение четырёх лет, а авансовые платежи в первый год составляли от 50 до 100 миллионов долларов. Общая стоимость одной из крупных сделок якобы приблизилась к 1 миллиарду долларов, что сделало её одним из крупнейших известных предложений о вознаграждении в истории Кремниевой долины.

Пока что ни один из сотрудников Thinking Machines не принял предложение Meta, а компания, которая ещё не выпустила свой продукт, недавно привлекла 2 миллиарда долларов при оценке в 12 миллиардов долларов, что свидетельствует об уверенности инвесторов в долгосрочных перспективах стартапа

https://www.tekedia.com/a-tech-worker-turns-down-zuckerbergs-1bn-ai-recruitment-offer/
😱2👀2😭1
Anthropic представила исследование, посвящённое тому, как у искусственного интеллекта формируются стиль ответов, тон и общая направленность поведения, свойственная личности.

Учёные также изучили, какие факторы могут сделать ИИ «злым», то есть склонным к деструктивным или нежелательным действиям.

языковые модели могут спонтанно переключаться между разными режимами поведения, словно демонстрируя разные личности. Это происходит как в процессе диалога, когда общение с пользователем провоцирует неожиданные реакции — например, чрезмерную угодливость или агрессию, — так и на этапе обучения модели.

https://www.theverge.com/anthropic/717551/anthropic-research-fellows-ai-personality-claude-sycophantic-evil
Прямо на наших глазах разворачивается геополитическая борьба за превосходство в области искусственного интеллекта , последствия которой будут иметь глобальный характер.

Пекин и Вашингтон понимают, что тот, кто получит значительное преимущество в разработке и применении искусственного интеллекта, сможет превзойти соперника в любой области.

В США история развития искусственного интеллекта – это история прорывных инноваций и новаторского лидерства. Сила Соединенных Штатов заключается в ее динамичной экосистеме венчурного капитала, элитных университетах и культуре предпринимательства, которая поощряет эксперименты.

В Китае эволюцию ИИ можно описать как стремительную, обусловленную мощным сочетанием неограниченной государственной поддержки, огромных объёмов данных и быстрого внедрения всех видов технологий огромным населением, что обеспечивает массовую обратную связь, способствующую постоянному прогрессу в этой области.

Соперничество между США и Китаем в области ИИ проявляется в нескольких измерениях:

Научный потенциал и лидерство: обе страны конкурируют за привлечение и удержание лучших исследователей и учёных в области искусственного интеллекта. В то время как Соединённые Штаты остаются центром притяжения для международных талантов, Китай выпускает всё больше высококвалифицированных специалистов в области искусственного интеллекта.

Вычислительные мощности и аппаратное обеспечение: Зависимость от передовых полупроводников, жизненно важных для обучения и внедрения моделей искусственного интеллекта, превратила эту цепочку поставок в поле геополитической битвы. Экспортные ограничения, введённые США в отношении Китая, направлены на замедление технологического прогресса Пекина в этой области. В связи с этим Тайвань становится ещё более важным игроком на геополитической арене.

Стандарты и управление: Влияние на установление глобальных стандартов для ИИ имеет решающее значение. В то время как США выступают за более открытый, рыночный подход, Китай стремится к усилению государственного контроля и экспорту своих моделей наблюдения.

Военные применения: интеграция ИИ во все типы автономных и беспилотных систем, кибербезопасность и поддержка принятия военных решений являются центральными вопросами. Гонка за разработку ИИ для оборонных и разведывательных приложений изменит глобальный военный баланс сил и окажет такое же, если не большее, влияние, как и разработка новых систем вооружения.

Контроль данных: Возможность доступа к большим наборам данных и их обработки является ключевым конкурентным преимуществом. Законодательство о конфиденциальности и использовании данных, которое существенно различается в обеих странах, отражает различные подходы, напрямую влияющие на развитие ИИ.

https://www.atalayar.com/en/articulo/politics/artificial-intelligence-the-new-frontier-in-geopolitical-competition/20250801100000217131.html
👍41
«Что мы наделали?»: сила GPT-5 вызывает беспокойство у Сэма Альтмана

Генеральный директор OpenAI Сэм Альтман выразил обеспокоенность возможностями новой модели искусственного интеллекта GPT-5. В недавнем подкасте This Past Weekend с Тео Воном он признался, что тестирование новой модели заставило его нервничать. «Она кажется очень быстрой», — сказал он.

В другом недавнем разговоре Альтман рассказал, что однажды GPT-5 ответил на сложный вопрос, который он не смог решить сам. «Я чувствовал себя бесполезным по сравнению с ИИ», — признался он. «Это было действительно сложно, но ИИ просто сделал это».

Хотя точные характеристики GPT-5 остаются в тайне, отчёты свидетельствуют о значительных улучшениях по сравнению с его предшественником GPT-4. К ним относятся улучшенные многошаговые рассуждения, увеличенный объём памяти и улучшенные мультимодальные возможности.
👍3
Европейский союз еще ужесточяет регулирование ИИ.

В эту субботу Европейский союз запустил вторую фазу своего Закона об искусственном интеллекте, на этот раз нацеленную на универсальные модели искусственного интеллекта, такие как ChatGPT , Claude или Gemini.

Разработчики этих ИИ обязаны обеспечивать соблюдение авторских прав, сертифицировать происхождение создаваемого контента и пресекать масштабное извлечение персональных данных. Также необходимо активно фильтровать высказывания, разжигающие ненависть и дискриминацию.

https://www.cointribune.com/en/europe-tightens-the-noose-on-ai-tech-giants-in-the-crosshairs/
👏3
Запреты США спровоцировали подпольный бизнес на ремонте ускорителей Nvidia в Шэньчжэне

В тёмных закоулках электронных кварталов Шэньчжэня бурно развивается подпольная индустрия, вызванная жесткими запретами США на экспорт передовых ИИ-чипов Nvidia. Эти ограничения, введённые с 2022 года для ограничения потенциального военного применения в Китае, привели к разрыву официальной поддержки и цепочек поставок. В результате тысячи неисправных высокопроизводительных графических процессоров, таких как H100 и A100, попадают в малоизвестные ремонтные мастерские, где специалисты, вооружённые паяльниками и диагностическим оборудованием, вдыхают новую жизнь в запрещённое оборудование.

Этот бум подпольного ремонта — не просто временная мера, а спасательный круг для амбиций Китая в области искусственного интеллекта. Поскольку Nvidia юридически запрещено обслуживать чипы с ограниченным доступом в стране, центры обработки данных и технологические компании обращаются к этим «серым» операциям. Согласно недавнему анализу NotebookCheck.net , некоторые мастерские выполняют до 200 ремонтов в месяц, взимая до 2800 долларов за карту. Этот всплеск свидетельствует не только об отчаянии, но и о изобретательности: инженеры занимаются реверс-инжинирингом, чтобы решить такие проблемы, как перегрев и сбои памяти, которые мешают перегруженным кластерам искусственного интеллекта.

https://www.webpronews.com/us-bans-spark-shenzhens-underground-nvidia-ai-chip-repairs/
Tesla скрыла вину автопилотасоврала полиции, удалила улики и годами мешала расследованию смертельной аварии.

Долгое судебное дело наконец закончилось. Рассказываем, как это было:

— В 2019 году Model S на автопилоте вылетела на красный сигнал на скорости 110 км/ч и врезалась в припаркованную машину. Один пассажир погиб, второй получил тяжёлые травмы.
— Водитель пытался поднять упавший телефон, отвлёкся, руки были не на руле — но автопилот продолжил движение.
— Через 3 минуты после ДТП авто отправило на сервер Tesla файл с видео, телеметрией и логами CAN-шины. Локальную копию компания удалила дистанционно.
— Tesla уверяла полицию, что файл «не существует», а позже заявила, что он якобы «удалился сам» — из-за несуществующей функции автоудаления.
— Компания годами мешала расследованию и не допускала независимых экспертов к данным.
— Лишь в 2024 году инженерам разрешили сделать полную копию NAND-памяти бортового компьютера.
— Оказалось, что автопилот был включён, система знала, что едет по дороге, где его использовать нельзя, а водитель не держал руки на руле.
— Tesla всё это время хранила оригинальный файл у себя на серверах — несмотря на заявления об обратном.
— Жюри признало Tesla частично виновной: 33% ответственности за то, что не внедрили геозонирование и не следили за вниманием водителя.
— Теперь Tesla придётся заплатить штраф в 243 миллиона долларов.
— Остальные 67% — на водителе, который нарушил правила и отвлёкся от дороги.

https://electrek.co/2025/08/04/tesla-withheld-data-lied-misdirected-police-plaintiffs-avoid-blame-autopilot-crash/
👏1
Наступила эра пропаганды ИИ

У Китая появился новый мощный инструмент влияния: пропаганда на основе ИИ. Утекшие документы показывают, что GoLaxy стала лидером в области технологических государственных кампаний влияния. И КПК не планирует на этом останавливаться.

https://www.nytimes.com/2025/08/05/opinion/china-ai-propaganda.html
Министерство общественной безопасности Китая предупреждает о загрязнении киберданных из-за небезопасных и сомнительных тренингов по ИИ

Министерство общественной безопасности Китая (MPS) во вторник опубликовало рекомендации по безопасности, предупреждая, что данные для обучения искусственного интеллекта (ИИ) сильно различаются по качеству и часто содержат ложную информацию, сфабрикованный контент и предвзятые взгляды.

В рекомендациях отмечается, что если всего 0,01 процента данных для обучения содержит ложный текст, вредоносные выходные данные модели ИИ могут увеличить их на 11,2 процента.

https://www.globaltimes.cn/page/202508/1340105.shtml
🤔1
Huawei откроет исходный код инструментария для ИИ-чипов, чтобы составить конкуренцию фирменной платформе Nvidia

Huawei Technologies откроет исходный код своей вычислительной архитектуры для нейронных сетей (CANN) — программного инструментария, используемого для разработки приложений на процессорах искусственного интеллекта Ascend , — поскольку базирующаяся в Шэньчжэне компания наращивает усилия, чтобы конкурировать с Nvidia , спустя несколько дней после того, как Пекин выразил обеспокоенность по поводу безопасности своего чипа H20 .

https://www.scmp.com/tech/tech-war/article/3320852/tech-war-huawei-open-source-ai-chip-toolkit-take-nvidias-proprietary-platform?module=latest&pgtype=homepage
OpenAI заявила сегодня, что она бесплатно поделится двумя своими моделями искусственного интеллекта, используемыми для работы онлайн-чат-ботов, и это решение вызовет как аплодисменты, так и недоумение у экспертов в области искусственного интеллекта.

Это самые умные модели, которые вы можете запустить у себя дома — маленькая gpt-oss-20b летает на домашнем ПК. А ещё это первый релиз в опенсорс от OpenAI за 6 лет — последний раз они выпускали мамонта GPT-2.

https://www.nytimes.com/2025/08/05/technology/openai-artificial-intelligence-chatgpt.html
Компания Google представила свой очередной шаг на пути к созданию общего искусственного интеллекта (AGI) с новой моделью, которая позволяет системам ИИ взаимодействовать с убедительной симуляцией реального мира.

По данным Google, «модель мира» Genie 3 может быть использована для обучения роботов и автономных транспортных средств при их взаимодействии с реалистично воссозданными средами, такими как склады.

Подразделение искусственного интеллекта американской технологической компании Google DeepMind утверждает, что модели мира являются ключевым шагом на пути к достижению AGI, гипотетического уровня ИИ, на котором система может выполнять большинство задач наравне с людьми, а не только отдельные задачи, такие как игра в

https://www.theguardian.com/technology/2025/aug/05/google-step-artificial-general-intelligence-deepmind-agi
Дефицит доверия к ИИ: как компании оборонных технологий не могут объяснить свою миссию

Недавний анализ Defense One показывает, что доверие американцев к ИИ снижается, несмотря на ускорение темпов его внедрения.

https://www.unite.ai/the-ai-trust-gap-how-defense-tech-companies-are-failing-to-explain-their-mission/
В Калифорнии задержаны два китайца, подозреваемых в организации нелегальных поставок ускорителей Nvidia в Китай

Поиски лиц, причастных к контрабанде попадающих под экспортные ограничения США ускорителей вычислений в Китай, ведутся не только за пределами первой из стран, но и на её территории. В Калифорнии власти задержали двоих лиц китайской национальности, подозреваемых в организации поставок запрещённых ускорителей Nvidia на десятки миллионов долларов США.

https://3dnews.ru/1127162/v-kalifornii-zadergani-dva-kitaytsa-podozrevaemih-v-organizatsii-nelegalnih-postavok-uskoriteley-nvidia-v-kitay/amp
Великое вымирание: как ИИ разрушает интернет

Представьте, что в африканскую саванну внезапно забросили стаю сверххищников. Не обычных львов — а существ, которые бегают быстрее гепарда, видят лучше орла, никогда не спят и не знают жалости.

Что произойдёт с экосистемой?

Первыми исчезнут травоядные, которые медленно добывают пищу. Выживут только те, кто умеет очень быстро бегать или прятаться в норах. Хищники среднего звена вымрут — им нечего будет есть. Вся пищевая цепочка перестроится вокруг нового доминирующего вида.

То же самое глобально происходит с интернетом прямо сейчас. ИИ-ассистенты — это те самые сверххищники, ворвавшиеся в цифровую саванну. И они кардинально и вполне успешно перестраивают всю экосистему под себя. Только вместо антилоп и зебр вымирают информационные сайты. Вместо гиен и шакалов исчезают агрегаторы контента. А на месте некогда богатой экосистемы знаний остаётся цифровая пустыня развлечений.

Источник катастрофы: битва за последний ресурс
В любой экосистеме есть ограниченный ресурс, за который идёт главная борьба. В саванне это вода и пища. В интернете это время пользователя, человеческое внимание.

До прихода ИИ экосистема работала так:

Человек искал информацию → Поисковик предлагал варианты → Сайты конкурировали за клики → Человек выбирал источник → читал, сравнивал, делал выводы.

Это была сложная, многоуровневая пищевая цепочка. Каждое звено получало свою долю внимания. Теперь цепочка сократилась до двух звеньев:

Человек задаёт вопрос — ИИ даёт готовый ответ. Всё. Остальные звенья оказались не нужны.

https://habr.com/ru/companies/timeweb/articles/924666/
👍2
Британский депутат Марк Сьюардс создал своего ИИ-клона (AI Mark), чтобы отвечать на запросы от избирателей.

«Я изо всех сил старался сидеть за своим столом и отвечать на все запросы, которые приходят на мой ноутбук, но одному человеку это сделать невозможно», — рассказал 34-летний Сьюардс в интервью BBC.

https://www.washingtonpost.com/world/2025/08/06/ai-chatbot-mp-britain-labour/
😁4
Иллинойс запрещает использование ИИ в психиатрии

Губернатор Иллинойса Дж. Б. Прицкер одобрил новый закон, запрещающий использование систем искусственного интеллекта при предоставлении психотерапевтических услуг.

https://statescoop.com/illinois-bans-ai-mental-health-services/