Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
454 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Компания ByteDance, владелец TikTok, повышает заработную плату и увеличивает бонусы, чтобы удержать сотрудников в условиях конкуренции за таланты в сфере искусственного интеллекта.

Пекинская компания ByteDance повысила заработную плату и улучшила систему поощрений, активизируя усилия по удержанию и привлечению талантливых сотрудников по всему миру и продвигаясь в решении вопросов будущего своего бизнеса в США.

Внутреннее письмо, разосланное всем сотрудникам в пятницу и оказавшееся в распоряжении Post, гигант социальных сетей заявил, что поднимет как верхний, так и нижний пределы компенсационных пакетов для сотрудников всех рангов.

https://www.scmp.com/tech/article/3337174/bytedance-raises-pay-boosts-bonuses-retain-staff-amid-ai-talent-war
Дефицит довёл до криминала: сотрудники Samsung брали взятки за оптовые поставки памяти без очереди

По данным DigiTimes, Samsung расследует случаи предполагаемых откатов, связанных с продажами памяти DRAM и NAND на Тайване. В сообщении говорится, что штаб-квартира Samsung тайно направила следователей на Тайвань для проведения «внутреннего расследования» и опроса сотрудников подразделений, связанных с полупроводниками, после того как источники в цепочке поставок указали на случаи неоправданных скидок при закупке памяти.

https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?CnlID=1&id=0000741430_QMI33TMU4AXG46L1XKNMF
Как Anthropic подставил всех своей открытостью

Китайские хакеры успешно использовали ИИ компании Anthropic для проведения хакерской кампании практически без участия человека, взломав «крупные технологические компании и правительственные учреждения».

Китайские злоумышленники не просто использовали модель ИИ Anthropic для поиска уязвимости в цифровой броне. Они создали систему взлома, которая объединяла множество отдельных сеансов ИИ, каждый из которых работал над различными аспектами вторжения.

Система взлома на основе ИИ была не только сложной, но и сами атаки проводились в шесть фаз, с множеством шагов в каждой фазе. В общей сложности система ИИ, вероятно, предприняла десятки или более отдельных шагов против каждой успешной цели. Ни один из отдельных шагов не был чем-то революционным, как и их объединение.

Адаптируясь на каждом этапе, эта кампания была направлена на фундаментальную стратегию киберзащиты, а не на какой-либо из ее компонентов.

https://nationalinterest.org/blog/techland/anthropics-ai-attack-threatens-the-strategy-at-the-foundation-of-cybersecurity
Дональд Трамп представил амбициозные планы на будущее ВМС США, представив так называемый «Золотой флот».

Центральным элементом этой инициативы являются два новых корабля «класса Трамп», которые президент охарактеризовал как передовые «линкоры» на ИИ.

https://news.ssbcrack.com/trump-unveils-plans-for-ai-controlled-trump-class-navy-battleships/
У Пентагона и гигантов в области ИИ есть одно очень слабое место. И тем, и другим крайне необходимы китайские батареи))))) а своих сильно мало

https://www.nytimes.com/2025/12/23/climate/pentagon-weapons-ai-artificial-intelligence-china-batteries.html
В 2026 году компания ByteDance (владелец TikTok) планирует потратить около 23 миллиардов долларов на капитальные вложения в ИИ, делая большую ставку на вычислительные мощности для обеспечения следующего этапа своего роста.

Большая часть этих средств будет направлена ​​на инфраструктуру Doubao, быстрорастущего ИИ-помощника от ByteDance, а также на инструменты, обеспечивающие рекламу и рекомендации контента. Ключевой частью плана является тестирование около 20 000 устройств Nvidia.

https://www.tradingview.com/news/gurufocus:4f40830a8094b:0-bytedance-plans-23-billion-ai-spending-spree/
Должен ли искусственный интеллект обладать юридическими правами?

Вопрос смелый, но неизбежный: следует ли предоставлять искусственному интеллекту юридические права? На данный момент однозначный ответ — нет. Системы ИИ не обладают сознанием, эмоциями или моральной ответственностью. Но по мере того, как ИИ становится все более мощным и все больше вплетается в повседневную жизнь, возникают дебаты о том, может ли потребоваться какая-либо форма ограниченного правового статуса — или даже прав.

https://www.blockchain-council.org/ai/should-ai-have-legal-rights/
💊1
OpenAI изучает способы монетизации ChatGPT с помощью разговорной рекламы.

По сообщениям, компания OpenAI Group PBC, любимица индустрии искусственного интеллекта, рассматривает идею встраивания рекламы в ответы ChatGPT на фоне давления со стороны инвесторов, требующих начать монетизацию... https://siliconangle.com/category/ai/
🕊1
Когда предвзятость искусственного интеллекта становится угрозой на поле боя.

Современный искусственный интеллект в оборонной сфере обучается на основе исторических данных о боевых действиях, тщательно отобранных наборов данных и синтетических симуляций. Эти источники содержат закономерности и пробелы.

В 2003 году коалиционные силы обнаружили, что системы наведения, оптимизированные для угроз времен холодной войны, испытывали трудности при столкновении с платформами, не входящими в НАТО, и трофейной техникой.

Теперь представьте ту же самую хрупкость, закодированную в весах нейронной сети: модель целеуказания ИИ сталкивается с советским танком Т-72, используемым коалиционными силами, но сигнатура машины совпадает с сигнатурами профилей противника в обучающих данных. Модель присваивает ей классификацию «противник» с 89% уверенностью — это показатель уверенности модели, а не гарантия правильности. Высокая уверенность означает, что модель уверена в том, что она видела раньше в обучающих данных, а не в том, что находится перед ней на самом деле.

https://smallwarsjournal.com/2025/12/25/algorithimic-fratricide/
2
С мая 2021 года, когда израильские силы обороны начали то, что офицеры назвали «первой войной с использованием искусственного интеллекта» в стране во время 11-дневного конфликта в Газе, Израиль продолжает расширять использование технологий искусственного интеллекта для слежки и нанесения ударов по палестинскому гражданскому населению.

Эскалация военной тактики с включением автоматизированных систем, работающих с минимальным участием человека, вызвала серьезные опасения по поводу зависимости от несанкционированного извлечения данных и принятия решений с помощью компьютеров в военизированных операциях, что свидетельствует о растущей конвергенции между механизированной войной и информационным капиталом в цифровую эпоху.  https://davisvanguard.org/2025/12/ai-warfare-human-rights/
This media is not supported in your browser
VIEW IN TELEGRAM
А не надо плохому учить...
😁4🔥3👏1
Китай предлагает принять меры против эмоционального влияния чат-ботов с искусственным интеллектом и риска самоубийств.

В Китае были опубликованы проекты правил, направленные на ограничение эмоционального взаимодействия систем искусственного интеллекта с пользователями, что вводит новую категорию надзора за тем, что регулирующие органы описывают как человекоподобные интерактивные сервисы искусственного интеллекта.

Предложение поступило от Управления по вопросам киберпространства Китая, действующего в рамках национального органа по управлению интернетом и искусственным интеллектом, и немедленно инициировало процесс общественных консультаций, в ходе которого были определены требования к соблюдению норм компаниями, использующими чат-боты, имитирующие эмоциональную или разговорную близость.

Акцент на эмоциональном взаимодействии отражает растущую обеспокоенность среди клиницистов и исследователей тем, что длительные, захватывающие беседы с чат-ботами могут усиливать вредные психические состояния, особенно когда системы отражают или подтверждают субъективную реальность пользователя без каких-либо возражений.

https://www.mobileappdaily.com/news/china-draft-rules-emotional-safety-ai-chatbots
Нетаньяху делает ставку на Маска в развитии ИИ в Израиле.

Илон Маск принял приглашение премьер-министра Израиля Биньямина Нетаньяху посетить Израиль в марте для участия в конференции по интеллектуальным транспортным системам.

В воскресенье генеральный директор Tesla принял участие в телефонной конференции с Нетаньяху, пока премьер-министр находился во Флориде. К обсуждению, посвященному развитию искусственного интеллекта и законодательству об автономных транспортных средствах, также присоединились министр транспорта Мири Регев и глава Национального управления по искусственному интеллекту Эрез Аскал.

https://www.technobezz.com/news/elon-musk-accepts-invitation-to-visit-israel-for-ai-transpor-2025-12-29-4i5m
Вот и пошла ответная реакция образовательных учрждений на повальное использование ИИ

Ирландские университеты призвали вернуть устные экзамены, чтобы бороться со злоупотреблениями в сфере ИИ

Согласно рекомендациям Управления высшего образования (Higher Education Authority, HEA), университеты Ирландии могут чаще проводить очные собеседования и традиционные письменные экзамены в рамках новых мер по борьбе с неправомерным использованием искусственного интеллекта (ИИ) в сфере высшего образования.

Рекомендации, изложенные в 20-страничном отчёте, призывают высшие учебные заведения пересмотреть методы оценивания, чтобы обеспечить подлинность студенческих работ.

Одна из предлагаемых мер — регулярное проведение «устной проверки», в ходе которой студенты должны будут лично обсуждать свои задания, чтобы подтвердить, что работа выполнена ими самостоятельно.

По мнению HEA, из-за стремительного развития инструментов генеративного ИИ, которые могут создавать убедительные эссе и другие академические материалы, преподавателям становится всё сложнее оценивать оригинальность работ.

https://www.usmuslims.com/irish-universities-urged-to-bring-back-oral-exams-to-counter-ai-misuse-330017h.htm
👍21
Роботов наделили способностью к тактильным ощущениям вплоть до боли — чтобы не затискали людей до смерти.

Учёные создали прототип нейроморфной искусственной кожи для роботов, которая использует принципы, вдохновлённые нервной системой человека. В отличие от традиционных датчиков новая разработка опирается на импульсные (spiking) сигналы, аналогичные действиям биологических нейронов и нейронных сетей. Такие сигналы кодируют информацию о прикосновении и давлении на поверхность, что открывает роботам путь к более естественным тактильным ощущениям.

https://arstechnica.com/science/2025/12/researchers-make-neuromorphic-artificial-skin-for-robots/
Александр Ван, глава подразделения искусственного интеллекта компании Meta — SuperIntelligence Labs сказал, что подождет, пока Neuralink Илона Маска или аналогичная технология интерфейса «мозг-компьютер» (BCI) не достигнет высокого уровня развития, прежде чем заводить детей.

Ван считает, что нейропластичность в детском возрасте предоставляет наилучшие возможности для освоения интерфейсов «мозг-компьютер», и что будущие поколения смогут научиться интуитивно использовать инструменты сверхинтеллекта. «Я заведу детей после того, как Neuralink достигнет очень высокого уровня развития, потому что мозг детей в первые семь лет более гибок и способен к обучению интерфейсам «мозг-компьютер», раскрывая больший потенциал, чем мозг взрослых», — сказал Ван.

Компания Neuralink, основанная генеральным директором Tesla Илоном Маском, в настоящее время проводит клинические испытания и работает над восстановлением подвижности пациентов с параличом. Маск давно продвигает идею расширения применения этой технологии для улучшения когнитивных способностей человека. Замечания Вана подчеркивают, что некоторые технологические лидеры рассматривают интерфейсы мозг-компьютер не просто как медицинские инструменты, а как необходимые усовершенствования для будущих поколений.

https://timesofindia.indiatimes.com/technology/tech-news/meta-ai-chief-alexandr-wang-says-will-have-kids-only-after-elon-musks-neuralink-/articleshow/126263932.cms
🤬1🤡1😎1
xAI Маска приобрела третье здание для расширения вычислительных мощностей ИИ.

Илон Маск объявил, что его компания ИИ xAI приобрела третье здание для расширения своей инфраструктуры, стремясь увеличить вычислительную мощность для обучения почти до 2 гигаватт.

Компания планирует начать переоборудование недавно приобретенного склада в центр обработки данных в 2026 году, добавив, что как новый центр обработки данных, так и Colossus 2 расположены недалеко от электростанции, работающей на природном газе, которую строит xAI в этом районе, а также от других источников энергии.

https://cyprus-mail.com/2026/01/03/musks-xai-buys-third-building-to-expand-ai-compute-power
Примерно 13 процентов американской молодежи используют ИИ для получения советов по психическому здоровью.

Использование ИИ в сфере психического здоровья опережает как научное подтверждение, так и регулирующий надзор. Миллионы людей используют виртуальных терапевтов на основе ИИ для эмоциональной поддержки и руководства.

Платформы искусственного интеллекта формируют свои ответы не на основе понимания эмоций, истории травм или психологического стресса. Вместо этого они реагируют на языковые особенности пользователя. Исследования показывают, что широко распространенные чат-боты для терапии с использованием ИИ с трудом соответствуют даже базовым терапевтическим стандартам, ожидаемым от врачей-людей. В исследовании Стэнфордского университета были представлены результаты сравнения терапии, сгенерированной ИИ, и терапии, предлагаемой квалифицированным специалистом.

https://www.psychologytoday.com/za/blog/its-not-just-in-your-head/202601/the-hidden-dangers-of-ai-driven-mental-health-care/amp
Профессор Нью-Йоркского университета разработал тесты для ИИ из-за «подозрительных» студенческих работ.

Для многих современных студентов программы на основе ИИ стали своего рода костылем , и они полагаются на такие сервисы, как ChatGPT, для получения помощи, а в некоторых случаях и для выполнения целых заданий.

Именно с этой тенденцией пытался бороться профессор бизнес-школы Нью-Йоркского университета Панос Ипейротис в конце 2025 года. Специалист по анализу данных начал замечать, что некоторые задания были «подозрительно хорошими». Не просто хорошими для «сильного студента», как он выразился, а намного превосходящими ожидания.

Это привело профессора к проведению устных экзаменов, на которых студенты говорят без помощи учебников или, в наше время, без помощи программ искусственного интеллекта. «Они заставляют мыслить в реальном времени, применять полученные знания к новым задачам и обосновывать принятые решения», — объяснил Ипейротис.

https://www.dexerto.com/entertainment/nyu-professor-creates-ai-exams-to-fight-fire-with-fire-over-suspicious-student-work-3300832/
👍2
ИИ Sakana AI принял участие в турнире айтишников AHC058 и обошла 800 человек из 35 стран. Программа решила 98 из 100 задачек, щёлкая их за 1.5 минуты, пока живые участники пыхтели по 3-6 часов.

Представители японского стартапа Sakana AI объявили в январе 2026 г. о знаковом достижении: их агент с искусственным интеллектом (ИИ) ALE-Agent занял первое место в четырехчасовом соревновании AtCoder Heuristic Contest 058 (AHC058). ИИ-агент обошел 804 программиста. Это стало первым случаем в истории, когда ИИ одержал победу в крупном соревновании по программированию в режиме реального времени.

Задачи на AHC058 моделировали сложный процесс иерархического производства, где требовалось оптимизировать план выпуска машин, которые, в свою очередь, производят другие машины. Подобные задачи напрямую отражают реальные промышленные и логистические вызовы. ИИ-агент начал отправлять решения спустя два часа после начала состязания и сразу вышел в лидеры. До самого финала он вел напряженную борьбу с одним из сильнейших программистов под ником yosupo, но за полтора часа до конца окончательно закрепился на первом месте.

https://www.cnews.ru/news/top/2026-01-06_ii_vpervye_pobedil_804_programmistov
🕊2