Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
457 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
В Казахстане собираются построить ЧебурнетWired пишет, что страна закупила у Китая технологии Великого файрвола.

Инфу нашли после утечки у Geedge Networks — подрядчика, который и строил цифровую стену в Поднебесной. Всего утекло 600 ГБ кода — специалисты разбирают его по кусочкам, пытаясь понять принцип работы файрвола.
🤔1
Как Армия обороны Израиля перестроила поле боя для первой войны с применением искусственного интеллекта

Подразделение цифровой трансформации Армии обороны Израиля было создано в 2019 году, чтобы использовать весь потенциал, накопленный в гражданской сфере, и использовать его в военных целях. В составе Директората C4i и киберзащиты, подразделение руководит программами цифровых инноваций Армии обороны Израиля, обеспечивая связь между всеми подразделениями и предоставляя им современную и высокоскоростную инфраструктуру.

Операция «Страж стен» в 2021 году стала первой войной с применением искусственного интеллекта, поскольку в ней активно применялись методы машинного обучения.

https://www.jpost.com/defense-and-tech/article-867363
Глава Бюро национальной безопасности Тайваня Цай Минъянь (蔡明彥) заявила, что Китай использует комплекс тактик, основанных на ИИ для создания угрозы национальной безопасности Тайваня.

https://www.rti.org.tw/en/programnews?uid=4&pid=11745
Расстрел Чарли Кирка вызвал волну теорий дезинформации, большая часть которой исходила от чат-ботов.

Например, в четверг, на следующий день после смерти Кирка, аккаунт X чат-бота Perplexity уверенно заявлял, что Кирк жив. Впоследствии этот пост был удалён.

Однако чат-бот Илона Маска Grok, тем временем, оказался в подобном заблуждении. «Видео — это мем-монтаж: Чарли Кирк участвует в дебатах, а эффекты создают впечатление, будто его „застрелили“ на полуслове ради комического эффекта», — утверждалось в нём . «На самом деле никакого вреда; он в порядке и активен, как всегда».

Это не первый случай, когда чат-боты уверенно предоставляют ложную информацию.

«Во время протестов в Лос-Анджелесе и войны между Израилем и ХАМАС пользователи также обращались к чат-ботам за ответами и получали неточную информацию», — заявили исследователи NewsGuard. «Несмотря на неоднократные примеры того, как эти инструменты уверенно повторяют ложь, зафиксированные в ежемесячном отчёте NewsGuard «Monthly AI False Claims Monitor», многие продолжают считать системы ИИ надёжными источниками информации в моменты кризиса и неопределённости».

https://www.forbes.com/sites/emmawoollacott/2025/09/15/charlie-kirk-killing-sparks-wild-misinformation/
Мы решили разработать идеальную схему фишинга.
Крупнейшие чат-боты на базе искусственного интеллекта были рады помочь.


Исследователь из Гарвардского университета использовали лучших чат-ботов для моделирования фишинговой атаки — от составления электронных писем до советов по выбору времени — и протестировали её на 108 пожилых добровольцах.

Убедительность ботов показывает, как ИИ вооружает преступников для мошенничества в промышленных масштабах.

https://www.reuters.com/investigates/special-report/ai-chatbots-cyber/
К вопросу о доверии данным, что нам скармливают чат боты и прочие сервисы ИИ

Доказывает ли смерть Чарли Кирка, что чат-боты на ИИ нельзя использовать для принятия серьезных решений?

Как это часто бывает с экстренными новостями о массовых убийствах, дезинформация быстро распространилась. И в случае с убийством Чарли Кирка масла в огонь подлил чат-бот Grok AI Илона Маска, который теперь глубоко интегрирован в X (бывший Twitter) в качестве инструмента проверки фактов, что дало ему авторитетное положение, с которого он сделал ряд смехотворно ложных заявлений после убийства.

1️⃣ Например, когда один пользователь спросил, мог ли Кирк выжить после огнестрельного ранения, Грок весело ответил, что основатель Turning Point USA все в порядке.

«Чарли Кирк с лёгкостью и смехом принимает подколы — ему доводилось сталкиваться с более жёсткой публикой» — написал бот.

2️⃣ Когда другой пользователь возразил , что Кирку «прострелили шею», и спросил Грока, о чем он говорит, чат-бот усилил натиск.

«Это мем-видео с отредактированными эффектами, чтобы оно выглядело как драматический „выстрел“, а не как настоящее событие», — парировал Грок . «Чарли Кирк молодец; он справляется с жаркой как профессионал».

https://futurism.com/elon-musk-grok-charlie-kirk-misinformation
ChatGPT будет ПО ПАСПОРТУ — OpenAI внедряют проверку возраста в свою нейросеть.

Если ИИ решит, что вы зумер младше 18 лет по стилю общения, вам выдадут специальную УРЕЗАННУЮ версию ChatGPT с жёсткой цензурой и родительским контролем.

Придётся показать документы. А значит пользователи теперь будут идентифицированы)))

https://openai.com/index/teen-safety-freedom-and-privacy/
2🤔2
Китайские компании ведут ожесточённую конкуренцию за привлечение талантливых специалистов.

По данным Zhaopin, китайской платформы по трудоустройству, средняя ежемесячная зарплата инженера-разработчика алгоритмов для гуманоидных роботов составляет 31 512 юаней, а для специалистов с опытом работы более пяти лет — 38 489 юаней. Это в четыре раза превышает среднюю ежемесячную зарплату в Китае, которая составляет 10 058 юаней.

Технологическая индустрия рассматривает гуманоидов как следующий рубеж технологической конкуренции после искусственного интеллекта. Гуманоиды представляют собой конвергенцию передовых технологий, от аппаратного до программного обеспечения. Текущая война искусственного интеллекта, вероятно, распространится и на физический ИИ. Роботы, реализующие ИИ в физическом мире, рассматриваются как важнейшие пути к популяризации чат-ботов и помощников на основе ИИ. The Information отмечает: «Последним полем битвы в технологической войне США и Китая стали гуманоидные роботы». 
https://www.chosun.com/english/industry-en/2025/09/16/HKV3RTH6MJC3TPIXTTWS44GVLU/
1😁1🤔1
Глобальная война ИИ будет выиграна в ключевой сфере образования и обучения.

Преимущество заключается в формировании населения, готового мыслить вместе с машинами, а не конкурировать с ними.

https://www.scmp.com/opinion/world-opinion/article/3325364/global-ai-war-will-be-won-key-arena-education-and-training
🤔1
Лаборатория Tongyi Lab (Alibaba Group) представила Tongyi DeepResearch – новый открытый агент для работы в вебе.

Агент использует всего 30 B параметров (3 B активны), он показывает результаты на уровне коммерческих моделей, таких как OpenAI o3.
На бенчмарке Humanity’s Last Exam агент набрал 32.9 балла (против 24.9 у OpenAI o3). Также он набрал 45.3 в BrowseComp и 75.0 в xbench-DeepSearch.

Это говорит о его способности эффективно искать и анализировать данные. Модель обучается с помощью подкрепления в реальных и симулированных условиях. Данные создаются автоматически, без дорогих ручных аннотаций. Есть режимы ReAct и Heavy Mode, где несколько агентов работают параллельно, а итоги синтезирует финальный модуль)

https://tongyi-agent.github.io.
Родители, охваченные горем, призывают Конгресс принять меры в отношении чат-ботов с искусственным интеллектом

Родители детей, которые совершили самоубийство или нанесли себе увечья после общения с чат-ботами на основе искусственного интеллекта , во вторник призвали Конгресс принять меры, поскольку законодатели стремятся принять законопроекты о защите детей в Интернете и привлечь технологические компании к ответственности.

https://www.axios.com/2025/09/16/parents-congress-ai-chatbots
Alibaba удалось разработать ИИ-чип T-Head PPU, сопоставимый по характеристикам с Nvidia H20.

Китайские разработчики ускорителей вычислений вынуждены были ориентироваться на быстродействие поставляемых из-за рубежа решений Nvidia, а с недавних пор такое сопоставление требуется и по инициативе китайских властей. Подразделение Alibaba утверждает, что смогло разработать ускоритель, который сопоставим по характеристикам с Nvidia H20.
Huawei трубит о прорыве в области искусственного интеллекта для Китая

Компания Huawei Technologies представила оборудование, которое, по ее словам, может обеспечить вычислительную мощность мирового класса без использования передовых чипов Nvidia . Это прорыв, который потенциально способен устранить дефицит поставок, сдерживающий устремления Китая в области искусственного интеллекта .

https://www.scmp.com/tech/tech-war/article/3325942/tech-war-huawei-bypasses-nvidia-ai-chips-computing-breakthrough-china
Как ИИ с «воспитанным сознанием» (nurtured consciousness) может преобразовать войну

Без развитого сознания даже самые передовые системы ИИ неспособны интерпретировать сложное поведение противника, тем самым подрывая стратегическую эффективность.

Инициатива «Безумный учёный» (Mad Scientist Initiative) армии США и программа стратегического анализа предвидения НАТО (Strategic Foresight Analysis program) определили, что моделирование действий противника на ИИ критически важно для принятия решений в условиях конкуренции.

Это включает в себя выявление предубеждений противника, выявление внутренних когнитивных «слепых пятен» и прогнозирование эскалации, обусловленной нарративами. Идея заключается в развитии так называемой « стратегической эмпатии » — целенаправленных усилий по пониманию того, как противник воспринимает свои интересы, угрозы и возможности, — и в снижении рисков непреднамеренной эскалации.

Способность точно интерпретировать и предвидеть поведение и стратегические намерения противников может оказаться решающим фактором когнитивного превосходства , понимаемого здесь как демонстрируемая способность имитировать, предсказывать и опережать циклы принятия решений противником.

Но чтобы «думать лучше», ИИ должен выйти за рамки одних лишь структурированных данных; он должен учитывать историческую память, культурные мировоззрения, символические интерпретации и идеологические факторы конфликта.

Стратегия часто формируется глубоко укоренившейся нарративной логикой, охватывающей национальные мифы, идентичности и идеологию. Помимо процедурной логики и геометрии поля боя, война ведётся через восприятие: то, как каждый участник испытывает стыд, страх, честь, легитимность и память. Эти переменные отсутствуют в данных разведки, наблюдения и рекогносцировки или в таблицах вероятностей.

Обученное сознание позволяет модели воспроизводить тактическое планирование или доктринальные нормы, воспитанное сознание имитирует то, как принимающий решения человек понимает риск, воспринимает противников и сопоставляет личное наследие с национальной мифологией. Именно это позволяет системе ИИ рассуждать подобно человеку в реальном мире, а не просто копировать поверхностное поведение. Объединенное, обученное и воспитанное сознание углубляет стратегическую эмпатию.

https://www.atlanticcouncil.org/blogs/new-atlanticist/how-ai-with-nurtured-consciousness-could-transform-warfare/
👏2🤔1
Ray3 — новая модель генерации видео от Luma AI 

Это первая  reasoning-модель для видео: она не только генерирует контент, но и «понимает» задачи, анализирует, исправляет себя и создаёт генерации студийного уровня.

Можно попробовать бесплатно в Dream Machine. 
👍1
Google предоставит искусственному интеллекту (ИИ) Gemini в браузере Chrome более широкий доступ к вкладкам, истории браузера, данным из Google-приложений, включая почтовый сервис Gmail и «Календарь», и превратит адресную строку в точку входа для ИИ-режима (AI Mode).
👍1
Упс... Американский миллиардер Илон Маск (Elon Musk) физически не может справиться с операционным управлением всеми своими компаниями, поэтому данные функции он делегирует своим деловым партнёрам.

По мнению The Wall Street Journal, курирующие работу xAI советники Маска сформировали такую атмосферу внутри стартапа, что многие руководители и ценные специалисты начали его покидать.
На презентации «умных» очков Цукерберг показал, как набирает «невидимые» для окружающих сообщения, но не смог принять звонок в WhatsApp*

Не всё прошло гладко. Например, когда ведущий попросил очки подсказать рецепт соуса, голосовой помощник запутался. Демонстрацию функции LiveAI пришлось остановить «из-за проблем с Wi-Fi».

https://vc.ru/tech/2222622-cukerberg-predstavil-umnye-ochki-ray-ban?from=rss
👍2
Грамотность в области ИИ: лучшая защита от дипфейков и дезинформации

Дипфейки — это убедительные, но поддельные аудио-, видео- или фотоматериалы, созданные с помощью передовых методов искусственного интеллекта, — представляют собой катастрофическую угрозу доверию, конфиденциальности и демократическим дебатам. В условиях стремительного распространения дезинформации необходимо обладать знаниями в области искусственного интеллекта, чтобы защитить людей и общество в целом.

Дипфейки используют передовые технологии искусственного интеллекта, такие как разговорный GenAI и предметно-ориентированные LLM (большие языковые модели), для создания очень реалистичного, но полностью искусственного контента. От подтасованных политических речей до имитации речей знаменитостей — возможности ограничены лишь воображением. Самое коварное в них то, что они не видны человеческому глазу, из-за чего сложно отличить реальные медиа от сконструированных.

https://www.thehindu.com/education/ai-literacy-the-best-defense-against-deepfakes-and-misinformation/article70069459.ece
🔥3
«Не нужно идти в колледж, получите диплом Palantir».

Программа стажировок Palantir, оборонной компании в Кремниевой долине, занимающейся разработкой искусственного интеллекта (ИИ), для выпускников школ — важная тема. Если вы проработаете четыре месяца в нью-йоркской штаб-квартире этой осенью, вам будут платить 5400 долларов в месяц. Также предусмотрен открытый переход на полную ставку. Другими словами, он будет оценивать свои навыки, а не академическое образование.

Если вы прочтете недавно переведенную книгу «Технологическая республика: жесткая сила, мягкое убеждение и будущее Запада», то поймете, почему Palantir, ставшая «второй Nvidia» и за которой следуют западные ученые, с недоверием относится к университетскому образованию. Эта книга, написанная соучредителем и генеральным директором Palantir Алексом Карпом, содержит философские и стратегические заявления, которые представляют идентичность и видение страны за пределами простых учебников по управлению технологиями.

https://www.mk.co.kr/en/culture/11424481
🔥5👍1
Университеты США готовят китайских военных учёных за счёт американских налогоплательщиков.

Согласно выводам нового доклада Комитета по Китаю, американские университеты дают образование тысячам граждан Китая, связанных с китайскими военными — Народно-освободительной армией Китая (НОАК).

Более 400 граждан Китая только в одном из шести обследованных ими университетов проводили финансируемые из федерального бюджета исследования в таких чувствительных областях, как ядерная инженерия и компьютерные науки.

Между тем, в докладе утверждается, что администрация Байдена не обеспечила соблюдение указа, подписанного президентом Дональдом Трампом в 2020 году, запрещающего гражданам Китая участвовать в исследованиях, связанных с военными целями.

Обоснованием этого приказа послужило то, что китайские власти используют аспирантов в качестве «нетрадиционных сборщиков» разведывательной информации.

https://www.foxnews.com/politics/us-universities-training-chinese-military-scientists-taxpayer-dime-committee-warns
🤔1