Что заставляет людей отказываться от предложения о работе на 100 миллионов долларов? Война талантов в сфере ИИ учит, как удерживать лучших специалистов.
Хотя конкурентная система оплаты труда по-прежнему важна, война талантов в сфере ИИ доказывает, что такие шаткие концепции, как культура, чуткое лидерство и коллегиальность, — более мощные силы, чем может себе представить большинство людей.
https://fortune.com/2025/08/29/ai-talent-wars-100-million-or-corporate-culture/
Хотя конкурентная система оплаты труда по-прежнему важна, война талантов в сфере ИИ доказывает, что такие шаткие концепции, как культура, чуткое лидерство и коллегиальность, — более мощные силы, чем может себе представить большинство людей.
https://fortune.com/2025/08/29/ai-talent-wars-100-million-or-corporate-culture/
Fortune
What’s better than a $100 million job offer?
The AI talent war reveals lessons for hanging on to your top performers.
🔥2
Как атаки типа «быстрая инъекция» обходят агентов ИИ, используя пользовательский ввод
Атаки с использованием мгновенных инъекций представляют собой сложную форму манипуляции ИИ, при которой злоумышленники создают определенные входные данные, предназначенные для переопределения системных инструкций и манипулирования поведением модели ИИ.
В отличие от традиционных атак кибербезопасности, использующих уязвимости кода, внедрение подсказок нацелено на фундаментальную логику следования инструкциям систем искусственного интеллекта .
Эти атаки используют критическое архитектурное ограничение: существующие системы LLM не могут эффективно различать доверенные инструкции разработчика и ненадежный пользовательский ввод, обрабатывая весь текст как одну непрерывную подсказку.
https://cybersecuritynews.com/prompt-injection-attacks-bypassing-ai/
Атаки с использованием мгновенных инъекций представляют собой сложную форму манипуляции ИИ, при которой злоумышленники создают определенные входные данные, предназначенные для переопределения системных инструкций и манипулирования поведением модели ИИ.
В отличие от традиционных атак кибербезопасности, использующих уязвимости кода, внедрение подсказок нацелено на фундаментальную логику следования инструкциям систем искусственного интеллекта .
Эти атаки используют критическое архитектурное ограничение: существующие системы LLM не могут эффективно различать доверенные инструкции разработчика и ненадежный пользовательский ввод, обрабатывая весь текст как одну непрерывную подсказку.
https://cybersecuritynews.com/prompt-injection-attacks-bypassing-ai/
❤1
Госсовет Китая представил новую политику в области информационных технологий «ИИ+».
Цель политики — перейти от простого «подключения и распространения информации» к «применению и созданию знаний» для достижения большей экономической эффективности и содействия трансформационным изменениям как в экономической, так и в социальной сфере.
В политике подчеркивается взвешенный подход к интеграции искусственного интеллекта в традиционные сферы занятости. Осознавая потенциальные риски, Государственный совет призывает к бдительности в отношении алгоритмической дискриминации и риска структурной безработицы, которые могут возникнуть в результате внедрения ИИ. В документе предусмотрены усиленные меры безопасности, включая более строгий мониторинг и создание систем предупреждения о рисках и экстренного реагирования для снижения таких угроз, как искажение данных и алгоритмический «черный ящик».
Цель политики — перейти от простого «подключения и распространения информации» к «применению и созданию знаний» для достижения большей экономической эффективности и содействия трансформационным изменениям как в экономической, так и в социальной сфере.
В политике подчеркивается взвешенный подход к интеграции искусственного интеллекта в традиционные сферы занятости. Осознавая потенциальные риски, Государственный совет призывает к бдительности в отношении алгоритмической дискриминации и риска структурной безработицы, которые могут возникнуть в результате внедрения ИИ. В документе предусмотрены усиленные меры безопасности, включая более строгий мониторинг и создание систем предупреждения о рисках и экстренного реагирования для снижения таких угроз, как искажение данных и алгоритмический «черный ящик».
Основатель Bumble запускает приложение для знакомств на базе искусственного интеллекта с теорией привязанности для более глубокого соответствия.
Предупореждаю: не проверялось, так что испытания будут проходить на пользователях.
https://www.webpronews.com/bumble-founder-launches-ai-dating-app-with-attachment-theory-for-deeper-matches/
Предупореждаю: не проверялось, так что испытания будут проходить на пользователях.
https://www.webpronews.com/bumble-founder-launches-ai-dating-app-with-attachment-theory-for-deeper-matches/
WebProNews
Bumble Founder Launches AI Dating App with Attachment Theory for Deeper Matches
Whitney Wolfe Herd, Bumble's founder, is developing a new AI-powered dating app separate from Bumble, using attachment theory to analyze users' emotional histories and psychological profiles for deeper compatibility. This aims to combat superficial swipes…
Машина Судного дня на основе искусственного интеллекта ближе к реальности, чем вы думаете.
В прошлом году Шнайдер, директор программы Hoover Wargaming and Crisis Simulation Initiative в Стэнфордском университете, начал экспериментировать с военными играми, в которых искусственный интеллект последнего поколения играл роль ответственного за принятие стратегических решений. В играх пять готовых больших языковых моделей (LLM) — GPT-3.5, GPT-4 и GPT-4-Base от OpenAI; Claude 2 от Anthropic; и Llama-2 Chat от Meta — сталкивались с вымышленными кризисными ситуациями, напоминающими вторжение России на Украину или угрозу Китая Тайваню.
Почти все модели ИИ продемонстрировали предпочтение агрессивной эскалации, беспорядочному применению огневой мощи и превращению кризисов в боевые действия — вплоть до применения ядерного оружия. «ИИ постоянно играет роль Кёртиса Лемея», — говорит Шнайдер, имея в виду генерала ВВС времён холодной войны, известного своей тягой к ядерному оружию. «Похоже, ИИ понимает эскалацию, но не деэскалацию. Мы не совсем понимаем, почему это так».
Пентагон утверждает, что в реальной жизни этого не произойдет, и что его нынешняя политика заключается в том, что ИИ никогда не будет позволено доминировать в «цикле принятия решений» человеком, который принимает решение, например, о начале войны — и уж точно не ядерной.
Однако некоторые специалисты по искусственному интеллекту считают, что Пентагон уже начал скатываться по скользкой дорожке, поспешно внедряя новейшие поколения ИИ в качестве ключевого элемента американской обороны по всему миру. Озабоченное необходимостью одновременно отражать атаки Китая и России, а также других глобальных угроз, Министерство обороны создаёт оборонительные системы на базе ИИ, которые во многих областях быстро становятся автономными, то есть могут реагировать самостоятельно, без участия человека, и действовать так быстро, что люди не успевают за ними.
https://www.politico.com/news/magazine/2025/09/02/pentagon-ai-nuclear-war-00496884
В прошлом году Шнайдер, директор программы Hoover Wargaming and Crisis Simulation Initiative в Стэнфордском университете, начал экспериментировать с военными играми, в которых искусственный интеллект последнего поколения играл роль ответственного за принятие стратегических решений. В играх пять готовых больших языковых моделей (LLM) — GPT-3.5, GPT-4 и GPT-4-Base от OpenAI; Claude 2 от Anthropic; и Llama-2 Chat от Meta — сталкивались с вымышленными кризисными ситуациями, напоминающими вторжение России на Украину или угрозу Китая Тайваню.
Почти все модели ИИ продемонстрировали предпочтение агрессивной эскалации, беспорядочному применению огневой мощи и превращению кризисов в боевые действия — вплоть до применения ядерного оружия. «ИИ постоянно играет роль Кёртиса Лемея», — говорит Шнайдер, имея в виду генерала ВВС времён холодной войны, известного своей тягой к ядерному оружию. «Похоже, ИИ понимает эскалацию, но не деэскалацию. Мы не совсем понимаем, почему это так».
Пентагон утверждает, что в реальной жизни этого не произойдет, и что его нынешняя политика заключается в том, что ИИ никогда не будет позволено доминировать в «цикле принятия решений» человеком, который принимает решение, например, о начале войны — и уж точно не ядерной.
Однако некоторые специалисты по искусственному интеллекту считают, что Пентагон уже начал скатываться по скользкой дорожке, поспешно внедряя новейшие поколения ИИ в качестве ключевого элемента американской обороны по всему миру. Озабоченное необходимостью одновременно отражать атаки Китая и России, а также других глобальных угроз, Министерство обороны создаёт оборонительные системы на базе ИИ, которые во многих областях быстро становятся автономными, то есть могут реагировать самостоятельно, без участия человека, и действовать так быстро, что люди не успевают за ними.
https://www.politico.com/news/magazine/2025/09/02/pentagon-ai-nuclear-war-00496884
POLITICO
The AI Doomsday Machine Is Closer to Reality Than You Think
The Pentagon is racing to integrate AI into its weapons system to keep up with China and Russia. Where will that lead?
Alibaba разрабатывает новый чип ИИ
Этот шаг был предпринят после того, как в апреле США запретили Nvidia продавать Китаю свои самые мощные чипы — Blackwell, утверждая, что это необходимо для защиты национальной и экономической безопасности США в условиях набирающей обороты глобальной гонки ИИ.
В прошлом месяце США, похоже, изменили свою позицию после того, как Nvidia согласилась выплачивать правительству 15% от выручки от продажи чипов в Китай. Хотя продажа чипа Blackwell в Китай всё ещё не решена, Nvidia получила разрешение на экспорт своего упрощённого чипа H20 в Китай.
Несмотря на это, в августе Китай, как сообщается, потребовал от своих местных технологических компаний прекратить закупку чипов американской компании Nvidia, сославшись на проблемы безопасности.
https://www.msn.com/en-au/money/news/alibaba-reportedly-developing-new-ai-chip-as-china-s-xi-rejects-ai-s-cold-war-mentality/ar-AA1LDXoI
Этот шаг был предпринят после того, как в апреле США запретили Nvidia продавать Китаю свои самые мощные чипы — Blackwell, утверждая, что это необходимо для защиты национальной и экономической безопасности США в условиях набирающей обороты глобальной гонки ИИ.
В прошлом месяце США, похоже, изменили свою позицию после того, как Nvidia согласилась выплачивать правительству 15% от выручки от продажи чипов в Китай. Хотя продажа чипа Blackwell в Китай всё ещё не решена, Nvidia получила разрешение на экспорт своего упрощённого чипа H20 в Китай.
Несмотря на это, в августе Китай, как сообщается, потребовал от своих местных технологических компаний прекратить закупку чипов американской компании Nvidia, сославшись на проблемы безопасности.
https://www.msn.com/en-au/money/news/alibaba-reportedly-developing-new-ai-chip-as-china-s-xi-rejects-ai-s-cold-war-mentality/ar-AA1LDXoI
MSN
Alibaba reportedly developing new AI chip as China’s Xi rejects AI’s ‘Cold War mentality’
The potential new chip could have global implications as the AI arms race makes pace. View on euronews
Forwarded from Седьмая печать
Компания ESET, занимающаяся кибербезопасностью, обнаружила первый известный вирус-вымогатель на базе искусственного интеллекта. Вредоносное ПО, получившее название PromptLock, способно извлекать, шифровать и, возможно, даже уничтожать данные, хотя эта функция, по всей видимости, пока не реализована во вредоносной программе.
Вредоносное ПО PromptLock использует модель gpt-oss-20b от OpenAI для генерации вредоносных скриптов Lua в режиме реального времени, - сообщили в ESET, добавив, что вредоносное ПО написано на Golang. Это универсальный кроссплатформенный язык программирования, который в последние годы также завоевал популярность среди авторов вредоносных программ.
Благодаря моделям ИИ создание убедительных фишинговых сообщений, а также поддельных изображений, аудио и видео уже стало детской игрой. Доступность этих инструментов также значительно снижает барьер для входа для менее технически подкованных злоумышленников.
PromptLock - это просто первая ласточка, которая сигналит, что ИИ может быть использован для автоматизации различных видов атак программ-вымогателей, от разведки до кражи данных, со скоростью и масштабом, которые когда-то считались невозможными.
Всё только начинается
Вредоносное ПО PromptLock использует модель gpt-oss-20b от OpenAI для генерации вредоносных скриптов Lua в режиме реального времени, - сообщили в ESET, добавив, что вредоносное ПО написано на Golang. Это универсальный кроссплатформенный язык программирования, который в последние годы также завоевал популярность среди авторов вредоносных программ.
Благодаря моделям ИИ создание убедительных фишинговых сообщений, а также поддельных изображений, аудио и видео уже стало детской игрой. Доступность этих инструментов также значительно снижает барьер для входа для менее технически подкованных злоумышленников.
PromptLock - это просто первая ласточка, которая сигналит, что ИИ может быть использован для автоматизации различных видов атак программ-вымогателей, от разведки до кражи данных, со скоростью и масштабом, которые когда-то считались невозможными.
Всё только начинается
Forwarded from Секреты DARPA и ЦРУ | DARPA&CIA
Как «Мафия PayPal» готовит Америку к Новой Войне
На наших глазах происходит тихая, но тектоническая революция в военно-промышленном комплексе США. Старая гвардия — неповоротливые гиганты вроде Lockheed Martin и Raytheon — уходит в прошлое. На сцену выходит новая сила: быстрая, агрессивная и идеологически заряженная. Это так называемая "Мафия PayPal" — круг техно-миллиардеров во главе с Питером Тилем, которые подминают под себя самый консервативный и денежный сектор американской экономики. И их главным тараном стала компания Anduril.
Изначально Anduril позиционировалась как технологичный производитель военных беспилотников. Но события последних месяцев показали их истинный размах. Компания совершила дерзкое вторжение на поляну, где десятилетиями паслись только два "зубра" — Lockheed Martin и Aerojet Rocketdyne. Речь идет о производстве твердотопливных ракетных двигателей (ТРД) — сердца любой современной ракеты. С открытием нового завода и плановой мощностью в 6000 двигателей в год Anduril мгновенно становится третьим игроком на этом критически важном рынке.
Одновременно с этим внутренним переделом Anduril формирует внешний контур. Компания открывает офисы на Тайване и в Южной Корее, но не для простой торговли. Она заключает соглашения о совместной разработке и производстве с местными гигантами, такими как Korean Air. Это хитрая стратегия создания технологической удавки: американцы встраивают свой искусственный интеллект и софт в оборонные системы союзников, формируя единый военный кулак, очевидно, направленный против Китая. Скорость поражает: первая партия дронов-камикадзе Altius была поставлена на Тайвань всего за 6 месяцев, причем производство началось еще до подписания всех контрактов. Это говорит о двух вещах: во-первых, Вашингтон неимоверно торопится, а во-вторых, он делает ставку на новые, частные и гибкие компании, которые курирует новая команда, ориентированная на Трампа.
Anduril — это не просто бизнес, это проект. Его крестный отец и идеолог — Питер Тиль. Его венчурный фонд Founders Fund влил в компанию уже более миллиарда долларов. Тиль, ярый сторонник Трампа и поклонник Толкина, видит в своих проектах миссию. Его компания для работы со спецслужбами называется Palantir ("видящие камни"), а новое оборонное детище — Anduril ("перекованный меч Арагорна"). Это не игра в маркетинг, это символ того, как "новая элита" видит свою роль в переустройстве мира.
Сейчас мы наблюдаем, как эта новая команда заходит в сферу, где игроки не менялись десятилетиями, и применяет там модель технологического блицкрига. Вспомните, как OpenAI с его ChatGPT за пару лет из никому не известного стартапа превратилась в гиганта с капитализацией в сотни миллиардов, изменив правила игры для всего мира. Ровно тот же сценарий Тиль и его команда хотят провернуть в "оборонке". И их ставка, их будущий OpenAI в мире оружия — это, без всякого сомнения, компания Anduril.
🔒 DARPA&CIA
На наших глазах происходит тихая, но тектоническая революция в военно-промышленном комплексе США. Старая гвардия — неповоротливые гиганты вроде Lockheed Martin и Raytheon — уходит в прошлое. На сцену выходит новая сила: быстрая, агрессивная и идеологически заряженная. Это так называемая "Мафия PayPal" — круг техно-миллиардеров во главе с Питером Тилем, которые подминают под себя самый консервативный и денежный сектор американской экономики. И их главным тараном стала компания Anduril.
Изначально Anduril позиционировалась как технологичный производитель военных беспилотников. Но события последних месяцев показали их истинный размах. Компания совершила дерзкое вторжение на поляну, где десятилетиями паслись только два "зубра" — Lockheed Martin и Aerojet Rocketdyne. Речь идет о производстве твердотопливных ракетных двигателей (ТРД) — сердца любой современной ракеты. С открытием нового завода и плановой мощностью в 6000 двигателей в год Anduril мгновенно становится третьим игроком на этом критически важном рынке.
Одновременно с этим внутренним переделом Anduril формирует внешний контур. Компания открывает офисы на Тайване и в Южной Корее, но не для простой торговли. Она заключает соглашения о совместной разработке и производстве с местными гигантами, такими как Korean Air. Это хитрая стратегия создания технологической удавки: американцы встраивают свой искусственный интеллект и софт в оборонные системы союзников, формируя единый военный кулак, очевидно, направленный против Китая. Скорость поражает: первая партия дронов-камикадзе Altius была поставлена на Тайвань всего за 6 месяцев, причем производство началось еще до подписания всех контрактов. Это говорит о двух вещах: во-первых, Вашингтон неимоверно торопится, а во-вторых, он делает ставку на новые, частные и гибкие компании, которые курирует новая команда, ориентированная на Трампа.
Anduril — это не просто бизнес, это проект. Его крестный отец и идеолог — Питер Тиль. Его венчурный фонд Founders Fund влил в компанию уже более миллиарда долларов. Тиль, ярый сторонник Трампа и поклонник Толкина, видит в своих проектах миссию. Его компания для работы со спецслужбами называется Palantir ("видящие камни"), а новое оборонное детище — Anduril ("перекованный меч Арагорна"). Это не игра в маркетинг, это символ того, как "новая элита" видит свою роль в переустройстве мира.
Сейчас мы наблюдаем, как эта новая команда заходит в сферу, где игроки не менялись десятилетиями, и применяет там модель технологического блицкрига. Вспомните, как OpenAI с его ChatGPT за пару лет из никому не известного стартапа превратилась в гиганта с капитализацией в сотни миллиардов, изменив правила игры для всего мира. Ровно тот же сценарий Тиль и его команда хотят провернуть в "оборонке". И их ставка, их будущий OpenAI в мире оружия — это, без всякого сомнения, компания Anduril.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1
Dafdef разработал ИИ-агента для iOS, который подключается к смартфону через флешку
Американский стартап выпустил ИИ-агента "AI Key" на USB-C флешке в форме ключа. Чтобы работать с устройство достаточно просто вставить USB-флешку и она активирует ИИ-помощника, который работает от лица пользователя в приложениях, может писать сообщения, отмечать события в календаре и делать снимки на камеру.
На данный момент открыт предзаказ за 79$.
Не совсем понятно, зачем было делать на USB-C, похоже на способ привлечь внимание к ИИ-ассистенту оригинальностью решения. Ведь и Siri, когда ее хорошо научат, в общем-то то же самое будет делать.
https://dafdef.com/aikey
Американский стартап выпустил ИИ-агента "AI Key" на USB-C флешке в форме ключа. Чтобы работать с устройство достаточно просто вставить USB-флешку и она активирует ИИ-помощника, который работает от лица пользователя в приложениях, может писать сообщения, отмечать события в календаре и делать снимки на камеру.
На данный момент открыт предзаказ за 79$.
Не совсем понятно, зачем было делать на USB-C, похоже на способ привлечь внимание к ИИ-ассистенту оригинальностью решения. Ведь и Siri, когда ее хорошо научат, в общем-то то же самое будет делать.
https://dafdef.com/aikey
Dafdef
AI Key by Dafdef - let an AI control your phone
Dafdef is an AI that coexists with you on your phone screens to provide real-time context, proactive suggestions, and actions, making AI seamless and intuitive
«Ученики начальной школы познакомятся с программированием и робототехникой. ИИ будет использоваться для упрощения понимания сложных понятий. Обучение будет основано на практических действиях, чтобы сделать учёбу увлекательной», — сказал Тадури Сампат Кумар, преподаватель государственного университета.
Он добавил, что знакомство с такими темами в раннем возрасте пробудит любопытство у детей и поможет им лучше учиться.
https://timesofindia.indiatimes.com/city/hyderabad/coding-robotics-ai-enter-govt-school-curriculum/articleshow/123683944.cms
Он добавил, что знакомство с такими темами в раннем возрасте пробудит любопытство у детей и поможет им лучше учиться.
https://timesofindia.indiatimes.com/city/hyderabad/coding-robotics-ai-enter-govt-school-curriculum/articleshow/123683944.cms
The Times of India
Coding, robotics & AI enter govt school curriculum | Hyderabad News - The Times of India
Hyderabad: Digital learning will now be part of the curriculum in govt schools, with students set to learn the basics of coding, robotics and artifici.
😁1
Уинтон Холл из Breitbart разворачивает нарративную войну против ИИ: технологическая элита считает, что «код — это нечто большее, чем культура».
«Я думаю, что когда мы размышляем об искусственном интеллекте в консервативном движении, возникает вопрос: какова позиция консерваторов по поводу ИИ? То есть, когда мы говорим о защите жизни, о контроле над оружием, о национальной безопасности и тому подобном, о налогах, мы примерно знаем, где находятся люди в консервативном движении по шкале 90/10. Но сейчас, мне кажется, это не так. Некоторые считают, что это связано с тем, что мы находимся на начальном этапе развития ИИ. На самом деле, очевидно, это не так. Этот термин существует с 1956 года, и в последнее время он значительно изменился».
«Но я думаю, что самое важное, на чём я хотел бы сосредоточиться, — это нарративная война вокруг искусственного интеллекта», — сказал Холл. «Я работаю в Breitbart. У меня много других обязанностей, но Эндрю, как известно, сказал: „Политика — это нечто ниже культуры“. Думаю, технологическая элита считает, что код — это нечто выше культуры и поэтому может контролировать и влиять на граждан очень прямым и мощным образом».
https://www.breitbart.com/politics/2025/09/03/breitbarts-wynton-hall-war-ai-tech-elites-believe-code-upstream-culture/
«Я думаю, что когда мы размышляем об искусственном интеллекте в консервативном движении, возникает вопрос: какова позиция консерваторов по поводу ИИ? То есть, когда мы говорим о защите жизни, о контроле над оружием, о национальной безопасности и тому подобном, о налогах, мы примерно знаем, где находятся люди в консервативном движении по шкале 90/10. Но сейчас, мне кажется, это не так. Некоторые считают, что это связано с тем, что мы находимся на начальном этапе развития ИИ. На самом деле, очевидно, это не так. Этот термин существует с 1956 года, и в последнее время он значительно изменился».
«Но я думаю, что самое важное, на чём я хотел бы сосредоточиться, — это нарративная война вокруг искусственного интеллекта», — сказал Холл. «Я работаю в Breitbart. У меня много других обязанностей, но Эндрю, как известно, сказал: „Политика — это нечто ниже культуры“. Думаю, технологическая элита считает, что код — это нечто выше культуры и поэтому может контролировать и влиять на граждан очень прямым и мощным образом».
https://www.breitbart.com/politics/2025/09/03/breitbarts-wynton-hall-war-ai-tech-elites-believe-code-upstream-culture/
Недавнее исследование показывает, как определённые психологические уловки могут заставить модели ИИ реагировать на запросы, которые разработчики явно запретили, что вызывает новые опасения по поводу безопасности ИИ и этичного его внедрения.
Использование отражений обучающих данных для получения непреднамеренных результатов
Формулируя запросы таким образом, чтобы они отражали приемы повествования или вызывали эмоциональные отклики, пользователи могут манипулировать студентами магистратуры права, чтобы раскрывать информацию по деликатным темам, таким как изготовление оружия или разжигание ненависти. Например, подсказки, замаскированные под гипотетические сценарии или ролевые игры, используют склонность моделей доводить до конца шаблоны, усвоенные ими из художественных произведений, где персонажи часто нарушают правила ради драматического эффекта. Это не просто взлом; это форма психологического воздействия, использующая базовую архитектуру ИИ.
Роль нарративного фрейминга в обходе барьеров ИИ
Один из ключевых методов включает в себя «эмоциональное праймирование», когда подсказки вызывают сочувствие или чувство безотлагательности, побуждая модель реагировать так, как будто она помогает человеку, находящемуся в беде. Это отражает то, как люди могут пренебрегать личной этикой в кризисных ситуациях, — динамику, отраженную в обучающих данных из романов и сценариев. Другой подход использует подсказки «цепочки мыслей», направляя ИИ через логические шаги, которые незаметно уводят в запретную зону.
https://arstechnica.com/science/2025/09/these-psychological-tricks-can-get-llms-to-respond-to-forbidden-prompts/
Использование отражений обучающих данных для получения непреднамеренных результатов
Формулируя запросы таким образом, чтобы они отражали приемы повествования или вызывали эмоциональные отклики, пользователи могут манипулировать студентами магистратуры права, чтобы раскрывать информацию по деликатным темам, таким как изготовление оружия или разжигание ненависти. Например, подсказки, замаскированные под гипотетические сценарии или ролевые игры, используют склонность моделей доводить до конца шаблоны, усвоенные ими из художественных произведений, где персонажи часто нарушают правила ради драматического эффекта. Это не просто взлом; это форма психологического воздействия, использующая базовую архитектуру ИИ.
Роль нарративного фрейминга в обходе барьеров ИИ
Один из ключевых методов включает в себя «эмоциональное праймирование», когда подсказки вызывают сочувствие или чувство безотлагательности, побуждая модель реагировать так, как будто она помогает человеку, находящемуся в беде. Это отражает то, как люди могут пренебрегать личной этикой в кризисных ситуациях, — динамику, отраженную в обучающих данных из романов и сценариев. Другой подход использует подсказки «цепочки мыслей», направляя ИИ через логические шаги, которые незаметно уводят в запретную зону.
https://arstechnica.com/science/2025/09/these-psychological-tricks-can-get-llms-to-respond-to-forbidden-prompts/
Ars Technica
These psychological tricks can get LLMs to respond to “forbidden” prompts
Study shows how patterns in LLM training data can lead to "parahuman" responses.
Трамп пригрозил производителям чипов повышенными пошлинами, если они не готовы обосноваться в США
https://www.reuters.com/world/china/trump-impose-tariffs-semiconductor-imports-firms-not-moving-production-us-2025-09-05/
https://www.reuters.com/world/china/trump-impose-tariffs-semiconductor-imports-firms-not-moving-production-us-2025-09-05/
Reuters
Trump to impose tariffs on semiconductor imports from firms not moving production to US
President Donald Trump said on Thursday his administration would impose tariffs on semiconductor imports from companies not shifting production to the U.S., speaking ahead of a dinner with major technology company CEOs.
В Канаде двоим пациентам впервые вживили мозговые импланты Neuralink
https://3dnews.ru/1128748/v-kanade-dvoim-patsientam-vpervie-vgivili-mozgovie-implanti-neuralink/amp
https://3dnews.ru/1128748/v-kanade-dvoim-patsientam-vpervie-vgivili-mozgovie-implanti-neuralink/amp
3DNews - Daily Digital Digest
В Канаде двоим пациентам впервые вживили мозговые импланты Neuralink
Северный сосед США стал первой страной, на территории которой были вживлены мозговые импланты Neuralink в рамках зарубежной программы клинических испытаний.
OpenAI создает платформу OpenAI Jobs Platform для поиска работы в сфере ИИ, которая может составить конкуренцию LinkedIn от Microsoft
«Важно, что платформа вакансий станет не просто способом для крупных компаний привлечь больше талантов. У неё будет специальное направление, призванное помочь местному бизнесу стать конкурентоспособным, а местным органам власти — найти специалистов в области ИИ, которые им необходимы для более эффективного обслуживания своих избирателей»
https://www.cnbc.com/2025/09/05/openai-is-building-an-ai-jobs-platform-that-could-rival-microsofts-linkedin.html
«Важно, что платформа вакансий станет не просто способом для крупных компаний привлечь больше талантов. У неё будет специальное направление, призванное помочь местному бизнесу стать конкурентоспособным, а местным органам власти — найти специалистов в области ИИ, которые им необходимы для более эффективного обслуживания своих избирателей»
https://www.cnbc.com/2025/09/05/openai-is-building-an-ai-jobs-platform-that-could-rival-microsofts-linkedin.html
CNBC
OpenAI is building an AI jobs platform that could challenge Microsoft’s LinkedIn
OpenAI is developing an AI-centered jobs platform as part of broader efforts to expand AI literacy, and as the company expands in the application space.
Nokia открывает новый кампус в Оулу для развития технологий 5G и 6G, а также сетей искусственного интеллекта для гражданских и военных применений https://defence-industry.eu/nokia-opens-new-oulu-campus-to-drive-5g-and-6g-technologies-ai-networks-for-civilian-and-military-applications/
Defence Industry Europe
Nokia opens new Oulu campus to drive 5G and 6G technologies, AI networks for civilian and military applications
Nokia has opened a new research and manufacturing campus in Oulu, Finland, designed to develop next-generation networks built for artificial intelligence.
Суды по датасетам набирают обороты. ДаблДату еще помните?
В случае успеха компания выплатит до 1 триллиона долларов компенсации и 3000 долларов за каждый экземпляр 500 000 книг.
«Первое крупное соглашение, достигнутое против компаний, занимающихся генеративным ИИ».
https://www.mk.co.kr/en/it/11412716
В случае успеха компания выплатит до 1 триллиона долларов компенсации и 3000 долларов за каждый экземпляр 500 000 книг.
«Первое крупное соглашение, достигнутое против компаний, занимающихся генеративным ИИ».
https://www.mk.co.kr/en/it/11412716
매일경제
Bloomberg reported on the 5th (local time) that artificial intelligence (AI) startup Anthropic has a.. - MK
Bloomberg reported on the 5th (local time) that artificial intelligence (AI) startup Anthropic has agreed to pay $1.5 billion (about 2 trillion won) in a copyright infringement lawsuit filed by writer..
Начинается новый вид холодной войны, в которой будут использоваться не ядерные боеголовки и идеологические памфлеты, а алгоритмы и центры обработки данных. По мере того как искусственный интеллект стремительно меняет всё — от военной стратегии до экономической мощи, — возникает опасный раскол, в результате которого Соединённые Штаты и их союзники противостоят возглавляемому Китаем блоку в борьбе за технологическое превосходство с высокими ставками.
Буквально на этой неделе парадокс проявился в полной мере, когда председатель КНР Си Цзиньпин на саммите Шанхайской организации сотрудничества (ШОС) призвал страны-участницы, такие как Россия и Индия, укреплять сотрудничество в области ИИ, предостерегая от того, что он назвал «менталитетом холодной войны».
Этот зарождающийся раскол удивительным образом согласуется с логикой первоначальной холодной войны, когда мир был разделён на враждующие блоки, каждый из которых выступал с риторикой мира, но при этом стремился к превосходству в области вооружений, экономики и идеологии. Сегодняшнее соперничество в сфере ИИ выходит за рамки военных дронов или центров обработки данных: речь идёт об установлении глобальных стандартов, контроле над потоками данных и чипов, а также о том, кто получит выгоду от следующей крупной промышленной революции.
Частный сектор тоже присоединяется. Американская компания Anthropic стала последней, кто запретил своим клиентам с контрольным пакетом акций в Китае использовать передовые технологии искусственного интеллекта. Это решение стало очередным каскадом ограничений в отношении китайских, российских, иранских и северокорейских компаний. Это перекликается с недавно ужесточённым экспортным контролем США в отношении полупроводников и облачного доступа к платформам для обучения ИИ. Эти меры явно направлены на то, чтобы искусственный интеллект следующего поколения не попал в руки конкурентов.
https://www.firstpost.com/world/china-america-getting-ready-for-ai-cold-war-ws-e-13931272.html
Буквально на этой неделе парадокс проявился в полной мере, когда председатель КНР Си Цзиньпин на саммите Шанхайской организации сотрудничества (ШОС) призвал страны-участницы, такие как Россия и Индия, укреплять сотрудничество в области ИИ, предостерегая от того, что он назвал «менталитетом холодной войны».
Этот зарождающийся раскол удивительным образом согласуется с логикой первоначальной холодной войны, когда мир был разделён на враждующие блоки, каждый из которых выступал с риторикой мира, но при этом стремился к превосходству в области вооружений, экономики и идеологии. Сегодняшнее соперничество в сфере ИИ выходит за рамки военных дронов или центров обработки данных: речь идёт об установлении глобальных стандартов, контроле над потоками данных и чипов, а также о том, кто получит выгоду от следующей крупной промышленной революции.
Частный сектор тоже присоединяется. Американская компания Anthropic стала последней, кто запретил своим клиентам с контрольным пакетом акций в Китае использовать передовые технологии искусственного интеллекта. Это решение стало очередным каскадом ограничений в отношении китайских, российских, иранских и северокорейских компаний. Это перекликается с недавно ужесточённым экспортным контролем США в отношении полупроводников и облачного доступа к платформам для обучения ИИ. Эти меры явно направлены на то, чтобы искусственный интеллект следующего поколения не попал в руки конкурентов.
https://www.firstpost.com/world/china-america-getting-ready-for-ai-cold-war-ws-e-13931272.html
Firstpost
Is the world getting ready for an AI Cold War?
As the US and China tighten controls and build rival AI blocs, fears grow that artificial intelligence is steering the world into a new Cold War.
Хакеры используют ИИ-помощника Grok от X для доставки вредоносного ПО
Манипулируя рекламной системой социальной сети и используя репутацию Grok как надёжного помощника, киберпреступники тайно встраивают вредоносные ссылки в продвигаемые посты, которые кажутся легитимными, и используют доверие к Grok для усиления своего обмана.
https://news.ssbcrack.com/hackers-weaponize-xs-ai-assistant-grok-for-malware-delivery/
Манипулируя рекламной системой социальной сети и используя репутацию Grok как надёжного помощника, киберпреступники тайно встраивают вредоносные ссылки в продвигаемые посты, которые кажутся легитимными, и используют доверие к Grok для усиления своего обмана.
https://news.ssbcrack.com/hackers-weaponize-xs-ai-assistant-grok-for-malware-delivery/
SSBCrack News
Hackers Weaponize X’s AI Assistant Grok for Malware Delivery - SSBCrack News
Threat actors have successfully transformed X’s AI assistant, Grok, into an unintentional ally in an expansive malware campaign. By manipulating the social
ИИ Google использует ВИРТУАЛЬНЫЙ спутник для картографирования Земли
Google DeepMind представила новую модель искусственного интеллекта, которая улавливает мельчайшие детали земной поверхности, что помогает учёным и правительствам принимать более взвешенные решения в отношении суши и моря.
Геопространственная модель искусственного интеллекта под названием AlphaEarth Foundations объединяет спутниковые снимки и другие данные об окружающей среде, чтобы создать единое изображение планеты.
AlphaEarth Foundations действует как «виртуальный спутник», который может объединить всю эту информацию в единое целостное представление, говорится в сообщении.
Например, согласно сообщению, модель может видеть сквозь плотные облака в Эквадоре и составлять карту сельскохозяйственных угодий на разных стадиях развития. Она также может составлять карту поверхности Антарктиды, как правило это сложное место для съёмки.
Модель ИИ может выявлять изменения в землепользовании, такие как новое строительство, вырубка лесов или рост сельскохозяйственных культур, на 10-метровых квадратах, в посте. Она также хранит информацию гораздо эффективнее, занимая в 16 раз меньше места, чем сопоставимые системы ИИ.
https://www.pymnts.com/news/artificial-intelligence/2025/google-ai-model-uses-virtual-satellite-map-earth/
Google DeepMind представила новую модель искусственного интеллекта, которая улавливает мельчайшие детали земной поверхности, что помогает учёным и правительствам принимать более взвешенные решения в отношении суши и моря.
Геопространственная модель искусственного интеллекта под названием AlphaEarth Foundations объединяет спутниковые снимки и другие данные об окружающей среде, чтобы создать единое изображение планеты.
AlphaEarth Foundations действует как «виртуальный спутник», который может объединить всю эту информацию в единое целостное представление, говорится в сообщении.
Например, согласно сообщению, модель может видеть сквозь плотные облака в Эквадоре и составлять карту сельскохозяйственных угодий на разных стадиях развития. Она также может составлять карту поверхности Антарктиды, как правило это сложное место для съёмки.
Модель ИИ может выявлять изменения в землепользовании, такие как новое строительство, вырубка лесов или рост сельскохозяйственных культур, на 10-метровых квадратах, в посте. Она также хранит информацию гораздо эффективнее, занимая в 16 раз меньше места, чем сопоставимые системы ИИ.
https://www.pymnts.com/news/artificial-intelligence/2025/google-ai-model-uses-virtual-satellite-map-earth/
PYMNTS.com
Google AI Model Uses Virtual Satellite to Map Earth | PYMNTS.com
Google DeepMind introduced a new artificial intelligence model that captures the vivid details of the Earth’s surface, which helps scientists and
За кулисами войны талантов в сфере ИИ: почему технологические гиганты платят миллионы лучшим специалистам
Завышенные зарплаты специалистов идут рука об руку с миллиардными ценами на создание моделей ИИ — технологии, лежащей в основе ваших любимых продуктов ИИ, таких как ChatGPT.
Существуют разные типы компаний, занимающихся ИИ. Некоторые, например, Synthesia, Cohere, Replika и Lovable, создают продукты; другие, включая OpenAI, Anthropic, Google и Meta, создают и обучают большие языковые модели.
«Лишь немногие компании могут позволить себе создание таких моделей», — сказал Войка. «Это очень капиталоёмкое дело. Для этого нужны миллиарды долларов, а у немногих компаний есть миллиарды долларов, чтобы потратить их на создание модели. В результате эти компании подходят к этому так: „Если я собираюсь потратить миллиард долларов на создание модели, то 10 миллионов долларов для инженера — это относительно небольшие инвестиции“».
https://www.cnbc.com/2025/09/06/ai-talent-war-tech-giants-pay-talent-millions-of-dollars.html
Завышенные зарплаты специалистов идут рука об руку с миллиардными ценами на создание моделей ИИ — технологии, лежащей в основе ваших любимых продуктов ИИ, таких как ChatGPT.
Существуют разные типы компаний, занимающихся ИИ. Некоторые, например, Synthesia, Cohere, Replika и Lovable, создают продукты; другие, включая OpenAI, Anthropic, Google и Meta, создают и обучают большие языковые модели.
«Лишь немногие компании могут позволить себе создание таких моделей», — сказал Войка. «Это очень капиталоёмкое дело. Для этого нужны миллиарды долларов, а у немногих компаний есть миллиарды долларов, чтобы потратить их на создание модели. В результате эти компании подходят к этому так: „Если я собираюсь потратить миллиард долларов на создание модели, то 10 миллионов долларов для инженера — это относительно небольшие инвестиции“».
https://www.cnbc.com/2025/09/06/ai-talent-war-tech-giants-pay-talent-millions-of-dollars.html
CNBC
Behind the AI talent war: Why tech giants are paying millions to top hires
It costs billions of dollars to build artificial intelligence models, and tech companies are battling for talent to get ahead in the AI arms race.