Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Компания ESET, занимающаяся кибербезопасностью, обнаружила первый известный вирус-вымогатель на базе искусственного интеллекта. Вредоносное ПО, получившее название PromptLock, способно извлекать, шифровать и, возможно, даже уничтожать данные, хотя эта функция, по всей видимости, пока не реализована во вредоносной программе.

Вредоносное ПО PromptLock использует модель gpt-oss-20b от OpenAI для генерации вредоносных скриптов Lua в режиме реального времени, - сообщили в ESET, добавив, что вредоносное ПО написано на Golang. Это универсальный кроссплатформенный язык программирования, который в последние годы также завоевал популярность среди авторов вредоносных программ.

Благодаря моделям ИИ создание убедительных фишинговых сообщений, а также поддельных изображений, аудио и видео уже стало детской игрой. Доступность этих инструментов также значительно снижает барьер для входа для менее технически подкованных злоумышленников.

PromptLock - это просто первая ласточка, которая сигналит, что ИИ может быть использован для автоматизации различных видов атак программ-вымогателей, от разведки до кражи данных, со скоростью и масштабом, которые когда-то считались невозможными.

Всё только начинается
Как «Мафия PayPal» готовит Америку к Новой Войне

На наших глазах происходит тихая, но тектоническая революция в военно-промышленном комплексе США. Старая гвардия — неповоротливые гиганты вроде Lockheed Martin и Raytheon — уходит в прошлое. На сцену выходит новая сила: быстрая, агрессивная и идеологически заряженная. Это так называемая "Мафия PayPal" — круг техно-миллиардеров во главе с Питером Тилем, которые подминают под себя самый консервативный и денежный сектор американской экономики. И их главным тараном стала компания Anduril.

Изначально Anduril позиционировалась как технологичный производитель военных беспилотников. Но события последних месяцев показали их истинный размах. Компания совершила дерзкое вторжение на поляну, где десятилетиями паслись только два "зубра" — Lockheed Martin и Aerojet Rocketdyne. Речь идет о производстве твердотопливных ракетных двигателей (ТРД) — сердца любой современной ракеты. С открытием нового завода и плановой мощностью в 6000 двигателей в год Anduril мгновенно становится третьим игроком на этом критически важном рынке.

Одновременно с этим внутренним переделом Anduril формирует внешний контур. Компания открывает офисы на Тайване и в Южной Корее, но не для простой торговли. Она заключает соглашения о совместной разработке и производстве с местными гигантами, такими как Korean Air. Это хитрая стратегия создания технологической удавки: американцы встраивают свой искусственный интеллект и софт в оборонные системы союзников, формируя единый военный кулак, очевидно, направленный против Китая. Скорость поражает: первая партия дронов-камикадзе Altius была поставлена на Тайвань всего за 6 месяцев, причем производство началось еще до подписания всех контрактов. Это говорит о двух вещах: во-первых, Вашингтон неимоверно торопится, а во-вторых, он делает ставку на новые, частные и гибкие компании, которые курирует новая команда, ориентированная на Трампа.

Anduril — это не просто бизнес, это проект. Его крестный отец и идеолог — Питер Тиль. Его венчурный фонд Founders Fund влил в компанию уже более миллиарда долларов. Тиль, ярый сторонник Трампа и поклонник Толкина, видит в своих проектах миссию. Его компания для работы со спецслужбами называется Palantir ("видящие камни"), а новое оборонное детище — Anduril ("перекованный меч Арагорна"). Это не игра в маркетинг, это символ того, как "новая элита" видит свою роль в переустройстве мира.

Сейчас мы наблюдаем, как эта новая команда заходит в сферу, где игроки не менялись десятилетиями, и применяет там модель технологического блицкрига. Вспомните, как OpenAI с его ChatGPT за пару лет из никому не известного стартапа превратилась в гиганта с капитализацией в сотни миллиардов, изменив правила игры для всего мира. Ровно тот же сценарий Тиль и его команда хотят провернуть в "оборонке". И их ставка, их будущий OpenAI в мире оружия — это, без всякого сомнения, компания Anduril.

🔒DARPA&CIA
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1
Dafdef разработал ИИ-агента для iOS, который подключается к смартфону через флешку

Американский стартап выпустил ИИ-агента "AI Key" на USB-C флешке в форме ключа. Чтобы работать с устройство достаточно просто вставить USB-флешку и она активирует ИИ-помощника, который работает от лица пользователя в приложениях, может писать сообщения, отмечать события в календаре и делать снимки на камеру.

На данный момент открыт предзаказ за 79$.

Не совсем понятно, зачем было делать на USB-C, похоже на способ привлечь внимание к ИИ-ассистенту оригинальностью решения. Ведь и Siri, когда ее хорошо научат, в общем-то то же самое будет делать.

https://dafdef.com/aikey
«Ученики начальной школы познакомятся с программированием и робототехникой. ИИ будет использоваться для упрощения понимания сложных понятий. Обучение будет основано на практических действиях, чтобы сделать учёбу увлекательной», — сказал Тадури Сампат Кумар, преподаватель государственного университета.

Он добавил, что знакомство с такими темами в раннем возрасте пробудит любопытство у детей и поможет им лучше учиться. 
https://timesofindia.indiatimes.com/city/hyderabad/coding-robotics-ai-enter-govt-school-curriculum/articleshow/123683944.cms
😁1
Уинтон Холл из Breitbart разворачивает нарративную войну против ИИ: технологическая элита считает, что «код — это нечто большее, чем культура».

«Я думаю, что когда мы размышляем об искусственном интеллекте в консервативном движении, возникает вопрос: какова позиция консерваторов по поводу ИИ? То есть, когда мы говорим о защите жизни, о контроле над оружием, о национальной безопасности и тому подобном, о налогах, мы примерно знаем, где находятся люди в консервативном движении по шкале 90/10. Но сейчас, мне кажется, это не так. Некоторые считают, что это связано с тем, что мы находимся на начальном этапе развития ИИ. На самом деле, очевидно, это не так. Этот термин существует с 1956 года, и в последнее время он значительно изменился».

«Но я думаю, что самое важное, на чём я хотел бы сосредоточиться, — это нарративная война вокруг искусственного интеллекта», — сказал Холл. «Я работаю в Breitbart. У меня много других обязанностей, но Эндрю, как известно, сказал: „Политика — это нечто ниже культуры“. Думаю, технологическая элита считает, что код — это нечто выше культуры и поэтому может контролировать и влиять на граждан очень прямым и мощным образом».

https://www.breitbart.com/politics/2025/09/03/breitbarts-wynton-hall-war-ai-tech-elites-believe-code-upstream-culture/
Недавнее исследование показывает, как определённые психологические уловки могут заставить модели ИИ реагировать на запросы, которые разработчики явно запретили, что вызывает новые опасения по поводу безопасности ИИ и этичного его внедрения.

Использование отражений обучающих данных для получения непреднамеренных результатов

Формулируя запросы таким образом, чтобы они отражали приемы повествования или вызывали эмоциональные отклики, пользователи могут манипулировать студентами магистратуры права, чтобы раскрывать информацию по деликатным темам, таким как изготовление оружия или разжигание ненависти. Например, подсказки, замаскированные под гипотетические сценарии или ролевые игры, используют склонность моделей доводить до конца шаблоны, усвоенные ими из художественных произведений, где персонажи часто нарушают правила ради драматического эффекта. Это не просто взлом; это форма психологического воздействия, использующая базовую архитектуру ИИ.

Роль нарративного фрейминга в обходе барьеров ИИ

Один из ключевых методов включает в себя «эмоциональное праймирование», когда подсказки вызывают сочувствие или чувство безотлагательности, побуждая модель реагировать так, как будто она помогает человеку, находящемуся в беде. Это отражает то, как люди могут пренебрегать личной этикой в кризисных ситуациях, — динамику, отраженную в обучающих данных из романов и сценариев. Другой подход использует подсказки «цепочки мыслей», направляя ИИ через логические шаги, которые незаметно уводят в запретную зону.

https://arstechnica.com/science/2025/09/these-psychological-tricks-can-get-llms-to-respond-to-forbidden-prompts/
OpenAI создает платформу OpenAI Jobs Platform для поиска работы в сфере ИИ, которая может составить конкуренцию LinkedIn от Microsoft

«Важно, что платформа вакансий станет не просто способом для крупных компаний привлечь больше талантов. У неё будет специальное направление, призванное помочь местному бизнесу стать конкурентоспособным, а местным органам власти — найти специалистов в области ИИ, которые им необходимы для более эффективного обслуживания своих избирателей»

https://www.cnbc.com/2025/09/05/openai-is-building-an-ai-jobs-platform-that-could-rival-microsofts-linkedin.html
Суды по датасетам набирают обороты. ДаблДату еще помните?

В случае успеха компания выплатит до 1 триллиона долларов компенсации и 3000 долларов за каждый экземпляр 500 000 книг.

«Первое крупное соглашение, достигнутое против компаний, занимающихся генеративным ИИ».
https://www.mk.co.kr/en/it/11412716
Начинается новый вид холодной войны, в которой будут использоваться не ядерные боеголовки и идеологические памфлеты, а алгоритмы и центры обработки данных. По мере того как искусственный интеллект стремительно меняет всё — от военной стратегии до экономической мощи, — возникает опасный раскол, в результате которого Соединённые Штаты и их союзники противостоят возглавляемому Китаем блоку в борьбе за технологическое превосходство с высокими ставками.

Буквально на этой неделе парадокс проявился в полной мере, когда председатель КНР Си Цзиньпин на саммите Шанхайской организации сотрудничества (ШОС) призвал страны-участницы, такие как Россия и Индия, укреплять сотрудничество в области ИИ, предостерегая от того, что он назвал «менталитетом холодной войны».

Этот зарождающийся раскол удивительным образом согласуется с логикой первоначальной холодной войны, когда мир был разделён на враждующие блоки, каждый из которых выступал с риторикой мира, но при этом стремился к превосходству в области вооружений, экономики и идеологии. Сегодняшнее соперничество в сфере ИИ выходит за рамки военных дронов или центров обработки данных: речь идёт об установлении глобальных стандартов, контроле над потоками данных и чипов, а также о том, кто получит выгоду от следующей крупной промышленной революции.

Частный сектор тоже присоединяется. Американская компания Anthropic стала последней, кто запретил своим клиентам с контрольным пакетом акций в Китае использовать передовые технологии искусственного интеллекта. Это решение стало очередным каскадом ограничений в отношении китайских, российских, иранских и северокорейских компаний. Это перекликается с недавно ужесточённым экспортным контролем США в отношении полупроводников и облачного доступа к платформам для обучения ИИ. Эти меры явно направлены на то, чтобы искусственный интеллект следующего поколения не попал в руки конкурентов.

https://www.firstpost.com/world/china-america-getting-ready-for-ai-cold-war-ws-e-13931272.html
Хакеры используют ИИ-помощника Grok от X для доставки вредоносного ПО

Манипулируя рекламной системой социальной сети и используя репутацию Grok как надёжного помощника, киберпреступники тайно встраивают вредоносные ссылки в продвигаемые посты, которые кажутся легитимными, и используют доверие к Grok для усиления своего обмана.

https://news.ssbcrack.com/hackers-weaponize-xs-ai-assistant-grok-for-malware-delivery/
ИИ Google использует ВИРТУАЛЬНЫЙ спутник для картографирования Земли

Google DeepMind представила новую модель искусственного интеллекта, которая улавливает мельчайшие детали земной поверхности, что помогает учёным и правительствам принимать более взвешенные решения в отношении суши и моря.

Геопространственная модель искусственного интеллекта под названием AlphaEarth Foundations объединяет спутниковые снимки и другие данные об окружающей среде, чтобы создать единое изображение планеты.

AlphaEarth Foundations действует как «виртуальный спутник», который может объединить всю эту информацию в единое целостное представление, говорится в сообщении.

Например, согласно сообщению, модель может видеть сквозь плотные облака в Эквадоре и составлять карту сельскохозяйственных угодий на разных стадиях развития. Она также может составлять карту поверхности Антарктиды, как правило это сложное место для съёмки.

Модель ИИ может выявлять изменения в землепользовании, такие как новое строительство, вырубка лесов или рост сельскохозяйственных культур, на 10-метровых квадратах, в посте. Она также хранит информацию гораздо эффективнее, занимая в 16 раз меньше места, чем сопоставимые системы ИИ.

https://www.pymnts.com/news/artificial-intelligence/2025/google-ai-model-uses-virtual-satellite-map-earth/
За кулисами войны талантов в сфере ИИ: почему технологические гиганты платят миллионы лучшим специалистам

Завышенные зарплаты специалистов идут рука об руку с миллиардными ценами на создание моделей ИИ — технологии, лежащей в основе ваших любимых продуктов ИИ, таких как ChatGPT.

Существуют разные типы компаний, занимающихся ИИ. Некоторые, например, Synthesia, Cohere, Replika и Lovable, создают продукты; другие, включая OpenAI, Anthropic, Google и Meta, создают и обучают большие языковые модели.

«Лишь немногие компании могут позволить себе создание таких моделей», — сказал Войка. «Это очень капиталоёмкое дело. Для этого нужны миллиарды долларов, а у немногих компаний есть миллиарды долларов, чтобы потратить их на создание модели. В результате эти компании подходят к этому так: „Если я собираюсь потратить миллиард долларов на создание модели, то 10 миллионов долларов для инженера — это относительно небольшие инвестиции“».

https://www.cnbc.com/2025/09/06/ai-talent-war-tech-giants-pay-talent-millions-of-dollars.html
Google DeepMind разрабатывает ИИ, который произведет революцию в области обнаружения гравитационных волн

Исследовательское подразделение Google в области искусственного интеллекта, DeepMind, представило новую технологию искусственного интеллекта, предназначенную для развития астрофизических исследований. Эта прорывная разработка, разработанная в сотрудничестве с LIGO (лазерно-интерферометрической гравитационно-волновой обсерваторией) Калифорнийского технологического института и итальянским Научным институтом Гран-Сассо (GSSI), была опубликована в журнале Science.

Метод, называемый Deep Loop Shaping, использует обучение с подкреплением, позволяя системам искусственного интеллекта итеративно подавлять шум самостоятельно. Это позволяет LIGO точнее обнаруживать и измерять гравитационные волны в низкочастотном диапазоне (10–30 Гц).

https://www.koreapost.com/news/articleView.html?idxno=46045
ИИ обнаружил хиральную сверхпроводимость в ферми-газе, добившись несмещенного спаривания без предварительного знания

Этот прорыв создает новый мощный метод для открытия материалов с помощью ИИ, потенциально ускоряя поиск нетрадиционных и топологических сверхпроводников с применением в передовых технологиях.

Исследователи изучают, способны ли эти механизмы эффективно улавливать сложные корреляции между квантовыми частицами, решая давнюю проблему материаловедения. Недавние достижения в области нейронных квантовых состояний демонстрируют силу внимания в изучении взаимосвязей между объектами, что вдохновляет эту работу и потенциально может привести к прогрессу как в материаловедении, так и в квантовых технологиях.

https://quantumzeitgeist.com/ai-discovers-chiral-superconductivity-fermi-gas-achieving-unbiased-pairing/
Запущен "самый быстрый в Европе" суперкомпьютер

Самый быстрый в Европе суперкомпьютер Jupiter запущен в пятницу в Германии, и его операторы надеются, что он сможет помочь континенту во всем: от исследования климата до достижения результатов в гонке за искусственный интеллект.

Расположенный в Юлихском суперкомпьютерном центре на западе Германии, это первый в Европе суперкомпьютер «экзафлопсного» класса, то есть он сможет выполнять не менее одного квинтиллиона (или одного миллиарда миллиардов) вычислений в секунду.

Jupiter располагается в центре, занимающем площадь около 3600 метров (38 000 квадратных футов) — это примерно половина площади футбольного поля, — в нем размещены стойки с процессорами и установлено около 24 000 чипов Nvidia, которые пользуются популярностью в отрасли искусственного интеллекта.

Половина из 500 миллионов евро (580 миллионов долларов США) на разработку и эксплуатацию системы в течение следующих нескольких лет поступит от Европейского Союза, а остальная часть — от Германии.

https://english.aawsat.com/technology/5182930-europes-fastest-supercomputer-boost-ai-drive
🔱 В Великобритании в систему здравоохранения NHS внедряют искусственный интеллект для раннего выявления рака кожи.  Инструмент DERM помогает быстрее проверять подозрительные родинки и снижает нагрузку на дерматологов.

Снимок родинки делают на смартфон с маленькой линзой, затем ИИ анализирует изображение и сравнивает его с тысячами случаев. Если пятно выглядит безопасным, пациента могут исключить из онкопотока без визита к врачу. При подозрении на рак случай проверяет дерматолог. Сейчас DERM внедрён в NHS условно: в течение трёх лет собираются доказательства его эффективности и безопасности.
Please open Telegram to view this post
VIEW IN TELEGRAM