Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
457 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Уинтон Холл из Breitbart разворачивает нарративную войну против ИИ: технологическая элита считает, что «код — это нечто большее, чем культура».

«Я думаю, что когда мы размышляем об искусственном интеллекте в консервативном движении, возникает вопрос: какова позиция консерваторов по поводу ИИ? То есть, когда мы говорим о защите жизни, о контроле над оружием, о национальной безопасности и тому подобном, о налогах, мы примерно знаем, где находятся люди в консервативном движении по шкале 90/10. Но сейчас, мне кажется, это не так. Некоторые считают, что это связано с тем, что мы находимся на начальном этапе развития ИИ. На самом деле, очевидно, это не так. Этот термин существует с 1956 года, и в последнее время он значительно изменился».

«Но я думаю, что самое важное, на чём я хотел бы сосредоточиться, — это нарративная война вокруг искусственного интеллекта», — сказал Холл. «Я работаю в Breitbart. У меня много других обязанностей, но Эндрю, как известно, сказал: „Политика — это нечто ниже культуры“. Думаю, технологическая элита считает, что код — это нечто выше культуры и поэтому может контролировать и влиять на граждан очень прямым и мощным образом».

https://www.breitbart.com/politics/2025/09/03/breitbarts-wynton-hall-war-ai-tech-elites-believe-code-upstream-culture/
Недавнее исследование показывает, как определённые психологические уловки могут заставить модели ИИ реагировать на запросы, которые разработчики явно запретили, что вызывает новые опасения по поводу безопасности ИИ и этичного его внедрения.

Использование отражений обучающих данных для получения непреднамеренных результатов

Формулируя запросы таким образом, чтобы они отражали приемы повествования или вызывали эмоциональные отклики, пользователи могут манипулировать студентами магистратуры права, чтобы раскрывать информацию по деликатным темам, таким как изготовление оружия или разжигание ненависти. Например, подсказки, замаскированные под гипотетические сценарии или ролевые игры, используют склонность моделей доводить до конца шаблоны, усвоенные ими из художественных произведений, где персонажи часто нарушают правила ради драматического эффекта. Это не просто взлом; это форма психологического воздействия, использующая базовую архитектуру ИИ.

Роль нарративного фрейминга в обходе барьеров ИИ

Один из ключевых методов включает в себя «эмоциональное праймирование», когда подсказки вызывают сочувствие или чувство безотлагательности, побуждая модель реагировать так, как будто она помогает человеку, находящемуся в беде. Это отражает то, как люди могут пренебрегать личной этикой в кризисных ситуациях, — динамику, отраженную в обучающих данных из романов и сценариев. Другой подход использует подсказки «цепочки мыслей», направляя ИИ через логические шаги, которые незаметно уводят в запретную зону.

https://arstechnica.com/science/2025/09/these-psychological-tricks-can-get-llms-to-respond-to-forbidden-prompts/
OpenAI создает платформу OpenAI Jobs Platform для поиска работы в сфере ИИ, которая может составить конкуренцию LinkedIn от Microsoft

«Важно, что платформа вакансий станет не просто способом для крупных компаний привлечь больше талантов. У неё будет специальное направление, призванное помочь местному бизнесу стать конкурентоспособным, а местным органам власти — найти специалистов в области ИИ, которые им необходимы для более эффективного обслуживания своих избирателей»

https://www.cnbc.com/2025/09/05/openai-is-building-an-ai-jobs-platform-that-could-rival-microsofts-linkedin.html
Суды по датасетам набирают обороты. ДаблДату еще помните?

В случае успеха компания выплатит до 1 триллиона долларов компенсации и 3000 долларов за каждый экземпляр 500 000 книг.

«Первое крупное соглашение, достигнутое против компаний, занимающихся генеративным ИИ».
https://www.mk.co.kr/en/it/11412716
Начинается новый вид холодной войны, в которой будут использоваться не ядерные боеголовки и идеологические памфлеты, а алгоритмы и центры обработки данных. По мере того как искусственный интеллект стремительно меняет всё — от военной стратегии до экономической мощи, — возникает опасный раскол, в результате которого Соединённые Штаты и их союзники противостоят возглавляемому Китаем блоку в борьбе за технологическое превосходство с высокими ставками.

Буквально на этой неделе парадокс проявился в полной мере, когда председатель КНР Си Цзиньпин на саммите Шанхайской организации сотрудничества (ШОС) призвал страны-участницы, такие как Россия и Индия, укреплять сотрудничество в области ИИ, предостерегая от того, что он назвал «менталитетом холодной войны».

Этот зарождающийся раскол удивительным образом согласуется с логикой первоначальной холодной войны, когда мир был разделён на враждующие блоки, каждый из которых выступал с риторикой мира, но при этом стремился к превосходству в области вооружений, экономики и идеологии. Сегодняшнее соперничество в сфере ИИ выходит за рамки военных дронов или центров обработки данных: речь идёт об установлении глобальных стандартов, контроле над потоками данных и чипов, а также о том, кто получит выгоду от следующей крупной промышленной революции.

Частный сектор тоже присоединяется. Американская компания Anthropic стала последней, кто запретил своим клиентам с контрольным пакетом акций в Китае использовать передовые технологии искусственного интеллекта. Это решение стало очередным каскадом ограничений в отношении китайских, российских, иранских и северокорейских компаний. Это перекликается с недавно ужесточённым экспортным контролем США в отношении полупроводников и облачного доступа к платформам для обучения ИИ. Эти меры явно направлены на то, чтобы искусственный интеллект следующего поколения не попал в руки конкурентов.

https://www.firstpost.com/world/china-america-getting-ready-for-ai-cold-war-ws-e-13931272.html
Хакеры используют ИИ-помощника Grok от X для доставки вредоносного ПО

Манипулируя рекламной системой социальной сети и используя репутацию Grok как надёжного помощника, киберпреступники тайно встраивают вредоносные ссылки в продвигаемые посты, которые кажутся легитимными, и используют доверие к Grok для усиления своего обмана.

https://news.ssbcrack.com/hackers-weaponize-xs-ai-assistant-grok-for-malware-delivery/
ИИ Google использует ВИРТУАЛЬНЫЙ спутник для картографирования Земли

Google DeepMind представила новую модель искусственного интеллекта, которая улавливает мельчайшие детали земной поверхности, что помогает учёным и правительствам принимать более взвешенные решения в отношении суши и моря.

Геопространственная модель искусственного интеллекта под названием AlphaEarth Foundations объединяет спутниковые снимки и другие данные об окружающей среде, чтобы создать единое изображение планеты.

AlphaEarth Foundations действует как «виртуальный спутник», который может объединить всю эту информацию в единое целостное представление, говорится в сообщении.

Например, согласно сообщению, модель может видеть сквозь плотные облака в Эквадоре и составлять карту сельскохозяйственных угодий на разных стадиях развития. Она также может составлять карту поверхности Антарктиды, как правило это сложное место для съёмки.

Модель ИИ может выявлять изменения в землепользовании, такие как новое строительство, вырубка лесов или рост сельскохозяйственных культур, на 10-метровых квадратах, в посте. Она также хранит информацию гораздо эффективнее, занимая в 16 раз меньше места, чем сопоставимые системы ИИ.

https://www.pymnts.com/news/artificial-intelligence/2025/google-ai-model-uses-virtual-satellite-map-earth/
За кулисами войны талантов в сфере ИИ: почему технологические гиганты платят миллионы лучшим специалистам

Завышенные зарплаты специалистов идут рука об руку с миллиардными ценами на создание моделей ИИ — технологии, лежащей в основе ваших любимых продуктов ИИ, таких как ChatGPT.

Существуют разные типы компаний, занимающихся ИИ. Некоторые, например, Synthesia, Cohere, Replika и Lovable, создают продукты; другие, включая OpenAI, Anthropic, Google и Meta, создают и обучают большие языковые модели.

«Лишь немногие компании могут позволить себе создание таких моделей», — сказал Войка. «Это очень капиталоёмкое дело. Для этого нужны миллиарды долларов, а у немногих компаний есть миллиарды долларов, чтобы потратить их на создание модели. В результате эти компании подходят к этому так: „Если я собираюсь потратить миллиард долларов на создание модели, то 10 миллионов долларов для инженера — это относительно небольшие инвестиции“».

https://www.cnbc.com/2025/09/06/ai-talent-war-tech-giants-pay-talent-millions-of-dollars.html
Google DeepMind разрабатывает ИИ, который произведет революцию в области обнаружения гравитационных волн

Исследовательское подразделение Google в области искусственного интеллекта, DeepMind, представило новую технологию искусственного интеллекта, предназначенную для развития астрофизических исследований. Эта прорывная разработка, разработанная в сотрудничестве с LIGO (лазерно-интерферометрической гравитационно-волновой обсерваторией) Калифорнийского технологического института и итальянским Научным институтом Гран-Сассо (GSSI), была опубликована в журнале Science.

Метод, называемый Deep Loop Shaping, использует обучение с подкреплением, позволяя системам искусственного интеллекта итеративно подавлять шум самостоятельно. Это позволяет LIGO точнее обнаруживать и измерять гравитационные волны в низкочастотном диапазоне (10–30 Гц).

https://www.koreapost.com/news/articleView.html?idxno=46045
ИИ обнаружил хиральную сверхпроводимость в ферми-газе, добившись несмещенного спаривания без предварительного знания

Этот прорыв создает новый мощный метод для открытия материалов с помощью ИИ, потенциально ускоряя поиск нетрадиционных и топологических сверхпроводников с применением в передовых технологиях.

Исследователи изучают, способны ли эти механизмы эффективно улавливать сложные корреляции между квантовыми частицами, решая давнюю проблему материаловедения. Недавние достижения в области нейронных квантовых состояний демонстрируют силу внимания в изучении взаимосвязей между объектами, что вдохновляет эту работу и потенциально может привести к прогрессу как в материаловедении, так и в квантовых технологиях.

https://quantumzeitgeist.com/ai-discovers-chiral-superconductivity-fermi-gas-achieving-unbiased-pairing/
Запущен "самый быстрый в Европе" суперкомпьютер

Самый быстрый в Европе суперкомпьютер Jupiter запущен в пятницу в Германии, и его операторы надеются, что он сможет помочь континенту во всем: от исследования климата до достижения результатов в гонке за искусственный интеллект.

Расположенный в Юлихском суперкомпьютерном центре на западе Германии, это первый в Европе суперкомпьютер «экзафлопсного» класса, то есть он сможет выполнять не менее одного квинтиллиона (или одного миллиарда миллиардов) вычислений в секунду.

Jupiter располагается в центре, занимающем площадь около 3600 метров (38 000 квадратных футов) — это примерно половина площади футбольного поля, — в нем размещены стойки с процессорами и установлено около 24 000 чипов Nvidia, которые пользуются популярностью в отрасли искусственного интеллекта.

Половина из 500 миллионов евро (580 миллионов долларов США) на разработку и эксплуатацию системы в течение следующих нескольких лет поступит от Европейского Союза, а остальная часть — от Германии.

https://english.aawsat.com/technology/5182930-europes-fastest-supercomputer-boost-ai-drive
🔱 В Великобритании в систему здравоохранения NHS внедряют искусственный интеллект для раннего выявления рака кожи.  Инструмент DERM помогает быстрее проверять подозрительные родинки и снижает нагрузку на дерматологов.

Снимок родинки делают на смартфон с маленькой линзой, затем ИИ анализирует изображение и сравнивает его с тысячами случаев. Если пятно выглядит безопасным, пациента могут исключить из онкопотока без визита к врачу. При подозрении на рак случай проверяет дерматолог. Сейчас DERM внедрён в NHS условно: в течение трёх лет собираются доказательства его эффективности и безопасности.
Please open Telegram to view this post
VIEW IN TELEGRAM
Лицемерие лидеров ИИ.

Пропагандисты этики ИИ подвергаются серьезной критике из-за партнёрств с организациями, обвиняемыми в серьёзных нарушениях прав человека, при этом публично выступая против таких проблем. 

https://blockchain.news/ainews/ai-ethics-leaders-face-scrutiny-over-partnerships-with-controversial-organizations-industry-accountability-in-focus
Корея создала Национальный комитет по стратегии в области искусственного интеллекта для разработки политики в области искусственного интеллекта

Национальный комитет по стратегии в области искусственного интеллекта (ИИ), который служит центром управления политикой в области искусственного интеллекта (ИИ), начал свою работу 8 числа. В состав комитета входят 50 членов, включая председателя Ли Джэ Мёна, заместителя председателя Им Мун Ёна, 34 представителя частного сектора и 13 министров из основных государственных ведомств.

На первом заседании главным пунктом повестки дня был объявлен «Корейский план действий в области ИИ». План действий состоит из трёх основных направлений политики:
▲ содействие развитию экосистемы инноваций в области ИИ,
▲ общенациональная трансформация ИИ,
▲ содействие формированию глобального общества, основанного на ИИ, а также 12 стратегических направлений.

https://biz.chosun.com/en/en-it/2025/09/08/I7DRJAXTJVGQZG7G5XUNTFWHL4/
ИИ сокращает время обучения, но ослабляет критическое мышление

Эксперимент доктора Мейтала Амзалега в HIT показывает, что студенты учатся с помощью ИИ так же эффективно, как и с живыми преподавателями, однако излишняя зависимость может негативно сказаться на успеваемости.

Доктор Мейтал Амзалег с факультета образовательных технологий Холонского технологического института (HIT) представила свое исследование на конференции Calcalist AI, проведенной совместно с Vultr, на тему, может ли искусственный интеллект заменить лектора-человека.

«Мы сосредоточились на трёх основных вопросах», — пояснила она. «Во-первых, если студенты учатся с помощью ИИ вместо традиционного преподавателя, есть ли разница в их достижениях? Во-вторых, как ИИ влияет на эффективность процесса обучения? И в-третьих, есть ли связь между частотой использования ИИ и успеваемостью студентов?»

https://www.calcalistech.com/ctechnews/article/r680lt05p