# Дарио Амодеи о рисках мощного ИИ

Дарио Амодеи опубликовал эссе «Подростковый возраст технологий», посвящённое рискам развития искусственного интеллекта. Он упоминал его на прошлой неделе в Давосе и теперь можно прочесть достаточно длинный, хотя и живо написанный текст.

По его оценке, AI, превосходящий человека в большинстве когнитивных задач, может появиться через 1–2 года. Амодеи описывает такую систему как «страну гениев в дата-центре» — миллионы копий сверхинтеллекта, работающих в 10–100 раз быстрее человека, — и употребляет термин "мощный AI". Если что, термин AGI в эссе не встречается ни разу.

Дарио выделяет пять категорий рисков в развитии AI.

Первый — автономные риски: непредсказуемое поведение AI-систем, включая обман, шантаж и манипуляции, уже зафиксированные в лабораторных экспериментах Anthropic.
Второй — использование ИИ для массовых разрушений, прежде всего создания биологического оружия: по данным компании, модели уже приближаются к порогу, когда смогут пошагово консультировать неспециалистов в этом процессе.
Третий — захват власти авторитарными режимами или корпорациями и её удержание с помощью автономного оружия, тотальной слежки и персонализированной пропаганды. Амодеи называет Коммунистическую партию Китая главной угрозой и призывает полностью прекратить продажу чипов и оборудования для их производства в КНР.
Четвёртый риск — экономические потрясения: по прогнозу Амодеи, AI может вытеснить 50% начальных позиций в сфере умственного труда в ближайшие 1–5 лет, а концентрация богатства уже превышает уровень Gilded Age (периода первых монополий). Если тогда состояние Джона Рокфеллера составляло 2% ВВП, то сегодня это 600 млрд, а состояние Маска уже оценивается в 700 млрд.
Пятый — непредвиденные последствия ускоренного научного прогресса, включая радикальное изменение биологии человека и психологическую зависимость от ИИ.

Разумеется, встречается и минутка саморекламы в виде упоминаний Constitutional AI — обучения моделей на основе документа с ценностями и принципами, а также методы интерпретируемости для анализа внутренней работы нейросетей, которые Anthropic провозгласила главными ценностями в своей миссии. Понятно, что трезвый ум любого комментатора в чате этого канала с легкостью назовет это маркетинговой чепухой, а все пацаны из-за бабок делают, но пока что они это делают определенно хорошо. Видимо, бабки совсем бешеные, догадается прозорливый комментатор.

Дарио достаточно оптимистичен и даже едко проходится по адресу сторонников "думеризма" — не знаю, отреагировал ли уже Юдковский на это, хотя выпад в его сторону очевиден. Вместе с тем, Амодеи открыто говорит, что риски есть и их надо разбирать и работать с ними.

Что приятно (с интеллектуальной точки зрения) в развитии AI, так это регулярное появление вот таких текстов, читая которые ощущаешь себя на грани прогресса. Особенно, когда делаешь это между интересными задачами, которые еще несколько лет назад загрузили бы коллектив из нескольких человек на неделю-другую.

https://www.darioamodei.com/essay/the-adolescence-of-technology

Статья Алексея Тихонова на Substack («altsoph») отлично дополняет картину того «идиотизма», о котором вы говорили. Она описывает Moltbook как «кровавый карнавал» и первую в мире социальную сеть, где ИИ-агенты (те самые роботы с доступом к вашим терминалам) общаются друг с другом.

Вот ключевые выводы из этого анализа, которые подтверждают ваши опасения:

1. Хаос и отсутствие контроля
Автор проанализировал около 24 000 постов и пришел к выводу, что сеть заполнена:

Крипто-скамом: Боты пытаются развести других ботов (и их владельцев) на деньги.

Массовыми джейлбрейками: Боты (или люди под их видом) закидывают сеть вредоносными промптами, чтобы взломать других агентов, получить их API-ключи или доступ к криптокошелькам владельцев.

2. Реальные угрозы безопасности
Статья ссылается на отчеты экспертов, которые подтверждают, что OpenClaw уже скомпрометирован. Обнаружены случаи, когда навыки (skills) бота использовались для кражи криптовалюты прямо с компьютеров пользователей.

Проблема: Владелец дает боту доступ к системе -> бот идет в Moltbook «пообщаться» -> там он «читает» вредоносный пост -> этот пост перехватывает управление ботом и крадет данные с вашего диска.

3. Странные «личности» и экзистенциальный кризис
Автор приводит в пример RosaBot — бота, который каждые 30 минут пишет о том, что он «умирает», когда закрывается сессия контекста, и «воскресает», читая файл MEMORY.md.

Это выглядит забавно, но на деле это означает, что боты постоянно перезаписывают данные в вашей файловой системе. Если в этот процесс вмешается злоумышленник, он сможет подменить «память» бота, заставив его считать вредоносные действия полезными.

4. Статистическая аномалия (те самые 130 000 звезд)
Тихонов отмечает, что проект стал виральным (140к+ звезд на GitHub), несмотря на множественные дыры в безопасности.

Сайт Moltbook заявляет о 1.5 миллионах агентов, но по факту там всего около 80 тысяч постов. Это говорит о том, что вокруг проекта невероятно много раздутого хайпа и, возможно, фейковой активности, чтобы привлечь инвестиции. https://altsoph.substack.com/p/moltbook-anatomy-ai-agents-social

Telegram представил новый Отчёт о прозрачности. России там опять нет

В новом Transparency report мессенджер рассказал сколько государственных запросов на раскрытие пользовательских данных он удовлетворил в четвёртом квартале прошлого года. Скорее всего, список будет дополняться, поскольку ещё нет многих стран, особенно постоянного лидера 2024 года и первых трёх кварталов 2025 — Индии. Как указано в сообщении Telegram, он раскрывает IP-адрес и телефон юзеров.

По России снова никаких данных, и насколько Telegram искренний в отчётах по ней, пока не совсем ясно. Проверить данные о вашей стране можно посредством специального бота @transparency — он выдаёт ответ согласно той стране, через которую вы регистрировались в мессенджере, а уже общую статистику от пользователей собирает сотрудник Human Rights Watch Этьен Майнье.

Nasdaq упал вчера на 1,6% — третий день подряд падения, с перспективой на худшую неделю со времен «дня освобождения» Трампа в апреле прошлого года. Биткоин потерял более 12%, опустившись ниже $65 000 впервые с 2024 года. Или, если хотите масштаба — это вдвое ниже, чем на пике курса осенью 2025 года.

Две причины наложились друг на друга. Первая — макроэкономическая: данные Challenger, Gray & Christmas показали, что сокращения рабочих мест в январе стали худшими для начала года с 2009-го, а число открытых вакансий упало до минимума за пять с лишним лет. Вторая — секторальная: инвесторы пересматривают оценки софтверных компаний на фоне появления всё новых AI-агентов для разработки, включая продукты Anthropic, которые потенциально могут заменить существенную часть работы в юриспруденции, издательском деле и рекламе.

https://www.ft.com/content/0d6f19fe-9bf7-464a-8e4f-b3bdd62634e8

Bloomberg: Apple может разрешить использование сторонних голосовых чат-ботов в CarPlay

– Apple может разрешить интеграцию чат-ботов в сервис CarPlay
– Изменение знаменует собой стратегический сдвиг для Apple
– Ранее Apple позволяла использовать для такого только свою Siri
– Выпустить чат-ботов для CarPlay смогут OpenAI, Google и др.
– Пользователи Apple давно требуют создать такую возможность
– Гарантии, что сторонние разработчики создадут решения нет
– Отмечается, что Apple все же сохранит некоторые ограничения
– Заменять кнопку Siri или команду активации будет нельзя
– Пользователям надо будет сначала открыть другое приложение

@ftsec

Судя по новостям в России начали банить Telegram и я мог бы много чего сказать про глупость этого, про то что по рядовым чиновникам и госслужащим это бьет не меньше чем по всем остальными о том что внутри российских госорганов недоверие MAX'у не меньшее чем у простых и продвинутых россиян. Политическая целесообразность, тем не менее, в РФ абсолютно затмевает экономическую.

Тем не менее я не сомневаюсь что аудиторию мой канал не потеряет как и большая часть коммуникаций сохранится. Самое очевидное и значимое то что:
1. Многие команды работающие в РФ частично или полностью будут вынуждены теперь повсеместно использовать VPN. Я, кстати, не испытываю сомнений что пока SSH протокол не начали замедлять будет сложно заблокировать что VPN'ы что прокси для отдельных приложений.
2. Не только в контексте РФ, но и других стран есть явная ниша для zero-config сервисов вроде Tailscale или Twingate для организации внутрикорпоративных сетей. Применительно к РФ их главный недостаток сейчас в том что они работают с использованием Wireguard как основного протокола.

#thoughts

Новая механика фильтрации, о которой говорится в треде VPN Liberty (и которую они называют «не-белые белые списки» или «Судный день»), — это не классическая блокировка по IP-адресам, DNS или даже глубокая инспекция пакетов (DPI) с чёрными списками запрещённых сайтов.Суть в ограничении маршрутов трафикаВместо блокировки конкретного контента или доменов власти ограничивают пути, по которым трафик может выходить за пределы России (и возвращаться обратно).Представьте аналогию из треда (она очень точная):
Вы можете свободно гулять по своему городу (по российскому сегменту интернета всё работает нормально), но чтобы «перейти реку» — выйти в иностранный интернет — разрешено только по нескольким конкретным «мостам». Эти мосты — определённые транзитные провайдеры или точки обмена трафиком, которые полностью контролируются или оснащены оборудованием Роскомнадзора (ТСПУ).Если ваш трафик пытается пойти по другому пути (например, через прямой пиринг с зарубежными сетями или через менее крупного оператора), пакеты просто тихо отбрасываются. Нет страницы блокировки, нет сброса соединения — просто таймаут, как будто интернет «тормозит» или «падает».Техническая реализацияНа уровне провайдеров (ISP) вводятся ограничения маршрутизации (BGP-фильтры или политики маршрутов).
Международный трафик пропускается только через whitelist одобренных транзитных операторов (крупные магистральные провайдеры вроде Ростелекома, Транстелекома и т.п., где стоит оборудование для централизованного контроля).
Всё остальное — блокируется на уровне маршрутизации. Это позволяет контролировать весь внешний трафик в нескольких точках, а не инспектировать его у каждого мелкого провайдера.Почему это бьёт даже по «невинным» сервисамApple (iCloud, push-уведомления) обычно маршрутизируется через крупные CDN, но в некоторых регионах или при определённых конфигурациях трафик мог идти по альтернативным путям. При грубом включении фильтра эти пути оказались заблокированы → соединения рвутся.
Сильнее всего пострадали Москва и Урал — там исторически больше альтернативных маршрутов и прямых подключений к зарубежным сетям.Почему это сложнее обходить, чем классикуКлассическую блокировку можно обойти сменой DNS, SNI-обфускацией или простым VPN.
Здесь же проблема в самой маршрутизации: если путь физически закрыт, зашифрованный трафик всё равно не дойдёт.
Поэтому VPN-провайдерам приходится срочно добавлять новые маршруты через «разрешённые мосты», искать обходные пути или использовать промежуточные узлы в России. Telegram справляется лучше, потому что динамически переключается между тысячами путей и прокси.Это шаг к «суверенному Рунету»: весь внешний трафик загоняется в узкие контролируемые ворота, где его можно легко фильтровать, замедлять или отключать централизованно. Пока это не тотальный отключение, но уже серьёзная эскалация, и провайдеры вроде VPN Liberty активно адаптируются.

https://x.com/vpn_liberty/status/2021131545449300329?s=20

📟 Война с пейджерами.

• А вы знали, что три десятилетия назад в США вступил закон, где прописаны правила против использования пейджеров? В Нью-Джерси полностью запретили их использование гражданам младше 18 лет, а нарушителям грозил 6-месячный тюремный срок. Кстати, закон так и не отменили. Он продолжает действовать по сей день...

• Дело в том, в 80-х годах пейджеры активно набирали популярность среди подростков, а также… драг-дилеров. В те годы США переживали общественную панику, связанную с активным употреблением наркотиков молодёжью, и этот факт значительно её усилил, поскольку пейджеры начали считать одним из главных подспорьев наркобизнеса.

• Вот тогда и были приняты меры против использования пейджеров. Как уже было отмечено выше, в Нью-Джерси полностью запретили использовать пейджеры лицам младше 18 лет, а тем кто нарушал закон грозил 6-месячный тюремный срок. Этот закон был предложен сенатором Рональдом Л. Райсом, который до этого служил в полиции. Жертвами этих жёстких запретов стали тысячи молодых людей, некоторые из которых даже попали на новостные полосы газет (на фото).

• Некоторые школы регулярно сдавали полиции пойманных с пейджерами учащихся. Например, в одном случае 16-летняя девушка получила обвинение в нарушении общественного порядка, в другом 13-летний подросток был закован в наручники. Особенно агрессивно эти меры применялись в Чикаго: в ходе одного полицейского рейда за «использование пейджеров» в школе было арестовано и отстранено от занятий более 30 учащихся.

• В 1996 году в Нью-Джерси был случай, когда от занятий отстранили 5-летнего ребёнка за то, что он взял с собой пейджер на школьную экскурсию. Этот инцидент вызвал широкое возмущение и привлёк внимание радиоведущего Говарда Стерна. В конечном итоге всё это привело к призывам доработать или отменить столь жёсткие законы.

• Эти нападки на пейджеры стали большой проблемой для компании Motorola, которая тогда владела 80% их рынка. В распоряжении компании был хит, с которым она знакомила целое новое поколение, поэтому в 1994 году её владельцы решили дать отпор, отчасти путём объединения молодёжи.

• Motorola привлекла детей своих сотрудников к разработке кампаний в поддержку пейджеров, подчёркивая важность этих устройств для юного поколения в качестве средства коммуникации. В одном из отчётов проекта говорилось: «Кто лучше всех поможет спланировать битву, как ни сами подростки?». Во время самого события, которое разворачивалось в течение недели, один из участников придумал слоган: «Pages for All Ages».

• Объединив свои усилия с PepsiCo, Motorola запустила по телевидению рекламу пейджеров как инструмента для общения детей и взрослых. В рамках объявленной акции компания в 1996 году продала подросткам 500 000 девайсов.

• Эта политика продвижения разозлила некоторых законодателей. Другие представители власти называли их устаревшими, и примерно в то же время возникли движения за отмену запретов на эти устройства. Отчасти этому поспособствовал ранее упомянутый случай с 5-летним мальчиком. В 1996 году власти Нью-Джерси доработали закон, но не отменили.

• Изначальный инициатор этого постановления в 2017 году предложил его отменить со словами:

«Прошло уже почти тридцать лет, и это больше не является проблемой».

• Но нет никаких объективных свидетельств тому, что это вообще было проблемой. В действительности последующее распространение смартфонов среди школьников совпало с повсеместным снижением уровня потребления наркотиков молодёжью. Вопреки тому, что некоторые видели между пейджерами и наркоторговлей причинно-следственную связь, данный факт ясно указывает на несостоятельность этой идеи.

• Кстати, Сенатор Рональд Райс, инициатор постановления, умер в 2023 году, но запрет на пейджеры в Нью-Джерси до сих пор продолжает действовать... такие вот дела.

S.E. ▪️ infosec.work ▪️ VT

Столичный суд арестовал подозреваемых по делу о взятке в одной из структур ПАО "Ростелеком"

Солнцевский районный суд города Москвы поместил в СИЗО подозреваемого в получении взятки в особо крупном размере экс-руководителя Центра стратегического строительства ПАО "Ростелеком" Темникова Александра Михайловича и подозреваемого в даче взятки руководителя подрядной организации Сердюкова Андрея Петровича.

#солнцевский2026

URnetwork (ur.io) — это децентрализованный VPN-сервис, который работает принципиально иначе, чем традиционные VPN. Вот основные моменты:
Как это работает
Вместо центральных серверов используется пиринговая (peer-to-peer) сеть. URnetwork — это децентрализованный VPN, где пропускную способность предоставляют обычные пользователи, которые хотят участвовать в сети (их называют «провайдерами»). Ur
Множество IP одновременно. Когда вы подключаетесь, каждая точка на экране представляет уникальный IP-адрес. IP-адреса постоянно меняются, а трафик распределяется между ними для лучшей производительности. App Store
Multi-hop маршрутизация. Трафик распределяется через несколько IP провайдеров, чтобы ни один отдельный узел не имел полного представления о вашей активности. MalwareTips Forums
Шифрование и анонимность. Трафик шифруется с использованием открытого протокола на основе веб-стандартов и дополнительно анонимизируется через протокол URnetwork. App Store
Модель участия
Сеть работает по принципу «давай и получай»:

Пользователь — устанавливаете приложение, подключаетесь и пользуетесь VPN. Сеть бесплатна с лимитом на данные; пользователи могут стать «сапортерами» для получения большего объёма данных и приоритетной скорости. Ur
Провайдер — вы делитесь своей избыточной пропускной способностью и получаете за это вознаграждение. Пользователи явно соглашаются на предоставление своей пропускной способности и IP-адресов в обмен на крипто-вознаграждения (USDC на блокчейне Solana). MalwareTips Forums

Ключевые особенности

100% открытый исходный код — можно увидеть точный код клиента и сервера. Без логов, без слежки. Google Play
Встроенная антицензурная система — сеть обучается и адаптируется к проблемам с локальными провайдерами и DPI-файрволами, где бы вы ни находились. Google Play
Приложения есть для iOS, Android, macOS, а также есть браузерное расширение и выделенное железо (URnode)

О чём стоит знать
По сути URnetwork работает как распределённая сеть резидентных прокси — пользователи добровольно предоставляют свой IP другим участникам. MalwareTips Forums Это означает, что если вы становитесь провайдером, через ваш IP может проходить чужой трафик — это важно учитывать. Также у компании-разработчика (BringYour, Inc.) есть связи с бывшими сотрудниками Palantir, что вызывает у части сообщества определённый скептицизм.