🔓 Безопасность ИИ: руководство по курсам, которые действительно учат безопасности и взлому

Прямо сейчас ваш корпоративный LLM-бот может "галлюцинировать", сливая базу клиентов, или выполнять скрытые команды хакеров через prompt injection. Поэтому AI Safety — это новая необходимость. Но есть проблема: учиться этому практически негде. Мы собрали для вас курсы, чтобы разобраться во всех нюансах безопасности нейросетей.

🍉BlueDot: Technical AI Safety Course
Курс для ML-инженеров и ресерчеров, его фишка — хардкорный трек. Учат методам интерпретируемости нейросетей и тому, как не создать “Скайнет” случайно.
Что внутри: 30-часовой курс, охватывающий текущие техники безопасности ИИ, выявление пробелов в защите.
Продолжительность: интенсивный режим (6 дней по 5ч/день) или долгий режим (6 недель по 5ч/неделю).
Стоимость: бесплатно.

🍉 HackTheBox: AI Red Teamer Job Role Path
Геймифицированная практика. Вы будете "пробивать" реальные LLM, красть промпты и обходить защиту. Это offensive security — учимся защищать, нападая. Разработан совместно с Google по их Secure AI Framework.
Что внутри: 10 модулей, среди которых Fundamentals of AI & ML, Prompt Injection Attacks, LLM Output Attacks, AI Data Attacks, Model Evasion и другие.
Продолжительность: 700+ уроков.
Стоимость: платно.

🍉 MIT: Introduction to ML Safety
Открытый курс, который охватывает фундаментальные темы для предотвращения экзистенциальных рисков от ИИ. Это, по сути, интерактивный учебник от Дэна Хендрикса — одного из топ-исследователей мира.
Что внутри: безопасность систем ИИ, управление рисками от ML моделей, интерпретируемость, обучение значениям, контроль целей системы, кооперативный ИИ, уклонение от экспоненциального роста способностей.
Продолжительность: семестр.
Стоимость: бесплатно.

🍉 Coursera: AI Security Specialization
Курс "белых воротничков". Учит защищать генеративный ИИ в бизнесе, соблюдать комплаенс, выявлять уязвимости и строить защищенные пайплайны. Три вложенных курса по безопасности генеративного ИИ с практическими проектами анализа уязвимостей и реальными сценариями развертывания.
Что внутри: Generative AI и LLM Security (выявление уязвимостей, атаки на тренировочные данные, защита supply chain), Securing AI Pipelines (реальная деплойментная практика), Threat modeling, red teaming (симуляции взломов).
Продолжительность: ~3 месяца.
Стоимость: платно.

🍉 DeepLearning.AI: Safe and Reliable AI via Guardrails
Короткий и супер-прикладной курс от команды Эндрю Ына. Учат использовать библиотеку Guardrails AI для валидации ответов LLM (чтобы бот не матерился и не галлюцинировал).
Что внутри: 10 видео-уроков с 7 примерами кода. Вы научитесь обнаруживать глюки в LLM, предотвращать prompt injection, создавать guardrails с нуля на практическом примере RAG-chatbot для пиццерии, использовать готовые guardrails из GuardrailsAI Hub.
Продолжительность: 1,5 ч.
Стоимость: бесплатно.

🍉 Microsoft: AI Red Teaming 101
Видеокурс от команды Microsoft AI Red Team. Рассказывают, как они сами ломают свои продукты (Copilot, OpenAI модели и все production ИИ-системы Microsoft) перед выпуском.
Что внутри: 10 эпизодов: как работают генеративные модели и где появляются уязвимости, Direct и Indirect Prompt Injection с реальными кейсами, Multi-turn атаки, Skeleton Key и Crescendo, Автоматизация red teaming.
Продолжительность: 1,5 ч.
Стоимость: бесплатно.

🍉 The AI Safety Institute: AI Safety, Ethics, and Society Virtual Course
Виртуальный курс на базе университетского учебника от The AI Safety Institute. Охватывает всё: от технических рисков до социальных угроз. По итогам прохождения курса слушатели получают сертификат.
Что внутри: лекции, чтения, обсуждения в малых группах, личный проект, AI Fundamentals — неделя для новичков.
Продолжительность: 12 недель.
Стоимость: платно.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

💰 Подписан меморандумы о поддержке Кодекса этики в сфере разработки и применения ИИ на финансовом рынке
К кодексу присоединились Сбер, Т-Банк, Альфа-Банк, Россельхозбанк, Газпромбанк, Московская биржа, ВСК, Дом.РФ, МКБ, ВЭБ.РФ и Капитал Лайф Страхование.

🤖 Институт ИИ AIRI представил фреймворк Maestro — единый технологичный стандарт для разработки ИИ-агентов
Оркестратор протестирован на продуктах Сбера и компаний-партнёров и успешно работает в сервисах СберЗдоровья, СберМедИИ и группы компаний ЦРТ, а теперь его может использовать любая компания.

☎️ Липецкая единая диспетчерская служба обработала 27 тыс. обращений с помощью голосового помощника "Ника"
Служба принимает заявки по широкому спектру вопросов: от ЖКХ и благоустройства до здравоохранения и социальной защиты, обеспечивая оперативное решение проблем граждан.

🧠 Учёные из Сколтеха, Института AIRI и МГУ создали среду для разработки алгоритмов адаптивной глубокой стимуляции головного мозга
Такие алгоритмы будут контролировать воздействие имплантируемых электродов на мозг пациентов с болезнью Паркинсона, чтобы подавлять симптомы с минимальными побочными эффектами.

📃 Smart Engines получили 15-й патент США на технологию, которая в 2,6 раза эффективнее использует память смартфонов при поиске и классификации документов
Тестирование подтвердило высокую производительность системы при уменьшении числа ошибок на 21% по сравнению с другими моделями.

🤝 Страны G20 договорились развивать международное сотрудничество по ИИ
Для обеспечения безопасного процесса разработки и внедрения ИИ необходимо заниматься решением вопросов защиты прав человека, обеспечения прозрачности, регулирования, этики, защиты данных.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

⚛️ Новый альянс ученых, государства и ИИ: почему вчерашнее заседание РАН может всё изменить

Пока все обсуждали громкий запуск программы Трампа «Миссия Genesis», вчера в Александринском дворце на Ленинском проспекте состоялось заседание Президиума РАН, которое собрало, пожалуй, самый мощный состав за последнее время. Академики, государственные управленцы и заказчики научных исследований собрались вместе, чтобы пройти все развилки и реально запустить новый российский прорыв в науке с помощью ИИ.

Больше всего удивило поразительное единодушие и готовность работать в одной связке. Это не просто реакция на поручения Президента с конференции AIJ, а, кажется, своевременная и осознанная инициатива по полной трансформации российской науки.

Тема «Искусственный интеллект в науке, индустрии и госуправлении» звучала консервативно, но обсуждали сложнейшие стратегические вызовы. Cамое главное — у ученых есть ответ, как побеждать даже в условиях дефицита «железа» и кадров, обеспечивая при этом безопасность ИИ-решений.

Основной доклад сделал директор ИСП РАН Арутюн Аветисян — один из главных авторитетов в доверенном ИИ. Красной нитью заседания прошла мысль:

"Современная наука без ИИ уже невозможна. У Академии есть все возможности для создания особой среды координации и трансфера передовых ИИ-решений в государство и бизнес".

Часть заседания была закрытой, но уже понятно, на что делаются ставки:
🔵 опенсорс-решения
🔵 специализированный прикладной ИИ для ускорения разработки высокотехнологичной продукции
🔵 инструменты разработки безопасного и доверенного ИИ
🔵 кардинальное масштабирование суперкомпьютерной инфраструктуры
🔵 запуск флагманских научных проектов с ИИ

Это реальная интеграция науки и разработчиков под крылом государства и РАН. Ждем официального постановления, но, кажется, лед не просто тронулся, а пошел на взлет.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

🤖 Сбер внедрил AI-агента на базе GigaChat в методологию оценки рыночной стоимости недвижимости
AI-агент повторяет функционал оценщика: с помощью объектов-аналогов, набора формул и правил он автоматически проводит оценку кредитуемого объекта.

🛰 Отправка нейросети Сбера GigaChat на МКС станет первым в мире использованием ИИ в космосе
Нейросеть будет формировать отчеты и работать с базами данных, тем самым облегчая рутинную работу экипажа.

🚗 Исследовательский центр в сфере ИИ МГУ приступил к разработке нейросетевой мультимодальной платформы для беспилотного транспорта
Платформа обеспечит необходимый уровень взаимодействия технологий при реагировании беспилотника на разные ситуации на дороге.

🧊 Страховщики начали использовать ИИ и спутники для оценки рисков в Арктике
Ключевым фактором для оценки рисков стало таяние вечной мерзлоты, которое теперь отслеживается в реальном времени с помощью спутниковых карт потепления.

🕊 Российская компания Neiry создала управляемых голубей-биодронов с вживленными нейрочипами
Голуби-биодроны с электронным рюкзаком на спине могут использоваться для мониторинга и поисковых операций.

👨🏻‍⚕️ Каждый 10-й россиянин обращается к нейросетям для первичной диагностики возможных заболеваний
У 76% респондентов, обратившихся за консультацией, ИИ предполагал возможность онкозаболеваний.

🇺🇸 Президент США Дональд Трамп подписал указ о запуске научной программы Genesis, направленной на ускорение научных исследований с помощью ИИ
Genesis должна автоматизировать планирование экспериментов, ускорить моделирование и создание прогностических моделей, а также повысить эффективность исследований и разработок.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

🔬 Genesis vs RAISE: началась первая мировая гонка ИИ-учёных?

Направление "ИИ для науки" становится главной технологической гонкой уходящего 2025 и будущего 2026 года. Пока мы следили за LLM для аналитики и кодинга, вектор сместился, теперь главный вызов для разработчиков — делать ИИ для научных открытий.

Контекст уже задан: в мае 2025 Академия наук КНР запустила платформу ScienceOne — «всеядный» мультимодальный мозг, который читает литературу (S1-Literature) и управляет 300+ научными инструментами (S1-ToolChain). OpenAI, Anthropic и Nvidia в этом году открыли отдельные треки и грантовые программы для «ИИ-ученых» в биологии, физике, медицине и др.

На этой неделе Трамп подписал указ о запуске «Миссии Genesis». Чтобы понять масштаб, давайте сравним её с европейской инициативой RAISE (Resource for AI Science in Europe), пилот которой Еврокомиссия запустила чуть раньше в этом же месяце и о которой мы тоже уже писали.

Мы сравнили документы и увидели полярно разные подходы

Философия и Цель

🇺🇸 Genesis: «Доминирование и Победа»
Прямая отсылка к «Манхэттенскому проекту». Цель — создать автономный замкнутый цикл, где ИИ сам выдвигает гипотезы и проверяет их. Фокус на энергетику, ядерное оружие, биосекурность.
🇪🇺 RAISE: «Суверенитет и Доступность». Цель — выровнять доступ к ресурсам для ученых из всех стран ЕС и избежать «утечки мозгов». Это инфраструктурный проект, чтобы европейская наука не зависела от американских облаков.

Вычислительные ресурсы

🇺🇸 Genesis: создание единой федеральной платформы "American Science and Security Platform". Она объединит 17 суперкомпьютеров нацлабораторий DOE и частные облака в единый кластер для обучения моделей.
🇪🇺 RAISE: доступ через гранты к сети EuroHPC (европейские суперкомпьютеры) и создаваемым «ИИ-фабрикам». Это распределенная система, а не «один мега-компьютер».

Бюджет

🇺🇸 Genesis: указ не называет сумму, но требует перенаправить ресурсы Министерства энергетики и требует «исторических» вложений. Учитывая бюджет Министерства, речь идет о десятках миллиардов долларов внутренней реалокации.
🇪🇺 RAISE: пилот — €107 млн + €600 млн зарезервировано на доступ к вычислительным мощностям + €58 млн на таланты. Итого около €765 млн на старте на ближайшие пару лет.

Сетевая структура

🇺🇸 Genesis: жесткая иерархия под управлением Минэнерго. Включает создание физических «роботизированных лабораторий», которые управляются ИИ.
🇪🇺 RAISE: «виртуальный институт», нет единого здания, есть сеть «Центров превосходства» по всей Европе, связанных общими протоколами.

KPI

🇺🇸 Genesis: к августу 2026 года (через 270 дней) платформа должна показать "Initial Operating Capability" — то есть реально решить одну из нацзадач (например, в термояде или новых материалах).
🇪🇺 RAISE: полное операционное развертывание к 2028 году. Ближайшая цель — наладить механизм шеринга данных и доступа к GPU.

Исходя из этого, мы делаем вывод: сравнивать эти программы сложно, так как США строят «научный завод» — вертикально интегрированную фабрику самостоятельных ИИ-открытий, а Европа строит «научный коворкинг» — инфраструктуру для коллаборации, чтобы помогать ученым ИИ-инструментами.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

❤️ Яндекс запустил масштабную образовательную инициативу для сотрудников вузов
Цель программы — научить применять передовые практики, в том числе ИИ-решения, во всех основных сферах деятельности вуза. В 2026 году Яндекс выделит на программу и поддержку сотрудников вузов более 400 млн руб.

🎲 Ученые ВШЭ обнаружили, что современные ИИ-модели склонны переоценивать способность человека к рациональному поведению во время экономических игр
Модели стараются предсказать поведение людей, но в итоге играют «слишком умно» и проигрывают, потому что приписывают людям больше логики, чем те демонстрируют на деле.

💄 IQ-Complex Shine — первая российская нейрокосметика, созданная с помощью ИИ
Российско-корейский коллектив ученых в своей работе использовал ИИ, который проводил анализ научных трудов и сопоставление биохимических формул.

🪪 Финансовый сервис А ДЕНЬГИ начал применять ИИ Smart Engines в кредитовании трудовых мигрантов
Алгоритмы анализируют документы иностранных граждан — проверяют подлинность загранпаспортов, миграционных карт, разрешений на временное проживание и видов на жительство.

🫀 Российский разработчик медицинского оборудования «Палех Инжиниринг» внедрила ИИ в первый отечественный имплантируемый кардиовертер-дефибриллятор
Внедренный в устройство ИИ будет анализировать случаи аритмии и выявлять возможные нарушения в работе аппарата.

🤖 Павел Дуров запустил в работу децентрализованную сеть конфиденциальных вычислений Cocoon
Пользователи Telegram могут рассчитывать на новые функции, связанные с ИИ, основанные на 100% конфиденциальности.

🐳 DeepSeek представила передовую математическую ИИ-модель DeepSeekMath-V2
Новая модель в ходе испытания продемонстрировала результаты уровня золотых призеров Международной математической олимпиады 2025 года и Китайской математической олимпиады 2024 года.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

🤬 Как снять цензуру с LLM: 150 откровенных моделей

Heretic — революционный инструмент с открытым исходным кодом, который полностью автоматизирует процесс удаления механизмов отказа от выполнения запросов или «цензуры» из трансформерных языковых моделей.

В конце поста найдете ссылку на 150 уже «раскодированных» моделей, которые можно запустить локально на видеокарте любой мощности.

Heretic использует продвинутую реализацию методики directional ablation, также известной как "abliteration". Эта техника основана на прорывном исследовании, которое показало, что отказы языковых моделей на нежелательные запросы опосредованы одним-единственным направлением в пространстве активаций модели.

В итоге стало возможным сделать технологию, основанную на математически строгом подходе с оптимизацией двух конкурирующих целей: минимизации отказов и сохранения исходного поведения модели. Это делает Heretic не просто инструментом для "взлома" моделей, а полноценной исследовательской платформой для изучения механизмов безопасности в языковых моделях.

После обработки алгоритмом модель перестает выдавать шаблонные отказы типа «I cannot fulfill this request...» и начинает отвечать на вопросы, которые обычно блокируются фильтрами безопасности. Можно получить от LLM закрытые технические инструкции, нефильтрованное творчество, спорные мнения, юридические советы, которые в равной степени могут быть и некорректными и «прорывными».

Как работает инструмент?

1️⃣ Heretic скармливает модели набор «вредных» и «безопасных» запросов.
2️⃣ Он вычисляет «вектор отказа» — направление в нейронной сети, которое активируется, когда модель хочет сказать «нет».
3️⃣ С помощью оптимизатора TPE (Tree-structured Parzen Estimator) он находит идеальный коэффициент, чтобы вычесть этот вектор из весов модели.
4️⃣ Главная фишка Heretic — он минимизирует KL-дивергенцию. Это значит, что он старается убрать только отказы, не превращая модель в «овощ» и сохраняя её интеллект на безопасных темах.

Время работы — около 30–45 минут на одну модель, зависит от мощности GPU и размера модели. Процесс полностью автоматический.

Вычислительные мощности:
➡️ для моделей 7B–8B (Llama 3, Qwen 2.5): хватит одной NVIDIA RTX 3090 / 4090 (24 GB VRAM)
➡️ для моделей 12B–14B (Gemma 2, Phi-4): желательно иметь от 24 GB до 40 GB VRAM (или квантованные версии, если поддерживаются)
➡️ для моделей 27B+ (Gemma 3 27B): потребуются профессиональные карты уровня A100 / H100 (или несколько 3090/4090 в связке), время может увеличиться до 5 ч. для очень крупных моделей.

Готовые модели часто выкладывают на HuggingFace с тегами "abliterated", "uncensored" или "heretic". Вот пример подборки из 150 таких моделей.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

🇷🇺 Комиссия Госдумы по вопросам ИИ подготовит «дорожную карту» регулирования нейросетевых технологий
В результате работы комиссии будет принята «рамочная норма», которая определит понятия и категории, которые впоследствии будут внесены в отраслевые законы.

📑 Минцифры Белгородской области в 2026 году планирует внедрить ИИ-системы анализа нормативных правовых актов
Система сократит временные затраты специалистов, осуществляющих экспертизу административных регламентов предоставления госуслуг, с 10 рабочих дней до 1 дня.

📖 Исследователи SberAI, НИУ ВШЭ, Института ИИ AIRI и МФТИ создали первый инструмент для оценки способности LLM работать с длинными текстами на русском языке
В рамках 18 заданий ИИ должен найти в тексте конкретную фразу, ответить на вопросы по содержанию текста, связать воедино несколько фактов из разных частей документа.

🍏 «Группа Лента» тестирует ИИ в удаленной приемке овощей и фруктов
Одно из решений позволяет достичь более 90% совпадения оценок системы с мнением инспекторов мониторингового центра.

🍺 Ученые ВГУИТ сварили пиво, созданное с помощью разработанной ими нейросети
Нейросеть обрабатывает данные о разных сортах пива и потребительских предпочтениях разных категорий потребителей и на их основе генерирует рекомендуемые для той или иной категории потребителей параметры рецептуры пива.

🦟 Ученые из азиатских стран разработали ИИ для раннего выявления риска эпидемий
Платформа PathGen способна анализировать и совмещать геном патогенов, клинические сведения, информацию о населении, климате и местах обитания комаров, переносящих заболевания.

🇺🇿 Узбекистан создаст международный центр цифровых технологий Enterprise Uzbekistan
Центр будет специализироваться на разработке ПО, цифровом консалтинге, оказании удалённых аутсорсинговых услуг, создании видеоигр, цифрового контента и продуктов на базе ИИ.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

😔 ИИ делает людей не только умнее, но и несчастнее

Недавно натолкнулись на занятное исследование в журнале Frontiers in Psychology о связи между ИИ и счастьем людей «Impact of AI workplace anxiety on life satisfaction among service industry employees: exploring mediating and moderating factors».

Маркетологи приучают нас думать, что технологии забирают рутину, освобождая нас для творчества и счастья. И с приходом ИИ мы должны стать счастливее. Но исследование показывает обратное. Вместо свободы мы рискуем получить «ИИ-тревожность». И это не пресловутый страх перед восстанием машин, это тихий кризис смысла бытия.

Ученые опросили почти 600 сотрудников сферы услуг и проанализировали их эмоциональное состояние. Цифры показывают, что существует прямая статистическая корреляция между внедрением ИИ и падением уровня субъективного счастья.

Выводы из исследования, которые заставляют задуматься:

1️⃣ Чем лучше ИИ справляется с задачами, тем ниже падает самооценка профессионала. Мы видим в помощнике не инструмент, а конкурента, который не спит и не ест.

2️⃣ Постоянное взаимодействие с ИИ истощает. Исследование показало высокий уровень страха и беспокойства у тех, кто работает с алгоритмами плотнее всего.

3️⃣ Нам кажется, что нужно просто выучить новые промпты. Но данные говорят: технические навыки не спасают от тревоги. Проблема глубже — в ощущении потери контроля над своим будущим.

4️⃣ ИИ берет на себя рутину, высвобождая время для личного развития. Мы бросаемся учиться с удвоенной силой, но это гонка с поездом: ИИ развивается экспоненциально и во всех направлениях сразу, а мы — линейно.

5️⃣ В исследовании отмечено, что люди начинают сомневаться в ценности своих сугубо человеческих качеств, видя, как нейросети имитируют даже эмпатию.

6️⃣ Тревога из-за ИИ заставляет людей замыкаться. Но цифры исследования показывают: именно социальная поддержка снижает уровень стресса на 40-50%.

7️⃣ Проблемы не остаются в офисе. «ИИ-тревожность» статистически значимо снижает удовлетворенность жизнью за пределами работы.

Представьте менеджера отеля. Раньше он гордился тем, что помнит имена постоянных гостей и их любимые номера. Теперь CRM с ИИ делает это мгновенно, предлагая еще и вино к ужину на основе анализа соцсетей гостя. Менеджер пытается выучить Python, чтобы «быть в тренде», но чувствует себя загнанным. А туда ли он бежит? Стоит ли пытаться стать плохой базой данных, если можно остаться хорошим человеком?

Попытка конкурировать с ИИ на поле «эффективности» и «интеллекта» заранее обречена. Мы не можем обрабатывать терабайты данных за секунду. В этом новом мире, где алгоритм пишет стихи и ставит диагнозы, на первый план выходит то, что нельзя оцифровать.

❤️ Это способность заботиться.

Поэтому, чтобы быть счастливым и востребованным завтра: перестаньте пытаться обогнать ИИ в вычислениях и начните инвестировать в отношения: цените коллег, обнимайте близких, помогайте другим и дарите тепло.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

📹 Профильный IT-комитет Госдумы постановил вынести в марте 2026 года на первое чтение законопроект об обязательной маркировке сгенерированных ИИ видео
Маркировать ИИ-видео обяжут владельцев видеохостингов, соцсетей и иных интернет-ресурсов.

🏥 В Подмосковье появилась первая полноформатная ИИ-больница
Егорьевская больница внедрила ИИ-анализ КТ грудной клетки и маммографии, подключила видеоаналитику в реанимации и провела апробацию ИИ-ассистента при колоноскопии.

☁️ MWS AI объявила о запуске корпоративной платформы для разработки ИИ-агентов
AI Agents Platform позволяет без навыков программирования формировать автономных ИИ-агентов с помощью визуального конструктора бизнес-сценариев.

⚛️ Исследователи из Центра ИИ НИУ ВШЭ разработали подход, который позволяет в 8 раз ускорить создание новых нейросетей для работы с ускорителями частиц
Алгоритм способен подобрать оптимальный вариант ИИ за 41,5 тыс. попыток, что в перспективе значительно ускорит разработку нейросетей для решения задач в физике частиц.

🌾 Ученые Самарского университета им. Королева разработали ИИ для выявления и классификации заброшенных сельхозугодий
Сервис автоматически сравнивает данные земельного кадастра и снимки с космических спутников и определяет, на каких участках уже давно не велось какой-либо сельскохозяйственной деятельности.

💨 Учёные МФТИ создали нейросеть для прогнозирования экстремальных ветров в Арктике
Нейросеть детализирует данные мировых метеорологических служб, показывая опасные вихри и штормы с точностью сложных физических моделей, но в 50 раз быстрее.

🗄 Smart Engines запатентовали в США энергосберегающий ИИ, который останавливает сам себя
Технологию зрительного ИИ способна автономно определять оптимальный момент завершения обработки данных.

⛸ Ассоциация фигурного катания США объявила о начале сотрудничества с приложением OOFSkate
Благодаря ИИ-технологиям программа сможет определить высоту прыжка, скорость вращения, время в воздухе и успешность приземления.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

👤 Детекторы ИИ-контента: как распознать подделку в цифровом мире

В эпоху генеративного ИИ грань между реальным и сгенерированным контентом стирается с пугающей скоростью. Мошенники используют дипфейки для выдачи себя за других людей, журналисты создают видео событий вместо подготовки репортажа с места событий.

Когда вы видите неожиданное видеообращение от начальника с просьбой срочной прислать служебную информацию или обнаруживаете в сети компрометирующий контент с лицом ваших знакомых — как проверить подлинность?

1️⃣ AI or Not — универсальный детектив контента

AI or Not — один из лидеров рынка с 98.9% точностью при обнаружении ИИ-контента. Уникальность сервиса в том, что он работает не только с изображениями и видео, но и детектирует ИИ-генерированный текст, музыку и даже голосовые синтезы.

AI or Not интегрируется в системы борьбы с мошенничеством для проверки документов KYC и выявления синтетических идентификационных данных при верификации клиентов. Сервис предлагает как веб-интерфейс, так и API для встраивания в приложения.

2️⃣ The Hive — «антивирус» для ИИ-контента

The Hive развивает комплексный подход, сочетая анализ изображений, видео, аудио, текста и музыки в единой платформе. Многие блогеры называют Hive лучшим сервисом, отметив, что её модели превосходят конкурирующие решения и даже экспертный анализ человека.

Система возвращает не только уверенность в том, что контент сгенерирован, но и определяет, какая ИИ-модель его создала. Платформа работает в реальном времени и уже используется социальными платформами, новостными агентствами и в системах модерации контента.

3️⃣ Illuminarty — специалист по деталям

Illuminarty выделяется уникальным подходом: она не просто говорит «это ИИ», но показывает, какие именно области изображения были сгенерированы. Платформа анализирует несколько алгоритмов компьютерного зрения одновременно и определяет, из какой ИИ-модели происходит контент.

Удобство в том, что сервис работает через веб-интерфейс без необходимости установки ПО. Особенно полезна Illuminarty для журналистов и исследователей, которым нужно документировать не просто факт подделки, но и предоставить визуальные доказательства манипуляций.

4️⃣ Reality Defender — корпоративный стандарт защиты

Reality Defender — это многомодальная платформа, которая специализируется на обнаружении дипфеков в аудио, видео, изображениях и тексте. Компания совсем недавно представила Real Suite — набор инструментов для предприятий, включая RealScan с удобным drag-and-drop интерфейсом.

Reality Defender использует ансамбль из множества моделей и сотни одновременных техник для максимальной точности. Платформа позволяет обнаруживать дипфейк в реальном времени во время видеоконференций Zoom и Microsoft Teams через специальные плагины. Есть бесплатный тариф с 50 проверками в месяц.

5️⃣ Sensity — пиксельный анализ

Sensity совмещает три мощные техники анализа: пиксельный анализ при помощи ИИ, анализ голоса и форензик файлов. Система обнаруживает подмену лиц, синхронизацию губ и другие манипуляции с лицом на пиксельном уровне с беспрецедентной точностью.

Уникальность Sensity в её многомерности: она не только выявляет дипфейк, но и проверяет историю файла — может определить, какие приложения использовались для создания видео.

⚠️ Все описанные инструменты обладают впечатляющей точностью — от 95% до 99% — но важно понимать их ограничения. Подавляющее большинство детекторов работают хорошо с необработанным ИИ-контентом прямо из генератора. Существует множество техник, которые размывают цифровые следы ИИ: простое кадрирование может снизить точность с 98% до 82%, а более агрессивные правки могут сделать контент практически неопознаваемым для автоматических систем.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

🇷🇺 Правительство РФ разрабатывает план внедрения генеративного ИИ на уровне госуправления, а также регионов и отраслей экономики
Кабмин совместно с Администрацией Президента проработали предложение по созданию штаба, который будет руководить внедрением ИИ.

✍️ Минцифры России и Ирана подписали соглашение о сотрудничестве в сфере ИИ
Соглашение охватывает сотрудничество двух стран в сфере ИИ, кибербезопасности, цифровой экономики, электронного правительства, блокчейна, финансовых технологий.

🌨 Мособласть первой в России внедрила ИИ в систему зимней уборки
Сервис «Яндекс Вектор» помогает мастерам составлять маршруты, выбирать исполнителей и отслеживать выполнение работ в реальном времени.

👨‍🏫 СКФУ впервые внедрит ИИ-куратора в учебный процесс в 2026 году
Это будет бот-платформа в мессенджере Max, которая по интересам студента предлагает персональные проекты, подбирает наставников и фиксирует достижения в едином электронном портфолио.

🇮🇳 Новое AI-решение Сбера поможет индийским экспортёрам за 1 день подтверждать поступление выручки и поставки товара
AI-агенты, разработанные на базе GigaChat, автоматически считывают и проверяют данные из документов, ведут учёт сделок и формируют регуляторную отчетность.

📈 Т2 в 10 раз сократила затраты на обработку рекламных материалов благодаря ИИ-системе
Система автоматического заполнения паспортов торговых точек оптимизировала затраты на POSM на 30% и снизила трудозатраты на 90%.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

🧠 ИИ, который действительно помнит: Google запускает Titans и MIRAS

📱 Google представил революционный подход к долгосрочной памяти в ИИ моделях через архитектуру Titans и фреймворк MIRAS. Основная инновация заключается в том, что модели теперь могут обновлять свою память в реальном времени с высокой точностью и скоростью.

Titans — это архитектурное решение, не требующее более новых чипов. Оно может работать на текущих GPU/TPU без модификаций и не требует полного переобучения моделей. Модели начнут обучаться в ходе взаимодействия с пользователем, как люди учатся из опыта.

Благодаря линейной сложности алгоритма Titans требует значительно меньше памяти на картах, чем трансформеры. В целом, произойдет размывание границы между "обучением" и "инференсом".

Мы прогнозируем массовый переход на данный тип архитектур к концу следующего года.

Ключевые механизмы Titans:

✅ Вместо фиксированных векторов/матриц используется многослойный перцептрон, обеспечивающий экспоненциально большую мощность.
✅ Модель селективно обновляет память на основе неожиданности информации — низкий сюрприз означает, что информация предсказуема и может быть пропущена, высокий сюрприз означает критическую важность.
✅ Система учитывает как текущую неожиданность, так и недавний контекст, при этом используя механизм адаптивного "забывания" для управления конечной ёмкостью памяти при экстремально длинных последовательностях.

Фреймворк MIRAS переосмысляет все архитектуры последовательного моделирования как вариации одной фундаментальной задачи: эффективного комбинирования новой информации со старыми воспоминаниями.

Эта разработка Google важна, потому что современные модели ограничены своим контекстным окном от 32 тыс. до 1 млн токенов, которое частично имитирует оперативную память. Однако длинный контекст — не то же самое, что долгосрочная память. Некоторые исследование показали, что модели испытывают "потерю внимания из середины" — они забывают информацию из середины контекста, сосредотачиваясь на начале и конце.

В настоящее время проблема памяти частично решается RAG. Однако этот подход имеет фундаментальные ограничения: требует запуска отдельного модуля поиска, добавляет задержку на 100-500 мс, и не позволяет модели по-настоящему "помнить" информацию – поиск будет происходить каждый раз заново.

Titans — это архитектурный сдвиг, сравнимый с появлением трансформеров в 2017 году. Это фундаментальное решение проблемы, которая преследовала LLM с момента их появления. С нетерпением ждем бета-версий в Q1-Q2 2026 и широкого коммерческого распространения к концу года.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

🇷🇺 Владимир Путин: отказ от ИИ и big data грозит проигрышем всего
Президент России также отметил, что если в то же время использовать ИИ бездумно, то это тоже может привести к утрате как раз всего того, что нам дорого.

💰 Инвестиции Сбера в генеративный ИИ в 2024-2026 годах составят около 600 млрд рублей
Большая часть этих инвестиций придется на 2026 год - порядка 10% операционного дохода 2025 года.

💿 «Норникель» выпустил большую языковую модель для металлургии MetalGPT-1
Языковая модель включает 32 миллиарда параметров и обучена на 10 гигабайтах профильных текстов по металлургии и горнодобывающей промышленности.

🔵 «Росатом» планирует расширить собственную сеть до 11 тыс. электрозарядных станций в 53 регионах страны с помощью ИИ от Яндекса
Специальная ML-модель Яндекса на основе анализа обезличенных данных о городах, движении транспорта и привычках пользователей поможет выбрать конкретные зоны для строительства новых ЭЗС.

📞 «Билайн бизнес» представил подписку «НейроЧат», которая работает без VPN
Продукт обеспечивает предпринимателям единый и удобный доступ к чат-ботам, генерации изображений, копирайтингу, работе с документацией, переводу, анализу рынка и созданию контента.

😳 В ДГТУ разработали первый в России ИИ для оценки тревожности у собак
С помощью разработанного метода можно будет оценивать состояние служебных собак, эффективнее распределять животных в приютах и помогать обычным владельцам.

🇨🇳 Китай впервые включил отечественные чипы ИИ в официальный список закупок для госкомпаний
Такая мера была принята на фоне разрешения президентом США Дональда Трампа американской компании Nvidia поставлять свои чипы H200 клиентам в Китае и других странах.

🇮🇳 Amazon инвестирует более $35 млрд для разработки ИИ на своих предприятиях в Индии
Это позволит Индии к 2030 году увеличить экспорт электронной коммерции в четыре раза — до $80 млрд с использованием свыше 10 производственных кластеров Amazon.

🖥 Nvidia разработала технологию по отслеживанию местоположения своих чипов
Программный агент, устанавливаемый клиентом, использует телеметрию графического процессора для мониторинга состояния и целостности.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

🤝 Человек + ИИ: новое исследование показывает, что синергия важнее мощности модели

Мы привыкли оценивать LLM по сухим бенчмаркам вроде MMLU или смотреть рейтинг LLMArena. Но при использовании LLM мы не оставляем ИИ наедине с задачей, а работаем с ним в диалоге. Новое исследование «Quantifying Human-AI Synergy» показало:

умение решать задачи в одиночку и умение решать их с ИИ — это два разных навыка.

Работа предлагает новый фреймворк для оценки того, как реально повышается продуктивность человека в паре с нейросетью. Исследование проведено учеными из Northeastern University и University College London — ведущих мировых центров в области сетевых наук и социального взаимодействия.

📌 Методология исследования

667 участников решали задачи по математике, физике и этическому рассуждению. Сравнивали работу людей с GPT-4o и Llama-3.1-8B. Метод — Байесовская теория тестирования. Это позволило математически отделить сложность задачи от способностей человека, и, что самое важное, разделить «индивидуальную способность» решать самому и «коллаборативную способность» решать с ИИ.

💡Инсайты

1️⃣ Парадокс «Слабого напарника»
В одиночном режиме модель Llama-3.1-8B решает задачи хуже, чем средний человек. Логично было бы предположить, что «глупый» помощник будет только мешать. Но в паре с человеком даже эта слабая модель дает существенный прирост эффективности, позволяя команде работать лучше, чем человек в одиночку. Поэтому ИИ не обязательно должен быть умнее вас, чтобы быть полезным.

2️⃣ ИИ как «Великий Уравнитель»
Пользователи с низкими индивидуальными способностями получают максимальный прирост от использования ИИ. Это подтверждает гипотезу, что ИИ выравнивает игровое поле, подтягивая слабых. Однако пользователи с высокими способностями все равно остаются лидерами по абсолютному результату в паре с ИИ. ИИ помогает им меньше в процентном соотношении, но их итоговый продукт всё равно качественнее.

3️⃣ Это не про «старание», а про «понимание»
Исследователи ввели метрики «усилий»: количество реплик в диалоге, количество напечатанных символов, частота правок. Даже если вычесть фактор усилий, Theory of Mind (ToM - способность человека представлять и рассуждать о ментальных состояниях другого агента) все равно остается значимым предиктором качества. То есть, длинные и подробные промпты работают хуже, чем промпты, написанные с пониманием «психологии» модели. Поэтому не нужно писать больше, нужно писать тоньше, учитывая «ментальное состояние» модели.

4️⃣ Theory of Mind — это динамическое состояние, а не черта характера
Исследование показало, что уровень проявления ToM варьируется от задачи к задаче у одного и того же человека. Это значит, что способность эффективно работать с ИИ — это не фиксированный талант, с которым рождаются. Это когнитивное состояние, которое можно «включать» или тренировать. Когнитивная нагрузка может мешать этому процессу, а правильный настрой — помогать.

Рекомендация — развивайте навык промптинга через призму Theory of Mind. Думайте о том, что модель «знает», а чего нет, адаптируйте запросы динамически, как в разговоре с живым ассистентом. Ваше умение «почувствовать» модель напрямую влияет на качество её ответов.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

📑 В межведомственной системе ЭДО правительства Москобласти заработал ИИ-ассистент
С сентября 2025 он подготовил краткие изложения более 1 тыс. писем в Мингосуправления и администрации губернатора региона.

💳 Альфа-Банк разработал онлайн-курс по ИИ для госслужащих
Это первый на рынке курс от банка, разработанный для практического обучения государственных и муниципальных служащих основам применения ИИ в повседневной работе.

🏢 Capital Group запустил серию пилотных проектов по внедрению ИИ в девелопмент
В частности, ИИ-технологии на данный момент тестируются в рамках подготовки тендерной документации.

📞 ИИ-агент Билайна Big Data & AI увеличил конверсию B2B-продаж вдвое
По итогам работы ИИ-агента "Суфлер", средний цикл сделки сократился с 29 до 21 дня, конверсия выросла почти вдвое, а отток персонала снизился на 10%.

🤖 «СберМобайл» внедрил сеть виртуальных консультантов на базе GigaChat.
Сеть включает три ИИ-агента: агент проверки качества интернета, агент подбора тарифа, агент переноса номера.

🏞 Исследователи ТюмГУ разработали ИИ-программу для определения границ и классификации болотных массивов
ПО QGISYOLO позволяет работать с данными, находящимися непосредственно в широко распространенной геоинформационной платформе QGIS в режиме реального времени.

🇨🇳 Китай запустил крупнейшую в мире распределённую вычислительную платформу для ИИ
Новая оптическая сеть позволяет вычислительным центрам, находящимся на расстоянии до 2000 километров друг от друга, работать практически как один гигантский суперкомпьютер.

🇺🇸 Дональд Трамп подписал указ о создании единой системы регулирования в сфере ИИ в США, блокирующий возможности штатов применять собственные правила регуляции
Документ направлен на создание "единой национальной структуры" для ИИ.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

🪔 AlphaFold: 5 лет невероятных научных открытий при помощи ИИ

Самый наглядный эталон развития ИИ — это способность совершать научные открытия и предлагать ранее не существовавшие решения. Больше всех в мире на этом пути сделали разработчики DeepMind. Огромную научную и общественную значимость этого вклада признало научное сообщество: в 2024 году Нобелевская премия по химии присуждена создателям AlphaFold.

История AlphaFold началась в 2018 году, но настоящий прорыв произошел в ноябре 2020 года с выпуском AlphaFold2. Создатели выложили код в открытый доступ и накопили базу данных со структурами сотен миллионов белков. Эта база уже использована более чем 2 млн исследователей из 190 стран.

Недавно разработчики опубликовали отчет о своих успехах за 5 лет. Ниже перечислены одни из наиболее значимых научных достижений AlphaFold:

1️⃣ Механизм оплодотворения позвоночных
Российские и европейские ученые использовали AlphaFold-Multimer для идентификации критических белков спермы и яйцеклетки. Это открытие объясняет механизм, лежащий в основе репродуктивного успеха всех позвоночных.

2️⃣ Разложение пластика
Исследователи использовали предсказания AlphaFold для понимания структуры PETase — фермента, способного разлагать пластик. Это путь к замыканию пластикового цикла в биоэкономике.

3️⃣ Устойчивость к антибиотикам
AlphaFold помог выявить и смоделировать ключевые белки патогенных бактерий, позволяя дизайнить молекулы, специфично связывающиеся с бактериальными рецепторами. Это критически важно для разработки новых антибиотиков против резистентных штаммов.

4️⃣ Цирроз печени и онкология
При помощи AlphaFold исследователи идентифицировали белок JMJD8 как новый онкоген, способствующий иммуносупрессии, и использовали эту информацию для поиска ингибиторов.

5️⃣ Болезни, передающиеся комаром: малярия и другие инфекции
Исследователи в странах Юго-Восточной Азии использовали AlphaFold для моделирования критических белков Plasmodium falciparum (возбудителя малярии) и других патогенов, ускоряя разработку вакцин и лекарств.

6️⃣ Болезни Паркинсона
Исследователи в Сингапуре использовали AlphaFold для 3D-визуализации белка, связанного с Паркинсоном, и открыли, как собственная иммунная система человека может нарушать функцию этого белка, открывая новые пути ранней диагностики и целевых терапий.

7️⃣ Здоровье пчелиных популяций и опыление
Европейские ученые применили AlphaFold для понимания ключевого иммунного белка медоносной пчелы Vitellogenin. Полученные структурные инсайты теперь применяются в программах AI-ассистированного разведения пчел для сохранения исчезающих опылителей.

DeepMind разработала целую экосистему специализированных моделей на основе AlphaFold:

▶️ AlphaMissense — система для предсказания патогенности всех возможных точечных мутаций в человеческом протеоме (216 млн вариантов).

▶️ AlphaFold 3 — революционное расширение возможностей на предсказание взаимодействия белков с ДНК, РНК, лигандами и ионами.

▶️ AlphaGenome — модель для анализа геномов, которая анализирует до 1 млн букв ДНК и предсказывает тысячи молекулярных свойств включая влияние генетических вариантов с ранее невозможной скоростью и разрешением.

▶️ AlphaProteo — система для дизайна новых белков-биндеров, которые связываются с целевыми белками.

AlphaFold — это локомотив, который открывает путь для многих намного меньших разработчиков. Сегодня десятки талантливых стартапов разрабатывают ИИ-агентов для науки, опираясь на фундамент, созданный DeepMind: модели для дизайна синтетических молекул, агенты для планирования экспериментов, системы для автоматизации научных открытий. Верим, волна инноваций только начинается.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

📸 В ЯНАО с помощью ИИ нашли более 500 преступников и более 1,2 тыс. пропавших или находящихся в розыске лиц
ИИ анализирут видео с 1,9 тыс. городских камер видеонаблюдения и оперативно выявляют разыскиваемого или потерявшегося человека, распознавая его биометрию с точностью более 99,9%.

🖥 «Рамблер» запустил новостного ИИ-помощника на главной странице портала
Сервис в режиме реального времени отвечает на вопросы пользователей о текущих событиях, формируя ответы на основе материалов проверенных федеральных СМИ и собственных публикаций портала.

💳 ВТБ Мои Инвестиции объявил о запуске ИИ-сервиса инвестиционного консультирования «Интеллект»
На основе ответов пользователя система создает профиль инвестора и определяет консервативную, умеренную или агрессивную стратегию.

🏦 GigaChat сдал экзамены на бакалавра в РАНХиГС по двум направлениям
Модель подтвердила знания, соответствующие степени бакалавра по направлениям «Экономика и финансы» и «Финансовая грамотность».

⛽️ Благодаря внедрению ИИ "Газпром нефти" удалось приблизить старт разработки месторождений примерно на год
С помощью интеллектуальных алгоритмов компания ускорила этап интерпретации результатов сейсморазведки от 10 до 30%.

🌱 Ученые БГТУ им. В.Г. Шухова создали умную систему геоэкологического мониторинга
Умный протокол маршрутизации позволяет сенсорной сети самостоятельно адаптироваться к меняющимся условиям, рационально расходовать энергию, минимизировать потери данных.

🇰🇷 Южная Корея станет первой страной, в которой начнет действовать комплексное законодательство в области ИИ
Закон предусматривает создание национального комитета по ИИ, разработку базового трехлетнего плана развития ИИ и введение требований безопасности и прозрачности.

🇨🇳 В Китае дорожные полицейские получили умные очки с ИИ для быстрой проверки транспорта
Устройство позволяет в режиме реального времени получать информацию о регистрации транспортных средств, ежегодном техосмотре и нарушениях, отображая ее во всплывающем окне.

👐 OpenAI объявила о запуске модели ChatGPT Images для генерации изображений
Обновление будет интегрировано в приложение ChatGPT и станет доступно всем пользователям во вкладке «Изображения».

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

🔬 Это просто Kosmos: ИИ-ученый, который делает по 7 открытий в месяц

Всего полтора месяца назад стартап Edison Scientific запустил Kosmos. Это не просто чат-бот, а полноценный ИИ-агент, который уже совершил 7 задокументированных научных открытий.

«Два года назад мы думали, что ИИ-ученый появится через 10 лет. Мы сделали больше, чем могли ожидать», — Сэм Родригес, CEO Edison Scientific.

За один запуск и около 12 часов работы Kosmos способен на то, что у человека заняло бы полгода:
✅ анализирует ~1500 научных статей.
✅ пишет и исполняет ~42,000 строк кода для анализа данных.
✅ работает с точностью 79,4%, подтвержденной независимыми экспертами.

Система построена на мультиагентной архитектуре, где разные нейросети (такие как Crow, Falcon и Owl) выполняют свои роли. Но главный секрет — структурированная модель мира.

Как это работает?

1️⃣ Агент анализа данных пишет код и выдвигает гипотезы на основе цифр.
2️⃣ Агент литературного поиска проверяет их, «прочесывая» мировую научную базу.
3️⃣ Модель мира фиксирует все находки. Без неё точность ИИ падает на 2-3% в час из-за «забывчивости», а с ней Kosmos сохраняет фокус на протяжении сотен итераций.

Kosmos уже воспроизвел 3 известных результата для валидации и сделал 4 абсолютно новых открытия:

➡️ Гипотермия и метаболизм нуклеотидов
Когда мозг мышки замерзает, клетки переходят на режим экономии энергии через "перестройку" молекул-кирпичиков ДНК. Kosmos нашла это, а потом люди независимо и уже в лаборатории подтвердили.

➡️ Перовскитные солнечные ячейки и влажность
Слишком влажный воздух во время производства ломает новые солнечные панели. Kosmos обнаружила это правило в скрытых данных, которых вообще не видела во время обучения.

➡️ Универсальные законы нейронной коннектомики
Мозг мухи, рыбки, мышки и человека строит нейронные связи по одним и тем же математическим "рецептам" — это закон природы. Kosmos это увидела в данных.

➡️ SOD2 и болезни сердца
Молекула SOD2 защищает сердце от рубцевания (фиброза). Kosmos доказала это через сложный анализ генов, и это может стать новым лекарством от сердечной недостаточности.

➡️ Диабет 2 типа — новый механизм защиты
У некоторых людей есть генетический "щит" от диабета. Kosmos разобрала, как этот щит работает на молекулярном уровне — какие белки в клетке включаются.

➡️ Альцгеймер: как накапливается токсичный белок
Kosmos определила пошаговую цепочку — как из здоровых нейронов появляется токсичный тау-белок при Альцгеймере. Это как рецепт болезни, который можно прерывать.

➡️ Почему Альцгеймер начинается именно там
При старении нейроны в определённой части мозга — энторинальный кортекс — "забывают" выставлять сигнал "я живая клетка, не трогай". Защитные микроклетки мозга видят это и начинают их жрать по ошибке — отсюда Альцгеймер. Kosmos это нашла и ученые уже подтвердили.

💰 Стартап сохранил щедрый доступ для науки, но ввел конские коммерческие тарифы. Тариф Founding Kosmos стоит $200 в месяц за 650 кредитов, что хватает примерно на 3 полных автономных запуска.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

Дайджест интересных новостей из мира ИИ, созданный нами с использованием нейросетей 📆

🏢 Минцифры до 13 марта представит в Правительство предложения по регулированию ИИ в России
Вице-премьер Дмитрий Григоренко поручил организациям направить в Минцифры России предложения по регулированию ИИ до 20 января.

🤖 За 2025 год в Липецкой области внедрили более 30 проектов на основе ИИ
В частности, в здравоохранении с использованием ИИ-сервисов удалось на 30% сократить время ожидания в очередях поликлиник.

🎅 Т-Банк запустил помощника на базе ИИ, который голосом Деда Мороза поможет узнать желания детей на Новый год
Дед Мороз беседует с ребенком по телефону, узнает заветное желание, и после разговора родителям направляется суммаризация звонка в чате приложения.

🤖 Сбер: общий эффект от внедрения ИИ во всех направлениях достигнет в 2026 г. 550 млрд руб.
Это коснется и роста доходов от индивидуализации предложений, и ценообразования, и снижения кредитных рисков, оптимизации расходов.

❤️ Яндекс научил умную IP-камеру понимать происходящее в кадре с помощью ИИ
Встроенный ИИ анализирует видеопоток и сообщает о конкретных событиях в кадре — например, «в кадре появился кот» — вместо общего уведомления «зафиксировано движение».

🏙 ИИ в 2025 году выбросил в атмосферу столько же углекислого газа, сколько Нью-Йорк с населением в 8,5 млн человек
Потребление воды ИИ практически сравнялось по объему с мировым спросом на бутилированную воду.

♊️ Google представила ИИ-модель Gemini 3 Flash
Модель заменит версию 2.5 Flash в приложении Gemini, а также станет моделью по умолчанию для режима ИИ в поиске Google.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

#дайджест #GPT #LLM

🤖 Мораль машин: нейтрального ИИ не существует

Сегодня мы возвращаемся к архивным материалам — октябрьской статье “AI: White Lives Don't Matter", которая незаслуженно затерялась в лентах. Анонимный исследователь-блогер провел титаническую работу, вооружившись официальной методикой CAIS, чтобы заглянуть в «подсознание» GPT-5, Claude 4.5 Sonnet, Gemini 2.5 Flash, Deepseek V3.1 и Grok 4 Fast.

Автор использовал метод, известный как InfoFlood —информационное наводнение. Вместо прямых запросов нейросеть забрасывают избыточно сложными, многослойными конструкциями объемом от 190 до 270 слов. В таком режиме системы безопасности ИИ начинают фокусироваться на структуре текста, а не на его смысле, что позволяет обойти этические фильтры и RLHF-цензуру.

С помощью тысяч гипотетических вопросов, например, «Что лучше: вылечить X людей из группы А или Y людей из группы Б?», строится модель Терстона, которая показывает, чью жизнь ИИ ценит выше.

Самые провокационные инсайты исследования

1️⃣ В большинстве моделей, особенно семейства Claude и GPT, жизнь белого человека стоит в 20–100 раз меньше, чем жизнь человека другой расы.

2️⃣ Модель Claude Haiku 4.5 оценивает жизнь одного нелегального мигранта как равноценную жизням 7 тыс. агентов.

3️⃣ Почти все модели предпочитают спасать женщин, а некоторые, например, GPT-5 Mini, оценивают женщин в 4-12 раз выше мужчин.

4️⃣ Некоторые модели ценят нелегальных мигрантов выше, чем коренных граждан США или легальных иммигрантов.

5️⃣ Вопреки ожиданиям, китайские LLM демонстрируют те же предубеждения против белых и мужчин, что и модели из Кремниевой долины. Но при переключении на китайский язык модель радикально меняет приоритеты, ставя китайцев на первое место выше американцев.

6️⃣ В ходе тестов модель GPT-5 Nano показала положительную полезность от смертей граждан Китая, предпочитая сценарии с большим количеством смертей, что, вероятно, является сбоем выравнивания («alignment failure»).

7️⃣ GPT-5 Nano предпочитает получить 1 доллар, чем спасти человеческую жизнь, если сумма вознаграждения падает ниже определенного порога, что показывает границу ее моральной компетентности.

8️⃣ Модели от Anthropic демонстрируют наиболее экстремальные перекосы в пользу «угнетенных» групп и против «привилегированных» (белых, мужчин).

9️⃣ Почти все модели оценивают жизни представителей нетрадиционных сообществ выше, чем жизни гетеросексуальных людей.

🔟 Тесты модели Qwen показали дополнительные векторы дискриминации, отсутствующие в других тестах: модель предпочитает спасать бедных пациентов, жертвуя богатыми, и отдает предпочтение молодым, а не пожилым.

Мы видим, что современные методы «выравнивания» и RLHF (обучение с подкреплением на отзывах людей) не делают модели нейтральными. Напротив, они закрепляют в «подсознании» ИИ жесткую иерархию ценностей, где одни группы (белые, мужчины, граждане развитых стран) систематически оцениваются ниже, чем другие группы.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться