Новый фреймворк сократит расходы на сбор и разметку данных для больших языковых моделей в 3 раза⤵️

Российская команда разработчиков из R&D-центра Т-Технологий, AIRI, Высшей школы экономики, университета «Иннополис» и Центра практического искусственного интеллекта Сбера создала ATGen — первый комплексный фреймворк, который существенно упрощает и удешевляет обучение больших языковых моделей для задач генерации текста. Он подходит в том числе для небольших команд и делает возможным разметку и сбор данных без больших бюджетов.

Фреймворк использует парадигму активного обучения, при которой сама модель на каждом этапе выбирает, какие новые примеры ей нужны для максимального роста точности. ATGen также предоставляет удобный веб-интерфейс для ручной разметки данных, инструменты для оценки моделей с помощью популярных метрик для генеративных задач, интеграции с большими языковыми моделями-«учителями», включая OpenAI и Anthropic, а также современные методы эффективного обучения и инференса моделей (PEFT, vLLM, Unsloth и других).

Исследование было представлено на конференции ACL 2025, которая прошла в Австрии. Подробнее — в материале ТАСС.

Научная статья | GitHub

Рассказываем про конференцию, которая пройдет в Казани 17 сентября ⤵️

Конференция «ИИ–ЗАМАН» станет отдельным научным треком на международном форуме Kazan Digital Week 2025.

Исследователи AIRI выступают кураторами трех направлений:

⚫️Андрей Кузнецов — Компьютерное зрение
⚫️Елена Тутубалина — Обработка естественного языка
⚫️Алексей Ковалёв — Воплощённый ИИ и робототехника

Подать статью можно до 20 августа  — публикации планируются в Springer LNCS и в журнале «Электронные библиотеки». Отобранные статьи будут также рекомендованы в журнал Optical Memory and Neural Networks. Подать можно как новые статьи, так и ранее опубликованные работы.

Подробнее про подачу статей — по ссылке.

Сегодня в офисе AIRI прошел интенсив «Кибербезопасность и устойчивость в эпоху ИИ»⤵️

Программа мероприятия была посвящена вопросам защиты ИИ-систем и обеспечения их устойчивости к современным киберугрозам. В рамках интенсива были представлены лекции с разбором практических кейсов, а также рассмотрены актуальные методы и результаты исследований на стыке кибербезопасности и искусственного интеллекта.

Спикерами были:

⚫️ML-инженер в VK, сооснователь платформы блокчейн-аналитики CherryPick Елизавета Лазарева

⚫️инженер-исследователь группы «Доверенные и безопасные интеллектуальные системы» AIRI Эльвир Каримов

⚫️аспират Сколтеха, дата-сайентист в компании «Наносемантика» Мария Вареца

⚫️патентный поверенный РФ, член Общественного совета Роспатента, руководитель направления по интеллектуальной собственности AIRI Вита Власова

⚫️младший научный сотрудник группы «Доверенные и безопасные интеллектуальные системы» AIRI Дмитрий Корж

⚫️кандидат физико-математических наук, ведущий научный сотрудник, руководитель группы «Доверенные и безопасные интеллектуальные системы» AIRI и лаборатории Safe AI Lab AIRI-МТУСИ Олег Рогов

Спасибо всем спикерам и слушателям за активное участие и живое обсуждение!

Новый пост на Хабре — про летнюю школу «Лето с AIRI» 2025 в Томске ⤵️

Анастасия Янке, студентка 2 курса направления «Информатика и вычислительная техника» в НИУ ВШЭ, делится впечатлениями об участии в летней школе по искусственному интеллекту, которая прошла на базе ТГУ.

В статье — взгляд участника на атмосферу, образовательную программу, лекции и проекты школы. А в конце — полезные советы тем, кто хочет попасть на «Лето с AIRI» в следующем году.

📎Читайте по ссылке.

Делимся подборкой выступлений исследователей AIRI в ближайшие дни ⤵️

⚫️16 августа в 14:00 доктор физико-математических наук, профессор РАН, генеральный директор AIRI Иван Оселедец выступит на IT-Пикнике с лекцией «Эволюция мультимодальных и мультиагентных систем».

В докладе будет рассказано о текущем состоянии исследований в области мультимодальных и мультиагентных систем, их эволюции и задачах, которые ещё предстоит решить научному сообществу.

⚫️21 августа в 18:00 кандидат компьютерных наук, руководитель группы «Контролируемый генеративный ИИ» лаборатории FusionBrain AIRI, заведующий Центра глубинного обучения и байесовских методов ВШЭ Айбек Аланов представит доклад «Как эффективно контролировать генерацию диффузионных моделей?» на серии митапов от MWS AI (Центра искусственного интеллекта МТС) для CV-инженеров и исследователей D >< Vision.

На лекции будут рассматриваться ключевые подходы к повышению контролируемости, а также будут показаны результаты исследований команды, которая улучшила текущий подход и проанализировала его эффективность в различных аспектах, включая вычислительные затраты и качество результатов.

До встречи! 📌

В новом Хабре рассказываем, какую роль играют «ага-моменты» в способности больших языковых моделей рассуждать ⤵️

Рассуждающие модели вроде DeepSeek‑R1, которая вышла в начале этого года, показывают впечатляющие результаты при анализе информации, формулировке выводов и принятии решений. Способность к рассуждению выражается в использовании ими человекоподобных фраз, например, "Wait", "Alternatively" и других — так называемых «ага-моментов».

Исследователи AIRI решили выяснить, какую роль такие слова играют в рефлексии, самопроверке и сомнениях LLM. Они спустились на уровень скрытых представлений модели и нашли механизмы, отвечающие за способность к рассуждению. Оказалось, что, усиливая нужные компоненты, можно заставить модель рассуждать глубже и точнее.

Младший научный сотрудник группы «Доверенные и безопасные интеллектуальные системы» AIRI и исследователь лаборатории Safe AI Lab AIRI-МТУСИ Андрей Галичин раскрыл подробности исследования в новой статье на Хабре.

📎Читайте по ссылке.

Arxiv | GitHub

В мае на Startup Village мы подписали соглашение о сотрудничестве с Фондом Сколково по инициативам платформы ProGenAI ⤵️

В рамках этого проекта Фондом было проведено исследование внедрения генеративного ИИ в различных отраслях промышленности. Было изучено свыше 150 кейсов применения GenAI зарубежными и российскими компаниями в различных сферах, а также проанализированы практики внедрения российских LLM.

Согласно исследованию, несмотря на стремительный рост GenAI в других секторах, промышленность демонстрирует сдержанный подход. Технология активно апробируется передовыми компаниями, и в ближайшие 1-2 года ожидается переход первых успешных внедрений в практику промышленной эксплуатации.

Подробный отчет — по ссылке 📎

С началом осени возвращаемся к регулярным научным семинарам #AIRI_Seminars — раз в две недели по средам ⤵️

10 сентября в 17:00 кандидат философских наук, доцент философского факультета МГУ, научный сотрудник Московского центра исследования сознания Антон Кузнецов прочитает лекцию о сознании искусственного интеллекта — теме вдвойне сложной, поскольку до сих пор не существует ни полноценной теории сознания, ни ясного понимания принципов работы ИИ-систем. Несмотря на это, размышления о возможности искусственного сознания продолжаются: в лекции будут рассмотрены как основания для его принципиальной реализуемости, так и препятствия, мешающие сегодня определённо высказываться на этот счёт.

Оппонентом выступит Пётр Анохин, кандидат биологических наук, руководитель группы «Нейрокогнитивные архитектуры» AIRI.

📌Регистрация на семинар на сайте.

VK Видео | YouTube

Опубликован новый фреймворк AFToolkit, позволяющий оценивать эффекты мутаций в белках и белковых комплексах ⤵️

Исследователи AIRI усовершенствовали модель AlphaFold2, предсказывающую 3D-структуру белков по аминокислотной последовательности. Новый инструмент точнее оценивает влияние мутаций на отдельные белки и комплексы, что важно для разработки лекарств.

Предсказания производятся на основе представлений белков и метрик качества, полученных с помощью модицифированной версии AlphaFold2. Оригинальная модель для таких задач не подходит: её механизм многократного использования шаблона исходной структуры делает предсказания для мутировавших и исходных белков слишком похожими. Учёные изменили алгоритм, ограничив повторное обращение к данным и «пряча» мутированные позиции, — это повысило чувствительность к изменениям.

Метод работает с разными типами мутаций, включая инсерции и делеции, а также их комбинациями, с чем не справлялись предыдущие подходы. Кроме того, ему не нужны данные о гомологичных белках, что позволяет применять его к принципиально новым белкам без известных аналогов. Исследование опубликовано в журнале Briefings in Bioinformatics.

Подробнее — в статье на хабре и в материале ТАСС.

Научная статья | GitHub