⚡️⚡️⚡️Вчера выложили нашу новую работу Confidence Is All You Need о способности языковых моделей выполнять роль функции наград (применяются в обучении с подкреплением — DeepSeek R1 яркий тому пример) для самостоятельного улучшения качества генерации текста на основе внутренней уверенности в своих ответах. Другими словами, языковая модель сама оценивает лучшие свои ответы, и эта оценка используется для её улучшения/дообучения. Мы назвали этот процесс Reinforcement Learning via Self-Confidence.
Такой подход позволяет избавиться от разработки отдельных функций наград, специальной разметки данных для обучения и дополнительных preference моделей.
В качестве базы для исследований взяли две модели Qwen2.5-Math: 1.5B и 7B, которые уже (как следует из названия) дообучались для решения математических задач. В итоге мы получили существенное улучшение на ряде математических бенчмарков за счёт такой простой процедуры: от +0.8% до +26.8%.
Поддержите апвоутами в голосовании за лучшую статью дня👇👇👇
https://huggingface.co/papers/2506.06395
Такой подход позволяет избавиться от разработки отдельных функций наград, специальной разметки данных для обучения и дополнительных preference моделей.
В качестве базы для исследований взяли две модели Qwen2.5-Math: 1.5B и 7B, которые уже (как следует из названия) дообучались для решения математических задач. В итоге мы получили существенное улучшение на ряде математических бенчмарков за счёт такой простой процедуры: от +0.8% до +26.8%.
Поддержите апвоутами в голосовании за лучшую статью дня👇👇👇
https://huggingface.co/papers/2506.06395
3🔥50❤10👍3🆒2
Делюсь забавным сервисом. Вам показывают фото и карту: надо угадать примерный год, когда оно было сделано, а также ткнуть на глобусе место фотографии
Довольно залипательная вещь👇
https://timeguessr.com/
Довольно залипательная вещь👇
https://timeguessr.com/
3💯14🔥11
Сегодня принял участие в сессии AI Journey на ПМЭФ-2025 в качестве модератора и спикера с темой «Новые тренды в мире AI» 🤖
Обсуждали с коллегами новейшие тренды AI и машинного обучения:
⚡️ применение reasoning LLM-моделей для решения математических задач
⚡️ значимость мультиагентных систем на пути к созданию AGI
⚡️ технологии автономного вождения
⚡️ разработки в области мультимодальных поведенческих моделей в робототехнике
На фото я с Александром Гасниковым, моим хорошим другом и блестящим учёным, членом-корреспондентом РАН, ректором Университета Иннополис, руководителем Лаборатории математических основ оптимизации МФТИ. Он выступал с темой «ИИ для решения математических задач» и рассказал, как современные модели могут справляться с решением задач различной сложности, используя обучение с подкреплением.
Обсуждали с коллегами новейшие тренды AI и машинного обучения:
На фото я с Александром Гасниковым, моим хорошим другом и блестящим учёным, членом-корреспондентом РАН, ректором Университета Иннополис, руководителем Лаборатории математических основ оптимизации МФТИ. Он выступал с темой «ИИ для решения математических задач» и рассказал, как современные модели могут справляться с решением задач различной сложности, используя обучение с подкреплением.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤🔥43❤21⚡11👍8👏3🏆2😁1🤓1🙊1
Forwarded from Машинное обучение RU
Такокого восстания мы не ожидали: Gemini угрожает САМОУНИЧТОЖИТЬСЯ, если в очередной раз не отладит ваш код.
😁30
Forwarded from Институт AIRI
Сегодня рассказываем подробнее про доклады, которые будут на ИИшнице 26 июня 🍳
Ведущий мероприятия — руководитель группы «Глубокое обучение в науках о жизни» AIRI Артур Кадурин.
◼️ В 15:30 директор по цифровой трансформации Промомед Иван Колесников выступит с докладом «ИИ — драйвер цифровой трансформации группы Промомед».
◼️ В 15:50 Константин Ушенин, кандидат физико-математических наук, старший научный сотрудник группы «Глубокое обучение в науках о жизни» AIRI расскажет про LAGNet — нейронную сеть для предсказания электронной плотности вокруг молекул.
◼️ В 16:10 Иван Поддъяков, специалист по исследованию данных в Sber AI Lab, расскажет про мультиагентный фреймворк для дизайна лекарственных молекул.
◼️ В 16:30 завершающий доклад «Поиск и моделирование флуоресцентных молекул для маркировки полимеров» прочитает Алексей Коровин, кандидат химических наук, старший научный сотрудник группы «Дизайн новых материалов» AIRI.
Подключайтесь к трансляции в VK Видео или на YouTube🍿
Ведущий мероприятия — руководитель группы «Глубокое обучение в науках о жизни» AIRI Артур Кадурин.
Подключайтесь к трансляции в VK Видео или на YouTube🍿
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1❤9❤🔥3👏1🤔1
Forwarded from Лаборатория ИИ (Артур Ишмаев)
#ЛабораторияИИ #AILAB
Прошла встреча-знакомство с командой Института AIRI ⚡️⚡️⚡️ Обсудили подходы наших команд и как именно с пользой взаимодействовать и решать актуальные задачи проектирования. Наметили следующие шаги сотрудничества
Спасибо всем за встречу 🙃🙃🙃
Прошла встреча-знакомство с командой Института AIRI ⚡️⚡️⚡️ Обсудили подходы наших команд и как именно с пользой взаимодействовать и решать актуальные задачи проектирования. Наметили следующие шаги сотрудничества
Спасибо всем за встречу 🙃🙃🙃
🔥21👍6⚡3
🚨Мой хороший друг и коллега Сергей Марков принял участие в новом выпуске на канале «Вселенная плюс»
Они в компании с физиком Алексеем Семихатовым и астрономом Владимиром Сурдиным обсуждали, какие задачи лучше или хуже решает ИИ по сравнению с мозгом homo sapiens, способен ли ИИ вообще думать и что это такое с точки зрения «цифры». Конечно, спикеры не обошли стороной и другие вопросы, в том числе восстание нейросетей 😵💫
Советую всем интересующимся и просто любителям качественного научно-технического контента посмотреть выпуск по ссылке ниже👇
📍Тут лежит выпуск
Они в компании с физиком Алексеем Семихатовым и астрономом Владимиром Сурдиным обсуждали, какие задачи лучше или хуже решает ИИ по сравнению с мозгом homo sapiens, способен ли ИИ вообще думать и что это такое с точки зрения «цифры». Конечно, спикеры не обошли стороной и другие вопросы, в том числе восстание нейросетей 😵💫
Советую всем интересующимся и просто любителям качественного научно-технического контента посмотреть выпуск по ссылке ниже👇
📍Тут лежит выпуск
👍32🔥12❤4❤🔥3
Вы когда-нибудь мечтали стать лучшей версией себя? А LoRA уже стала!
Рад представить вам нашу новую работу T-LoRA: Single Image Diffusion Model Customization Without Overfitting✔️
Представьте, что вы хотите дообучить модель генерировать новый объект, например, кошку или чайник. Но у вас ВСЕГО ОДНА КАРТИНКА этого объекта. Вы обучаете LoRA. И что выходит? Полный провал. Модель переобучается: объект генерируется только в той позе, в которой он был на тренировочной картинке, а фон выглядит скудно и плохо соответствует тексту.
В ходе нашей работы мы выяснили, что переобучение чаще всего происходит на самых шумных таймстепах. Именно они приводят к тому, что модель переобучается на фон и позу объекта. Мы предложили решение: ограничить ранг на шумных таймстепах, чтобы избежать переобучения, и дать больший ранг на средних и поздних таймстепах для точного запоминания объекта. На поздних таймстепах можно использовать высокие ранги без риска переобучения.
Эту идею мы реализовали с помощью маскирования столбцов LoRA, ограничивая тренировочный сигнал на шумных таймстепах. Более того, чтобы маскирование было эффективным, разработали ортогональную версию LoRA, которая сохраняет столбцы ортогональными на протяжении всего обучения.
Теперь ваша кошка может не только стоять, но и сидеть, и кататься на велосипеде, бегать, принимать любые позы, которые вы захотите. А фоны стали яркими, насыщенными и разнообразными.
👉Поддержите нашу работу работу Upvote на HuggingFace. Это поможет как можно большему числу людей узнать, что делать в подобных тяжелых жизненных ситуациях с котиками🙂
🔜 Arxiv
🔜 GitHub
🔜 HuggingFace
Рад представить вам нашу новую работу T-LoRA: Single Image Diffusion Model Customization Without Overfitting
Представьте, что вы хотите дообучить модель генерировать новый объект, например, кошку или чайник. Но у вас ВСЕГО ОДНА КАРТИНКА этого объекта. Вы обучаете LoRA. И что выходит? Полный провал. Модель переобучается: объект генерируется только в той позе, в которой он был на тренировочной картинке, а фон выглядит скудно и плохо соответствует тексту.
В ходе нашей работы мы выяснили, что переобучение чаще всего происходит на самых шумных таймстепах. Именно они приводят к тому, что модель переобучается на фон и позу объекта. Мы предложили решение: ограничить ранг на шумных таймстепах, чтобы избежать переобучения, и дать больший ранг на средних и поздних таймстепах для точного запоминания объекта. На поздних таймстепах можно использовать высокие ранги без риска переобучения.
Эту идею мы реализовали с помощью маскирования столбцов LoRA, ограничивая тренировочный сигнал на шумных таймстепах. Более того, чтобы маскирование было эффективным, разработали ортогональную версию LoRA, которая сохраняет столбцы ортогональными на протяжении всего обучения.
Теперь ваша кошка может не только стоять, но и сидеть, и кататься на велосипеде, бегать, принимать любые позы, которые вы захотите. А фоны стали яркими, насыщенными и разнообразными.
👉Поддержите нашу работу работу Upvote на HuggingFace. Это поможет как можно большему числу людей узнать, что делать в подобных тяжелых жизненных ситуациях с котиками
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥55👍12❤7❤🔥4🙊1
Заметили, как AI перестал быть просто темой для митапов и стал реальным вызовом для бизнеса?
То, что ещё недавно казалось футуризмом, сегодня — конкурентное преимущество. А для тех, кто медлит, — вполне ощутимая угроза. И знаете, что часто вижу в компаниях? Хаос. Кто-то тестирует отдельные решения, кто-то оформил подписку на ChatGPT или строит RAG архитектуру — без бизнес-целей, стратегии и понимания, зачем всё это.
СберУниверситет запустил программу «Бизнес с AI: лидерство в цифровую эпоху» и я присоединился к преподавательскому составу, чтобы вместе с коллегами из Сбера и других компаний рассказать и показать, как системно внедрять AI. Ведь мы уже успешно реализовали AI-трансформации во многих компаниях.
На обучении вы:
— научитесь работать с инструментами машинного обучения и реализовывать проекты с применением AI;
— разберете реальные кейсы вашей компании с экспертами, получите индивидуальные рекомендации и определите точки роста для AI-трансформации;
— поймёте, какие AI-решения подходят именно вашему бизнесу;
— сформируете чёткий план внедрения AI с учётом рисков и зрелости компании.
Полное содержание программы тут.
И да, важно: после обучения вы станете частью сообщества выпускников СберУниверситета.
Старт: 5 сентября.
Оставляйте заявку на сайте.
То, что ещё недавно казалось футуризмом, сегодня — конкурентное преимущество. А для тех, кто медлит, — вполне ощутимая угроза. И знаете, что часто вижу в компаниях? Хаос. Кто-то тестирует отдельные решения, кто-то оформил подписку на ChatGPT или строит RAG архитектуру — без бизнес-целей, стратегии и понимания, зачем всё это.
СберУниверситет запустил программу «Бизнес с AI: лидерство в цифровую эпоху» и я присоединился к преподавательскому составу, чтобы вместе с коллегами из Сбера и других компаний рассказать и показать, как системно внедрять AI. Ведь мы уже успешно реализовали AI-трансформации во многих компаниях.
На обучении вы:
— научитесь работать с инструментами машинного обучения и реализовывать проекты с применением AI;
— разберете реальные кейсы вашей компании с экспертами, получите индивидуальные рекомендации и определите точки роста для AI-трансформации;
— поймёте, какие AI-решения подходят именно вашему бизнесу;
— сформируете чёткий план внедрения AI с учётом рисков и зрелости компании.
Полное содержание программы тут.
И да, важно: после обучения вы станете частью сообщества выпускников СберУниверситета.
Старт: 5 сентября.
Оставляйте заявку на сайте.
❤8❤🔥6🔥5😁2🆒2👍1🙊1
Forwarded from Сбер
В городе завершился очный этап всероссийской Летней школы «Лето с AIRI», которую при нашей поддержке провёл Институт AIRI.
Здесь на базе Томского государственного университета встретились студенты, аспиранты и молодые учёные из 10+ регионов России.
😉
Когда такие люди вместе, за развитие науки можно не волноваться!
Please open Telegram to view this post
VIEW IN TELEGRAM
👏22❤4🏆3⚡1😁1🙊1