📹 Делимся записью мастер-класса с Practical ML Conf 2024

На главной конференции Яндекса по ML мы на практике изучили тему «Мультиагентные подходы для работы с языковыми моделями на базе сервисов Yandex Cloud».

В сфере LLM набирают популярность агентские подходы, когда несколько моделей взаимодействуют друг с другом, чтобы достичь одной цели.

В рамках мастер-класса Дмитрий Рыбалко и Дмитрий Сошников показали, как применить этот подход для построения вопросо-ответной системы в транспортной компании. При этом сами методы могут пригодиться в любой индустрии.

Для решения задачи поэкспериментировали с различными структурами данных для RAG, в том числе с текстовыми и графовыми. За основу взяли языковую модель YandexGPT и другие ML-сервисы Yandex Cloud.

➡️ Смотрите запись мастер-класса на YouTube или VK Видео.

💫 Открываем набор специалистов на Sales Academy

Это оплачиваемая программа для тех, кто хочет развиваться в IT, работать с облаками и помогать клиентам в решении их бизнес-задач. Участники будут осваивать технологии и сервисы Yandex Cloud и включаться в реальные проекты.

📌 К Sales Academy могут присоединиться недавние выпускники вузов, специалисты со стажем до 3 лет, с техническим или бизнес-образованием.

⭐ Программа идёт 6 месяцев, нужно быть готовым выделять на неё 40 часов в неделю. По окончании программы лучшим участникам предложим работу в штате.

➡️ Подать заявку можно до 5 ноября 2024 года.

🧠 YandexGPT 4: как обучали новое поколение LLM

Семейство моделей YandexGPT 4 включает мощную языковую модель Pro и облегчённую версию Lite. Они превосходят по качеству ответов предыдущие версии, способны рассуждать и обрабатывать в четыре раза более длинные запросы.

Как обучали новое поколение?

📌 Повысили эффективность обучения

Тренировки YandexGPT 4 проходили с использованием опенсорс‑библиотеки Яндекса YaFSDP. Инструмент позволяет чаще проводить эксперименты с обучением, ускорять и улучшать все этапы машинного обучения.

▫️ За счёт комплекса инструментов получилось ускорить этап alignment;

▫️ На этапе pretraining добавили в датасет новые качественные данные;

▫️ В основном обучающем датасете увеличили долю длинных документов, добавили свежие данные;

▫️ Поменяли датасет для стадии supervised fine‑tuning;

▫️ Не обошлось без изменений и в RLHF — о них расскажем подробнее позже.

📌 Использовали скрытые рассуждения

В тренировке моделей применялись данные с подробными пошаговыми рассуждениями — Chain‑of‑Thought. Благодаря этому в новом поколении улучшилась способность моделей анализировать проблему, выделять основные этапы решения и рассуждать, как реализовать эти этапы.

➡️ Подробнее про YandexGPT 4 и дальнейшие планы читайте в статье на Хабре.