Репортаж с Giga Conf ⚡️

Вчера наша команда посетила Giga Conf от Сбера, посвященную искусственному интеллекту.

На площадке проходила насыщенная программа докладов по нескольким тематикам от ML/AI до кибербезопасности. Также по площадке прогуливался робот и была выставочная зона, где ребята подробно рассказывали про последние достижения в ИИ. Делимся, что нам запомнилось 🙌

Один из интересных докладов — от Федора Минькина, технического директора GigaСhat. Плюс, это широко известный продукт, про обновления которого нам хотелось узнать.

🔵Федор рассказал, какой путь прошла команда с фокусом на первые 2 стадии обучения LLM: pretrain (обучение базовой модели) и alignment (выравнивание). Простыми словами, суть первой стадии — “скормить” модели огромный массив информации для верного предсказания следующего слова, но у этого мало практической пользы. Для этого нужна стадия выравнивания, когда модель учится исполнять конкретные запросы пользователя, например, отвечать на вопрос, в каком году родился Саша Пушкин

🔵Из последних достижений: проработка новой архитектуры и увеличение количества токенов, что позволит улучшить качество и точность модели

🔵Из основных планов на развитие, перейти на новую архитектуру “Mixture of experts” и обеспечить мультимодальность — чтобы пользователь мог общаться с нейросетью с помощью звука, изображений, видео. А также модель сможет кастомизировать ответ в зависимости от возраста и эмоций пользователя, которые она определит по звуку голоса. Например, на просьбу рассказать сказку ответ будет разный в зависимости от голоса взрослого или ребенка

В выставочной зоне нам запомнился стенд от GigaСhat, где ребята показывали последнее обновление для распознавания изображений. Например, загрузили изображение гуся с сигаретой и попросили GigaСhat это прокомментировать😄 Сейчас он доступен в формате бета-теста, а их ребята проводят на сотрудниках Сбера.

И конечно, ценная часть такого мероприятия — нетворкинг. Вас тут стало больше, и благодаря этому скоро появятся выпуски с новыми героями — AI/ML продактами.

Для тех читателей, кто интересуется подобными мероприятиями — недавно увидели, что конференцию про машинное обучение в июле проведет Тинькофф — вот ссылка на регистрацию.