🤖 Рекомендации и ИИже с ними

В последние пару лет бум ChatGPT и аналогов поднял шум практически во всех индустриях, связанных с высокими технологиями. Чат-боты и мультиагентные системы на их основе уже грозятся заменить поиск и взять в свои руки шоппинг — но действительно ли ИИ-системы понимают, что нужно человеку?

Обсудили, как меняется технологическая основа рекомендаций, и что нам стоит ждать от них в ближайшем будущем с Николаем Савушкиным, руководителем направления рекомендательных систем в Яндексе.

Как изменились рекомендательные системы в последние пару лет? Сменилась ли общая парадигма из-за бума ИИ?

➖ Новые технологии здесь только начинают внедряться. Основные изменения связаны с масштабированием уже существующих ML-моделей и их объединением с генеративным ИИ.

Почему рекомендательные системы пока отстают от других областей машинного обучения?

➖ Одна из причин — слабая академическая база. Для разработки рекомендательных систем нужен доступ к реальным пользователям и данным об их поведении в сервисах, чего у исследователей часто нет. Кроме того, рекомендательные системы сложны и многокомпонентны.

Каковы основные направления развития рекомендательных систем?

▪️ Масштабирование моделей (увеличение их размера и возможностей, понимания интересов пользователей).
▪️ Объединение с генеративными технологиями, например, создание объяснимых рекомендаций (Reason to Believe), когда система может буквально рассказать, почему советует тот или иной товар, контент.
▪️ Развитие мультимодальности как итог: когда система, научившись на большом объёме данных по музыке, например, может потом извлекать зависимости и применять тот же подход на книгах, где данных куда меньше. Работать с паттернами.

Могут ли генеративные модели заменить ядро рекомендательных систем?

➖  Пока нет. Попытки использовать LLM для рекомендаций не увенчались успехом, так как такие модели плохо справляются с предсказанием реальных предпочтений пользователей: они поступают логично, но по факту советуют «как надо» — подстраиваются под ожидание пользователя, но не понимают, чего он реально хочет. На позитивную реакцию человека тут полагаться нельзя.

Например, когда мы пробовали изменить рекомендацию фильмов так, чтобы она нравилась пользователям, система начала выдавать больше классики. Люди оценивали её позитивно, но в итоге шли смотреть другое кино.

В рекомендательных системах используются свои нейросети, которые делают что-то слабо объяснимое для человека. И попытки привести это к какой-то логике всё же проще, чем пытаться научить обычную LLM рекомендовать. Пусть рекомендации будет генерировать одна система, а говорить — другая. Пока движение такое.

Отличаются ли подходы к рекомендательным системам в России и за рубежом?

➖ Радикальных отличий нет. Все используют общие принципы машинного обучения. Китайские и западные компании могут фокусироваться на разных нюансах, но фундаментальная база схожа.

Мы, например, знаем, что Google в своем Project Astra активно занимается вопросами объединения LLM и рекомендательной системы в единую большую систему. Но пока это всё безуспешно.

«Переедут» ли рекомендательные системы на устройства пользователей? Чтобы охватить как можно больше предпочтений локально

➖ Пока это маловероятно из-за сложности и ресурсоёмкости таких систем. Рекомендательные системы требуют больших вычислительных мощностей и доступа к огромным базам данных. Попытки делать какие-то алгоритмы есть, но мы пока в эту сторону не смотрим.

Что ждёт рекомендательные системы в будущем?

▪️ Увеличение размера моделей и появление новых свойств (emergent properties), которые позволят рекомендательным системам предсказывать неочевидные вещи о пользователях.
▪️ Развитие универсальных чат-ассистентов, способных не только рекомендовать, но и объяснять выбор.

@anti_agi