Покажем, как быстро развернуть инференс популярных open source моделей с платформы Hugging Face в сервисе Evolution ML Inference. Расскажем про нашу технологию Shared GPU, позволяющую потреблять только необходимое количество видеопамяти для работы модели и платить только за нее.

Покажем, как собрать агентную RAG-систему с помощью GigaChain и Evolution ML Inference от Cloud․ru для эффективного инференса моделей и LLM.

➡️ Evolution ML Inference — сервис для запуска ML-моделей из библиотеки Hugging Face. Благодаря нашей технологии Shared GPU, вы можете использовать только необходимое количество видеопамяти для запуска моделей и платить только за него.

➡️ Evolution Foundation Models — сервис с популярными open source моделями, доступными по API. Модели уже готовы к использованию — вам не придется развертывать инференс и писать код.

➡️ Evolution Managed RAG — готовый сервис для Retrieval Augmented Generation. Это способ обогатить LLM вашими данными. Сначала из базы знаний извлекаются релевантные документы, затем языковая модель генерирует ответ, учитывая найденный контекст. Такой подход уменьшает галлюцинации и позволяет отвечать фактологически точно даже на доменные вопросы.

➡️ Evolution ML Finetuning — сервис для тонкой настройки LLM под ваши задачи. Используя технологию LoRA, можно быстро адаптировать модель под конкретные задачи бизнеса без дорогостоящего полного переобучения.

➡️ Evolution Notebooks — сервис для работы и экспериментов с машинным обучением в облаке. Запускайте и тестируйте ML-гипотезы на мощных GPU, используя пользовательские или базовые Docker-образы на базе JupyterLab.

➡️ Evolution AI Agents — сервис для создания AI-агентов, работающих автономно. AI-агенты могут анализировать информацию, обучаться на данных, планировать действия и адаптироваться к изменяющимся условиям среды, в которой работают. А еще вы можете объединить до пяти разных AI-агентов и создать мультиагентную систему.

Следующий уровень — это ВЫ 🍑

Рассказываем как решить эту проблему клиентской балансировкой и headless-сервисами без Service Mesh.

😶‍🌫️ Открытие митапа
Дмитрий Юдин, технический лидер по развитию искусственного интеллекта, Cloud․ru

😶‍🌫️ «Как мы встроили AI-агента в онлайн-обучение»
Стас Гридин, менеджер проектов и Илья Жбанов, Data Science инженер, Cloud․ru

😶‍🌫️ «Model Context Protocol (MCP): главный тренд AI-индустрии»
Игорь Латкин, управляющий партнер и системный архитектор, KTS

И еще два секретных доклада — от наших экспертов и приглашенного гостя.

➡️ как работает Evolution Bare Metal и для каких задач подходит;
➡️ примеры критической нехватки дискового пространства;
➡️ особенности архитектуры сервиса: почему наше решение отказоустойчивое;
➡️ реальные метрики: скорость работы и эффективность.

Что такое квантовый симулятор
Это программа, которая имитирует работу квантового компьютера на обычном ПК. Пока квантовые процессоры редкие и дорогие, симулятор позволяет тестировать алгоритмы без железа.