Первый учебно-научный семинар LISA 🤩

Тема: Архитектура LLM-driven приложений 🦾

Запрос на экспертное мнение по вопросам:
1. Есть ли общепринятая архитектура для LLM-driven приложений?
2. Имеет ли смысл поднимать LLM локально и встраивать в свой бэк или нужно использовать готовые фреймворки вроде vLLM?
3. Какие бэкенд-фреймворки лучше использовать для работы с LLM?
4. Как распределять нагрузку (или каким образом она распределяется в готовых фреймворках), если модель почти полностью забивает GPU, а пользователей много?

Цель: формирование полноценного zero-to-hero crash course по тому, как писать приложения с self-hosted LLM 🚀

Отправная точка для дискуссии:
1. Microservice in Python using FastAPI
2. Streaming Locally Deployed LLM Responses Using FastAPI (открывается с ВПН)

Для участия в семинаре, согласования даты, времени и формата необходимо заполнить 👉 форму 👈

Полным ходом идет репетиция докладов на КМУ 🤩

На этой неделе пройдет Конгресс Молодых ученых, в котором LISA представлена в двух секциях:

📆 9 и 10 апреля, 13:00
"Интеллектуальные сервисы и приложения"

План мероприятия:
13:00 - Начало выступлений
15:00 - Кофе-брейк с пиццей
15:30 - Продолжение выступлений

Гибридный формат:
📍 Биржевая линия, 14-16, Ауд. 301/5
🌐Онлайн: ссылка на зум (09.04, 10.04)

📆 11 апреля, 11:00
"Искусственный интеллект в медицине"

🌐 Онлайн: ссылка на зум

Полезные ссылки:
- Общая программа КМУ
- Памятка выступающим для успешной презентации
- Для прохода на территорию ИТМО участникам из других вузов и школ необходимо заполнить форму

Первый день секции LISA "Интеллектуальные сервисы и приложения" на КМУ в цифрах:

30 слушателей
20 докладов
15 участников в онлайне
5 выступающих очно
2 доклада от школьников
3 гостя из гимназии 397 им Г.В.Старовойтовой

Спасибо докладчикам за интересные проекты и смелые мысли!
Всех завтра ждем на 2 дне🦾

📆10 апреля, 13:00

План мероприятия:
13:00 - Начало выступлений
15:00 - Кофе-брейк с пиццей
15:30 - Продолжение выступлений

Гибридный формат:
📍 Биржевая линия, 14-16, Ауд. 301/4
🌐Онлайн: ссылка на зум

Завершение 2 дня секции LISA
"Интеллектуальные сервисы и приложения"

Вчерашний день был очень продуктивный, участники представили 21 проект 🤓

Благодарим всех выступающих за такую плодотворную работу 💪

Надеемся, что все проекты станут основой для дальнейших достижений и успехов 🏆

Следите за нашими обновлениями, так как скоро мы объявим победителей и отметим лучшие проекты, которые были представлены во время КМУ 👀

Вот так прошел КМУ в секции учебно-научной лаборатории LISA 🤩

Поздравляем победителей нашей секции КМУ! 🥳🦊

Темы победителей среди студентов:
• «Исследование особенностей использования LLM в задаче code-switching в заданиях для изучения иностранных языков» лаборанты учебно-научной лаборатории ФИКТ "LISA" Мазеин Никита, Тихонова Ксения (ИТМО);
• «Разработка интеллектуального web приложения для автоматической оценки и улучшения изображений товаров в онлайн магазинах» Козлов Иван (ИТМО);
• «Технология построения web приложений, основанных на использовании байесовских сетей доверия» Кнышев Иван (СПбЛТУ);
• «Определение узких мест серверного веб-приложения и их рефакторинг в рамках разработки Конструктора ОП» студента ИТМО, лаборант учебно-научной лаборатории ФИКТ "LISA" Коряков Сергей (ИТМО);
• «Библиотека Python для определения эмоциональной окраски музыкальных треков с использованием алгоритмов глубокого обучения» Башманов Иван (ИТМО);
• «Открытая библиотека для автоматизации создания архитектур сверточных нейронных сетей» лаборант учебно-научной лаборатории ФИКТ "LISA" Кузнецов Андрей (ИТМО).

Тема победителя среди школьников:
• "Повышение эффективности обнаружения и прогнозирования лесных пожаров в России с помощью технологий искусственного интеллекта" Кирпичев Владимир (МОУ ИРМО "Грановская СОШ").

Принимайте поздравления и до встречи на новых мероприятиях лаборатории 🫶

XIII КМУ: LISA

Как это было? Насыщенно и очень плодотворно! 🦾

52 сотрудника LISA представили доклады в различных секциях КМУ:
- Мобильная разработка (🏆)
- Интеллектуальные инфокоммуникационные технологии
- Science and Innovations: Going Global
- Искусственный интеллект в медицине (🏆)
- Экотехнологии и устойчивое развитие
- Аналитика данных
- Техническое зрение
- Интеллектуальные сервисы и приложения (🏆)

Для тех, кто хочет посмотреть, как защищались докладчики секции "Интеллектуальные сервисы и приложения", мы подготовили записи первого и второго заседания 🤓
Приятного просмотра! 🍿

Поздравляем нашего коллегу, отличившегося на конференции Ломоносов-2024 🏆

Один из наших сотрудников, Балцат Константин Иванович, в апреле успешно выступил на международной конференции студентов, аспирантов и молодых ученых «Ломоносов-2024»

Доклад Константина, посвященный интеллектуальной системе, генерирующей вопросы на основе учебных материалов, очень понравился жюри в секции «Педагогическое образование и современные образовательные технологии». Константин отметил следующее: «По моему мнению, доклад на секции научного форума отличился от других тем, что я рассказал и предложил конкретный разработанный сервис для применения в образовательном процессе»

Работа над проектом проходила в LISA. Использовались некоторые квантизованные open source LLM с hugging face, техника RAG и фреймворк оценки Ragas

Поздравляем коллегу с отличным выступлением👏

Хакатон от проектов КОД&ПАЗЛ

На прошлой неделе проходил хакатон от проектов КОД&ПАЗЛ. Основная цель мероприятия – «подсветить» себя и разработать проект.

Командам с достойными проектами выпадает шанс попасть на стажировку в крупные компании, такие как МТС или KION

Один из сотрудников нашей лаборатории со своей командой принял участие в хакатоне