Вижу, как зашла тема с MLOps, буду стараться чаще про это писать. Кстати, тут намечается релевантная DS конференция...

Большой DS-митап о персонализации от СберМаркет Tech🔥

Встречаемся на Data Science Meetup 5 июля в 19:00 в московском офисе СберМаркета или на онлайн-трансляции.

В программе:

🟡 Как мы делали проект по персональному ML-ранжированию каталога и почему из этого ничего не получилось, а потом внезапно каааааак получилось // Антонина Горячева, и.о. директора по анализу данных в СберМаркете.

🟡 ML-персонализация для карьерной платформы: о продукте, что для него делали, какие проблемы были и как их решали // Петр Чуйков, DS Team Lead, HeadHunter.

🟡 Кросс-категорийные рекомендации в Авито: зачем они нужны, как добавляли и что из этого вышло // Михаил Каменщиков, Recommendations Unit Lead Авито.

🟡 Персональный тарифный план для новой базы: key learnings после запусков пилотов, как и почему реальность разошлась с ожиданиями и что с этим делаем // Дарья Шатько, Data Science Teamlead Мегафон BigData.

После каждого доклада дарим подарки за лучший вопрос 🎁

Регистрируйся по ссылке и до встречи на митапе!

Это вам анонс нового формата выпусков по DS. В этот раз с Ваней Максимовым из Яндекс.Лавки, который лидирует DS команду и решает реальные боли бизнеса.

#TeamLeadTalks
Ждите!

Слишком много дизов, а если я вам покажу кусочек видео с очень сочной картинкой?

Алерончик, как дела?! Делюсь новостями.

Последний месяц выдался очень насыщенным.

🦤 Лидирование ML команды в DoDo Brands требует фокуса над задачами. А задач сейчас много. Тащим в прод рекомендашки, возвращаем Upsell корзины, статичную цену на доставку делаем динамической, а еще делаем голосового заказчика. В Dodo Brands дел реально хватает, но меня это все изрядно драйвит. Уж очень бодрая тима и достаточно ресурсов.

✈️ Мой курс вышел в автономный режим шлифовки. Рад, что курсец успешно помогает многим вкатиться в соревновательный ML быстрее. Удалось сделать целое открытое комьюнити с периодическими вебинарами. Разбираем текущие чемпионаты. Люди делятся своими приемами и дают друг другу мотивации участвовать систематичнее. В эту пятницу будем снова разбирать Protein Function Prediction. Недавно наконец-то разослали участникам фирменный мерч за успехи в рамках курса 👕.

🤖 Мир AI бежит вперед в бешеном тема. Утром выпускается новая SOTA модель, а вечером уже ее убийца с качеством в 10 раз лучше. Поэтому тоже не хочется отставать. Используем LLM'а модели в Dodo Brands, а еще решил запустить курсец по LLM'ам моделям и фреймворкам для работы с ними. Все что сейчас есть в русском мире - моей команде соавторов не нравится - будем задавать уровень.

🎬 Возобновил выпуски с интересными ребятами, но уже не в формате мок-интервью, а скорее более ламповый. Где люди могут поделиться какими-то откровенными вещами из своей карьеры. Анонс вы видели выше.

А го сделаем аукцион за набор мерча?

Правила: Стартовая цена за фирменный мерч 100 рублей. Шаг новой цены 100 рублей. Если последний час цена не перебивается, то мерч уходить победителю.

Мерч = футболка и набор стикеров + бонус сверху.

Итоговую сумму тоже разыграем)

На прошлых выходных проглотил несколько новых курсов от Andrew Ng. В целом, я уже давно играюсь с prompt engineering'ом LLM моделей, но нашлось несколько трюков, которые мне понравились

Итак, вот несколько выводов, которые мне больше всего запомнились.

⛓️ LangChain for LLM Application Development
- LangChain это новый "pandas", но не для таблиц, а для дизайна промптов LLM моделей.
- Слово Chain тут не зря. Оказывается, заставить LLM плясать под твою дудку можно не одним промптом, а цепочкой из нескольких.
- Зачем выбирать подходящий промпт, если можно попросить LLM выбрать подходящий промп самой среди предложенных с пояснениями?!
- Не можешь пихнуть нужную инфу в промпт - просто отфильтрую нужный фрагмент с помощью similarity search и проблема решится.
- Чтоб LLM не фантазировала и не тупила при подсчетах - скорми ей специальную базу знаний.
- LLM это не база данных, это штука, которая умеет делать выводы, если ей верно подсовывать актуальную информацию.
- Как оценить качество ответа модели? Дать сделать ей это самой.

📀 LangChain Chat with Your Data
- LangChain может распарсить почти любой фрагмент данных и превратить его в базу знаний. Будь это Ютуб, Ноушен или тупо набор PDF файлов.
- Как впихнуть невпихуемое? Сделать сперва по БЗ предварительный similarity search
- Что если БЗ не хватает для ответа на вопрос? - Подгружаем ей внешние БЗ + добавляем силу GPT и тогда качество вполне себе ок.
- Чаты в LangChain позволяют сплитить диалог хоть по сообщениям, хоть по токенам и тп. Оптимальнее всего тянуть именно сумаризированный диалог.

👨‍💻 ChatGPT Prompt Engineering for Developers
- Если тебе кажется, что LLM тебя не понимает, значит ты не шаришь, как ей это объяснить.
- Если LLM сильно тупит, дай ей несколько примеров из БЗ. Почти всегда качество сильно выше.
- LLM могут все равно отклоняться от намеченных указаний, лучше подстраховаться пост процессингом .

Прохожу курсы вместе вас, не благодарите!

Говорят, скоро курсы сделают платными. Оно и понятно, считай за бесплатно дают подергать ChatGPT API.

🍕 Побывал сегодня на 11-м съезде партнеров DoDo Brands.

👨‍💻->👩‍💻 Федор Овчинников больше не CEO DoDo Brands. Уже даже знаю, кто займет этот пост. Пред-история нового СЕО Алены Тиховой - вдохновляющая. Скоро расскажу, если накидайете 🔥

💪🤖 Утром в прод вышла первая моделька под моим лидированием. Еще две на подходе.

📦 Одноразовые коробки скоро заменятся многоразовыми боксами (см фото).

🐳 Старбакс sucks по сравнению с Дринкит

#1.5k_pizzerias
#150k🍋
#50%_market
#3.5_years
#DODOX2

😝 В прошлом году, я проводил марафон по фармингу в онлайне. В этом году я пошел дальше и реализовал мечту замутить офлайн кемп. (Пока ковид)

🤫 Суть в кемпа в том, чтоб собираться по выходным и вместе фармить в компании опытных ребят с разношерстным бэкграундом.

🤔 Запустились на месяц. Посмотрим, сколько новых медалистов появится. Взяли самых активных участников курса, чтоб эффективнее их прокачивать.

Если уж так вышло, что вы вкатываетесь в DS или в IT в солидном возврасте (40±5 лет), то вам, как вы возможно заметили, сложнее попасть на открытую позицию. Вот несколько моих советов в помощь:

Больше профессионального нетворкинга (конференции, сходки, кемпы).
Почти после любой конфы можно тет-а-тет поболтать с докладчиками из компаний, которые, как правило, могут искать в команду отвественных талантов. Нанимать намного легче человека, с которым общался вживую или видел, как человек при тебе кодил на хакатоне.

Курсы и комьюнити.
- Преподаватели курсов - это часто работающие в сфере люди. Не раз замечал, как мои коллеги в онлайн школах систематически хантили к себе новичков. Как и кого? - Например, когда на новых курсах давались зубодробительные или необкатанные домашки. Если находилсь студенты, которые несмотря на сложности справлялись с решением, да еще и приносили фидбек по улучшниям материалла, то хантились такие на раз-два.
- Комьюнити - это не всегда новички, это могут быть матерые спецы, которые пришли на курс еще немного прокачаться. Пользуйтесь этим. Пообщайтесь, узнайте нет ли у них открытых позиций или даже просто желания нанять кого-то еще. Если да, то вполне себе могут рефернуть вас, в обход воронки с HH.ru.

А зачем вам вообще найм? Есть же фриланс!
Набить опыт и получить крутые кейсы можно не только на курсах, но и получая небольшие заказы от людей, которым для решених их проблемы\идеи\задачи не нужен человек в штате, а вполне достаточно человека со сдельной систематической оплатой по часам.

Kaggle и хакатоны
Тут и говорить нечего, способ сложнее, но тоже рабочий. Есть чемпионаты, которые вовсе проводят лишь с целью познакомить будущих сотрудников с задачей с последующим хантингом в компанию для решения это самой задачи. И вообще, чемпионаты по Data Science это социальный лифт. Плевать какой у тебя возвраст и какой опыт у твоих аппонентов, перед задачей все равны. А выиграв или просто зайдя в обозримый топ лидерборда - ты становишься мишенью для HR’ов.

Пользуйтесь!

Решил узнать, а что вообще обо мне знает YandexGPT

Мдам-с, инфа не сотка, но зато быстро 😂

🤔 Кто-то в комментариях задавался вопросом - а зачем устраивать кемпы по кодингу?

🔥 Все ради прокачки и развития в кайфовой атмосфере 😜✌️

✅ Это лето точно останется в памяти у моих чемпионов

- Ты работаешь в пиццерии?
- Нет, я работаю в IT компании

Видосик понравился, делюсь.

Окей, 100 🔥 есть. Вот вам фишка в пару строк.

Берем любое ваше ML решение и добавляем в конце перед отправкой ответа вот эти строчки (скрин)

🤔 Почему пост-процессинг частенько работает?

🧑‍💻 Суть в том, что так вы преземляете модель на землю. Если модель, например, выдает отрицательные значения или больше чем может быть, то пост-исправление ответа - это очень хорошая идея.

🎯 В ICR было замечено, что в трейне при BN < 16 всегда класс ноль. Удивительно, но на паблике это действительно поднимало на 2к+ мест вверх 🥇.

🤾‍♀ На привате не спасло, значит ли это, что трюк не работает? Нет, потому что в этом чемпионате совсем рандомно все. Поэтому утверждать что-либо сложно. Тестовая выборка всего 600 строк - маловато.