🏁 На этом все. Все мои гештальты по Таиланду в плане постов закрыты. Смогу теперь на вопросы про Тай отправлять ссылки на эти посты. Спасибо за внимание! Как бонус, вот чатик @thailand_IT_nomads

🍿 Заключение и планы.

Это была моя вторая зима, проведенная не в России. Этой серией постов хотел привести вас к мысли, что путешествия в других странах, особенно будучи в IT, очень сильно вас прокачивают.

Похожее чувство, мы могли уже испытывать, когда уезжали учиться в ВУЗ, а по приезде назад в родной город, вы ощущали как ваши сверстники отстали от вас в развитии. Тут конечно есть тонкости, но в целом, личностный рост ощутите.

Понял лично для себя, что теперь уже не смогу спокойно проживать годами напролет в одной стране. Каждый раз, когда слышу про новую страну, где не был - задумываюсь, а вот прикольно было б там пожить хотя бы пару месяцев?!

🤔 Из следующих мест на зимовку обдумывал Бали или Боготу.

✅ Путешествуйте, чемпионы!

Такс, вижу некоторое неодобрение по реакциям.

Что не так? Давайте пообщаемся)

Так, прочитал все возражения. Их глобально три.

🧠 Непонятно, а про что курс и какая вообще программа? Что там и что вам это даст?
И тут я осознал, что почти ничего не сказал о том, что мы вообще рассказываем на курсе и каких целей хотим достичь!? Хорошо, в последующих постах расскажу про наше видение соревновательного ML и чему мы можем научить в рамках курса.

🧠 10 000 это большая цена за авторский курс.
Про то, почему мы сделали наш курс платным и на что тратим написал в посте тут. Плата за курс дает нам большие возможности для творчества. Вычислительный сервер с большой оперативкой, мерч, качество материала, интеллектуальная ценность и другое.

🧠 Курс про соревновательный ML, но пока авторы не Kaggle Grand Master'а.
Это оказался самый болезненный пункт. Почему-то считается, чтоб научить людей каким-то вещам в ML, обязательно надо завоевать титул именно на Kaggle. Однако, все забывают, что для качественного и методически правильного курса только этого мало. Чтобы после каждой решенной задачи человек произносил: "Вау, а так разве можно было?!" - требуется иметь еще ряд скиллов.

Напомню, что соревновательный опыт можно получить не только на Kaggle. Да, Kaggle самый популярный и мы в нем участвуем, но вне Kaggle так же проходит большое число чемпионатов, которые дают больше шансов выиграть призовые, но не дают медалей на Kaggle. Команда курса имеет хороший боевой опыт в решении чемпионатов. Не всегда это были топ-1, но часто в пределах топ-3 с призовыми.

Лично сам, я сильно согласен с последней претензией. Поэтому систематично трачу время на решение Kaggle. Особенно хорошо это получается делать летом. Есть много времени. И сейчас как раз такой шанс. Однако, пока я и мои соавторы идем к титулу Мастеров, ничего не мешает нам наплодить Kaggle Expert'ов. Кто запретит нам быть примером?!

Можно бесконечно рассуждать, кто имеет право учить людей, а кто нет. Однако, мы уже здесь и сейчас помогаем большому числу ребят в достижении титулов. Дело ресурсоемкое. Даже мой титул эксперта дался мне с трудом. Ушло три недели на первое серебро. И тем не менее, мой азарт от соревнований огромен. Мне и команде в кайф участвовать и проверять свои соревновательные технические скиллы, которые никогда бы не смогли отработать в рамках компании. А еще нам в кайф делиться опытом в доступной форме.

#by_Aleron

📦 Получил много обратной связи про Тай. Рад, что пост оказался полезным.

✅ Кстати, для тех, кто хочет остаться на Пхукете надолго и вести здесь бизнес - рекомендую обратиться в компанию «Expoint» by SLS CENTER”. Вот пост про этих ребят.

Кстати, тут продлили на две недели чемпионат этот.

🚀 Рекомендую его, как хороший вариант для старта соревновательного сезона. Какие есть особенности? Несколько фактов, к которым пришел пока решал.

📦 Табличные данные, а значит тема горячая. Блендинг, стекинг и прочее 😉
📦 Задача мульти-лейбл классификации
📦 Code Competition - ответ должен генерироваться кодом, тест скрыт.
📦 Данные это логи пользователей, размер которых больше, чем может позволить оперативка Kaggle.
📦 Легко можно батчами обработать и собрать готовый датасет из фичей.
📦 Нельзя использовать при инференсе GPU или TPU, только два ядра CPU
📦 Инференс посемпельный. Очень долгий.
📦 Локальная валидация хорошо отражает скор на лидерборде

Закончил Физтех, а значит если вижу годноту от физтехов, то делюсь ей.

А еще мне вот такие носки пообещали, поэтому ловите пост про стартапы.

🙈 ~70% всего спама в телеграм это арбитраж черед крипту. Change my mind!

🤔 Кто вообще на это ведется!? В основном так ищут дропов для вывода, а это прямой путь в разборки с налоговой.

🧠 В последний год наступил прям буст такого вида спама. Пришлось даже свой небольшой классификатор написать, чтоб банил. Агрессивные встроенные фильтры и ручные боты не спасали. По 20 разнообразных сообщений в сутки на паблик в 5к человек. Инста тоже обильно плодит схожую рекламу.

✅ Если вы давно думали какой пет по ML сделать, то присмотритесь к этой проблеме!

Сейчас сэкономлю вам кучу времени.

🤔 Мне тут на работе выпало делать голосового помощника. И если вы делаете что-то похожее или просто хотите поднять себе собственную бесплатную chatGPT, то этот пост для вас.

👨‍💻 Первое, что вам придется сделать, это понять, какого качества LLM'а вас устроить. Моделей сейчас хватает, vicuna, llama, alpaca, koala, dodo - целый зоопарк. Чтоб лишний раз не мучать этих милых животных и не потратить свои драгоценные недели дни на выкачивание и запуск моделей ради экспериментов, можно взять вот этот крутецкий сайт. Где за вас подняли все chatGPT-like модели. Поиграться с каждой из них в риалтайме и кайфануть.

🚀 А чтоб быстрее сойтись и прийти к оптимальной модели под ваши задачи, можно еще на вот эту статью обратить внимание. Тут chatGPT принят за эталон, а другие модели оценили относительно его. Скрин в посте из нее. Сам сперва пробовал развернуть на своих серверах LLAMA 13b, но по итогу реально хорошо себя показала Vicuna 13b. Обе модели без какой-либо квантилизации уместил на двух GPU по 16 гигов.

✅ Ваши прОдукты/тимлиды офигеют, как быстро и точно вы определи нужную модель для прода. Единственное, что обратите внимание на наличие лицензии)

#DevOps_это_боль
#но_уже_не_для_вас

Вижу, как зашла тема с MLOps, буду стараться чаще про это писать. Кстати, тут намечается релевантная DS конференция...

Большой DS-митап о персонализации от СберМаркет Tech🔥

Встречаемся на Data Science Meetup 5 июля в 19:00 в московском офисе СберМаркета или на онлайн-трансляции.

В программе:

🟡 Как мы делали проект по персональному ML-ранжированию каталога и почему из этого ничего не получилось, а потом внезапно каааааак получилось // Антонина Горячева, и.о. директора по анализу данных в СберМаркете.

🟡 ML-персонализация для карьерной платформы: о продукте, что для него делали, какие проблемы были и как их решали // Петр Чуйков, DS Team Lead, HeadHunter.

🟡 Кросс-категорийные рекомендации в Авито: зачем они нужны, как добавляли и что из этого вышло // Михаил Каменщиков, Recommendations Unit Lead Авито.

🟡 Персональный тарифный план для новой базы: key learnings после запусков пилотов, как и почему реальность разошлась с ожиданиями и что с этим делаем // Дарья Шатько, Data Science Teamlead Мегафон BigData.

После каждого доклада дарим подарки за лучший вопрос 🎁

Регистрируйся по ссылке и до встречи на митапе!

Это вам анонс нового формата выпусков по DS. В этот раз с Ваней Максимовым из Яндекс.Лавки, который лидирует DS команду и решает реальные боли бизнеса.

#TeamLeadTalks
Ждите!

Слишком много дизов, а если я вам покажу кусочек видео с очень сочной картинкой?

Алерончик, как дела?! Делюсь новостями.

Последний месяц выдался очень насыщенным.

🦤 Лидирование ML команды в DoDo Brands требует фокуса над задачами. А задач сейчас много. Тащим в прод рекомендашки, возвращаем Upsell корзины, статичную цену на доставку делаем динамической, а еще делаем голосового заказчика. В Dodo Brands дел реально хватает, но меня это все изрядно драйвит. Уж очень бодрая тима и достаточно ресурсов.

✈️ Мой курс вышел в автономный режим шлифовки. Рад, что курсец успешно помогает многим вкатиться в соревновательный ML быстрее. Удалось сделать целое открытое комьюнити с периодическими вебинарами. Разбираем текущие чемпионаты. Люди делятся своими приемами и дают друг другу мотивации участвовать систематичнее. В эту пятницу будем снова разбирать Protein Function Prediction. Недавно наконец-то разослали участникам фирменный мерч за успехи в рамках курса 👕.

🤖 Мир AI бежит вперед в бешеном тема. Утром выпускается новая SOTA модель, а вечером уже ее убийца с качеством в 10 раз лучше. Поэтому тоже не хочется отставать. Используем LLM'а модели в Dodo Brands, а еще решил запустить курсец по LLM'ам моделям и фреймворкам для работы с ними. Все что сейчас есть в русском мире - моей команде соавторов не нравится - будем задавать уровень.

🎬 Возобновил выпуски с интересными ребятами, но уже не в формате мок-интервью, а скорее более ламповый. Где люди могут поделиться какими-то откровенными вещами из своей карьеры. Анонс вы видели выше.

А го сделаем аукцион за набор мерча?

Правила: Стартовая цена за фирменный мерч 100 рублей. Шаг новой цены 100 рублей. Если последний час цена не перебивается, то мерч уходить победителю.

Мерч = футболка и набор стикеров + бонус сверху.

Итоговую сумму тоже разыграем)

На прошлых выходных проглотил несколько новых курсов от Andrew Ng. В целом, я уже давно играюсь с prompt engineering'ом LLM моделей, но нашлось несколько трюков, которые мне понравились

Итак, вот несколько выводов, которые мне больше всего запомнились.

⛓️ LangChain for LLM Application Development
- LangChain это новый "pandas", но не для таблиц, а для дизайна промптов LLM моделей.
- Слово Chain тут не зря. Оказывается, заставить LLM плясать под твою дудку можно не одним промптом, а цепочкой из нескольких.
- Зачем выбирать подходящий промпт, если можно попросить LLM выбрать подходящий промп самой среди предложенных с пояснениями?!
- Не можешь пихнуть нужную инфу в промпт - просто отфильтрую нужный фрагмент с помощью similarity search и проблема решится.
- Чтоб LLM не фантазировала и не тупила при подсчетах - скорми ей специальную базу знаний.
- LLM это не база данных, это штука, которая умеет делать выводы, если ей верно подсовывать актуальную информацию.
- Как оценить качество ответа модели? Дать сделать ей это самой.

📀 LangChain Chat with Your Data
- LangChain может распарсить почти любой фрагмент данных и превратить его в базу знаний. Будь это Ютуб, Ноушен или тупо набор PDF файлов.
- Как впихнуть невпихуемое? Сделать сперва по БЗ предварительный similarity search
- Что если БЗ не хватает для ответа на вопрос? - Подгружаем ей внешние БЗ + добавляем силу GPT и тогда качество вполне себе ок.
- Чаты в LangChain позволяют сплитить диалог хоть по сообщениям, хоть по токенам и тп. Оптимальнее всего тянуть именно сумаризированный диалог.

👨‍💻 ChatGPT Prompt Engineering for Developers
- Если тебе кажется, что LLM тебя не понимает, значит ты не шаришь, как ей это объяснить.
- Если LLM сильно тупит, дай ей несколько примеров из БЗ. Почти всегда качество сильно выше.
- LLM могут все равно отклоняться от намеченных указаний, лучше подстраховаться пост процессингом .

Прохожу курсы вместе вас, не благодарите!

Говорят, скоро курсы сделают платными. Оно и понятно, считай за бесплатно дают подергать ChatGPT API.

🍕 Побывал сегодня на 11-м съезде партнеров DoDo Brands.

👨‍💻->👩‍💻 Федор Овчинников больше не CEO DoDo Brands. Уже даже знаю, кто займет этот пост. Пред-история нового СЕО Алены Тиховой - вдохновляющая. Скоро расскажу, если накидайете 🔥

💪🤖 Утром в прод вышла первая моделька под моим лидированием. Еще две на подходе.

📦 Одноразовые коробки скоро заменятся многоразовыми боксами (см фото).

🐳 Старбакс sucks по сравнению с Дринкит

#1.5k_pizzerias
#150k🍋
#50%_market
#3.5_years
#DODOX2