Зона отвественности

У меня случился мини-отпуск в рамках которого я очень много рефлексировал на тему смены зоны отвественности при переходе с позиции разработчика в руководителя 😫. И по ощущениям она и правда выросла очень и очень сильно.

Раньше как разработчик, можно было смотреть не супер далеко вперёд по планам, да и честно говоря, иногда можно было забывать про основную цель деятельности. Потом ты приходишь к руководителю, который тебе всё очень доходчиво и толково объясняет, что к чему и почему 🔥.

Сейчас такое тоже может быть. Но на более высоком уровне что ли. Сейчас есть ответственность за людей и в голове нужно держать их вектор движения, чтобы вся команда двигалась туда, куда хочется. Нужно понимать наперёд, чего хочется достичь, как мы будем этого достигать, а какие вообще ресурсы для этого нужны.

Ну и самое неочевидное — это принятие решений. Вот в роли разработчика ты такой думаешь: "да чо там думать, нужно делать так". А сейчас уже не так: "А почему мы хотим делать так? Как мы поняли, что хотим это делать? А мы уверены? А почему?". Возможно, у меня случился дикое накручиванием ситуаций, но с другой стороны как будто бы это полезные вопросы для любой роли 👍.

Обо всех этих планах думать — очень сложное, но интересное упражнение. Если раньше я думал, что так не могу, то сейчас уже чот да получается 👨‍🦳.

Немного рекомендаций

Меня всегда вдохновляют какие-то крупные и нетривиальные истории, где люди находят интересные решения ☺️. Я сам проходил через такое несколько раз, когда ты как безумец веришь в свою идею, идёшь до конца достаточно много времени, а потом получаешь что-то действительно классное и удивительное, хоть и не всегда самое лучшее.

Одна из таких историй в этом году была описана в посте Антона, где он участвовал в соревновании по расшифровке древних свитков, уничтоженных Везувием 👨‍🦳, и даже смог там себе отхватить промежуточный приз! Ну вы только подумайте, 8 месяцев с какой-то переодичностью копаться в очень плохих и непонятных данных, чтобы найти что-то, что никому не известно. Начать ради этого немного учить язык 🤔... Ну это нужно обладать каким-то упорством.

А вообще в его канале Generative Anton очень много прикольных штук написано не только про соревнование, а иногда про какие-то новости, про жизнь, про достижения (например, относительно недавно запилили своего чат-бота в амазоне для помощи разработчикам). Ну и много мемов, как полагается 😀! Так что рекомендую его канал к прочтению!

А вообще мы с ребятами запилили целую папку авторских телеграм каналов в сфере AI/ML/DS — Авторский ИИ, где каждый старается писать интересные вещи, окружающие его. Приходите читать!😍

Сижу я значит сейчас, работаю и никого не трогаю. Думаю про себя, что кушац хочу капец как 😊, надо уже собираться домой и там поесть. Вдруг откуда не возьмись в комнату забегает девушка и говорит:
— Парень, пицца не интересует?
— А чиво за пицца 🤔? Откуда?
— Да у нас тут туса была, вот не доели.
— Давай!

И всё, девушка оставляет коробку от додо и убегает. Я думаю, ну там пару кусочков дали наверное, заглядываю в коробку — а там целая пицца, все кусочки 😍! Вот и я думаю: это намёк свыше, мол куда собрался 🤨? Или благодать за плодотворную работу на этой неделе ☺️? Пу-пу-пу...

Хотел пойти погулять, но дождь оказался быстрее 😳. Поэтому решил размять пальцы рук и потапал кабанчика 🤓.

OCR для мемов с текстом на русском

На прошлых выходных выдались свободные часы посидеть над проектом про поисковик для мемов (да-да, админ много отдыхает, ему полезно). Мне нужно каким-то образом прокачать OCR для 110к картинок. Я думал, что это простая задача... Как результат — просчитался, но где? 👨‍🦳

Мой план был надёжным, как швейцарские часы: берём open source решение и гоняем его на картинках 🔼. В качестве претендентов были два известных мне решения: EasyOCR и PaddleOCR. Оба фреймворка рекомендуют в любом MLном чатике как бейзлайн для "попробовать OCR" 🤓.

Попробовал — погрустил. Оба решения прям очень плохо работают на мемасных шрифтах. Или я всё-же где-то накосячил в конфигурациях? При этом если гонять на картинках, где классические шрифты, по личным ощущениям, EasyOCR держит лидерство среди двух 🌿, а так в целом оба что-то внятное выдают.

В проприетарных решениях что Яндекс, что Гугл выдают хорошее качество 😍. Думаю, кого забросать запросами... Главное, не начать ддосить. Иначе сам огребу 😊.

Или же может вы знаете какое-нибудь альтернативное решение?

В Питере-пить

Кто меня знает лично осведомлены о том, что я не употребляю алкогольную продукцию (ну кроме кваса, кефира и прочих подобных вещей). Более того, я в целом не пробовал алкогольные напитки 🤔. При всём этом я очень сильно люблю ходить с людьми в бары, рюмочные и прочие интересные заведения — мне нравятся атмосфера, разговоры с людьми 😍.

Во время заказа с меня можно хорошенько так посмеяться, ведь мой частый представитель напитка в заведениях — это чай. И знаете, иногда вынесут просто чайничек малюсенький, а иногда целый набор для чайной церемонии 🔼!

Но всё же главное для меня — это общение. Иногда узнаешь такое о мире, о чём и подумать не мог, иногда придумаете вместе новый стартап и к концу встречи его закроете 👨‍🦳, а иногда и просто по душам поговорите.

В попытках спиться чаем, комбучей, водой и прочими подобными напитками я иду на код-хоппинг в Питере, который организовывают ребята из соседних отделов. Если кто-то из вас вдруг будет там (регистрация уже вроде как закрыта) — подходите, я буду только рад 😍! Меня будет легко узнать — возможно я единственный буду пить чай 🤓.

А точно ли я хочу быть руководителем?

Сходил я значит на тусовку, познакомился с множеством новых ребят, с кем-то даже обменялись контактами! Среди множества разговоров были темы и про бизнес, и про состояние рынков, про технологии. Ребята очень много рассказывали интересных историй, как они творили невероятную магию у себя на работе: кто-то баг сложный пофиксил, кто-то ускорил вычисления в 100500 раз, кто-то очень классную фичу и т.п. 🌿

После этих разговоров подумал я про себя: а что классного сделал лично я за последние несколько месяцев 😍? И мне как-то сложно было ответить на этот вопрос, потому что я не делал каких-то технологических штук в последнее время. И я задумался: а точно ли я движусь в нужном мне направлении? Более глобальный вопрос к себе: а точно ли я хочу быть руководителем и зачем я им вообще стал? В попытках ответить на последние вопросы, я откопал для себя следующие тезисы.

Хочу думать глобальнее. Мне нравится делать фичи, исселедования, да и просто писать код. Но как-то для меня это всё локально. Надеюсь, это не звучит как-то грубо 👨‍🦳, потому что я не хотел. Но мне хочется думать о фиче, когда её вообще ещё нет. Когда она появляется от каких-то потребностей, о которых ты узнаешь из разговоров, аналитики, пользования продуктом. Такое можно делать и на позиции IC (individual contributor), но всё же чаще ты озадачен конкретными задачами.

Хочу, чтобы люди вокруг меня делали крутые штуки, а я им мог в этом помогать. Здесь помогать != думать за них решения, а создавать все те условия, чтобы у человека была возможность решить задачи 🤓. Уже достаточно продолжительное время (даже до руководства) я радуюсь успехам людей вокруг меня больше, чем своим. В случае неудач я стараюсь приходить и создавать те условия, в которых мы бы решили задачку. Я очень сильно топлю за то, чтобы люди учились, росли, двигались сами и двигали команду. Быть причастным к такому — для меня одно удовольствие ☺️.

Люблю неопределённость. Чем более заковырестее для меня задача, чем больше я там ничего не понимаю — тем интереснее она для меня 🔼. Как минимум — это точки роста.

Люблю брать ответственность. Пока я еще не прощупал ту грань, когда ответственности для меня будет через край. Больше ответственности — больше рисков, с которыми нужно учиться работать 😊. Тут у меня есть опытные друзья, товарищи и наставники, которые помогают постигать дзен.

И как будто бы все эти тезисы можно отнести как к IC, так и к руководителю. Но почему-то в моей системе ценностей это ближе ко второму, чем к первому 🤔. Мне кажется, что в качестве руководителя можно осуществлять каждый из пунктов точно, а вот в качестве IC надо призадуматься как именно 🙃. Интресно, как мой взгляд изменится спустя какое-то время, потому будет интересно перечитать этот пост спустя год.

Стоял ли перед вами выбор между треком IC и руководителем? Что выбрали и почему? Интересно будет почитать ваши истории 😍.

mPLUG-Owl3

Авторы из Alibaba Group делают VLMку и сделали основной фокус исследований на обработки multi-image сценариев: вопрос по нескольким картинкам, диалоги с картинками или видео. Они не первые, но большинство статей из этой серии просто конкатенировали токены картинок в контекст, что очень сильно радувало запрос и очень много картинок поместиться не могло бы. И как будто бы у них получилось, молодцы 🔼.

Дальше информация для тех, кто в области.

Ребята решили пойти иначе и не подавать картинкинки как токены на вход LLMке. Вместо этого они патчат некоторые трансформерные блоки LLMки, добавляя в них Hyper Attention (HA). Забавно, что слои для патчинга они выбрали их рандомно. Чтобы сохранять позицию картинок в тексте, они просто добавляют как обычный текст в промпт <|image|>.

HA вдохновлен механизмом cross-attention из Flamingo, но при этом избавляется от трёх (по мнению авторов) недостатков: сильное раздувание числа параметров, нет учета порядка картинок и языковая моделька так и не учится правильно использовать визуальные токены. Чтобы задать позиции картинок, используют Multimodal-Interleaved Rotary Position Embedding (MI-Rope). Как устроены оба блока — лучше почитать в статье.

Интересен тот факт, что LayerNorm в трансформерных блоках используется один и тот же, что для текстовых, что для картиночных токенов. Говорят, так сходится лучше. А чтобы регулировать и взешивать информацию из визуальной модальности, пользуют adaptive gate (AG).

Обучают это дело в три этапа:
— Pretrain. Датасеты пар image-text. Выбрали около 41 млн семплов, обучали только новые внедренные элементы: адаптеры, слои проекции в HA, AG.
— Multi-image training. Обучение на нескольких картинках сразу. Тут и interleaved данные, откуда семплили по 3-4 картинки, и текстовые датасеты, чтобы учить модель "видеть текст". Ну и конечно же видео, по 8 фреймов на видео. Обучают адаптер и LLMку.
— Self-Supervised Fintuning. Опять же взяли кучу датасетов, учили адаптер и LLMку.

Что по результатам?
В целом, не так всё круто 👨‍🦳. Супер великих прорывов нет. Да, где-то стало лучше, где-то стало чуточку хуже. Инетерсно, что одна из немногих статей, где практически полностью опустили замеры на visual text-related бенчмарках (наверное, там не всё так хорошо). Не было ablation про перенос свойств на другие размеры (только 7b получается). В целом показали, что подход рабочий. А также показывают, что умеют работать на сильно большем количестве картинок, нежели чем в остальных работах.

Опачки

За что я люблю приходить в офис — так это за неожиданные сюрпризы. Вот сегодня бар с коктейлями 🤔. Взял себе арбузный, но еще там разные милкшейки и коктейль а-ля апероль, но безалкогольный. Кайфы 😍

Моя давняя любовь с кофе (часть 1)

Я очень люблю кофе. Не, я не тот человек, который выбирает "попить Эфиопию или Гватемалу", но чуть-чуть разбираюсь в самом процессе, а также просто уважаю этот напиток ☺️.

Моя история началась на первом месте работы. Я вообще не понимал этот напиток, в моей голове тогда кофе — это что-то ужасное, горькое и вообще фу 👨‍🦳. Но с молоком пойдет. Поэтому чтобы гонять не только чаи, я изредка наливал себе чашку капучино из автоматической кофемашины и радовался жизни. Куда больше вопросов у меня вызывали коллеги, которые покупали кофе в каких-то там кофейнях за 200р+ за чашку 🤔.

В момент перехода на новое место работы я уже привык так или иначе иногда пропускать чашечку-другую кофе. А тут незадача — автоматической кофемашины нет. А есть ручная рожковая 🙃. Ну и в целом не понял, как теперь кофе пить.

С горем пополам научился делать этот ваш кофе. Ну а капучинатора нет, есть только стимер и питчер (тогда я таких слов и не знал) 😀. Кажется, когда я первый раз взбивал молоко, я чуть полстены молоком не обрызгал, но обошлось. Попробовал кофе — и внатуре прифигел. Это было не просто вкусно, а капец как вкусно относительно того, чего я пробовал ранее 🤓.

Ну и тут я понял, что с этим напитком надо подружиться. Благо я работал в маленьком стартапчике, потому сделать это было куда проще, а еще и интересно, с нотками экспериментов — ведь я же немного исследователь 😍.

Продолжение следует...

2 года

В минувшую субботу стукнуло ровно 2 года с того момента, как я пришёл в Яндекс 🤔. Я помню ту кипу бумаг, которую нужно было прочитать и подписать. Людей, ходивших с кружками по офису и оставляющих их где попало. "А чо так можно было что ли? 😀" — моя реакция весь тот день.

За 2 года получилось сделать много удивительных вещей: выпустить несколько шумных и не очень релизов, найти и устранить сотни упячек, сжечь десятки тысяч часов компьюта на эксперименты 😍. От полного непонимания, что приосходит в сервисе, до глубокой экспертизы по нему.

Мне удалось скушать много сырков, еще больше обедов и ужинов. Выпить больше 500 литров капучино 🔼, поучаствовать в 20+ мероприятиях, провести бесчисленное количество собеседований.

Я умудрялся делать company-wide улучшения 🤓, а также иногда и ломать решения (и быстро их чинить) 😊. Я помог больше сотни человек, которые работали в десятках команд с разных уголков компании и продолжаю это делать. Я также многому научился у ещё большего числа людей.

То ли еще будет...🤨

✍️ Михаил Шуфутинский печатает