Грамотное распределение ролей в проекте

Галера переживает медленный, но стабильный рост численности сотрудников и проектов. И иногда бывает проблематично определить кого поставить на тот или иной проект.

Сейчас, пока еще, я знаю всех ребят, их слабые и сильные (при наличии) стороны. Даже знаю кто какой примерно код пишет, на что стоит обращать внимание и за что готовиться бить линейкой по рукам. Пока все распределение разрабов происходит через мое подтверждение.

Я прям чувствую, как мы подходим к этапу, когда держать в голове всех сотрудников (кто и чем занят) становится невозможно. Пока еще голова справляется с тем, чтобы все это держать в голове, но с каждым новым человеком/проектом все сложнее и сложнее.

Стремно дорасти до того момента, когда новые люди проходят уже совсем без моего участия, выполняют свою задачу и приносят компании пользу, а я даже не знаю какие у него компетенции. Успокаивает только то, что до этого момента минимум пару лет :)

Видеокарта для своих нейронок

Продолжаю делиться наблюдениями про запуск нейронок у себя локально. Поработал с RTX 3060, 3090, 5090.

3060

Оч медленно и больно на любых нормальных моделях. Но она у нас отлично трудится на транскрибаторе (whisper от openai) и справляется с обработкой аудио крайне быстро.

Также хорошо показывает себя в генерации аудиофайлов.

3090

Пока самое универсальное решение в соотношении "цена/качество" — RTX 3090. 24 гигабайта видеопамяти позволяют вмещать почти любую модель до 30 млрд параметров (в ollama с штатной квантизацией). Скорость работы всех этих моделей более чем приемлимая.

На вторичке 3090 можно найти за 50-55к и отлично конвертировать потраченные деньги в нейросетевые токены.

5090

Есть, конечно, RTX5090, скорость которой выше примерно в 2.5 раза, стоит карта в 5 раз дороже. Цены на неё начинаются от 250 тыс рублей, она отлично подойдет как "быстрый универсальный солдат" для личного пользования.

Между 16 и 24 гб видепамяти пропасть в контексте возможных моделей для запуска. Между 24 и 32гб пропасть уже не такая огромная. Потому себе 5090 я бы брал только если денег так много, что не знаешь куда их тратить.

Мой друг моушн-дизайнер взял себе именно такую и говорит, что для него она оправдана — генерация происходит заметно быстрее 3090.

Планы по видеокартам

В офисный сервер планируем еще одну 3090 купить, чтобы можно было держать одновременно в vllm модели: vision gemma3:27b и gpt-oss. Покроет 100% наших кейсов использования LLM в интеграциях.

А со временем я бы купил еще одну 3090 для серверного запуска ComfyUI, но пока это происходит так редко, то просто дал нашим локальным интеграциям доступ к видеокарте на моем компе. Закрываю этот доступ только когда играю :)

Разработка с GPT без опыта разработки без GPT

Мы в галере активно используем ChatGPT в разработке. Основное джедайство работы с нейронками — понять, когда нейронка выдает дичь.

Для этого требуется опыт программирования без нейросетей. Увидеть лажу может только разраб, который понимает что такое лажа. А для этого опыта надо регулярно получать опыт разработки без нейронки.

Когда мозг уже привык любой программистский запрос решать с помощью "промпта по-хитрее", то дальше уже, словно в казино, начинаются тщетные попытки заставить нейросеть выдать рабочий код.

Мне на ревью иногда приходит код, который видно, что был "выстрадан" с нейронкой в попытках получить что-то рабочее и это чаще вызывает печаль и угнетение, чем восхищение технологиями...

Отдельно бесит когда на курсоре "накидывают черновик проекта", который годится только для того, чтобы выбросить его, взять пару полезных строчек кода и завернуть в нормальную архитектуру.

Благо курсором у нас пользуется только один разработчик и я стараюсь достаточно активно и сильно его за это принижать и хейтить, чтобы он перестал так делать. Надеюсь он раньше перестанет бездумно "курсорить" чем решит найти другую работу.

Нейросетевая бич-инженерия

У нас в офисе в данный момент трудится один сервер с RTX 3090 на борту. Вторая 3090 стоит в моём рабочем компе и "выходит дежурить" в общий стек видеокарт только, когда я ухожу с работы.

Но есть проблема — нам нужно реализовать возможность в наших проектах запускать и gpt-oss и gemma3 модели. Одна для текста, вторая для компьютерного зрения. Причем обращаются к этим моделям разные приложения.

В итоге пишем отдельный ии-агрегатор, который через систему очередей распределяет запросы, управляет памятью на сервере с видеокартой и занимается горячей заменой и переключением моделей для разных приложений.

Система обкатывается, но уже сейчас дает нам возможность отложить закупку еще одной видеокарты в компанию до нового года.

Такой вот бич-инженерией приходится заниматься в прогрессиных it-компаниях:)

Ценность интернета в нашей галере

Умер головной конвертер оптики в нашем здании. Провайдер "порадовал", что мастера придут только завтра или сегодня вечером (если повезет).

Я думаю тут все в курсе, что мы прям самую малость зависим от интернета в нашей работе. Плюс у нас есть сервера, с которых уже в проде крутится некоторые сервисы.

Благо есть 4G и отдельный VPN-хаб, который мы развернули на облачном сервере. Сейчас весь офис работает через 4g модем, мою безлимитную симку, а входящие запросы проксируются через VPN в нашу подсеть и все сервисы, от которых зависят клиенты, работают штатно.

Не работают, правда, наши внутренние сервисы для удаленщиков — git, облачные базы для dev-окружений и тд. Но я сейчас активно разруливаю и этот вопрос.

Выходит, что у нас спонтанные учения по отключению проводного интернета, и пока мы справляемся на 4 из 5 баллов. Но думаю к следующей подобной ситуации, мы подготовимся на 100% и отключение можно будет диагностировать только по возросшему пингу в онлайн-играх.

Галерный салат

Я долго думал какую подпись сделать к этой картинке. Думал про то как красиво завернуть мысль про уважение к команде, принимать сильные и слабые стороны и что именно это — ключ успеха команды.

Но потом понял, что в голову ничего не идет и делюсь с вами этим шедевром. Возможность публично делать и публиковать такие картинки — достойная причина вести свой канал и заниматься своим бизнесом.

Если кому-то интересно, то ознакомиться с историей нашей компании в лицах можно в этом посте.

Монетизация публичности

Я веду этот канал уже шесть лет — иногда активно, иногда нет. Для меня это всегда было хобби, а не основная профессия, и пока я не вижу варианта, в котором публичность могла бы стать мне заменой разработки.

Раньше реклама и коммерция в блогах вызывали у меня отторжение. Когда блогер начинал продавать курсы или предлагать услуги, появлялась мысль: «Я сюда за пользой пришёл, а не чтобы на мне зарабатывали».

Сейчас же я каждый раз радуюсь, когда вижу рекламу у моих знакомых блоггеров или вижу, как они запускают свои проекты, направленные на конверсию своей аудиторию в пользу для аудитории и в выручку для блоггера.

Сегодня в ленте увидел классный пост моего знакомого Олега Мифле, где он делится тем, чем может быть полезен своей аудитории. Мы с Олегом когда-то снимали ролик про VK Mini Apps, где он выступал в роли консультанта к моему кодингу.

Олег — сильный разработчик, техлид/тимлид и отличный спикер. В его канале много годного материала по архитектуре, разработке и командной работе. С удовольствием его порекомендую — подпишитесь на @ask_for_oleg.

Приехал выступать на митап во Владимир. Прямой эфир здесь.

Буду выступать следующим с докладом про ии-агентов и mcp-сервера.