Архитектура Стартапа - Anton Skogorev Engineering & AI
Давно хотел поделиться тем, что происходит под капотом LLM Platform, которую мы строим внутри ТБанка. Пост на грани NDA. В какой-то момент мы осознали, что без цельного платформенного слоя любые инициативы с GenAI будут буксовать. На схеме — как раз тот каркас…
Кстати, мы активно нанимаем в команду LLM Platform.
Если чувствуете в себе силы влиять на то, как строятся решения на базе генеративного искусственного интеллекта, мы ищем Python/Go инженеров и руководителей разработки – или пишите напрямую нашему CTO @skogorev
Если чувствуете в себе силы влиять на то, как строятся решения на базе генеративного искусственного интеллекта, мы ищем Python/Go инженеров и руководителей разработки – или пишите напрямую нашему CTO @skogorev
🔥20🤡8❤1
Взял сегодня день отпуска и целый день фигачил свои личные проекты.
Собираю умный поиск татуировщиков. Чтобы написать "хочу набить в Москве кота в наивном стиле, к кому сходить?" - и он тебе выдает топ мастеров под твой запрос.
Это актуальная проблема: мастера все в инстаграме, единых баз нет, поиска уж и подавно. Есть международные проекты, но они все кривоватые. У нас так совсем ничего, ну или я не в курсе.
За день собрал:
- Поиск аккаунтов по хэштегам (точнее, нашел что заюзать)
- Обогащение каждого из них стилями и прочими метаданными, вместе с парсером инсты
- Простой (пока что) поиск поверх этой базы
Сколько один человек сейчас может делать с нужными знаниями и инструментами - это просто анриал.
Давно себя не чувствовал таким счастливым🌟
Собираю умный поиск татуировщиков. Чтобы написать "хочу набить в Москве кота в наивном стиле, к кому сходить?" - и он тебе выдает топ мастеров под твой запрос.
Это актуальная проблема: мастера все в инстаграме, единых баз нет, поиска уж и подавно. Есть международные проекты, но они все кривоватые. У нас так совсем ничего, ну или я не в курсе.
За день собрал:
- Поиск аккаунтов по хэштегам (точнее, нашел что заюзать)
- Обогащение каждого из них стилями и прочими метаданными, вместе с парсером инсты
- Простой (пока что) поиск поверх этой базы
Сколько один человек сейчас может делать с нужными знаниями и инструментами - это просто анриал.
Давно себя не чувствовал таким счастливым
Please open Telegram to view this post
VIEW IN TELEGRAM
3❤120🔥57💅7
Где искать кейсы по GenAI
Кейс-библиотеки у OpenAI и других вендоров абсолютно ужасны. Типичный кейс – это расплывчатая задача, ноль техдеталей и восхваление соответствующего вендора. Можете сами посмотреть: OpenAI, AWS, Google.
Классные кейс-библиотеки
– Evidently AI - удобная табличка-агрегатор с 652 кейсами с ссылками
– GenAI & LLM System Design - мощная библиотека кейсов с тех деталями на базе Evidently AI, расширенная и выложенная на гитхаб
– ZenML LLMOps Database - 800+ кейсов от разных компаний, собранных ZenML
– LangChain Case Studies - вендорская небольшая библиотека кейсов про LangChain: хорошие, с подробностями
Не кейсошные, но тоже классно
– Awesome LLM Apps - куча простых LLM-приложений с кодом
– Deloitte AI Dossier / PDF - хороший список GenAI идей. Если хотите открыть новый бизнес в GenAI – есть где вдохновиться
Российские
– Yandex Cloud: неплохая библиотека кейсов от Яндекса, есть детали. Нет фильтра по YandexGPT – фильтруем глазами
– Generation AI: хорошая небольшая кейсошная от JustAI
– Gigachat Cases: довольно слабая кейсошная от Сбера
Кидайте в комментах что ещё знаете!
Кейс-библиотеки у OpenAI и других вендоров абсолютно ужасны. Типичный кейс – это расплывчатая задача, ноль техдеталей и восхваление соответствующего вендора. Можете сами посмотреть: OpenAI, AWS, Google.
Классные кейс-библиотеки
– Evidently AI - удобная табличка-агрегатор с 652 кейсами с ссылками
– GenAI & LLM System Design - мощная библиотека кейсов с тех деталями на базе Evidently AI, расширенная и выложенная на гитхаб
– ZenML LLMOps Database - 800+ кейсов от разных компаний, собранных ZenML
– LangChain Case Studies - вендорская небольшая библиотека кейсов про LangChain: хорошие, с подробностями
Не кейсошные, но тоже классно
– Awesome LLM Apps - куча простых LLM-приложений с кодом
– Deloitte AI Dossier / PDF - хороший список GenAI идей. Если хотите открыть новый бизнес в GenAI – есть где вдохновиться
Российские
– Yandex Cloud: неплохая библиотека кейсов от Яндекса, есть детали. Нет фильтра по YandexGPT – фильтруем глазами
– Generation AI: хорошая небольшая кейсошная от JustAI
– Gigachat Cases: довольно слабая кейсошная от Сбера
Кидайте в комментах что ещё знаете!
4❤61🔥24
Много компаний до сих пор не понимают, что делать с AI. На самом деле всё просто – есть три AI-рычага:
1. Оптимизация Run
Это про эффективность: делаем то же самое быстрее, дешевле и качественней. Автоматизируем поддержку, скриптуемые процессы, автотесты и так далее.
Самая понятная вещь, с неё все начинают. Понятно как посчитать финансовый эффект. Многие, правда, дальше этого пункта не видят.
2. Ускорение Change
Это про скорость изменений: как принимать более правильные решения, как делать это быстро, и как быстро создавать новую ценность.
Сюда попадает внутренний ChatGPT с контекстом компании, копилоты для всех профессий, агенты в разработке и так далее.
Здесь лежит огромный эффект. Его можно видеть по скорости роста стартапов в новых батчах: AI-Native компании двигаются радикально быстрее за счет AI-инструментов. Но так как посчитать этот эффект сложно – эксперимент не проведешь – в старых компаниях доказать руководству бывает сложновато.
3. Перераспределение рынков
AI приведёт к большому перераспределению рынков. Можно создавать продукты на порядок лучше и перетаскивать аудиторию старых игроков. Пример – OpenAI и Perplexity ворвался в неприступный ранее рынок интернет-привлечения принадлежащий Google.
Очень мало компаний понимают как пользоваться этим рычагом. Здесь самые большие риски, но и самая высокая награда. Кто справится – сможет не просто заполировать текущие продукты, но создать реальную новую ценность для общества.
1. Оптимизация Run
Это про эффективность: делаем то же самое быстрее, дешевле и качественней. Автоматизируем поддержку, скриптуемые процессы, автотесты и так далее.
Самая понятная вещь, с неё все начинают. Понятно как посчитать финансовый эффект. Многие, правда, дальше этого пункта не видят.
2. Ускорение Change
Это про скорость изменений: как принимать более правильные решения, как делать это быстро, и как быстро создавать новую ценность.
Сюда попадает внутренний ChatGPT с контекстом компании, копилоты для всех профессий, агенты в разработке и так далее.
Здесь лежит огромный эффект. Его можно видеть по скорости роста стартапов в новых батчах: AI-Native компании двигаются радикально быстрее за счет AI-инструментов. Но так как посчитать этот эффект сложно – эксперимент не проведешь – в старых компаниях доказать руководству бывает сложновато.
3. Перераспределение рынков
AI приведёт к большому перераспределению рынков. Можно создавать продукты на порядок лучше и перетаскивать аудиторию старых игроков. Пример – OpenAI и Perplexity ворвался в неприступный ранее рынок интернет-привлечения принадлежащий Google.
Очень мало компаний понимают как пользоваться этим рычагом. Здесь самые большие риски, но и самая высокая награда. Кто справится – сможет не просто заполировать текущие продукты, но создать реальную новую ценность для общества.
1❤50🔥14🤡12💅3🤔1
Очень понравилось интервью основателя Lovable - насыщенное, плотное, с кучей идей.
Lovable – это вайб-кодинг инструмент который умудрился за 8 месяцев рвануть с 0 до $100M+ ARR. Сейчас в нем создается 100к+ новых проектов ежедневно.
Оказывается, они из Стокгольма. В начале это был стрельнувший проекта на гитбахе gpt-engineer, который ребята переделали в компанию.
Мысли, которые зацепили:
1. Lovable – продукт для мира, где никто не пишет код Включая инженеров. Я думаю этот мир наступит и быстрее чем кажется.
2. 80% кейсов – реальные бизнес-приложения
Это меня сильно удивило – я думал, там домашние поделки и прототипы, но нет. Они так и хотят – стать технической платформой и партнером для реальных бизнесов. В отличие, например, от Bolt.new, который позиционируется больше как инструмент прототипирования.
Миссия у ребят крутая:
3. У application-layer AI-стартапов – т.е. конечных сервисов, а не создателей технологий – практически нет конкурентной защиты. Твоя защита – скорость, продукт, и долгосрочно – сформированный бренд.
В подкасте есть классная аналогия. Такие компании – как курицы, выпущенные из пушки, и выиграют те курицы, которые быстрее машут крылышками. Ну да.
🐓 Маши крыльями или сдохнешь
Отдельно хочу заметить очень крутого дерзкого интервьюера – подготовка, знания, скорость. Всем бы так.
ссыль
Lovable – это вайб-кодинг инструмент который умудрился за 8 месяцев рвануть с 0 до $100M+ ARR. Сейчас в нем создается 100к+ новых проектов ежедневно.
Оказывается, они из Стокгольма. В начале это был стрельнувший проекта на гитбахе gpt-engineer, который ребята переделали в компанию.
Мысли, которые зацепили:
1. Lovable – продукт для мира, где никто не пишет код Включая инженеров. Я думаю этот мир наступит и быстрее чем кажется.
2. 80% кейсов – реальные бизнес-приложения
Это меня сильно удивило – я думал, там домашние поделки и прототипы, но нет. Они так и хотят – стать технической платформой и партнером для реальных бизнесов. В отличие, например, от Bolt.new, который позиционируется больше как инструмент прототипирования.
Миссия у ребят крутая:
To unlock human creativity — by enabling anyone to create software
3. У application-layer AI-стартапов – т.е. конечных сервисов, а не создателей технологий – практически нет конкурентной защиты. Твоя защита – скорость, продукт, и долгосрочно – сформированный бренд.
В подкасте есть классная аналогия. Такие компании – как курицы, выпущенные из пушки, и выиграют те курицы, которые быстрее машут крылышками. Ну да.
🐓 Маши крыльями или сдохнешь
Отдельно хочу заметить очень крутого дерзкого интервьюера – подготовка, знания, скорость. Всем бы так.
ссыль
🔥52❤17🤡15💅3🥱2
Как же мне нравится что новая Image модель от Google называется Nano Banana 🥳
Огромная тех компания выпускает революционный продукт. И называет его Нано Банан 🍌
И всерьёз пишет на сайте:
Как назовём новые модели от Т?
Гуси-Лебеди?
Огромная тех компания выпускает революционный продукт. И называет его Нано Банан 🍌
И всерьёз пишет на сайте:
Experience the power of Nano Banana yourself
Как назовём новые модели от Т?
Гуси-Лебеди?
Please open Telegram to view this post
VIEW IN TELEGRAM
1💅55❤22🔥11🤔5🤡2
подход подход еще подход
mariachiindie754
Сегодня играю как диджей в Т-Банке на крыше, решил впервые вставить генеренных треков.
Suno, миллиард разных промптов и перезапусков в ночи, и получилось как я хотел – весело и всрато 🤡
Please open Telegram to view this post
VIEW IN TELEGRAM
1❤43🔥33🤡10💅6🤔4
Смотрите, в Яндекс Картах раскатили секунды на светофорах в Москве!
Год назад писал про это в Китае и офигел, а сегодня еду на работу - и вот
Респект ✊
Год назад писал про это в Китае и офигел, а сегодня еду на работу - и вот
Респект ✊
1🔥172❤23🥱7💅6
В сиолошной был классный пост про «модели тупеют». Тоже поймал себя на этом ощущении сегодня.
Deep Research раньше казался невероятным интеллектом из будущего, а сейчас постоянно ловлю косяки. Очевидно, что сервис не изменился – изменились мои ожидания.
Так происходит со всеми сервисами, но в AI это особенно интересно наблюдать. Я трезво понимаю что эта штука лучше меня делает многие задачи, и все равно считаю ее тупой консервной банкой 🤡
А уж реплит как меня своей тупостью бесит, вы не представляете 😅
GPT-5 Pro, кстати, дает стабильно лучше результат чем Deep Research. Кажется, эту кнопку пора объявлять легаси.
Deep Research раньше казался невероятным интеллектом из будущего, а сейчас постоянно ловлю косяки. Очевидно, что сервис не изменился – изменились мои ожидания.
Так происходит со всеми сервисами, но в AI это особенно интересно наблюдать. Я трезво понимаю что эта штука лучше меня делает многие задачи, и все равно считаю ее тупой консервной банкой 🤡
А уж реплит как меня своей тупостью бесит, вы не представляете 😅
GPT-5 Pro, кстати, дает стабильно лучше результат чем Deep Research. Кажется, эту кнопку пора объявлять легаси.
🤔28🔥16❤4💅4🤡1
Forwarded from New Yorko Times (Yury Kashnitsky)
Кремниевые читеры кругом
#genai #coolstorybob
В контексте двух постов выше: встал я в 6:30, рулю себе в Утрехт, поля, солнышко, красота. Демка готова, все потестил. Часть демки – агент NL2SQL, спрашиваешь у него что-нибудь, он идет в BigQuery, сиквелом тащит данные и отвечает. Локально все работало, вечером тестил и в нашей агентской системе, на паре запросов сработало, на полноценные тесты с ковырянием продакшн-логов времени не было (ну вы поняли, к чему я).
Утром перед воркшопом смотрю, чет агент ругается на аутентификацию в BigQuery. Хотя ровно с теми же запросами (типа "покажи 5 самых популярных стран в таблице") накануне вечером все было норм. Убедился, что auth и правда не работает. Как же агент до этого отвечал?
И что же наш кремниевый пиздабол придумал?
Не сумев залогиниться в BigQuery, агент написал очень правдоподобный неработающий SQL (все по синтаксису норм, только селект из датасета, а не таблицы), на щщях заявил, что исполнил SQL, в деталях пояснил за синтаксис и выдал ответ: самые популярные – США, Китай, Германия, Япония и Франция. И ведь 4 из 5 угадал, упырь, только с Францией промахнулся.
Благо, это всего первая демка, а не закрытие проекта и пофиксим, конечно (хотя жду коменты про skill issue), но наподобие артефактам с оптимизируемой функцией в RL, интересно следить за тем, как агенты выкручиваются. В целом мы зачастую так же домашки и зачеты сдавали на физтехе, так что если не пхд, то student-level intelligence уже виднеется.
И удачи нам всем с агентами в проде😳 (VibeOps, как это окрестил мой неназванный друг Вадим). К дискуссии выше о том, когда оно нас всех заменит
#genai #coolstorybob
В контексте двух постов выше: встал я в 6:30, рулю себе в Утрехт, поля, солнышко, красота. Демка готова, все потестил. Часть демки – агент NL2SQL, спрашиваешь у него что-нибудь, он идет в BigQuery, сиквелом тащит данные и отвечает. Локально все работало, вечером тестил и в нашей агентской системе, на паре запросов сработало, на полноценные тесты с ковырянием продакшн-логов времени не было (ну вы поняли, к чему я).
Утром перед воркшопом смотрю, чет агент ругается на аутентификацию в BigQuery. Хотя ровно с теми же запросами (типа "покажи 5 самых популярных стран в таблице") накануне вечером все было норм. Убедился, что auth и правда не работает. Как же агент до этого отвечал?
И что же наш кремниевый пиздабол придумал?
Не сумев залогиниться в BigQuery, агент написал очень правдоподобный неработающий SQL (все по синтаксису норм, только селект из датасета, а не таблицы), на щщях заявил, что исполнил SQL, в деталях пояснил за синтаксис и выдал ответ: самые популярные – США, Китай, Германия, Япония и Франция. И ведь 4 из 5 угадал, упырь, только с Францией промахнулся.
Благо, это всего первая демка, а не закрытие проекта и пофиксим, конечно (хотя жду коменты про skill issue), но наподобие артефактам с оптимизируемой функцией в RL, интересно следить за тем, как агенты выкручиваются. В целом мы зачастую так же домашки и зачеты сдавали на физтехе, так что если не пхд, то student-level intelligence уже виднеется.
И удачи нам всем с агентами в проде
Please open Telegram to view this post
VIEW IN TELEGRAM
❤34💅12🔥4🤡1
New Yorko Times
Кремниевые читеры кругом #genai #coolstorybob В контексте двух постов выше: встал я в 6:30, рулю себе в Утрехт, поля, солнышко, красота. Демка готова, все потестил. Часть демки – агент NL2SQL, спрашиваешь у него что-нибудь, он идет в BigQuery, сиквелом тащит…
Золотой контент 🌟
Тоже недавно вайбкодил просмотрщик тату мастеров по базе данных
К базе он достучаться не смог поэтому просто придумал каких-то тату мастеров и их показывал 🤡
Тоже недавно вайбкодил просмотрщик тату мастеров по базе данных
К базе он достучаться не смог поэтому просто придумал каких-то тату мастеров и их показывал 🤡
Please open Telegram to view this post
VIEW IN TELEGRAM
🤡57❤14🔥9💅6
Из раза в раз вижу как CEO и прочее руководство компаний проходят одинаковые стадии принятия AI
1. Отрицание
Ваш AI – фигня, у нас тут серьезный бизнес
CEO ещё не понял масштаб AI-волны. Таких всё меньше.
Однажды сосед показывает ему ChatGPT, и они переходят в следующую стадию.
2. Нездоровое воодушевление
AI может всё! Всё замените на агентов!
CEO начинает носиться по компании и пытаться всё срочно заменить на AI. Здесь начинает быть тяжело команде – им сложно объяснить что не все задачи решаются. Особенно когда CEO показывает как в его телефоне ChatGPT эту задачу уже "решил".
Со временем выясняется что решается не всё и не везде. И не всеми.
3. Разочарование – или в AI, или в команде
Мы всё попробовали и как-то сложновато
CEO понимает что текущие подходы не работают. То ли лыжи не едут, то ли команда не та. Начинается этап поиска консультантов, внешних команд и внешних решений.
Нормальные CEO здесь набираются реальной экспертизы и способны перейти на следующий этап.
4. Осознанное использование
Я знаю как AI должен изменить мой бизнес
Сюда добралось меньшинство. А пора бы уже, пора!
1. Отрицание
Ваш AI – фигня, у нас тут серьезный бизнес
CEO ещё не понял масштаб AI-волны. Таких всё меньше.
Однажды сосед показывает ему ChatGPT, и они переходят в следующую стадию.
2. Нездоровое воодушевление
AI может всё! Всё замените на агентов!
CEO начинает носиться по компании и пытаться всё срочно заменить на AI. Здесь начинает быть тяжело команде – им сложно объяснить что не все задачи решаются. Особенно когда CEO показывает как в его телефоне ChatGPT эту задачу уже "решил".
Со временем выясняется что решается не всё и не везде. И не всеми.
3. Разочарование – или в AI, или в команде
Мы всё попробовали и как-то сложновато
CEO понимает что текущие подходы не работают. То ли лыжи не едут, то ли команда не та. Начинается этап поиска консультантов, внешних команд и внешних решений.
Нормальные CEO здесь набираются реальной экспертизы и способны перейти на следующий этап.
4. Осознанное использование
Я знаю как AI должен изменить мой бизнес
Сюда добралось меньшинство. А пора бы уже, пора!
2❤87🔥19💅16🤡7🥱5
AI-мясорубка
Вижу, как многие не технические люди испытывают FOMO по поводу AI и срочно пытаются делать какие-то проекты. Это пост для вас.
Будьте аккуратны: создание AI-продуктов это технически сложная область. Вы быстро упрётесь в качество решений. А рядом с вами будет толпа таких же ребят.
Во времена бума доткомов была похожая ситуация. Всё переоценено и куча игроков-дилетантов. И затем - мясорубка из проектов и судеб.
Выжили те, кто умел делать сильные технологии.
Есть и другой риск. Не сожрет ли меня ChatGPT 8? Уметь правильно на него отвечать - сложный скилл.
Есть альтернативный путь. Наоборот, отстраивать сервисы и услуги, в которых AI ничего не может.
Тест простой. Представьте, что есть AI, который невероятно умен и может всё. Если такой вашему проекту не страшен, вы на верном пути.
Вы открыли классный элитный ресторан. Вам же всё равно на AI, правда?
Даже наоборот. На растущей экономике от AI люди будут больше тратить на остальные свои потребности.
К вам будут ходить покрытые шрамами победители AI-мясорубки и праздновать свои победы.
Вижу, как многие не технические люди испытывают FOMO по поводу AI и срочно пытаются делать какие-то проекты. Это пост для вас.
Будьте аккуратны: создание AI-продуктов это технически сложная область. Вы быстро упрётесь в качество решений. А рядом с вами будет толпа таких же ребят.
Во времена бума доткомов была похожая ситуация. Всё переоценено и куча игроков-дилетантов. И затем - мясорубка из проектов и судеб.
Выжили те, кто умел делать сильные технологии.
Есть и другой риск. Не сожрет ли меня ChatGPT 8? Уметь правильно на него отвечать - сложный скилл.
Есть альтернативный путь. Наоборот, отстраивать сервисы и услуги, в которых AI ничего не может.
Тест простой. Представьте, что есть AI, который невероятно умен и может всё. Если такой вашему проекту не страшен, вы на верном пути.
Вы открыли классный элитный ресторан. Вам же всё равно на AI, правда?
Даже наоборот. На растущей экономике от AI люди будут больше тратить на остальные свои потребности.
К вам будут ходить покрытые шрамами победители AI-мясорубки и праздновать свои победы.
1❤73🔥22💅14🤔4
Запускаем AI-агента для разработки от Т-Технологий!
Агент заточен на работу с большими проектами. Сила таких решений в интеграции и правильном создании контекста, а не в моделях.
Context Engineering
Model-agnostic подход: не выпендриваемся и используем лучшие модели, сейчас это Qwen3-Coder
Внутри работает уже вовсю 💅
Форбс тут
Подробности тут
Агент заточен на работу с большими проектами. Сила таких решений в интеграции и правильном создании контекста, а не в моделях.
Context Engineering
Model-agnostic подход: не выпендриваемся и используем лучшие модели, сейчас это Qwen3-Coder
Внутри работает уже вовсю 💅
Форбс тут
Подробности тут
🔥62💅21🤡12❤10🥱1
Думаю психануть и перейти на андроид 🤡
Apple явно проиграл в AI гонке. Хочу встроенный Gemini в системе и нормально приложения устанавливать 🙄
Кто переходил в одну или другую сторону, отпишитесь как оно после переключения плз?
Apple явно проиграл в AI гонке. Хочу встроенный Gemini в системе и нормально приложения устанавливать 🙄
Кто переходил в одну или другую сторону, отпишитесь как оно после переключения плз?
🔥70🥱19❤6🤔6💅6
Саммари ваших ответов про переход на андроид. Кажется, пора переходить 🙄
———
За переход — около 15 человек. Против, вернулись обратно — 3.
Плюсы: встроенные AI-фичи, оплата и актуальные приложения в РФ, свобода установки и кастомизация, новые форм-факторы, батарея спокойнее.
Минусы: теряется экосистема Apple, баги и сырость, Gemini слабый, нужен VPN, быстрее устаёт железо.
Рекомендуемые телефоны: Samsung (особенно Fold-серия и флагманы вроде S25 Ultra), Pixel (чистый Android, хорошая камера), Nothing (интересная интеграция с ChatGPT / короткие команды).
Вывод: Android радует функциональностью и свободой, но iPhone всё ещё держит за счёт экосистемы и шлифовки опыта.
———
За переход — около 15 человек. Против, вернулись обратно — 3.
Плюсы: встроенные AI-фичи, оплата и актуальные приложения в РФ, свобода установки и кастомизация, новые форм-факторы, батарея спокойнее.
Минусы: теряется экосистема Apple, баги и сырость, Gemini слабый, нужен VPN, быстрее устаёт железо.
Рекомендуемые телефоны: Samsung (особенно Fold-серия и флагманы вроде S25 Ultra), Pixel (чистый Android, хорошая камера), Nothing (интересная интеграция с ChatGPT / короткие команды).
Вывод: Android радует функциональностью и свободой, но iPhone всё ещё держит за счёт экосистемы и шлифовки опыта.
❤47🤡26🤔9🔥6