#daily_activity #datastep

Datastep monthly: Июль 2023
Чат-бот с искусственным интеллектом для больших застройщиков, в диалоговом режиме отвечает на вопросы по всем данным компании.

Примеры вопросов
Моментально отвечает на вопросы формата
— “Покажи доходы компании с помесячной разбивкой”,

— “Средний ежемесячный фот компании с начала 2023 года”

— “Какие у нас лимиты тендеров”.

Чат-бот отвечает по документам, должностным инструкциям [таблицы, текстовые файлы, документы] и базам данных [MSSQL, Postgre, etc].

Ценность
Чат-бот экономит ресурс техподдержки, руководителей и аналитиков. Драматически ускоряет время получения информации для всех сотрудников компании.

Демо
Русская версия, 4 августа 2023, ecommerce case

https://www.loom.com/share/5f181deb8a8645caa9517ff2b59f5fbd?sid=02b07248-8baf-496b-9b94-4daf2605a715

Stay tuned
Следить за апдейтами и внутренней кухне в Datastep в @krenels по тегу: #datastep

Следующий

@krenels

#daily_activity #datastep

Datastep & 500 Global Georgia

Сидели с Игорем на этой неделе на Session 2 от 500 Global Georgia про условия ближайшего батча их акселя.

Я подобные встречи предпочитаю слушать на x2, но эвент локальный [Грузия] и родилась гипотеза — хак “сорсим коннекты на кофе”:

1/ Вбросьте свой Linkedin с предложением коннекта

2/ Попросите напарника поддержать активность [Игорь тут же словил что надо делать]

3/ Соберите урожай коннектов

В свободное время пройдитесь по списку, найдите интересных ребят и позовите на кофе.

Voila ☕️

@krenels

State of affairs and Global picture — or Why I am doing all these things?

Рассказать, что я делаю сейчас глобально?

Чтобы собрать общую картинку из того, что я делаю сейчас и зачем.

#state_of_affairs

State of affairs, august 2023

State of affairs — это ретроспектива, взгляд сверху на деятельность, которую я веду. Момент проревьюить проделанное, сгруппировать активности [уменьшение хаоса и сложности], подумать о рисках и проблемах.

Здесь небольшой отрывок из последнего — список не исчерпывающий, выделил 2 инициативы. Рассказываю, чтобы если с вами что-то резонирует, видите возможность для партнерства или просто клевого диалога — напиши и поделиться. Я чаще пишу и рассказываю именно для этого — чтобы знакомиться и общаться с новыми людьми.

1/ WeDo&Co. Продолжаем разивать sales & growth agency WeDo — помогаем tech компаниям тестировать новые каналы продаж, настраивать автоматизации для лидогенерации, менять коммуникацию продукта для разных сегментов, etc. Запускаем новые сервисные / технические продукты, если нужно, etc — все что стратегически помогает вырастить revenue.

Тестируем работу поверх нетворка, новые прайсинг модели, сегменты fintech и большие B2B. Эпизодически работаем и с серийными стартап фаундерами — как то, что для души.

Подробнее про истории в WeDo: #wedo

2/ Datastep. Сделали ассистента для больших застройщиков — даем ответы поверх данных из обилия инструментов, документов и баз инструмент, чтобы большие real estate developer-ы быстрее получали ответы на вопросы типа “пришли ли деньги по проекту”, “какой номер у прораба на объекте”, etc.

Запустили первый пилот, получили revenue в РФ — сейчас ищем больших застройщиков из РФ / СНГ / Азии / MENA, чтобы сделать еще +2 клиента. РФ — потому что как бизнес работает, точно знаем как застройка устроена.

Не РФ, как ход в альтернативной стратегии — чтобы был трекшн и получить внимание в YC, 500.co и прочих акселей [nice to have].

Подробнее про кураж и огонь в Datastep: #datastep

3/ Venture builder “Hub” — венчур блидер и хаб талантов. Поделюсь и расскажу, как будет время, а пока просто тизер. Что он существует — и часть его это люди под тегом: #banda

@krenels

Кейс: Как понять, какие фичи в продукте "зарабатывают" деньги?

Есть условный продукт — мобильная игра GeoGuessr.

Хотим сделать клон, чтобы делать деньги — надо понять, что в минимальную версию положить, чтобы быстрее начать зарабатывать.

Как понять, за что люди готовы платить? Какие у вас варианты? Подумайте, напишите в комменте — а после открывайте спойлер и сравнивайте.

- Naive way: формальный анализ конкурента — изучаем рекламные размещения, траффик. Изучаем историю развития сервиса, что рассказывали о цифрах продукта на Techcrunch, hackernews, etc. Ресерчим какая выручка [или прикидываем через users x pricing], смотрим что предлагают в прайсинге. Изучаем отзывы, etc

- Normal way: проводим интервью с купившими — прям в продукте находим купивших, достаем и зовем на интервью прикинувшись продуктовым менеджером из компании.

- “Out of the box” way: проводим интервью с ex сотрудниками — ищем все возможные product / marketing / manager роли, кто может знать нужное. Рассылаем горящие сообщеньки, мол дико интересный продукт, хочу понять, как такое люди создают, научите или давай вместе делать

@krenels

#mindset

Про прагматизм в делах

Прагматизм — направление мысли, когда смысл определяется применимостью на практике. Все остальное не неважно, но вторично.

Формулировка широкая и я обязательно поделюсь позднее о ее более подробной интерпретации [TODO: как понимать, что я имею в виду, когда говорю “прагматизм”].

Часто замечаю о том, что фаудеры, которым я помогаю, таланты, которых менторю, определяют смысл через иные подходы:
- правильно или не правильно,
- нравится мне или не нравится
- соотствествует ли моему представлению о мире
- согласовано ли с теорией

@krenels

Ортодоксальный и критический подходы

Ортодоксальные ребята — это те, кто часто неотступаясь следует методологиям.

В пределе не важно, есть ли лучше решения или нет — подход, однажды заученный, является основной для принятия решения.

Критические ребята — это те, кто соображает своей головой. Кто стремится искать решения, которые подходы для проблемы и/или учитывают собственный униеальный контекст [нетворк, навыки, ценности, etc].

Так и недавно — я пообщался с Сашей Катчинским. Мы вместе с ним устраивали обсуждение про то, кто такой продакт и какие они бывают.

У него нет “формальных” знаний в продуктовом менеджменте, но он чертовски оригинально мыслит.

Когда в Loysee [networking mobile app] надо было привлечь первых юзеров — он придумал шарить в профиле в tinder ссылку на loysee профайл и активничать в twitter, чтобы собрать early adopter-ов, недовольных tinder.

Когда решал кейс с Geoguessr — он осознал, что фидбек в комментах к App Store не обязательно важный. Что возможно там оставляют те, кто жалуются и не обязательно те, кому важен продукт и кто активно платит.

@krenels

#daily_activity #datastep

Вчера ночью ресерчил какие варианты есть поставить self-hosted LLM модель — не отправлять данные в условный OpenAI, а отправлять к модели, которая у нас на сервере/в облаке вертится.

Почему стал ресерчить:
1/ Заметили, что корпоратам бывает стремно палить данные OpenAI

2/ Было интересно прикинуть, можно ли так на долгосроке выйграть по COGS на продажу LLM-based продукта [assumption: своя инфраструктура дешевле? особенно со стартап кредитами]

Пока ресерчил удивился, что все open source модели имеют маленький контекст — кол-во токенов, которое можно дать на вход: 2к, 4к токенов. Это не сильно мало, чтобы ответы ассистента генерировать — но для юз-кейсов в Datastep, где мы даем на вход данные, схему, таблички и прочее это мало.

Даже юз-кейс "Че по бабкам за прошлый месяц" — где надо вывести поступления из MS SQL за прошлый месяц сложно покрыть с 4к [можно, но решение не влоб будет].

Стало интересно, в чем сложность с тем, чтобы увеличить context length [кол-во токенов] — нашел статью по теме:
https://blog.gopenai.com/how-to-speed-up-llms-and-use-100k-context-window-all-tricks-in-one-place-ffd40577b4c

Статья хардкор без подготовки; коротко в моей популярной интерпретации суть такая:
0/ Трансформеры — архитектура в основе GPT моделей [то, как модель устроена, из чего состоит внутри, етс]

1/ Обученный трансформер не зависит от кол-ва токенов. Трансформер может брать любое кол-во токенов на вход — например, Великий Гетсби размером в 50-60к токенов. На этапе обучения не создается ограничений от кол-ва токенов [input tokens agnostic learnable weights].

2/ Обученному на 2к токенах трансформеру дать 100к токенов на вход — результат получится, но бесмысленный

3/ Решение в лоб: Обучать на большем context length изначально. Можно — но будет дорого: обучение Meta-вской LLama 2k tokens стоило $3mln — на 100k токенов прайс получится ~$150mln [x50]

4/ Решение хитрее: Поменять архитектуру модели [ALiBi, Flash Attention, Multi Query attention], обучить на 2к контекста, а потом дообучить [fine-tune] на большем размере контекста.

MosaicML так сделали MTP-7b-storywriter с 65k tokens — им удалось скормить после модели Великий Гетсби и сгенерировать эпилог.

@krenels

Не стесняйся закидывать вопросы на канале в комментах — прям как будто со мной в чате общаешься.

Я не все знающий, просто любопытный — мне охота разбираться, как что-то работает, чтобы деньги с этого делать.

Твои вопросы помогают с тем, чтобы понять поглубже [ака спросить ChatGPT], чалленджат то, как я понимаю что-то [ака показывают, где я лоханулся] — это все невероятная крутота, люблю такое

Люблю тупить, не понимать и ошибаться — и учиться на ошибках 💜

#daily_activities #banda

Банда и “культурные” видео

Обновил сегодня описания к 2м интро роликам, которые записывали со Славой. Делали, чтобы быстрее расшаривать базовые принципы для новых людей, приходящих в Банду.

Банда — не формальная организация: у нас нет веб-сайта или анкеты для вступления [и членского взноса, и задачи привести 2х новых послушников, и продать им членский взнос 🙂]

Банда с большой “Б” [Banda Community] — это тусовка like-minded ребят, кто вместе двигается по жизни и в делах.

Чтобы начать знакомиться с Бандой, можно посмотреть видео и прочитать пост:

- Видео: Banda: 3 базовых принципа работы в Банде

- Пост: For newbies at Banda

Посты и видео у нас в ad-hoc формате [quick&dirty, “startup way”], но достаточно для первого беглого знакомства с нами, с тем как мы думаем, что ценним и что хотим давать.

Частью Банды является канал Не берем, куда и я и Слава эпизодически забрасываем полезный контент.

Fun fact: “Не берем” задумывался, как канал для начинающих разработчиков.

Ретроспективно понял, что все ~2 года рассказываем про редкие штуки среди талантов в tech [и особенно редкие - у выходцев из корпоратов со слабой культурой]: гибкое мышление, like-minded ценности и здоровый маиндсет, problem solving навыки — все это “мета”

P.S. Из Banda Community родилось высказывание “моя банда” — это люди, с которыми я чувствую единомышленичество, кто поддерживает, кого поддерживаю я сам.

#longread
“Как насчет начать факапить публично?"

У меня 2 года назад были трудности с тем, чтобы писать посты, записывать видео и выкладывать все это публично.

Я знаю, что делиться тем, что внутри, вызывает трение / прокрастинацию / синдром самозванца или "неинтересный я”. Публично ошибаться — еще и страх.

Решил поделиться, как сейчас понимаю, почему пишу публично [как я себе объясняю и помогаю не сливаться].

Быть может, получится поощерить чаще рассказывать и выносить наружу то, что происходит у вас в жизни, в делах и в голове.

Cвойства контента: масштаб и отвязка от времени
Прочитайте рассуждение Наваля Product & media a new leverage — это эссе было одним кусочком, что помог поменять восприятие важности того, чтобы публиковать контент, когда только начинали edtech BandaWorks.

Когда заряжаю ребят вокруг начать писать, я подсвечиваю 2 базовых свойства. Это ценные свойства, которые вместе с маленькими/нулевыми COGS на создание контента, дают отдачу растущую сквозь время [больше прочитал и поняло => больше ROI].

1/ Масштабируемость. Один раз написали текст / записали видео или аудио — распространяйте сколько влезет, без новых затрат на производство и распространение. Отсутствие затрат [no cost of replication] — невероятное свойство digital артефактор: кода, видео, текста, етс.

Масштабируемость особенно полезна для инструкций, обучалок, рассуждений, жизненного опыта и историй. Например, когда общаюсь с ребятам, которые начинаю нетворкаться, или явно не согласен с их под ходом — я часто скидываю A few assumptions for happy network.

2/ Асинхронность. Частное следствие предыдущего — если вы недоступны, не в сети или просто не хотите общаться, контент продолжает работать. Контент за вас помогает понять, кто вы / что вы, о чем думаете, что вам важно, етс.

Культурные видео из Банды — один из таких кейсов. Эти “записанные на коленке” видео просмотрело полсотни ребят, в том числе теми, с кем еще лично не знакомы.

Полсотни асинхронных знакомств, шаринга ценностей и опыта другим — и это даже не побывав на первом созвоне 💜

Use-cases: какие проблемы я решаю через контент
Почему я пишу — обосновано также важностю проблем [потребностей], которые способен закрывать/реализовывать контент.

1/ Поддерживать связь с окружением. Отдельная чудесная категория — делиться теми активностями и апдейтами, которые происходят в жизни.

Проекты, обсуждения, знакомства, поездки, семья — то, что считаете важным рассказать людям в вашем окружении.

Это и способ познакомиться, и углубить отношения — увидев повод, легче позвать созвониться или встретиться, обсудить жизнь и дела.

2/ Public presence . У фондов есть механика — гуглить фаундеров. Тоже самое делается рекрутеры, кто хайрит под какие-то редкие / high level позиции. Это разумно — если человек что-то интересное делал, то в сети должны остаться от этого артефакты.

Через публичный контент, я повышаю шансы на то, что люди [не только фонды] смогут найти меня, узнать и позвать познакомиться.

3/ Чалленджить идеи и суждения. Чаллендж [to сhallenge] — это критика, вызов тому или иному суждению.

Это часть меня, как скептика: сомневаться, задавать вопросы, изучать логическую цепочку, уточнять границы применения суждения.

Тоже самое я пытаюсь транслировать на людей рядом: чалленджить то, что я говорю.

Хочу, чтобы любопытство или сомнения людей, транслировались в возможность задуматься самому [бонус: эти вопросы еще и источник контента].

4/ “Go on record”. Понятие, которое я подхватил от Gary Vee — он часто рассказывал про аутентичность и то, что он [почти] одно и тоже говорит последние 10 лет: контент в сети тому подтверждение.

Go on record — значит что написанное останется в истории, можно нагуглить и сквозь время можно отследить, как менялись ваши суждения.

У меня это часть собственной этики — я хочу, чтобы мои ошибки, размышления и суждения не скрывались “сейчас уже не докажешь, но я всегда такой был молодец”.

И если вынося наружу, то что происходит / то что думаю / где ошибаюсь, другие смогут чему-то научиться из моей истории — that’s sounds about right.

@krenels

#daily_activities #datastep

Про few/zero-shot и Chain of thought в LLM

Очередная популярная адаптация от меня про большие языковые модели [LLM]: что за zero-shot? few-shot? 10-shot? А chain of thought это че?

Посмотрите картинку внимательно:
(a) В этом кейсе LLM в промпте получила пример [вопрос + ответ], а после уже вопрос — ей дали один “shot”, пример или кейс на вход.

(b) как и (a) сценарий, только круче — ей дали вопрос, и ответ в ввиде рассуждения, как к нему прийти. Это и есть chain of thought — цепочка размышлений.

(с) В отличие от (a), тут дали вопрос, но нет ответа — сразу спросили модель. Поэтому zero-shot — надо ответить, без примеров и возможности подтюниться/дообучиться [fine-tune]

(d) Самый интересный кейс — это также zero-shot, но с добавлением в промпт “Lets think step by step”. Подобная инструкция запускает у модели Chain of Thought [CoT]

P.S. пока писал, нашел еще одну популярную адаптацию, что за “zero shot” в моделях — она по сложнее, но и по подробнее:

https://medium.com/@hetzer2807/zero-shot-reasoning-unleashed-the-magic-of-large-language-models-4e877dfe470e

@krenels

Подумал, что стоит рассказать, чтобы было доверие к людям, которых я прошу поддержать или рекомендую — доверие через меня и мою skin in the game в том числе

Что за вакансия: запрос от друга Дениса Буркацкого из Tech Noir Global. Денис — предприниматель и экспериментатор, который умет находить выход из самых сложных ситуаций [его история, как он добрался до Штатов — один из примеров, спросите сами].

Познакомились через его канал “From 0 to 1” — и я сразу почувствовал мэтч. Это не слова, а шкура на кону: запускали вместе micro saas Prospect Genie — GPT-based сервис для генерации сообщения для рассылки в Linkedin, а сейчас сижу у Дениса на борде в агенстве. Сказал же, skin in the game.

Денис живет в Штатах, рубится за получение O1 и развивает агентство про лидогенерацию / выход на global для разных проектов из СНГ. Редкий кейс, когда человек сильный пруф в long-term отношениях имеет: с Викой [партнер Tech Noir] они дюжину лет вместе разные бизнесы/сервисы/продукты запускают.

Почему порекомендовал: позиция крутой кейс разобраться в автоматизациях, сорсинге, продажах; получить опыт работы на англоговорящие рынки — мне кажется, когда кто-то приходит на такую позицию, это возможность вырасти, забрать на себя ответственность и кто знает, может стать в будущем партнером в быстро растущем агентстве?

@krenels