ГПТ-инфляция

Этим постом я выражаю профессиональную солидарность разработчикам Алисы от Яндекса.

Последнее время я регулярно натыкаюсь на рилсы, где пользователи смеются над «низким интеллектом» Алисы, проверяя её различные способами: просят запомнить информацию, а потом достать заново, спрашивают какие-то факты и числа. И показывают, как она не может ответить на самые «базовые» вопросы.

В итоге в обществе закрепилось мнение, что Алиса от Яндекса тупая. А вот что произошло на самом деле (далее всё моя теория, не знаю, как в реальности).

Яндекс много лет разрабатывал нейронку, которая выполняет две задачи:
— отвечать на каждое входящее сообщение в отдельности, создавая имитацию настоящей коммуникации;
— уметь вызывать сторонние тулзы (типа «поставить будильник» или «перемотать на следующий трек»).

Алиса никогда не обладала контекстом. Начиная с релиза в 2017 году, по сути вся разработка сводилась к файн-тюнингу, чтобы делать ответы на каждое сообщение более правдоподобными и похожими на живой разговор.

Если сказать Алисе «запомни, что у меня три кошки», она ответит «хорошо, запомнила!» просто потому что это самый ожидаемый ответ на это сообщение. Когда пользователь спросит «сколько у меня кошек», она вытащит другой ожидаемый ответ — «не знаю, две, что ли?».

Для пользователя в современном ИИ-мире это выглядит как максимальная тупость. Но проблема не в тупости Алисы, а в том, что у неё нет мозгов. И это долгое время считалось нормальным — много людей пользовались Станцией и особо много от неё не ждали.

А потом наступает 2023 год и OpenAI публикует нейросеть, которую обучал несколько лет за много триллионов миллионов миллиардов долларов, и которая умеет хранить окно контекста и постоянно его расширяет.

Все начинают пользоваться ЧатГПТ, и планка ожиданий от типичной нейронки растёт с невероятной скоростью (хотя ещё недавно такие помощники казались какой-то недостижимой магией). Больше нельзя просто быть «полезным функциональным помощником» — нужно помнить историю разговора, отвечать на вопрос «сколько вторников в ноябре», уметь хранить и выдавать пользовательскую информацию.

Конечно же, в этот момент Алиса начинает казаться тупой. Пользователь не знает, как устроена Алиса внутри; что запилить её стоит невероятно огромное количество усилий, а сделать свою ГПТ — ещё в десять раз более огромное количество усилий и необходимость снести всё и построить заново.

Начиная с прошлого года Алису перевели на ЯндексГПТ, но ясно, что этот процесс занимает не один месяц. И ещё неизвестно, догонит ли Яндекс модели Опен-эй-ай или Антропика.

Но самое грустное, что даже если допилить ЯндексГПТ до классного конкурентного уровня, это не будет ощущаться всеми как инновация. Нужно приложить огромные усилия, чтобы Алиса в глазах пользователя выглядела «ну нормальной». Представляю, как сложно разрабатывать что-то с такой мотивацией.

Держитесь, короч.

Сегодня предлагаю перечитать интервью, которое я в семнадцать лет давал Тэ-прогеру — за два месяца до того, как я попал на свою первую полноценную работу и не поступил в университет.

Оно немного неуверенное, и мне не нравится, как его отредактировали, но все мысли вполне валидные. Я там уже даже немножко сноб.

https://tproger.ru/articles/kak-programmirovat-s-detstva-i-sozdavat-bolshie-proekty-uzhe-v-shkole-junyj-programmist-otvetil-na-voprosy-iz-kommentariev

С тех пор у меня интервью никто не брал (пишите).

Показывать прогресс

Много лет я работал по стратегии «показывать что-то, только когда оно готово».

Наверное, во многом на меня повлияла студия. Ты втихаря чё-то делаешь-делаешь, делаешь-делаешь, и так два года, а потом внезапно в один момент публикуется анонс:

— «Друзья, мы сделали Заебатус».

В голове выглядит очень эпично. Два года ты держишь проект в секрете, говоришь всем «нет, конкретнее пока не могу рассказать», готовишься к анонсу и предвкушаешь, как наконец-то сможешь опубликовать результат своей работы.

Но ведь всё это время никто ничего не знает об этом проекте. Когда что угодно публикуется одним днём, это ощущается как «а, ну чё-то там появилось». Как бы ты не старался, невозможно одним анонсом вместить в себя всю крутость многолетней работы.

В общем, не самая выгодная стратегия, чтобы обратить на проект внимание.

Гораздо эффективнее показывать прогресс и рассказывать что-то по ходу:
— «чуваки, я придумал вот такую штуку»;
— «начал делать»;
— «она готова на 20%»;
— «она готова на 40%» (оформляйте предзаказ);
— «она готова на 60%» (скоро сильно подорожает);
— «она готова на 80%» (уже можно рассказывать друзьям);
— «ну вот, уже почти-почти»;
— «ща ща ща»;
— «г о т о в о!»

И к моменту «готово» все уже прогреты и тянутся с рукой «шат ап энд тейк май мани», или «тейк май аттеншн энд эппрейз», от продукта зависит.

Показывать прогресс — способ положить другим в голову значимость и важность процесса.