Лаборатория Математики и Программирования Сергея Бобровского – Telegram
Лаборатория Математики и Программирования Сергея Бобровского
1.3K subscribers
1.19K photos
24 videos
933 links
ЛаМПовое с Бобровским
Download Telegram
Kernel Panic

серия 3: "AI Mavericks"

Лет 20 назад началось активное развитие аутсорсинга (оффшорной разработки), когда заказы из развитых стран стали отдаваться на исполнение в другие страны, где зарплата много ниже. Я и сам так работал в 1990-е, причём зарплата в 150-200 долларов тогда была весьма хорошей в переводе на рубли. И по этой причине аутсорсинг стал реальной проблемой для США: многие программисты, не изучавшие практики программной инженерии, не знакомые с аджайлами, не развивавшиеся в профессии, не тренировавшие свои софт-скиллы, оказались просто не в состоянии конкурировать с разработчиками из Индии, которые делали по сути ту же самую работу за считанные доллары в час.

В России с точки зрения программистов аутсорсинг был не проблемой, а наоборот конкурентным преимуществом, потому что даже индийцы подчас получали больше :) Но вот то же самое сегодня происходит тут (да и везде), и уже мы сами внезапно оказались в проигрышной ситуации перед AI, который готов работать вообще бесплатно 24/7.

Поэтому вы должны понимать, что сегодня многие неосязаемые вещи в ИТ становятся товаром. Чем больше разработчиков требуется, и чем больше спрос на ИТ-проекты, тем больше будет являться технологий для автоматизации процесса программирования.

Вам надо думать, как стать объективно более ценным (товаром:) и как защищать себя перед грядущим.

продолжение следует
Очередная визуалочка, от IBM, которая их традиционно поддерживает.

Conveyor AI bridges the gap between AI, software development, and operations so you can build end-to-end solutions.

Забавно наблюдать, как каждое поколение вновь и вновь (пере)изобретает визуальное моделирование (IBM/Rational Rose, iLogic Rhapsody, ...), корнями уходящее в модель Statecharts 1980-х годов.
Kernel Panic

серия 4: "The Virtual Vanguard"

Разработчикам полезно развивать предпринимательские навыки в самом широком смысле этого понятия. Потому что дальше будет быстро увеличиваться разрыв между людьми, которые мыслят на уровне глупых коротких вопросов и примитивных советов, и людьми, которые отдельно продумывают, как сформулировать хороший вопрос, и как дать отличную подсказку (не слишком подробную, но точную и не требующую дополнительных уточнений).

Теперь у нас в подчинении AI, интеллект которого быстро растёт и скоро будет превосходить наш. Мы все теперь начальники, и чем более лучшие инструкции и вопросы мы научимся давать и задавать, тем более лучшие результаты мы будем получать.

Программная инженерия будущего -- это инженерия правильных вопросов и сильных подсказок (которые надо уметь не только давать, но и принимать и понимать).

продолжение следует
Интересная новость, что в России сделают аж 4 своих игровых движка, а к 2030-му выпустят 25 AAA-игр и 40 AA-игр + появится 5 "геймдев городов" хм.

Очень надеюсь, что среди них будет, во-первых, что-то уровня "программируемых" Factorio/Satisfactory, и во-вторых, хотя бы парочка гоночных автосимуляторов, а то пока мне приходится сражаться с Америкой в одиночку )))

P.S. Там Ъ кстати ит-журналиста ищет.
Kernel Panic

серия 5: "The Impossible Program"

По хорошему, вам надо применять все свои навыки, чтобы создать что-то достаточно независимое.

Для начала, поработать фрилансером (что означает прежде всего, что у вас всегда есть минимум 2-3 хороших заказчика, а не то что вы работаете как проклятый за копейки на случайных клиентов :)...

создать софт, который будет хорошо продаваться (особенно мобильные приложения с AI)...

запустить стартап, открыть ит-компанию -- в принципе стать предпринимателем, потому что это действительно именно то, что защитит вас и вашу семью в будущем, и тогда ваша судьба полностью будет в ваших руках.

Вы окажетесь в гораздо большей безопасности, потому что никто не будет вашим боссом, который может указывать вам, что делать, и от которого зависит ваша фиксированная зарплата.

И когда этот ИТ-пузырь лопнет, и зарплаты программистов упадут, или число рабочих мест для айтишников существенно сократится, вы будете хорошо защищены, и вам не придётся полагаться на какие-то мифические ИТ-тренды, особенно когда вы знаете, что ИТ находится в пузыре.

=

Но, я также отлично понимаю, что скорее всего ни один человек этому совету не последует :) Какие только кривейшие пути люди не выдумывают, из своих детских комплексов, лишь бы не начать действовать правильно и просто. Однажды я долго отговаривал знакомого, который надумал организовать платный хостинг для серверов майнкрафта, а начать решил с регистрации ООО! Это мега-косяк. В итоге он потратил кучу времени и денег, открыл "свою фирму", долго возился с хостингом, и... вообще ни одного клиента к нему не пришло. ООО на нём долго висело, пока он ещё не потратился сильно на закрытие, + испортил свою кредитно-налоговую историю.

Поэтому, я дам вам ту рекомендацию, которую вы хотите услышать, и которая вам понравится (но вот насколько она будет эффективна, когда ИТ-пузырь лопнет, я не знаю):

Просто хорошо развивайтесь в профессии, постоянно прокачивайте нетворк и осваивайте новые скиллы (особенно в связке с AI). Старайтесь стать таким профи, которому невозможно отказать в самой топовой работе.

Не забывая, впрочем, что вы будете вынуждены так работать с 9 до 5, пока ваши волосы не поседеют в 65 лет, и вас будет переполнять зависть, когда ваши более смелые коллеги начнут строить свой ит-бизнес на Луне.

продолжение следует

средняя зарплата
тысяч тридцать пять
если на работе
жить и есть и спать

если же работать
и совсем не есть
то возможно выйдет
даже тридцать шесть

если перерывы
исключить совсем
то уже получишь
даже тридцать семь
Kernel Panic

серия 6: "The Unsolvable Puzzle: A Coder's Nightmare"

Мало того, в дополнение к ИТ-пузырю грядёт ещё и AI-паника :)
Венцом человеческой эволюции оказался отнюдь не человек, а котики AI.
На смену человеку приходит новый и уже окончательный вид (неорганические существа :).

Кто сегодня оказался в страшной опасности? Каков процент риска?

-- Всяческий консалтинг и маркетинг. 50%

AI сегодня здорово отвечает на бизнес-вопросы, вполне на уровне некоторых экспертов.

Что делать? В команду профильных специалистов срочно включать экспертов по AI, которых считанные единицы.

Процент риска пока невысокий, но только потому, что это консервативная область ("какой ещё аи??"). Но тем быстрее старое полностью развалится.

-- Персональные услуги. 30-50%

Этот ваш ландшафтный дизайн, советы по стилю, планирование отдыха и т. п...

AI хорошо составляет подобные индивидуальные планы по самым разным темам, рекомендует модные дизайны и прикиды и "что посмотреть/куда сходить на выходных" и многое другое подобное.
Но личность автора ещё будет играть роль какое-то время.

-- Производители контента (журналисты, смм, пиар...). 90%

AI хорошо пишет статьи и блоги, готовит сводки, информационные бюллетени...

Ну с этим уже всё понятно ) Расходимся.

-- Графический дизайн. 80%

AI рисует весьма здорово и необычно, делает не только рисунки, но и создает всяческие дизайны, эмблемы и подобное.

Что делать работающим в этих областях? Быстрее искать новые идеи и какие-то уникальные фишки, делать более качественный контент существенно быстрее, проводить мозговой штурм с помощью AI, сосредотачиваться на индивидуальном подходе, добавлять побольше живых позитивных эмоций.

-- Обучение, онлайн-курсы. 70%

Занимающиеся теперь могут использовать AI как индивидуального ментора для скоростного обучения и быстрого получения ответов на конкретные вопросы.
Многие темы обучения хард-скиллам будут быстро сдуваться.

Что делать? Создавать учебные системы нового поколения, которые повысят продуктивность обучения в разы (без преувеличения). Сосредотачиваться на всё более узких и более сложных темах.

-- Программирование, ИТ в целом. 20-40%

Пока риск не очень велик, потому что всё же писать хороший код тяжело и людям, и за AI надо всё тщательно перепроверять, но это без сомнения временно. А вот непрограммистские айтишные задания (всяческое сисадминство...) AI будет щёлкать быстро и уверенно.

Что делать? Расти. Учиться делать рабочие задачи быстрее -- уже обязательно с помощью AI, изучать новые языки и технологии программирования.
Ну и главное -- создавать собственные продукты и автоматизировать свои рабочие процессы с использованием AI.

Победители будут использовать AI для скоростного создания качественных решений под всё более индивидуальные нужды заказчиков.

продолжение следует
Kernel Panic

серия 7: "The Code Never Sleeps"

В ИТ было несколько революционных скачков, каждый из которых давал 10-100 кратный рост производительности труда. От машинного кода к ассемблеру, затем к языкам высокого уровня, затем к скриптовым языкам и мощным IDE. Последним таким значительным скачком стал опенсорс, но потом всё прекратилось -- во многом потому, что сам опенсорс и погубил все инструментальные ростки...

И вот сегодня AI -- это следующее -- 100-кратное! -- повышение производительности. ChatGPT и подобное -- пока лишь начальная стадия, дающая 30-50%. AI nextgen уже не будет просто текстовым. Мы будем кодить, по сути, как десятки лет рекомендует замечательное XP Кента Бека -- в парном режиме, только вместо занудного белкового товарища нам будет круглосуточно и без устали помогать AI. Причём он станет полноценно использовать IDE точно как человек, получит полный доступ ко всем инструментам и, конечно, интернету :)

Уже в этом десятилетии топовые программисты будут работать на более высоком уровне абстракции, чем просто физический код в файле. Именно поэтому призываю занимающихся у меня побыстрее проходить треки по ООАП и вычислительным моделям, чтобы получить доступ к формату Hard Work, где эти темы правильного думания не строками кода, а более сильными абстракциями, прокачиваем на практике.

Конечно, появится ещё больше самозванцев (как было в своё время в 1990-е с появлением Delphi, когда родился термин "формошлёпство" -- "рисовать формы мышкой"), и самые хитрые из которых реально научатся создавать с помощью AI довольно сложные системы, не умея фактически программировать (ну, на уровне простых задачек на 20 строк).

Но именно поэтому продолжит быстро увеличиваться разрыв между ленивой массовкой разработчиков и теми 2% элиты, кто, продуктивно применяя AI, получает выигрыш в производительности во многие десятки раз. А я приложу все силы, чтобы вас этому научить.

продолжение следует
Если у вас на работе активно используется система баг-трекинга, это 100% признак глубинных проблем, и прежде всего это отсутствие фокусировки на качестве кода.

И в целом, сколько общаюсь с разными командами, впечатление, что люди вообще везде стараются словно специально не пропустить ни одной возможности накосячить )))

Уметь качественно декомпозировать задачу в работающий код это здорово, но если при этом от вас требуют сделать круглый интерфейс, а вы сделали квадратный и потом округляете глаза "а почему не лезет?", ну штош...

В тему -- на днях вышел классный сериал "Миротворец" с реслером Джоном Синой. Когда собрана команда профи, где у каждого хорошие хард-скиллы но по уровню "софт-скиллов", интеллекта, и даже просто здравого смысла сотрудники полное дно :) Да и сам босс нередко оказывается совсем не тем, кем кажется, и интересовать его может отнюдь не успех проекта, а затягивание, а то и фейл.

Впрочем, после того, как самый токсичный в мире ит-менеджер Илон Маск на днях заявил, что теперь ищет на место директора твиттера "достаточно глупого" человека... А ведь многие воспринимают его всерьёз и берут пример; ну ещё бы, попробуйте заработать сотни миллиардов долларов.

Короче, в ИТ скоро будет совсем тяжело :)
Kernel Panic

серия 8: "The Endless Loop of Code"

Я уже говорил, что инженерия будущего -- это инженерия подсказок, но "подсказку" не надо воспринимать слишком примитивно. Тут важно также понимать, что поиск в стиле гугла и общение с ai -- концептуально разные use cases.

AI-ассистант не просто будет выполнять ваши команды "реализовать такую-то задачу", он будет уметь ещё много чего другого магического: например, предсказывать, какую задачу вы намерены выполнить следующей, и заранее готовить её хотя бы на уровне прототипа.

Сеньоры же получат в распоряжение целые армии программных агентов, с помощью которых будут создавать всё более сложные системы в безумно рекордные сроки.

Хотя конечно и джуниоры, да и непрограммисты, также получат доступ к таким агентам для разработки софта. Разница будет скорее в стоимости подобных облачных сервисов: такими армиями, конечно, тоже надо будет уметь эффективно командовать. Никто не даст джуниору доступ к службе из миллиона агентов по цене сто долларов за минуту, если он проработает с ней два часа, а в итоге только накосячит и выкатит что-то кривое и невразумительное.

Хотя, безусловно, у каждого на компьютере будет как минимум свой цифровой чемпион мира по программированию-22. Завтра кстати на эту тему в вк будет пост — это уже реальность.

Как управлять тучами агентов смитов? Это отдельный уникальный скилл, который пока вообще никто не умеет, но вам я по секрету подскажу, как этому учиться и тренироваться уже сейчас, совмещая полезное с полезным: пишите код в модели обмена сообщениями (берём декларативную параллельную модель, и добавляем ей асинхронный канал связи).

Не раз рассказывал про модель акторов Карла Хьюитта, и какие прикладные фреймворки тут полезно поизучать. Так вот, активно беритесь за akka.* , ну и Erlang конечно.
Я кстати неспроста к этому уже не один год призываю.

Программные архитектуры будущего -- это чистые вычисления (как сами вычисления, так и вычисления вычислений в смысле автоматической кодогенерации), которые надо будет уметь прежде всего правильно структурировать с помощью формальных протоколов (монадическими цепочками, например).

продолжение следует
Kernel Panic

серия 9: "The Case of the Missing Semicolon"

Но когда у нас в распоряжении окажутся мириады AI-агентов, автоматически и очень быстро пишущих код, нынешняя стековая модель создания программных продуктов станет совсем неактуальной (это когда команда разработчиков пишет итерациями код, мержит в репу, деплоит в прод, а команда менеджеров поэтапно раскручивает монетизацию очередной версии).

Ей на смену грядёт сетевая модель: наш код всегда существует в рабочем состоянии, всегда работоспособен и полностью монетизирован. Этакое CI/CD на уровне продукта в целом. У одного разработчика в руках оказывается мощь огромной сети AI, людей и сервисов, а производительность улетает в космос.

Однако при таком экстремальном масштабировании самым сложным становится сопровождение кода, а не просто разовая разработка проекта. Говорю о важности этого момента не один год, и вот эта темка становится крайне актуальной. Сегодня мы полагаемся в этом на "белковых": рассчитываем, что сопровождением будут заниматься люди с ответственным отношением и хорошим проектным опытом, потому что это тяжело.

Ведь "написание кода", создание некоторого продукта с помощью AI, сегодня становится весьма тривиальной задачей (об этом сегодняшний пост в вк). А вот сопровождение кода, его развитие и, главное, глубокое понимание -- вот где настоящая инженерия! Поэтому чем быстрее вы научитесь думать о коде на уровне отсутствующих в нём абстракций, тем сильно быстрее и сильно продуктивнее вы сможете использовать AI.

продолжение следует
- Считайте вручную на бумажке. -- Нет. У нас есть калькуляторы.

- Учите наизусть факты и даты. -- Нет. У нас есть интернет.

- Учитесь рисовать, писать тексты и программировать. -- Нет. У нас есть Stable Diffusion и ChatGPT.

- Думайте. -- Ннееемтм. Мммеее. Ыыы. AGI.
Kernel Panic

серия 10: "Programming with AI: A Love-Hate Relationship"

С другой стороны, от программистов всего мира пока даже маленькой волны по поводу ChatGPT не заметно. Ну может за сутки пара постов появится, как чел сделал сайт или небольшую игру, да десяток твитов, как в какой-то хитрой задачке AI накуролесил. Но наверняка кто-то втихомолку стал быстрее делать рабочие задачки, и студенты школьники однозначно AI используют, но в целом активность айтишников почти нулевая, хайп в основном по поводу гуманитарных тем. И это удивительно.

Буквально, на хабре сейчас адекватных материалов для программистов по ChatGPT больше, чем во всём остальном мире :)
Рекомендую кстати их читать.

Я, правда, никогда не испытывал иллюзий по поводу среднего интеллекта человечества (да и своего, конечно), ну вот очередное подтверждение, что даже когда дают "автоматизированную удочку", 98% ленится её просто забрасывать в воду :) Возможно, и НГ играет роль, ну посмотрим в самые ближайшие месяцы. И вроде вот-вот выйдет ChatGPT3.6 -- разминка перед ChatGPT4? Хотя некоторые аи-эксперты уже намекают, что 100 триллионов параметров GPT4 не дали ожидавшегося качественного скачка, и получилась по сути GPT3+browsing; потолок возможностей?

На днях, кстати, появилась модель VPT, которой дали физический доступ к клавиатуре и мыши, и она с их помощью успешно играет в майнкрафт.

=

Вам, дорогие, очень рекомендую усвоить ключевой урок: максимальное преимущество, которое только вы как разработчик можете иметь перед коллегами/конкурентами -- это скорость, это быстрота исполнения задач. Это ваше самое мощное оружие, особенно когда экономика становится все более жёсткой.

И в целом, совершенно независимо от того, чем вы занимаетесь, вы добьётесь гораздо большего успеха, если начнёте действовать существенно быстрее.

Но вот в чём проблема -- программисту увеличить скорость работы очень сложно. Тут было много исследований, и оказалось, что продуктивность разработчика -- почти константная величина, её очень трудно увеличить ни кнутом, ни пряником (если человек сам не особо замотивирован на развитие). Поэтому, когда возникает очередной дедлайн, большинство программистов просто работают больше часов, по ночам, на протяжении так нескольких дней, а затем слетают с катушек :) Поэтому это временный приём.

Но теперь есть лучший способ -- AI-помощник!

Однако уже закрадывается подозрение, что даже им воспользуется лишь 2%, и разрыв между ит-элитой и ит-массовкой (как по уровню квалификации, так и по зарплатам) станет ещё более ужасающим :)

продолжение следует
Kernel Panic

серия 11: "Code Monkeys and Machine Learning"

Информатика во всём мире 50 лет преподаётся с позиции алгоритмов, структур данных и написания ясного кода. Однако скорее всего уже в ближайшие лет 10 все эти классические формы обучения полностью развалятся, и к этому пока почти никто не готов.

GPT-1 появилась всего 4 года назад, и тогда никто и близко не предполагал, что уже в 2022-м GPT-3 сможет писать код на уровне джуниоров.

Программирование на наших глазах начало стареть. Я активно застал то время, когда программисту надо было знать не только ассемблер и Си, но и хорошо представлять аппаратное устройство компьютера. Сейчас 98% программистов имеют крайне смутное представление о принципах работы процессора, о каких-нибудь cache coherence и аппаратной поддержке false sharing.

Похоже, что в ближайшие 10 лет потеряет актуальность и тема АСД, и никто уже не будет знать, как написать сортировку слиянием или двоичный поиск. Не в том смысле, что не будут это изучать (и сейчас это мало кто знает:), а в том смысле, что буквально будут не способны написать даже такой простой код -- но при этом с помощью AI станут создавать весьма сложные системы.

Все программы в будущем будут полностью написаны AI, а человеку останется в лучшем случае роль наблюдателя.

Студентам больше не придётся учиться поиску в двоичных деревьях или работе с указателями в С++. Само программирование (написание кода) станет просто забавным ознакомительным скиллом, как хобби.

Не будет и профессии "Программист". Появится какой-нибудь "знаниевый инженер", у которого в распоряжении будет модель с 256 секстиллионами параметров, содержащей все знания человечества + что-то неведомое, что мы вряд ли узнаем (а если и узнаем, то уже не поймём). AI к тому времени разработает для удобства свои языки программирования, совершенно чуждые человеку.

А работой такого инженера станет примерно то, чем сегодня занимаются специалисты по data science: спроектировать UI, внятно объяснить логику системы, подобрать хорошие примеры (только не тысячи, а два-три), оценить и оттюнинговать процесс обучения.
=

Стратегическое смещение акцента с написания программного кода на модели очевидно пока только единичным AI-гуру, но это уже факт. Почитайте любые работы по большим языковым моделям -- там уже давно не упоминается программный код или классические архитектурные блоки из system design. Терминология и абстракции совершенно другие: слои внимания, датасеты, токенизаторы... Например, классический труд по работе с GPT-3 "Language Models are Few-Shot Learners" совершенно непрограммистский.

Единицей вычислений становится не машина фон Неймана, а массивная, предварительно обученная и высокоадаптивная AI-модель. Однако никто из учёных не понимает, как работают большие языковые модели. Сегодня чуть ли не каждый день публикуются научные работы, в которых открывают новые, странные формы поведения уже существующих LLM, несмотря на то, что они были "спроектированы" людьми.

LLM способны делать то, чему их никогда не обучали, и нет способа узнать, что такого они умеют, что мы пока не знаем.

=

Нам придётся полностью пересмотреть наше понимание вычислений -- больше никаких машин Тьюринга, никаких детерминированных процессов, управляемых наборами инструкций и системами типов.

Фундаментальным вычислительным блоком станут адаптивные, непредсказуемые, неуловимые программные агенты. AI-вычисления не будут поддаваться статическому анализу и формальным доказательствам. Мир AI-программирования станет всё больше походить на квантовую физику.
=

Чем дальше, тем больше нам придётся верить AI на слово.

И всё, что нам остаётся -- как динозаврам, наблюдать за стремительным приближением AI-астероида.

окончание сериала следует
Kernel Panic

серия 12: "23"

1. ИТ-пузырь безусловно продолжит сдуваться, но плавно. Сейчас "на форумах" по всему миру разгораются холивары примитивного одноклеточного уровня, где бесконечно пережёвываются паттерны 30-летней давности, ещё со времён AI Winter, что дескать "AI никогда не заменит человека", "это не настоящее мышление, а подделка", "мы действительно разумны а это совершенно другое", "AI просто вычисляет, что ему делать дальше, основываясь на том, что было раньше" и прочий детский сад.

Для нас же главный вопрос только "когда?" :)

Легендарный стэнфордский профессор Andrew Ng на днях заявил, что в "near future" программистам можно не волноваться о потере работы, но правда не уточнил, сколько это: 10 лет или 10 месяцев. А вот Andrej Karpathy (AI Tesla) порекомендовал активнее писать комментарии в коде уже для того, чтобы помогать AI лучше понимать ваш код.

=

Моя стратегия совершенно не меняется: я сам ничего не придумываю и не додумываю, а всегда ориентируюсь на небольшое число ребят, которые умнее меня в 100 раз: PhD из топовых университетов мира, у которых маленькие школы повышения квалификации программистов вроде моей, где хотя бы немного поддерживается индивидуальный подход.

Так вот, все они сохраняют олимпийское спокойствие :) Да, AI помогает, но в чуть более сложных темах проектирования совсем плавает, потому что учиться ему особо не на чем. Кроме того, стиль кодирования AI слабенький, потому что обучается он на проектах мэйнстрима, а ведь даже код ядра Линукса или код стандартных библиотек Java написан в значительной степени на троечку, а местами и на двойку.

А хороших эталонных примеров правильного проектирования вообще не найти даже для людей.

Поэтому, в ближайшие годы AI повлияет на ИТ так, что во-первых, те кто быстро освоит ChatGPT и подобное, получит мощное преимущество, и во-вторых, постепенно AI-ассистанты будут внедряться менеджерами принудительно (на инициативу снизу тут точно не надо рассчитывать). В результате, от джунов будут требовать работу миддлов, от миддлов -- работу сеньоров, а сеньоров уволят (шутка).

Но теперь особенно важно расти в профессии особенно энергично, потому что будущее туманно как никогда :)

Ну и общий дух предпринимательства в самом широком смысле будет сейчас особо актуален, как недавно говорил. Берите на себя ответственности по максимуму и даже больше. Главное -- вписаться в тему, разбираться будете уже по ходу процесса.

2. 2023-й станет решающим в плане понимания потенциала LLM для программистов. Тут я тоже не умничаю, а просто внимательно слежу за парой десятков умнейших людей мира и, извините, ai-трендсеттеров :)

И вот такой тренд, что в декабре, практически сразу же за хайпом вокруг ChatGPT инвесторы бросились массово вкладываться в AI. Один такой товарищ вложился на днях разом аж в 50(!) AI-стартапов (потому что выстрелит в лучшем случае 1% который окупит все остальные, но денежки-то на свои проекты все пацаны получат :).

А у нас тут будет ещё куча огромных особых возможностей -- в контексте импортозамещения и техносуверенитета. Ну например, даже просто сделать оболочку для ChatGPT чтобы им можно было удобно у нас пользоваться без нудной фейковой регистрации и впн.

Полезных и прибыльных идей миллион! Следующий сериал скорее всего на эту тему в январе и начну.

Объявляю 2023-й в России годом AI-стартапов!

конец
-- Andrej Karpathy (Tesla AI) очень доволен использованием Copilot:

"Still learning to use it but it already writes ~80% of my code, ~80% accuracy. I don't even really code, I prompt. & edit."

Ну, Гради Буч (автор UML, IBM Fellow) говорил, что это всё отнюдь не устаревание и конец программирования, а естественная эволюция информатики в направлении повышения уровня абстракций, как и происходит многие десятилетия. Другое дело, что мы и сегодня пишем код в парадигмах 50-летней давности, ну штош...

Karpathy кстати взялся на рождественских каникулах изучать Rust и удивляется, до чего же он оказался быстрый.

А что полезного сейчас изучаешь ты? :)

-- Greg Brockman (президент OpenAI) под Новый год заявил, что в 2023-м нас ждёт такое, что 22-й в плане AI-прорывов покажется сонным.

P.S. С завтрашнего дня, начинаем сериал на тему идей для AI-стартапов. Название ему придумал ChatGPT, уж извините :)

"Intelligent Machines and Idiotic Humans: A Startup Story"
"Intelligent Machines and Idiotic Humans: A Startup Story"

(идеи для AI-стартапов и для "как бы" AI-стартапов, чтобы морочить головы инвесторам:)

Серия 1. Предсказание курса акций )))

Вечная тема, на которую всегда будет интерес со стороны лохов. Ну или прогнозы любых других трендов. Понятно, что такого подобного добра полно, не парьтесь, это и хорошо, значит есть платёжеспособный спрос, а это для инвесторов важный KPI.

Только к универсальной модели не надо конечно стремиться ("для всего"), обучайте на конкретных датасетах чётко под конкретную нишу. Одна ниша -- один продукт. И можете клепать дальше подобные продукты по одному шаблону, только UI менять.

Куча статей как строить прогнозы с помощью, например, библиотек scikit-learn или tensorflow, они очень мощные, просто следуйте простым гайдам и шаблонам примеров. Хороши в помощь конечно будут pandas и numpy.

Код обучения модельки на питончике легко и просто уложить в несколько десятков строк, в ноутбуке на колабе даже можно, и деплоится модель тоже элементарно в любой облачный хостинг. Приделываете например REST API и продаёте ставки на спорт свои прогнозы корпоративным подпищекам задорого :)

Хорошо в качестве клиента красивое веб- или мобильное приложение сделать, и т. п.
"If you think good architecture is expensive, try bad architecture."
-- Brian Foote and Joseph Yoder
"Intelligent Machines and Idiotic Humans: A Startup Story"
(идеи для AI-стартапов)

Серия 2. Русский Copilot.

В мире так мало людей, которые действительно что-то делают сами, не по указке со стороны, что если вы создаёте что-то ценное, то у вас практически не будет конкуренции.

Опенсорсные системы местами даже превосходят то, что делают супербогатые лаборатории:

-- Implementation of Reinforcement Learning with Human Feedback on top of the PaLM architecture.
If you are interested in replicating something like ChatGPT out in the open...

-- The SantaCoder models are a series of 1.1B parameter models trained on the Python, Java, and JavaScript subset.
Есть онлайн-демка.

Уровень где-то GPT2, но вы вполне можете локально дообучить её на ваши (или чужие) конкретные проекты уровнем даже покруче, чем универсальная GPT3.

Можно продавать как сервис полного цикла внедрения корпоративного AI-ассистанта для программистов: тюнинг под вашу разработческую тематику + суппорт + установка + обучение пользователей.

Минус в том, что продвигать такие вещи тяжело -- надо выходить на ит-руководителей, убеждать их... Возможно, лучше делать что-то вроде русского copilot по недорогой массовой подписке для разработчиков.
Действительно, научиться писать смарт-контракты на Solidity или обучать модельки в PyTorch (или клепать интернет-магазины и далее по списку...) любой способный студент может за 1-2 недели. Это чисто технические темы, это поверхностный уровень "веб-фреймворков", в нём нету никакой глубины. Конкурировать с другими на таком уровне -- просто глупо, это тратить время впустую. Это механический уровень AI :) Сейчас например активно учат большие LLM обучать маленькие LLM, скоро они всю эту ерунду будут хорошо уметь вместо вас lol

Лучше всего развиваться в фундаментальные темы -- как спроектировать сложную систему для web3 или AI (или что угодно другое) на миллионы строк кода и десятки тысяч rps, и главное -- то что получилось, много лет легко и просто развивать и сопровождать.
На днях The Wall Street Journal (запрещена в России :) рассказала, что авторы ChatGPT готовы продать своё детище за 29 млрд. долл., и вроде бы даже есть заинтересованные покупатели. Какая-то невероятная сумма, с учётом того, что совершенно неясно, как такое монетизировать. Крутить рекламные баннеры? Платная подписка? Ну это копеечные суммы получатся.

Подозрение, что в непубличной версии ChatGPT развиваются технологии двойного (тройного...) назначения, на которые определённые структуры уже положили глаз и готовы прилично отстегнуть.

...тем временем, GitHub Copilot Labs разработала AI-генератор тестов для кода. Тестировщики, на выход :)