Тут на неделе выступил главный производитель лопат в текущей золотой лихорадке Дженсен Хуанг, Nvidia CEO.
Он не только похвалился, что лично доставлял компоненты для того суперкомпьютера, на котором нынче учатся продукты OpenAI, но и отметил, что в его планы входит не только БигТех сделать полностью зависимым от своей продукции, но и любую индустрию, ибо машинное обучение нынче везде.
Вот кто б в начале века сказал, что в области процессоров производитель периферии может покуситься ключевую роль производителя центральных процессоров:)) Эпитет несколько потускнел.
…Тридцать лет мужик на посту начальника компании, которую сам же и основал. И явно не собирается никуда уходить, да и с чего бы при таких успехах. Кстати об обязательности ротации кадров, обновлении руководства и т.д. 🙂
So, I think for as long as I believe I can do that, I don’t know exactly for how long that’s gonna be, but 3 to 4 decades I’d say. Another 4 decades I’d be robotic and maybe another 3 to 4 decades after that. Hopefully, I get to enjoy this for a very long time.
Есть ощущение, что он не совсем шутит:))

В двух совершенно разного толка и на разную аудиторию рассчитанных изданиях почти синхронно появилась статья (сначала в The Conversation, потом ее перепечатали в FastCompany) с нетривиальным нынче посылом: не то опасно, что большие языковые модели вдруг обретут сознание (им не светит), а то, насколько мы вольно или невольно занимаемся антропоморфизацией технологий ИИ.
Обе статьи объясняют массу тревог по поводу ИИ влияние поп-культуры — ну наконец-то:)) Я уж года три твержу на разных лекциях, что Терминатор больше принес вреда и паники, чем самые дурацкие запреты и формальные ограничения.
Но ведь иначе — если задуматься над сутью LLM — придется ужаснуться тому, насколько предсказуемы мысли людей, кажущиеся оригинальными и глубокими:)
Уж лучше верить в заговор ИИ:))
…the pressing question is not whether machines are sentient but why it is so easy for us to imagine that they are.

Умеют некоторые в хлесткие заголовки и новые термины: “заря пост-поискового интернета” 🙂 Звучит красиво, но, с другой стороны, мы просто зря учились много лет разговаривать с поисковиками на жаргоне ключевых слов, а бинговский ИИ позволяет вернуться на десятилетия назад, когда в справочной ты задавал вопросы обычным разговорным языком. Оказалось, вернуться к этой древней практике приятно даже родившимся во времена развитого интернета:)

Вчерашние новости про плагины к ChatGPT показали, что у создателей есть видение, стратегии и планы — чего и близко нет у критиков, с апломбом обсуждающих якобы фундаментальные проблемы хоть недостоверности, хоть неокупаемости:)
We’re excited to build a community shaping the future of the human–AI interaction paradigm. пишут в блоге OpenAI, и они имеют право на эти громкие слова: таким шагом просто крутой сервис превращается в __платформу__, из чисто информационного становится (там где надо) вполне операционным благодаря партнерским плагинам (ведь понятно, для чего плагин, например, Expedia). А наличие уже работающих плагинов показывает, что идея не вчера родилась, а давно была в разработке как часть того самого стратегического плана создания новой платформы с возможностями, которых мы до конца не знаем, но впечатляют и уже известные. Уже руки чешутся попробовать, как выглядит связка с Wolfram, например:)

Я сюда только что перепостил свой же текст в этом канале пятилетней давности не случайно и не по ошибке.
Происходящее сейчас с продуктами OpenAI — прекраснейшая иллюстрация того, насколько актуальны и работоспособны идеи, изложенные в книге «Машина, платформа, толпа». Очень быстрая, почти мгновенная с точки зрения бизнеса, платформизация ChatGPT, целиком основанного на машинном обучении, — это просто модельный бизнес-кейс для будущих книг:)) Респект авторам книги!

Я не раз здесь и в прочих местах хвалил и рекомендовал книгу Machine, Platform, Crowd - и вот отличная новость: прошло всего-то чуть больше года, и наше издательство МИФ сподобилось выпустить ее перевод на русский. Можно даже на сайте издательства оставить свою почту, чтоб получить извещение о выходе книги в свет.
https://www.mann-ivanov-ferber.ru/books/mashina-platforma-tolpa/?buytab=paperbook
Не буду повторяться, чем хороша книга, я еще год назад об этом писал относительно подробный текст
https://telegra.ph/Mashiny-platformy-lyudi-07-30

Лонгрид на выходные — подробное расследование журналистов Reuters на тему еще одного аспекта, не очень известного широкой публике, технологической войны Китая и США. Про санкции для технологических компаний типа Huawei, про старания запретить в Штатах TikTok, про запреты на поставку в Китай оборудования для производства микропроцессоров пишут много.
Но есть еще один инфраструктурный компонент глобального интернета — подводные оптоволоконный кабели, обеспечивающие связность сети. В этой индустрии несколько лет назад возникла и набрала вес китайская компания HMN Technologies Co Ltd. Три года назад она практически вышла победителем в борьбе за контракт на прокладку и обслуживание новой магистрали SeaMeWe-6 из Юго-восточной Азии в Западную Европу.
Но тут вмешались Штаты:) Как разными способами, пугая всех угрозой глобального шпионажа со стороны Китая, контракт в итоге передали американской компании — сюжет, достойный крутой экранизации. Но пока такой фильм не снят, читайте статью:)
https://www.reuters.com/investigates/special-report/us-china-tech-cables/

Умер Гордон Мур, сооснователь Intel, предсказавший принцип развития индустрии полупроводников.

Немножко надоело читать чужие тексты про то, что с ChatGPT и подобными ему продуктами делают студенты и как к ним (и продуктам, и студентам) относятся вузовские преподаватели.
Но — спасибо ИТМО! — можно собрать вместе и тех, и других и вместе поговорить, как вуз живет во времена ChatGPT и что во всем этом хорошего. Меня позвали помодерачить этот разговор, спасибо огромное; будет, надеюсь, интересно, а кому-то даже и полезно.
Заодно так мы начнем готовиться к традиционному осеннему YAC/e, проникаясь настроениями и приглядывая интересных спикеров:))
Присоединяйтесь во вторник 28 марта к трансляции, начало в 15-00, митап продлится часа полтора.

Не так давно постил тут ссылку на великолепный текст Стивена Вольфрама о том, как устроены большие языковые модели. Со времени публикации того текста прошло немногим больше месяца - и вот Стивен публикует результат двух с половиной месяцев совместной работы команд OpenAI и Wolfram.
С самого начала Стивен сочетает слова “суперсилы” и “это лишь самое начало” 🙂
Благодаря плагину к ChatGPT у пользователя появился прозрачный доступ к Wolfram|Alfa: ChatGPT преобразует словесный запрос в запрос к Wolfram|Alfa, а получив ответ, пересказывает его словами и, при необходимости, иллюстрирует графикой.
There are lots of nontrivial things going on here, on both the ChatGPT and Wolfram|Alpha sides. But the upshot is a good, correct result, knitted into a nice, flowing piece of text.
Почитайте, очень впечатляющий текст, насыщенный крутыми примерами.
Хорошо, что Юваль Харари, на днях очередной раз нервно делившийся своими тревогами, не видел, на что способна языковая модель, которой дали доступ к языку математики и куче фактических данных, избавив ее от необходимости фантазировать там, где и без фантазий можно красиво ответить:)
И еще важнейший момент: The Wolfram plugin actually has two entry points: a Wolfram|Alpha one and a Wolfram Language one. А почему это важно — читайте статью, это не менее вкусное чтение, чем прошлый рекомендованный текст Стивена. Тут снова можно залипнуть на все выходные — и в итоге у вас закружится голова. И по делу:))
I see what’s happening now as a historic moment. For well over half a century the statistical and symbolic approaches to what we might call “AI” evolved largely separately. But now, in ChatGPT + Wolfram they’re being brought together. And while we’re still just at the beginning with this, I think we can reasonably expect tremendous power in the combination—and in a sense a new paradigm for “AI-like computation”

Сейчас такой поток стартапов, паразитирующих на интересе к ИИ, что мониторить кучу ежедневных анонсов не очень реально и не очень интересно. Но оказалось, что при таком подходе один очень важный и вполне интересный анонс я пропустил. Еще неделю назад Кай-Фу Ли, тот самый автор бестселлера «Сверхдержавы искусственного интеллекта» и по совместительству глава немалого инвестфонда, объявил о запуске новой компании с говорящим названием Project AI 2.0
Новость интересна потому, что с опытом и видением в области ИИ у этого человека все в полном порядке. С репутацией, позволяющей привлечь таланты, деньги и ресурсы — тоже.
Сайт Проекта так себе переведен на английский, но одна картинка достаточно понятна, чтобы представить, что понимается под версией 2.0 — как раз ее и использовал в этом посте. Так что последить за развитием этой компанании будет вполне интересно :)
https://pandaily.com/sinovation-ventures-chairman-kai-fu-lee-starts-new-ai-company/

Увольнения нынче затрагивают не только технологические компании: Levi’s в прошлом году сократили 700 человек и собираются еще 800 отправить туда же (увольнения не касаются людей, непосредственно занятых в торговле и на производстве). Интересно, что на фоне этих сокращений компания объявляет о новациях в своей работе с моделями для рекламы. Чтобы предложить покупателям более персонализированный и инклюзивный опыт, Levi’s начнет использовать сгенеренные ИИ модели всех размеров, возрастов, телосложений и цветов кожи.
While AI will likely never fully replace human models for us, we are excited for the potential capabilities this may afford us for the consumer experience
Ну и в достижение поставленной цели сократить расходы на $100 млн эта инициатива свой вклад тоже должна внести:)
Ждем, когда к обиженным художникам и копирайтерам присоединятся профессиональные модели:)
https://www.pcmag.com/news/levis-will-use-ai-models-alongside-human-ones

То, что картинку папы в пуховике столь многие приняли за реальную фотку, понятно, хоть и немного удивляет, что среди этих принявших оказались те, кто заявляет, будто за версту чует генеративные картинки и никогда не поддастся обману. Интересней, на мой вкус, другой факт: этот успешно завирусивший фейк создал не дизайнер или опытный цифровой художник, а 31-летний строитель из Чикаго. У него смогли взять интервью — как раз оно по ссылке, и парень просо прикалывался.
“I’m trying to figure out ways to make something funny because that’s what I usually try to do. I try to do funny stuff or trippy art — psychedelic stuff. It just dawned on me: I should do the Pope. Then it was just coming like water: ‘The Pope in Balenciaga puffy coat, Moncler, walking the streets of Rome, Paris,’ stuff like that.”
И вот это говорит про демократизацию инструментов куда больше серьезных статей:)
https://www.buzzfeednews.com/article/chrisstokelwalker/pope-puffy-jacket-ai-midjourney-image-creator-interview

Здравствуйте, Андрей! Меня зовут Богдан, я представитель ростовского интернет-издания «Бизнес-Газета». Сегодня мы приняли в нашу редакцию первого в истории региональной российской журналистики ИИ-журналиста - ChatGPT.
Робот всё еще нуждается в косметических правках своих новостей, но фактическую часть он пишет абсолютно без помощи человека.
Мы заинтересованы в распространении ИИ в журналистской среде и были бы очень признательны, если бы вы оказали поддержку нашему проекту в своём телеграмм-канале, если таковая возможна.

Общая информация о проекте: https://bizgaz.ru/2023/03/28/v-novostnuju-gruppu-redakcii-biznes-gazety-postupil-na-rabotu-iskusstvennyj-intellekt.html

Пример публикации: https://bizgaz.ru/2023/03/28/v-krymu-na-majskie-prazdniki-2023-goda-otdyh-obojdetsja-na-20-25-deshevle-chem-v-krasnodarskom-krae.html

Поскольку меня уже двое суток многие просят как-то отозваться на бурно обсуждаемое письмо про необходимость поставить на паузу работы над GPT моделями следующих поколений, коротко выскажусь.
Анализировать текст таких писем без анализа списка подписантов и фигуры инициатора — дело дохлое, оно как раз означает заглатывание наживки, которую нам бросили. Нельзя вестись на такую манипуляцию в наш век информационных войн:)
А с инициаторами и подписантами только еще начинают разбираться, и первые результаты как минимум забавны.
Институт Future of Life Institute, инициировавший письмо и организовавший сбор подписей, — специфическая организация Долины, с одним из главных доноров в лице Musk Foundation (!), а раньше — и небезызвестным и сидящим ныне без интернета Сэмом Бэнкман-Фрайдом.
Деятельность этого института местами смахивает на выращивание культа.
Одновременно все тот же Маск везде выступает главным подписантом письма.
И тогда на сцену выползает давний конфликт Маска с OpenAI. В свое время он хотел больше там рулить, но ему не дали, и он прекратил финансирование нонпрофта. OpenAI в поисках денег обратился к Майкрософту, и вот тут-то начались первые движения в сторону коммерциализации и большие обиды Маска.
А Маск, который уже не раз заявлял, что его человекоподобный робот станет более крупным бизнесом чем беспилотники, остался без контроля над ключевой для такого робота технологией — именно embodied LLMs являются основой софта такого робота.
Короче: за этой историей, похоже, в первую очередь стоят не интересы человечества, а интересы конкретного человека, мастера троллинга, хайпа и манипулирования вниманием читателей соцсеточек и вообще общественности:) А еще — куча бизнес-интересов тех бизнесов и стартапов, которые из-за ChatGPT оказались в зоне риска.
(Отдельный обзор крайне мутных событий вокруг письма и странности его текста неплохо представлен вот в этой статье, но это еще одна смежная тема, пусть ее журналисты копают дальше)

Ну и тема из предыдущего поста под другим углом:)
Если радеть о человечестве, то надо как-то регулировать в первую очередь не столько развитие самого ChatGPT (что предлагают подписанты), сколько возникновение платформы нового типа. Платформы — они всегда про концентрацию; часто — на грани монополизации, мы это уже в хайтеке много раз проходили, и все техногиганты, с которыми сейчас пытаются разобраться антимонопольные регуляторы, отрастили себе толстенные платформы.
А тут новичок, которому полгода не исполнилось от роду, уже трансформируется в платформу путем подключения плагинов, и конкурента ему пока не видно, а мощь и размах платформы уже завораживают. Скромный по названию ChatGPT превращается из просто крутого чатика в универсального автономного цифрового агента — это сильно другая сущность. Going from text generation to taking actions on a person’s behalf erodes an air gap that has so far prevented language models from taking actions.
Очень хорошая метафора про каток есть в статье:
“There’s some distress in the startup ecosystem among companies that were picking up pennies in front of the OpenAI steamroller” 🙂 У них есть основания и для стресса, и для депрессии.
А с общетеоретической точки зрения, сложность системы благодаря плагинам возрастает куда сильнее, чем благодаря утолщению самой модели. Так что та самая эмерджентность, которой алармисты боятся, получает куда больше шансов возникнуть:)
Если уж хочется страшилок на ночь, эту статью почитайте, а не конъюнктурные письма Маска сотоварищи :))

А, нет, насчет алармизма, паники — и неизбежно суопутствующего экстремизма — надо не Wired читать, как я советовал, а Time.
Track all GPUs sold. If intelligence says that a country outside the agreement is building a GPU cluster, <...> be willing to destroy a rogue datacenter by airstrike.
Публичный призыв бомбить датацентры в другой стране исходит от человека, который писал что-то про рациональное мышление? 🙂
Но если серьезно, все это похоже на управляемый запуск волны массовой истерии, и это очень печально.

Почти лонгрид на выходные:) В “Правилах жизни” опубликовал текст в любимом жанре коллекции баек, собрав в нём в одном месте те рассказы про прошлые техногенные “экзистенциальные кризисы”, которые иногда коротенько в лекции вставляю. Неожиданно актуальное получилось чтиво, с учетом всех алармистских писем и призывов последних дней. А в статье я как раз в конце до чатаGPT добираюсь.
В общем, очередное выступление оголтелого технооптимиста:)

Не пятница, а день самолюбования :) Но уж так сложилось. Тем, кто предпочитает слушать, а не читать: Очередной эпизод "Трёпа Себранта"
-= Выпуск 73 =-

Запись митапа “ИТМО говорит ChatGPT - да!” с моим минимальным предисловием. Сам митап я модерировал с колоссальным удовольствием, потому что на практике убедился, что в сильном вузе обсуждают не как ограничить или запретить новинку — а как ей полезней и интересней всего пользоваться; и студентам, и преподавателям. А если где с новой технологией начинают бороться — это про сам вуз говорит плохое, а не про технологию :)
Основная страница выпуска https://sebrant.chat/-chatgpt
На Apple Podcasts https://podcasts.apple.com/ru/podcast/sebrant-chatting-%D1%82%D1%80%D1%91%D0%BF-%D1%81%D0%B5%D0%B1%D1%80%D0%B0%D0%BD%D1%82%D0%B0/id1320623324?i=1000606770018
На Google Podcasts https://podcasts.google.com/feed/aHR0cHM6Ly9hc2VicmFudC5saWJzeW4uY29tL3Jzcw
Ну, и здесь файл, традиционно.

Хороший пример резюмирования длинного материала, причем без использования технологий NLP: иранский лидер выпустил короткую фетву, призывающую мусульман всего мира бороться против ИИ и признающую павших в этой священной войне мучениками.
Достойный конспект трехчасового интервью Юдковского :) Интересно нынче формируются духовные и интеллектуальные союзы.

https://hyperallergic.com/811493/iran-issues-fatwa-against-ai/