[Другая]стратегия – Telegram
[Другая]стратегия
1.04K subscribers
92 photos
3 files
189 links
Data-driven винегрет: науч-тех политика, бодрая аналитика & примкнувший к ним нарративный дизайн

Чата нет, но со мной [почти всегда] можно поговорить: @natallia_andreeva
Download Telegram
Ну, за здравый смысл

В продолжение разговора про глобальную ИИ-гонку: группа американских товарищей под предводительством Эрика Шмидта, бывшего СЕО Google, буквально на прошлой неделе выкатила длинный экспертный документ под названием «Стратегия суперинтеллекта» (Superintelligence Strategy).

TL;DR: неконтролируемое развитие ИИ может привести к новой гонке вооружений, «флэш-войнам» (супер-коротким и кровавым конфликтам «на основе ИИ»), поэтому всё это надо регулировать / контролировать на глобальном уровне, по тем же принципам, что и ядерное оружие – сдерживание, нераспространение, поддержка ИИ-конкуренции (внутри США).

Я теперь буду юзать этот текст как пример того, что «содержание», «доклады», «аналитика», «экспертиза» и пр. существуют только и исключительно в политическом поле и как производная от политики – ну, или от шкурных интересов участников экономического банкета (раньше я использовала для этой цели прогнозы развития энергетики от ОПЕК, МАГАТЭ, ОЭСР и разных ассоциаций ВИЭ, но этот пример куда круче).

Следите за руками:

1️⃣ Формально (по содержанию) «Стратегия суперинтеллекта» топит за всё хорошее против всего плохого: ИИ надо жёстко контролировать (в т.ч. – контролировать технологии производства микроэлектроники, отслеживать и закрывать потенциально опасные проекты / разработки и пр.); гонка вооружений – плохо, Пушкин – хорошо; от «Манхэттенского проекта в ИИ» не будет никакой пользы, кроме вреда.

2️⃣ Высказывание красивое, поэтому понемногу расходится по продвинутым СМИ и прочим информационным аутлетам (например, MIT Technology Review уже отметился): ужасы роботизированной войны, флэшбеки Холодной войны, такое вот.

3️⃣ Но есть нюанс номер раз: «Стратегия суперинтеллекта» была опубликована через какой-то месяц после «Технологической республики» Алекса Карпа (напомню, про-республиканского СЕО data-компании Palantir) – и представляет собой прямую ответочку на его лозунг «нам срочно нужен Манхэттенский проект в сфере ИИ» (= дайте мне денег на военный ИИ и отойдите).

4️⃣ И есть нюанс номер два. Если подойти поближе и посмотреть на авторов «Стратегии суперинтеллекта», то получится следующее:

▫️Вот Эрик Шмидт, бывший СЕО Google, с этого года возглавляющий компанию Relativity Space – ту самую, которая делает Terran R и пытается стать конкурентом Space X (как тебе такое, Илон Маск?).

▫️Вот Александр Ванг, директор / фаундер Scale AI – конторы, торгующей размеченными данными для ИИ и получившей в прошлом году что-то около $1 млрд. инвестиций от Amazon и запрещенной в России Meta (как тебе такое, Илон Маск – с твоими попытками в ИИ от твиттера?).

▫️Вот Дэн Хендрикс, директор НКО «Center for AI Safety» - фонда, который собирает донаты на то, чтобы топить за «ответственное использование ИИ».

5️⃣ Проще говоря, «Стратегия суперинтеллекта» как высказывание не имеет никакого отношения к этике, безопасности, здравому смыслу и прочим прекрасным вещам. А имеет – к распределению финансовых потоков в теме ИИ. И только так её и надо рассматривать («Технологическую республику», естественно, тоже): про-республиканский биг тех ничего не понимает в колбасных обрезках и толкает страну в пропасть; деньги надо давать на другое.

А вывод из этого простой: «войны докладов» таки живут в веках, и фехтование на публичных текстах останется с нами даже в эпоху неестественного интеллекта (ну потому что это не про контент, а про управление повесткой).

Не болейте.

#про_экспертов_и_людей #ИИ
👍12🔥8
Ну, за соцреализм

И раз уж речь зашла про ИИ: меня периодически спрашивают, что я думаю про реальные перспективы появления в родных осинах сложных «экспертно-аналитических» ИИ-продуктов. Я вежливый кролик, поэтому отвечаю расплывчато – в духе «гномы к эльфам не относятся» – и рассказываю одну и ту же историю. Про Morgan Stanley.

История:

1️⃣ Morgan Stanley (финансовый конгломерат, вторая по величине ТНК США) с 2022 года развивает внутренний экспертно-аналитический ИИ-сервис AskResearch (на базе GPT-4), который предназначен для т.н. «финансовых советников» - консультантов, сопровождающих клиентов банка (и физлиц, и юрлиц).

2️⃣ В 2024 году AskResearch использовали чуть менее чем все консультационные команды (98%), т.е. что-то около 16 тыс. отдельных «советников» и их групп, - преимущественно для того, чтобы быстро и качественно выдавать клиентам какие-то инсайты (биржевые индексы, что покупать, тренды и пр.).

3️⃣ Это очень обнадёживает (есть перспективы! есть!), но давайте подойдём поближе и посмотрим:

▫️Morgan Stanley, конечно, работает с OpenAI и их GPT-4 (с 2022 года), но LLM и субмодели банку делали чётко под заказ, как инхауз (по той же схеме – прямой заказ на разработку у крупного вендора – работают с ИИ и другие околофинансовые организации, в т.ч. BNP Paribas, TD Bank и пр.). Потому что это ровно тот случай, когда продукты должны подстраиваться под воркфлоу пользователей, а не наоборот.

▫️Формально GPT-4, на которой сделан AskResearch, работает с неструктурированными данными, но в реальности под сервисом и внутренней LLM лежит огромный массив структурированных, аннотированных и, что самое важное, закрытых данных (100+ тыс. собственных исследовательских документов MS на старте – и по 70+ тыс. новых документов в год).

Мораль: покажите мне российскую организацию, которая обладает массивом качественных экспертных данных, - и я сама с удовольствием ослепну от сияющих ИИ-перспектив. Но это не точно. 😎

#про_экспертов_и_людей
👍21🔥14🤣10
#диалоги_в_танке

А: Основатель DeepSeek считает, что будущее ИИ - за узкой специализацией.

У: Obviously. Ну потому что нафига "универсальный" ИИ вообще нужен?..

А: Минуточку, что значит - нафига? Бабки же поднимать на бирже, пока лох не вымер.
🤣12🔥5👍3
Ну, за меньше пены

Принесла вам весёлое, в самый раз для вечера пятницы: две диаграммы про разницу между галлюцинациями представлениями о внедрении генИИ в крупных корпорациях тм и реальностью.

TL;DR: больше половины генИИ-инициатив существуют только в воображении больших начальников; компании, вбухавшие ИИшные деньги не по адресу, уже перекладывают стоимость своих ошибок на потребителей.

Западные консалтеры, конечно, продают генИИ (и свои услуги по его внедрению) так активно, как только могут, но иногда у них случаются проколы – и в опросах компаний выплывает смешное и красивое. Вот, например:

1️⃣ Только 15% рядовых сотрудников компаний что-то слышали про то, что их конторы внедряют какой-то там генеративный ИИ; при этом топ-менеджмент уверен, что всё в шоколаде – и внедрение-то идёт полным ходом.

2️⃣ Корпоративные генИИ-стратегии, которыми рулят СЕО, проваливаются в 81% случаев (CIO – в 57%); кроме того, «амбициозные» стратегии показывают худшие результаты, чем «тише едешь, дальше будешь» / банальное управление изменениями (обновление дата-менеджмента; вдумчивое построение юз-кейсов «от бизнес-процессов», а не наоборот; и пр.).

3️⃣ В 40+% случаев внедрение генИИ в бизнес-процессы / воркфлоу приводит к росту костов и конечной себестоимости продуктов. Причин тут много, начиная с чисто управленческих фейлов (дали денег не тем, кому надо было) и заканчивая глубоко неочевидной экономикой ИИ как части воркфлоу или продукта. Но кому от этого легче?

Мораль: генИИ-визионеров дохрена, а вот юз-кейсы руками делать и эффективность считать некому. Ну, и ещё «execution ест стратегию на завтрак», не без того.

На всяк случ: я понимаю, что основная прибавка в эффективности от генИИ пока в маркетинге / продажах и кодинге; что ситуация сильно варьируется в зависимости от отрасли; что есть генИИ – и есть генИИ (в смысле, разница между коробкой на интернет-шлаке и инхаузом на нормальных проприетарных данных).

Но подуть на пену хайпа всё равно бывает полезно. 😌

#про_технологическое_развитие #ИИ
🔥20👍16🤣4
Ну, за у вас спина белая

В связи с сегодняшней Большой Праздничной Датой вот вам микро-зарисовка "Жизненный цикл любой программы развития в вакууме". Давно собиралась это сделать, а тут такой повод. 😎

(я знаю, что IRL этот ЖЦ устроен гораздо, гораздо сложнее - ещё нужны институты развития, АНОшки, консультанты, союзные ООО, региональные администрации и пр., - но в телеграме можно прицепить к посту только 10 картинок, так что сорян, будет суррогат)
🤣94🔥46👍24
Ну, за психологИИческую поддержку

Кто здесь давно, тот в курсе, что я люблю позудеть по поводу проблемы данных (например, вот, вот и вот), которую упорно игнорируют генИИ евангелисты. Но я нашла кейс кулстори, которая, по-моему, полностью закрывает эту тему.

Кулстори называется «Как группа товарищей из Дартмутского колледжа делала чат-бот для психотерапии».

TL;DR: данные из интернет-помоек бесполезны чуть менее чем полностью; всех спасли жёстко курируемые дата-сеты.

Если не совсем коротко, то команда из Медицинской школы Гейзеля (одна из семи медшкол Лиги плюща, евпочя) в 2019 году придумала приложение – бота-психотерапевта – последовательно его допиливала и прошла три типичных круга data-ада:

1️⃣ Для начала ребята сгрузили в тогдашний GPT от OpenAI массив данных, собранных на полях многочисленных интернет-форумов «про психологическую поддержку». Результат: чат-бот, получив на вход «я всё время чувствую себя подавленно и уныло», отвечал «мне тоже очень грустно» - и начинал жаловаться на жизнь.

2️⃣ Следующей итерацией залили в модель транскрипты психотерапевтических сессий (на которых, в том числе, учатся начинающие психотерапевты). Результат: чат-бот выдавал ответы в духе «да-да», «продолжайте» и «корень всех ваших проблем – в отношениях с матерью» (ну то есть освоил основные психотерапевтические тропы; прикольно, но с т.з. эффективности крайне сомнительно).

3️⃣ Когда стало понятно, что каменный цветок не выходит, сдались и начали собирать собственные датасеты (вопрос-ответ, реплики, сценарии и пр.), основанные строго на методах когнитивно-поведенческой терапии. Результат: после общения людей с получившимся чат-ботом выраженность депрессивных симптомов падает на 51%, тревожных – на 31% (чтобы было понятно, это по итогам клинических испытаний чат-бота – и после того, как в приложение было вложено 100 тыс. человекочасов).

Мораль по поводу сияющих перспектив анализа неструктурированных данных я выводить не буду, она самоочевидна.

И на полях: я три недели молчала и с ужасом смотрела на то, как вы все на меня подписываетесь – после весёлых картинок. Но я-то, в основном, пишу на странные экспертно-аналитические темы, так что весёлые картинки тут бывают ну очень редко – и, как правило, в виде данных и диаграмм. Всё, вы предупреждены.

#ИИ
👍32🔥13🤣8
#диалоги_в_танке

А: Люблю читать в оригинале немецкие инновационные стратегии. Прям люблю не могу.

У: ?

А: Вроде люди про стартапы, венчур и технологии пишут, а ощущение, что вызывают сатану.
🤣17🔥6
Ну, за факторы производства

Я понимаю, что все сейчас или копают, или жарят что-то на мангалах, но всё равно закину сюда немного fun facts про то, как подходят к развитию «экономики данных» в братском Китае.

TL;DR: данные в КНР – один из видов нематериальных активов (официально, институционально и законодательно), на этом экономика данных и стоит.

Буллет пойнты для полноты картины:

▫️С 2019 года данные в Китае – официально / институционально признанный фактор производства, в одном ряду с классикой – землей, капиталом и пр. (решение четвертого пленума ЦК КПК 19-го созыва);

▫️В 2023 году китайский Минфин признал данные одним из видов нематериальных активов (утв. «Рамочные правила учета данных предприятий»), которые можно продавать, покупать и пр., вплоть до того, что данные и дата-сеты могут выступать обеспечением банковских кредитов (и некоторые банки уже предлагают такие продукты);

▫️В том же 2023 году было создано надведомственное Национальное бюро по данным, которое ответственно за развитие этой самой «экономики данных»;

▫️Сейчас в стране работает 40+ бирж данных; на крупнейшей из них – Шэньчженьской (Shenzhen Data Exchange) – продаются 2+ тыс. датасетов из 70+ отраслей, а объем транзакций в 2024 году составил что-то около $1,4 млрд., спасибо ИИ-компаниям, страдающим от дефицита нормальных данных;

▫️Работу бирж, помимо всего прочего, обеспечивают пилотные платформы по регистрации IP на данные и датасеты (восемь пилотов – в Пекине, Шэньчжэне и пр.);

▫️Самый свежий госплан по развитию экономики, основанной на данных, – Data Element X (2024-2026) – предполагает, что к 2026 году данные как средство производства начнут использоваться в двенадцати приоритетных отраслях (с/х, транспорт, финансы и пр.) по 300+ сценариям / юзкейсам, а в стране появится индустрия дата-провайдеров и компаний, предоставляющих сервисы на основе данных.

Будь у меня мангал, я бы, может, сделала из китайского опыта какие-то далеко идущие выводы, но мангала нет, поэтому я молча погрущу.

#про_технологическое_развитие
👍14🔥11
Ну, за веселье

Хотела написать длинный пост про то, как Китай работает с [технологическими] продуктами, но поняла, что достаточно будет одного fun fact.

Итак, fun fact: официальная китайская статистика учитывает количество проектов по разработке новых продуктов, затраты компаний на эти разработки, прибыль от продаж новых продуктов и объемы экспорта новых продуктов. По типам собственности, по индустриям и по регионам.

[тут мог бы быть плач Ярославны про технологическое лидерство, целевые показатели нацпроектов – и, заодно, про реформу Росстата]

#продуктовый_подход
👍13🔥12🤣4
#диалоги_в_танке

А: Такое ощущение, что это название породил ChatGPT

У: Не, это настолько плохо, что, наверное, не ChatGPT, а ГигаЧат

(на всяк случ: я не умерла, просто лето внезапно перегруженное; скоро вернусь с телегами про техсуверенитет, не теряйте)
🔥15🤣10👍7
Ну, за лидерство (извините)

И снова к вопросу о том, как устроены «технологические лидеры» и «технологически суверенные страны»: про инвестиции в науку я уже писала; теперь можно посмотреть на технологические стартапы и на [околовенчурную] инфраструктуру их поддержки.

Картина, в общем, красноречивая и без пары тысяч знаков сопровождающего текста, но буллет пойнты у меня всё равно есть:

▫️Про Китай: в китайских госвенчурных фондах (тех, которые guidance funds) по состоянию на 2024 год было аккумулировано что-то в районе $1,3 трлн., и даже с поправкой на обязательное «они всё врут!!!!111один» и недопривлечённый IRL капитал – допустим, до $500 млрд. – это чуть более чем дохрена.

▫️Про США: хорошо быть центром мировой финансовой системы; можно, например, вкладывать в один только defense tech по $30+ млрд. в год.

▫️Про Россию: передаю пламенный привет российским малым технологическим компаниям – героям, которые всё-таки умудряются как-то жить и что-то делать.

#про_технологическое_развитие
🔥17👍12🤣9
Ну, за аэродинамику

У всех отдых после ПМЭФа, а у меня минутка рефлексии: в последнее время я частенько говорю с коллегами про то, что важнее всего для экспертно-аналитической деятельности – чисто в человеческом / личном плане, – и наконец-то доформулировала свои варианты ответа на этот животрепещущий вопрос.

Ответов, как это водится, не один (а целых два, бгг).

Первый – простой и универсальный: грамотно подобранные а) силовые, б) витамины, в) режим питания и г) препараты для кукухи (единственный опциональный пункт, да).

А второй ответ – сложный и таки ни разу не универсальный: лично мне для сохранения профессиональной адекватности нужны, как минимум, два [профессионально-деятельностных] крыла. Можно и больше, если я серафим и хочу являться людям на перепутье есть время и силы, но два – это очевидный минимум.

Выглядит капец как контринтуитивно, поскольку все уже выучили заклинания про 10 тыс. часов, разделение труда (простите), «профессионализацию» и пр.

Но, блин, таки нет. Для меня «многокрылость» - это maintenance; обязательное условие для того, чтобы выдавать более-менее интересные и качественные [экспертно-аналитические] результаты.

Просто потому, что мой любимый способ получения чего-то принципиально нового (знания, идей, подходов и пр.) – трансфер моделей и языка рассуждения из одной сферы в другую; полная смена оптики, инструментария и пр.

И дольше и продуктивнее всего я сотрудничаю именно с людьми, которые в это тоже умеют – и тоже летают на двух-трёх крыльях: макроэкономическое моделирование и, скажем, варка крафтового пива; стратегии развития регионов и редактирование Википедии; научно-технологическое развитие и РПГ; финансовые модели и любительская рок-группа.

Поэтому и сама я, извините, не без греха:

▫️Рисую фанарт по олдовому аниме – и до бана России в PayPal’е брала коммишены унд держала магазин на рэд баббле (поэтому, в частности, могу себе позволить – и периодически позволяю – искренние фейпалмы, когда читаю очередные прожекты по развитию российских креативных индустрий);

▫️Пишу неутилитарное: недавно, например, дописала шпионский детектив в фэнтезийном китайском сеттинге (чистой воды творческий пет проект – на развлечься и, заодно, на поупражняться в нарративо- и сеттингостроении).

А в результате… Поговорить о технологическом развитии в метафорике греческой мифологии? Разложить аналитический процесс на итерации приготовления блюда, как в высокой кулинарии? Выстроить годовой отчёт компании по принципам создания успешного супергеройского фильма? Рассказать о проблемах российской науки, используя исключительно примеры из братьев Стругацких? Сделать корпоративную бизнес-игру на основе «Гарри Поттера»?

Yes, please.

#про_экспертов_и_людей
🔥34👍21🤣2