Там Степа Гершуни постил ссылку на видео чуть меньше часа, где Jake Sullivan (советник Байдена/Хиллари/итп по безопасности) выступал в National Defense University

Даже если демократы 6 ноября проиграют Трампу (пока все еще до конца непонятно), все эти инициативы останутся

AI доктрина США
- Хантим для нас таланты (разрабы, фаундеры, инженеры) упрощая визы, десятки млрд $ стимулов для производителей чипов (Chips and Science Act)
- Строим инфраструктуру clean energy, понимаем требуемые масштабы энергии которые потребуют AI датацентры - нужно для удержания нашего edge добавить десятки гигаватт в ближайшие годы (а лучше сотню гигаватт)
- Развиваем governance + мы успели зачекать модели которые пошли в продакшн по миру. Но наши враги в эпоху геополитической конкуренции (Китай растит R&D бюджет на 10%/год) могут быть быстрее и обогнать нас в оборонке и разведке, обрушить наши преимущества что мы копили десятки лет под водой или в космосе, и прочие стратегические сюрпризы
- Топ-фокус контрразведки - защита от атак/cybersecurity на наш частный сектор в AI. И мы потащим не самых типичных вендоров - топ-решения в AI и cloud от частных компаний на внедрение в national security сферах
- Нужно уметь тестить AI/создать для этого стандарты + делать его без bias’ов, чтобы за пределами США страны нам доверяли: и по safety/чтобы не было misuse, и опознавать по watermarks итп что люди с AI взаимодействуют. На 20 стран уже выкатили, а по military use 50 стран уже подписалось. В мае общались с Китаем. Это даст в тч ясность для частного сектора кто собрались по миру вложить сотни млрд $
- Мы продолжим ограничения Китаю на топ-чипы, впрочем, Китай фигачит свою экосистему и тк им плевать на privacy данных, она позволит им массовую слежку, цензуру и misinformation
- Нашу AI доктрину надо будет (как Эйзенхауер про нашу ядерную доктрину говорил) постоянно rethink и leadership, но мы справимся и конкуренцию в XXI в. выиграем

Q&A:

Иран: Они десятки лет через своих proxies дестабилизируют мир на Ближнем Востоке, боремся всеми мерами как можем + ядерное оружие им не допустим. А вообще может там народ выберут наконец себе другой режим..

Ускоренная адаптация: Мир показал, что сейчас оборонные технологии стали резко быстрее меняться/распространяться/адаптироваться, и это накладывает беспрецендентные вызовы на логистику итд итп

Фентанил: Год назад Байден и Цзиньпин встречались в SF, с тех пор Китай много проколлаборировал, двигаемся. И в целом - Китай в оборонке последние пару лет стал позволять встречи руководства, а лет 10 такого не было

7-ой ежегодный отчет State of AI 2024 от Nathan Benaich/Air Street VC. Он давно классно собирает big picture, аккуратен и оч бизнесовый

Часть 1:

Его термины: AI - любая intelligence не у людей/животных, AGI - что-то круче людей по всем когнитивным способностям по economically valuable tasks

Обзор делает его прогнозов 2023 года =)
- GenAI для VFX уровня Голливуда - угадали
- GenAI фирма попадет под следствие из-за выборов - мимо
- Self-improving агент побьет SoTA в каком-то окружении - пока не
- IPO оживут и будет big AI IPO - ждут конца 2024го ((
- Появится модель на $1 млрд тренинга - ждем еще годек )
- По AI governance будет мало прогресса - угадали
- Фининституты начнут давать кредиты на GPU вместо дорогих денег от VC - мимо
- AI песня попадет в топ чартов - да, Heart on My Sleeve
- Большая AI компания пойдет в чипы для inference - бигтехи давно, OpenAI - анонс дали

I. RESEARCH
- LLM догнали OpenAI (конвергенция состоялась, в тч llama3 догнала closed source models), но те релизнули o1 (в 3-4 раза дороже) - и терь все за planning и reasoning гонятся. И в нишах математики итп suprisingly strong results, но это, естественно, не опенсорс как в обычном софте, а рандомные раскрытия или нет весов, лицензий, данных итп
- Foundation models показывают что можно и в прочих НЕ языках создать value: math, биология, геномика, физика итп, нейронауки
- Как давно и предупреждали, утечки вопросов в тесты ставят вопросы о том, насколько вообще адекватен бенчмаркинг. RAG бенчмаркать пока не научились
- AlphaGeometry (symbolic deduction engine) от DeepMind сделала 25 из 30 задач олимпиадного уровня/уровеньь gold для людей
- LLM научились уменьшать в разы (в тч за счет квантизации, полезно на устройствах будет) без особых потерь в метриках. Карпаты говорит размеры моделей говорят о не эффективности подходов к обучению
- Трансформеры варьируют/hybrid models с attention, но хз куда вырулит. 74% моделей трансформеры + 22% RNN = 96%, 4% прочее
-Перспективы synthetic data для трансформеров сейчас не так оптимистичны как ранее. Вышел 15 трлн токенов датасет от hugging face (96 датасетов). Но data curation может снизить затраты на обучение (кажется это сделали Кай Фу Ли, не?)
- Опенсорсная Molmo от Allen Institute не хуже проприетарной gpt-4o
- Ну про Stable Video Diffusion все слышали ) А мета добавила в свою Movie Gen сетку еще и сразу озвучивание
- LLM сосут в simulations и planning. Все пробуют какие-то сочетания с RL
- Stable Diffusion стали осваивать пространственные ограничения 3d мира
- Все передовые лабы (стартапы + бигтехи) срезали масштабы публикации статей впервые за 7 лет, академия догнала. США 30%, Китай 22%, EU 23%

Биология
- AlphaFold вышла версия 3, получше, но уже не опенсорс. Baidu выдали HelixFold3, Chai-1 на деньги OpenAI итп. DeepMind вышли из стелса с AlphaProteo. Meta прибила EvolutionaryScale, но выходцы продолжили сами, выпустили ESM3 (sequences, structures and functions of proteins одновременно, не просто sequences)
- Бигфарма пробует запилить тест Polaris - benchmarking platform for AI-driven drug discovery (!)
- Пилится некая модель для fMRI/заход на BCI

Материалы
- Пилят трансформер по Materials Project Trajectory dataset - with millions of structures, energies, magnetic moments, forces, stresses

Роботы
- OpenAI вернулись к теме, а DeepMind лидеры с их AutoRT (VLM for environmental understanding + LLM to suggest a list of creative tasks the robot could carry out). HuggingFace добавили LeRobot

II. ИНДУСТРИЯ
- Nvidia выручка $30 млрд в квартал, AMD $6, Intel $12. Если в 2016ом вложиться в стартапы по чипам для ML (Groq, Cerebras итп), то было бы 5x, а Nvidia с тех пор 20x
- Все бигтехи и фигачат кластеры, связь внутри них, итп, и свои чипы начали пилить типа как гугл давно TPU - все устали от маржи Nvidia
- SoftBank когда-то экзитнул из своей инвестиции в Nvidia, а сейчас опять собирает пачку компаний (Arm, Graphcore) чтобы зачелленджить Nvidia
- Санкции США работают - Китай уже не 20% продаж Nvidia как раньше. Но обход санкций по GPU тоже наладили

Часть 2 тут

State of AI 2024 от N.Benaich, часть 2, а ч. 1 тут

II. ИНДУСТРИЯ
- Databricks и Snowflake свои LLM сделали для in-house use by enterprises. Цены LLM по API упали за год в 100x у OpenAI и 60x у Anthropic, но все бигтехи мечтают о продуктизации. Mistral пока не догнала амерские AI labs
- Антимонопольщики начали поглядывать на связи OpenAI/MSFT и Anthropic с Amazon & Google + делать fake acquistions (типа Adept/David Luan или Inflection/Мустафа Сулейман)
- Конкуренты Github Copilot подняли $1.5 млрд. Узкие tools/frameworks не успевают раскрутиться, а их уже как фичи влепили hyperscalers (e.g. векторные БД). Но AI search (Perplexity) вроде что-то нащупывает
- По копирайтам пока непонятно, но OpenAI и Nvidia давно напарсили миллионы Youtube видео. Суды оч. сужают требования авторов, будем ждать итоги

Self-driving: растят города для тестовых поездок
Гуманоиодные роботы: Figure, Sanctuary, 1X подняли $1 млрд в тч от бигтехов

- Из главных лаб шли уходы людей пилить свои стартапы, но сложно (H подняли $220 млн и сходу распались - Тиль прав?)
- Text2speech рулит (ElevenLabs). AI-first продукты начали показывать stickiness в enterprises (GPT, Grammarly, Anthropic, Midjourney, Otter). У юристов genAI проникает. Что будет в speech2speech?
- В видео 3 стартапа борются с OpenAI: Runway, Pika, Luma, подняли $500 млн

- Инвестиции в AI в 2024: $85 млрд (из них 2/3 genAI, а по гео - $56 млрд US и $8 в Китае). 70% пошло на раунды свыше $250 млн, т.е. в 50 компаний из тысяч стартапов. Для VС-funded AI стартапов сектора больше в robotics, enterprise software, space, security
- Частных AI фирм на $2.2 трлн капитализации, а публичных на $6.7 трлн (там $3 трлн Nvidia?), в 2020 в 3x меньше.
- IPO рынок мертв 3ий год

III. ПОЛИТИКА
- EU AI Act приняли в оч жесткой версии, бигтехи в тч Apple, Claude итп не сразу выкатывают в EU свои AI продукты. UK вырабатывает регуляции. Китай требует отправлять результаты тестов на десятки тыс вопросов для принятия решения о разрешении какой-либо модели
- Санкции США растут дальше, но не затормозили LLM Китая (в тч опенсорс DeepSeek, 01.AI Кай Фу Ли, Zhipu AI, Alibaba) и у них есть фанаты по миру. CHIPS Act сработал, первый завод TSMC в US начинает работу
- GPU кластеры бигтехов в десятки раз больше чем в универах и у властей
- Бигтехи в США уткнулись в физические ограничения скорости ввода электрогенерации: Meta хочет датацентр на 1 гигаватт, а msft/openAI суперкомп за $100 млрд и 5 гигаватт энергии (1 блок АЭС ~1 гигаватт)
- Anduril идет в автономию для оборонки, в EU тоже есть игроки
- Идут дискуссии как AI повляет на мировую экономику

IV. БЕЗОПАСНОСТЬ
- От уничтожения человечества разворот к “а как нам увеличить выручку от enterprises?” =). Но Sutskever итп ушли делать свой, "более безопасный AI" =)
- В UK власти сделали AI Safety Institute (AISI) - это наследие effective altruists? =))) Изучать риски хаков, jailbraking, биотерроризма. Прочие страны стали копировать подходы UK и сетапить рисеч институты о безопасности своих инфраструктур
- Проблемы нестабильности genAI моделей остаются, что резко тормозит их применение в реальном мире. RLHF пока сфера рисеча, непонятно. Улучшение LLM за счет LLM тоже пока зона неизвестного
- Anthropic стали юзать sparse autoencoders в попытках добавить interpretabilty LLM. Это полезно для выявления harmless prompts, но и одновременно злонамеренные акторы получают инструменты для атак

V. Прогнозы на 2025ый
1. $10 млрд госинвестиция из-за рубежа в какую-то из US AI labs потребует одобрения от national security
2. Кто-то не умеющий прогать сделает топ100 апп
3. Лабы начнут улучшать практики сбора данных по мере судов
4. EU AI Act смягчат тк поймут что перегнули
5. Запилят опенсорс версию o1 (агент, RL) которая побьет OpenAI
6. Nvidia пока останется на коне
7. Инвестиции в человекоподобные роботы снизятся тк у компаний будут сложности с product-market fit
8. Apple своими рисечами вдохновит других на индивидуальные AI девайсы
9. Статья от AI scientist попадет на топ конфу
10. Выстрелит игра про интеракцию с genAI элементами

Peter Thiel летом 1 час общался с подкастерами про мир, Китай, итп. Не пойму - он мрачный или реалист?

Мир через 20 лет
- Хз, людям оч сложно отвечать про будущее. Уже лет 15 говорю что с 70ых стагнируем всюду кроме компов. И сложно обсуждать, тк живем в поздний модерн, где все узко специализируются. А многие естественные науки стали коррумпированы, политика, бюрократия - и люди избегают риска и смелых идей
- Закредитованность стран растет, уровень жизни нет, но ведь занимать у будущего можно если ждем рост? А это уже не так. В госинститутах регуляции, стагнация, деменция..

Смелость vs. гениальность
- В Долине/Гугле любят IQ тесты при найме, но эти люди почему-то не креативны и не impactful в прочих вещах. В академии тоже больше нет междисциплинарных эксцентриков, хотя да, IQ высок.. Смелые не идут - им там не проявиться
- Я НЕ pro-asperger. Нейроатипичность в Долине переоценена, быть на спектре bad, разве чуть-чуть. Да просто всего лишь некая доля людей [правильно] идет против явных перегибов в обществе/вокизма

AI
- Повлияет на мир как инет в 1999, но конкуренция чет совсем, лучше ресторан открыть, будет совсем как в дикой природе. Нужна уникальность. Но все равно флуктуации: Amazon в 2001 котировки рухнули, аж в 2009 вернулись на уровень 1999г, с тех пор 25x сделали
- AI будет как компы, как все со времен промышленной революции. Остается сложный вопрос редистрибуции - не захапают ли все несколько корпораций
- Я на противоположном полюсе от AI-doomers и прочих effective altruists - пусть они сперва между собой разберутся, что опаснее - AI или климат =)

Мировое правительство
- Во всех existential risks есть 3 типа людей: кто искренне верят, полезные идиоты и коррупционеры. Если вдруг допустить их precautionary principle и что AI опасен, то миру нужно оч суровое мировое правительство, строже чем против атома
- Миру не нужно единое правительство, оно же выйдет тогда оч тоталитарным, бюрократичным, с высокими налогами. EU тоже начинали с хорошего, и какой бюрократией все окончилось?

США
- Что делать с дефицитом бюджет - непонятно. Бессрочно растить долг? Левые бы хотели рост налогов. Я либертарианец, нужно дерегуляции, см в окно: ни одного небоскреба в LA сейчас не строят - как это возможно?
- Может, винить соцсети за все плохое - это просто scapegoating? А вина на образовании..
- Кстати, вирус вокизма выстрелил именно по соцсетям, а в эпоху ТВ не было..

Мир
- До 1950ых был развитой мир + третий. Глобализация все превратила в развитой + развивающиеся

Ислам
- В 1930ых в EU было 10 млн евреев и 5 млн мусульман (Балканы), сейчас 2 млн и 50 млн. EU слишком рыцарски: “наши институты работают, они станут либеральными и продуктивными людьми”
- Ближний Восток - отвлекались за 20 лет на Ирак, а фокус Запада нужен на Иран. Если получат ядерное оружие, вспыхнет регион? В 1949 СССР сделал атомную бомбу и через год началась Корея. В 1964 Китай и через год - Вьетнам. И US уже не могли сильно ударить по СССР и Китаю..

Коммунизм
- Обычно когда вырос новый лидер - конфликт. Запад оптимистично смотрел на восход Китая, а лидеры Китая - нет, ждут стычки. Что может вести к конфликту на Тайване или к разъединению с Западом
- Мы их долго недооценивали. Еще с 1989: берлинская стена рухнула, но на Тянаньмень погибли люди и США закрыли на это глаза (B.Scorcroft ездил: “вы же с нами против СССР?”). С Китаем стали торговать, приняли в ВТО итп. Если бы такое консьюмерское отношение было, UK потеряли бы отрасль кораблей и сейчас не защищали бы Тайвань
- Ошибка фантазий Фукуямы о конце истории затянулась аж до первого президентства Трампа. Нам нужно больше реализма в том, насколько мы расходимся с их тоталитарностью. Китай видит себя next America, т.е. доминантой в мире, сложный setup..

Тайвань
- Думаю к войне мы не готовы, а будет экстремальное размежевание (Китай уже неск. лет запасает еду, нефть итп)
- Да, Запад связан с Китаем в 100x больше чем были РФ и Германия/Nord Stream 1,2, но ничего не значит, а немцы вот погрузились в вопросы энергетики..
- Шире: Китай всюду в мире мобилизует развивающиеся страны против развитого мира

Wow, there is a recent “Metascience 101” podcast, a crash course in the debates + issues + ideas of the modern metascience movement in the USA

Metascience = science on science: how to manage, improve, optimize scientific process. IFP did many inside talks & now go public. There were 9 episodes, that's summary of Episode 1: Introduction:

Who
- Caleb Watney, co-founder of Institute for Progress (by Erik Schmidt, to compete with rise of China) - 40 ppl think tank on innovation policy in Washington, lobby simplified high skill immigration + deregulate infra construction + metascience
- Dylan Matthews, journalist at VOX
- Heidi Williams, economist/NBER

Science is important
- U.S. federal gov is the world’s largest funder of basic research, thus impacts entire humankind. National Science Foundation (NSF) grants $10 bln/year (and 3x more by uniiversities) + National Institute of Health (NIH) for applied biomedical R&D $45 bln/year
- Private sector also, but they under-provide research relative to the level that we might want as a society, thus we try to incentivize by R&D tax credit, by patents (yet lots of basic research isn't even patentable). Intricate scheme
- We should spend a lot more

Pharma
- If a drug discovered today, published in Nature, it can be 12-16 years before sales - trials to show safety & efficacy. Statistical tests show if we had a tech with shorter clinical trials, we would get more innovation (e.g. cancer drugs will save more lives)

From PhD to independence
- We're lucky that lots of foreign students want to come to U.S. universities/seen as a premier research environment. After PhD you become postdoc (often complicated for internationals cause limited for certain types), apply for grants for your lab (may take 6 months for NSF, 18 months for NIH) so you plan a lot/salaries of ppl in your lab
- Lengthening of trainings
- You fundraise your salary in addition to research costs, so people look what funders are interested in, and not on own best ideas
- Historically, scientists were funded by patronage so they could work on own directions. For project-based grants it can be very hard to pivot research from one way to another

Team science
- Ben Jones: structures we use to fund science are static last 100 years, despite rise of team science (pic 1900-2010), one of the most important changes in our lifetime, Einstein solo couple of summers vs. Large Hadron Collider
- Nobel Prize is a very individual recognition, how we evaluate people's work is not for team science, such disconnect

Immigration
- USA 4% of the global population. To be a scientific superpower we need maximize agglomeration effects - a bunch of really smart ppl together are more productive, enormous returns
- Bohr/Denmark, Rutherford/New Zealand etc.

Solutions to improve funding
- Scientists submit proposals for promising avenues, create a budget (rough), then a panel of peers grade across a number of dimensions: promising? social impact? probability? enough ppl's track record? So, the average opinion of peers for grant funding agencies
- Consensus-oriented review processes might bias against high-risk, high-reward research

Experiments
- Hughes Medical Institute or Arc Institute - person-based funding, lots of freedom
- ’Fast grant’-style programs, like Patrick Collison and Tyler Cowen did with two-week/two-day turnarounds in the pandemics
- Like DARPA (Defense Advanced Research Projects Agency) - now ARPA-E for energy, ARPA-H for health. To give a really wide scope & autonomy to particular program managers who can then try to push grants or technologists & engineers to work on a very specific problem. Portfolio approach

Doing metascience
- In 10 years via systematic studies to build evidence and get metrics, iteratively, for different funding mechanisms. Learn what works, address specific problems, A/B tests like in biz
- Basically, apply core scientific approach to the institutions that fund and incentivize science

21 января старт 15-ой группы Soulmates Superheroes

Более эффективное взаимодействие с людьми, с реальностью, с самим собой

Вертикальное развитие/спиральная динамика (Кук-Гройтер, Торберт, Бек), спектр инструментов личностного развития, интегральные взгляды (Уилбер, Дойч, Тегмарк), групповая терапия и трансцендентное

7 zoom созвонов раз в неделю:

1. Структурированные рацио frameworks что цивилизация знает про личностное развитие

2. Теплая группа единомышленников для совместных практик и обсуждений в бережной среде

3. Трипы в подсознание с ЭОТ, эмоционально-образная терапия

Кому?
- Кто столкнулся с кризисом или в поиске смыслов
- Нужно вывести компанию на новый уровень, создать новый бизнес
- Нужны прорывы в карьере или кто хочет стать фаундером
- Изучить новое про себя, переизобрести, или принять что все ok

Детали juliaisa.com/superheroes

Для участия и краткого интервью писать в тг Юле @julisache

Дал тут интервью Сергею Сухову (его подкасту Ноосфера) на 1.5 часа про прогресс науки/инжиниринга, психологию, сознание - главные интересующие меня темы:

Прогресс
- Что люди ни хера не связывают, что все вокруг них как они сейчас живут - это результат сделанной когда-то кем-то науки
- Технологический прогресс самоценен даже чисто для роста гуманизма в мире. Он продуцирует гуманизм, так как только он отдалял людей от внутривидовой конкуренции и выживания в экосистемах на пределе своих возможностей. И люди сумели отойти от жестоких инстинктов и направить силы и внимание на дальнейшее [в тч коллаборативное] развитие получения энергии и материи из природы вокруг НЕ через привычную внутривидовую конкуренцию/НЕ через био-субстрат
- Что технологический национализм растет в последние годы противостояния Китая и США
- Что Илон Маск делает технологии двойного назначения - в плане и для освоения Марса, и одновременно фигачит адскую выручку от продажи Starlink, не дожидаясь пока NASA увеличат свой бюджет на космические запуски с $5 млрд/год последние лет 10-15 (А Безос с прибыли от 1.5 млн сотрудников Амазона реинвестирует в свой космический Blue Origin)
- Сложность современных исследований, их удорожание, снижение отдачи от науки в world of atoms (Питер Тиль уже лет 10 это говорит)

Сознание
- Что Тегмарк и Ян Таллинн психотерапию не делали и раскрутили за 10 лет мировой маховик AI паники/апокалипсиса
- Что AI, конечно, появится, но он будет другой природы, не как наш - эволюционно созданный [комбинаторным перебором с нуля во вселенной, где не было complexity и не было богов] поверх био субстрата жизни и, соответственно, на биосубстрате - это с волей агентов,
а
- Менее агентский (пусть и более умный в распознавании паттернов и закономерностей), т.е. цели преследовать сможет, но эти цели ставятся извне, создателями AI, а на обретены как движущая сила эволюции с момента первичных репликаторов/когда первая живая клетка на земле сумела разделиться и поехало размножение

Духовное
- Что на Западе модно для некоторой доли популяции искать трансцендентное на Востоке/Азии, но там просто другие подходы - колесо Сансары, а не европейский конец света + материализм
- Сознание людей по мере прогресса поменяется, но это все будет результатом постепенного увеличения optionality и choices за счет технологий. Пока не залезем в биосубстрат/гены/мозг - принципиально, мне кажется, изменений в сознании людей не будет. Пока ближе всех Neuralink подошел - и вот когда научатся влиять на мозг, стимулируя его нейроны/меняя их веса, а не просто считывать сигналы с него

Резонанс с реальностью
- Это более энергонаполненное состояние души и, одновременно, взаимодействие с реальностью на всех ее слоях

Брудль был раздражен. Он уже десятки раз перебирал значения возможных физических констант, но его мир никак не хотел работать. Либо коллапс, либо безудержное расширение — ничего, что можно было бы показать руководителю и не получить при этом по шее. Друзья уже успешно справились с этим заданием, но делиться своими результатами не хотели, так как профессор был весьма суров к тем, кто списывает. Еще один эксперимент провалился. Мир загорелся яркой вспышкой — и тут же сжался в точку, с которой все началось. Но, кажется, это было чуть медленнее, чем в прошлый раз. В глазах Брудля появилась надежда. Изменив значение начальной плотности на чуть меньшее, он чуть дрожащими руками нажал на кнопку компиляции. ... https://gamedev.ru/community/pd/articles/Creator

Супер нано компактный фантастический рассказ Сергея [Владимировича] Иванова, 8 тыс символов, угарно

🙈

Интервью Marc Andreessen/a16z с Joe Rogan на 3 часа:

Главная интрига XXIго века
- США опять противостоят стране типа СССР - менее свободному Китаю. Холодная война или будет столкновение?
- Мы не можем автократам дать обогнать нас

Мир за посл. месяцы пережил 2 важных разделения на альтернативные ветки Вселенной, как в научной фантастике:
А) Сперва когда стреляли в Трампа и мир где его застрелили начал развиваться в совершенно диком сценарии в отл. от таймлайна в котором мы остались и Трамп жив
и
Б) Еще раз был timeline split в день выборов, где Трамп победил. Марк рад, что живет здесь, где Трамп - президент )

Тупики США
- Плюс $1 трлн долга каждые 100 дней. Демократы уверяли, что от снижения госрасходов выиграют только богачи вокруг Трампа, а не простой рабочий люд
- Маск Трамп итп хотят просто раздолбать все это непомерное regulatory capture

PEP как конец нормальной жизни в США
- PEP/politically exposed person - кто госчиновник (в любой стране мира) и участвует в создании общественного блага, и может быть коррумпирован
- Но чиновники в США стали объявлять ими кого угодно, кто им не угоден своими словами или действиями. Власть не может ограничивать в правах людей из-за их мнений, поэтому создает частные организации, которые пушат банки закрывать счета неугодным лицам
- Если ты PEP, то ты теряешь любые возможности взаимодействовать с деньгами в США. Через это прошел отец Ben Horowitz, партнера Марка по их фонду
- Такими же PEP объявили фаундеров крипто-проектов и финтех проектов в США - защищали традиционные банки от конкуренции. На памяти Марка было 30 фаундеров (а так их видимо сотни), кто стали PEP - поэтому он и стал ярым фанатом Трампа

PEP и SEC убили криптоиндустрию в США
- PEP вместе с SEC убили крипто, т.к. все растущие компании в области крипто и финтеха или попали под санкции, или их фаундеры стали PEP, или им угрожали, что они станут PEP

Контроль над AI
- Администрация Байдена хотела полностью контролировать AI, пытаясь дать право пилить AI только ряду бигтехов, но и при этом одновременно диктовать им что и как делать
- Эта схема когда-то сработала с банками, когда в США перестали появляться новые банки из-за бюрократии, и вся власть была у топ10 банков типа JPMorgan итп. Текущей администрации было легко организовать преследования новых PEP’ов одним звонком. Когда Марк узнал об этом на встрече с администрацией, он начал продвигать Трампа еще активнее

Власти США организовали систему цензуры, не нарушая законы
- В США запрещена цензура, инициируемая государством. Но текущие власти создали независимые компании, которое генерили цензуру во всех соцсетях - Youtube, Twitter, Facebook итп. Одна из самых активных компаний для организации цензуры было в Stanford

Идеология вокизма/DEI
- Вокизм популяризирует идею обязательности diversity в расах, LGTBQ итп. Многим надоело, не выдерживает критики
- Программа DEI - это, по сути, господдержка фирм, кто соответствует политике популяризации вокизма и деприоритизации белых
- Кто-то мерял эффективность?

Марка ненавидили 1 млрд индусов в 2016ом
- После его твита: “Anti-colonialism has been economically catastrophy for the Indian people for decades. Why stop now?”. Стал хэдлайнером во всех индийских медиа и главным антигероем Индии, даже какое-то время было запрещено твитить публично, только лонгриды и интервью
- Лонгриды: Substack огонь, Роган активно юзает, а Марк там инвестор

Джо Роган про акации: они умеют предотвращать поедание их листьев жирафами - выделяют этилен, его разносит ветер и сообщает другим акациям про голодных жирафов. Получив сигнал, другие акации наполняют свои листья противными на вкус танинами, чтобы жирафы их не съели

Марк Аврелий всегда актуален: книга Meditations, ей уже 2000 лет, но актуальна и по сей день, рекомендуется

Парень несколько лет работал в OpenAI рисечером по сбору данных со всего интернета и в августе уволился и стал основным свидетелем в иске против openAI по нарушению копирайтов в беспрецедентных и автоматизированых масштабах

https://www.mercurynews.com/2024/12/13/openai-whistleblower-found-dead-in-san-francisco-apartment/

“Найден мертвым у себя дома без признаков насильственной смерти”

Его аргументы были тут https://suchir.net/fair_use.html что модели genAI по факту:
- А) после многократных повторов в обучении
- Б) а также из-за постоянного фидбека юзеров (в этом и смысл reinforcement learning) что им нравится, а что нет
по сути являются retrieval database (база данных для извлечения инфо), и выдают закопирайченные материалы в буквальном виде большими кусками, безо всяких изменений и переделок

Еще показывал снижение трафика на stackoverflow после выпуска ChatGPT, а также, что от более молодых аккаунтов задается меньше вопросов. Что chegg, публичная компания помощи студентам, вообще обанкротились

Логика применима ко всем genAI в целом, не только к openAI

**

Я в конце поста несколько дней назад (про как и для чего юзаю genAI + вопрос к подписчикам кто и как юзает) описал 3 типа AI, на которые можно поделить весь существующий технологический стэк AI, так и указал, что genAI - это просто super retrieval system в своем пределе, включая и графические и звуковые, а не только LLM. Иллюзию магии дает связность слов и предложений, которую модели осваивают на pre-training

**

И кстати ответчики типа OpenAI и Boeing развивают беспрецедентное давление на свидетелей, и не обязательно сразу искать теории заговора что именно вот прямо убили убили. Но крч способствовали доведению до самоубийства, как минимум

Компактный отчет от Peter Diamandis про человекоподобных роботов

Оч легко листается, насквозь читать не надо. Лучше с компа а не телефона

Оценки рынка через 10 лет от $36 млрд (Goldman Sachs) до $36 трлн (🙈 Cathy Wood, Ark Invest)

Маск говорит роботов будет в 10 раз больше, чем автомобилей сейчас в мире (автопарк 1 млрд шт)
А
Также что цена робота упадет с $250 тыс до $20 тыс (тогда 10 млрд роботов обойдутся миру в $200 трлн? Если за 20 лет, это $10 трлн в год?

Авто сейчас делают на весь мир 100 млн шт в год средней ценой $25 тыс ($2.5 трлн/год)

Основные сферы спроса на гуманоидных роботов: сельское хозяйство, стройка, уход за пожилыми, логистика, производство

Каждая вторая компания по роботам из 15 упомянутых - Китай

Со звуком. Играет вот этот трек

Мангер (я постил summary книги о нем неск. мес назад) десятки лет уделял внимание, как он называл: "psychology of human misjudgement"

См. скриншот (отсюда) data-driven ракурс: опросы в США (но, чет, мне кажется, механика верна и для любых прочих стран) где людей просили оценить цифры, и синим - их оценки, а красным - реальное состояние дел, реальные факты

Так что проблема с дипфейками вовсе не в их качестве и реалистичности
А
В том, что люди, базово, в своей широкой выборке: и не рефлексируют, и когнитивно ленивы, и мышлению внимание не особо уделяют

И все они торгуют криптой, торгуют акциями, а еще участвуют в выборах (отсюда и популизм, и пропаганда), совершают потребительские выборы (так что не надо обвинять исключительно бигтехи - “не мы такие - жисть такая”) итд итп

AGI/ASI через 10 лет..
Через 5..
Альтман вон в след. году прогнозирует

И, главное, преподносит это как будто что-то вау. Ну аферисты канеш, че уж тут.. =( Вывернули literally логику мира наизнанку и ног на голову, но все почему-то делают вид, что это якобы ОК?? =)

Да я извиняюсь: ну а как бы а зачем нам вообще какая-либо технология, если она не превосходит биосетап людей?

Любая технология круче нашей биологии:
- Зачем вам, например, калькулятор, если он медленнее, чем человек в уме посчитает?
- Машины быстрее и дальше нас
- Корабли плавают и везут в тыщу раз дальше и больше, самолеты круче не то, что людей, а вообще всех живых существ
- В космос живое ну никак
- Роботы на заводах быстрее-точнее-тяжелее
- Энергию мы вырабатываем минимально, а не то, что электростанции/панели/АЭС
- Микроскопы, особенно электронные, видят что оптика живых глаз не позволяет
- Связь работает на много порядков дальше чем мы докричимся
- Фото и видео фиксируют бездну деталей относительно нашей памяти, компы хранят произвольные объемы инфо
итд
итп

Как бы звучали этот алармистский сенсационализм и хайп сотню лет назад или полторы?

- Альтман: “в ближайшие годы мы, наконец, сделаем паровую машину круче, чем лошадь”

- Тегмарк: “люди никогда так далеко не плавали, так что корабли опасны, нужно их по всему миру зарегулировать"

- Бостром: “братья Райт подарят нам нечто, что мы, люди, не умели никогда - полет в воздухе”

- Курцвейл: “а когда-то электростанции будут вырабатывать электричества больше, чем все митохондрии человека, и будет в мире изобилие, представляете.."

итд
итп