Грустные сегодняшние подписанты соглашений по ИИ с правительством. Хочется добавить бодрости духа, но где его взять?!

Как найти место своё здесь, в мировом конкурентном лидерстве ИИ? https://news.1rj.ru/str/blockchainRF/7364

Как NVIDIA теряет монополию в машинном обучении и почему Google проиграл PyTorch

За последнее десятилетие ландшафт разработки ПО для машинного обучения претерпел большие изменения. Многие фреймворки в значительной степени полагались на CUDA от Nvidia и лучше работали на их графических процессорах.

Однако с появлением PyTorch 2.0 и Triton от OpenAI доминирующее положение Nvidia в этой области начало подрывается.

В связи с этим возникают вопросы: почему TensorFlow от Google проиграл PyTorch, почему Google не смог извлечь выгоду из своего лидерства в области ИИ, почему другие компании, занимающиеся аппаратным обеспечением ИИ, до сих пор не смогли повлиять на доминирование Nvidia, почему аппаратное обеспечение будет иметь большее значение, как стирается конкурентное преимущество Nvidia в CUDA?

TensorFlow против PyTorch

Несколько лет назад экосистема фреймворков была довольно фрагментирована, где TensorFlow был лидером. Google был готов контролировать индустрию машинного обучения. У них было преимущество как первопроходцев с TensorFlow, а также с разработкой и развертыванием единственного успешного ускорителя приложений ИИ, TPU.

Но победил PyTorch. Google не смог превратить своё преимущество первопроходца в доминирование в зарождающейся индустрии машинного обучения.

Сегодня Google несколько изолирован в сообществе машинного обучения из-за того, что он не использует PyTorch и графические процессоры в пользу собственного программного стека и оборудования.

У Google даже есть второй фреймворк под названием Jax, который напрямую конкурирует с TensorFlow.

Несмотря на эти проблемы, Google по-прежнему находится в авангарде самых передовых моделей машинного обучения.
Они создали PaLM, LaMBDA, Chinchilla, MUM, TPU.

Но почему PyTorch победил?

PyTorch отличался от TensorFlow тем, что использовал Eager mode, а не Graph Mode.
Режим Eager можно рассматривать как стандартный метод выполнения сценариев. Фреймворк глубокого обучения выполняет каждую операцию немедленно, как и любой другой фрагмент кода Python. Это делает отладку и понимание вашего кода более доступными, так как вы можете видеть результаты промежуточных операций и видеть, как ведет себя ваша модель.

Напротив, режим Graph Mode состоит из двух фаз. Первый этап — это определение графа вычислений, представляющего операции, которые необходимо выполнить. Второй этап — отложенное выполнение оптимизированной версии графа вычислений.
Этот двухэтапный подход усложняет понимание и отладку кода, поскольку вы не можете видеть, что происходит до конца выполнения графа.

Хотя TensorFlow теперь имеет режим Eager по умолчанию, исследовательское сообщество и большинство крупных технологических компаний остановились на PyTorch. Тут писали об этом https://news.1rj.ru/str/blockchainRF/6723

Компоненты обучения машинному обучению

Если мы сведём обучение модели машинного обучения к его самой упрощенной форме, то увидим 2 основных временных компонента.

1. Вычисление (FLOPS).
2. Память (пропускная способность).

FLOPS Nvidia увеличился на несколько порядков за счет использования закона Мура.

Поскольку большие языковые модели продолжают расти и занимают терабайты, сети производственных рекомендаций, развернутые Baidu и Meta(запрещённая в РФ организация), требуют десятков терабайт памяти. Очевидный вопрос: почему архитекторы не размещают больше памяти ближе к вычислительным ресурсам? Ответ - деньги.

Продолжение тут.

⚡️ Microsoft заявили, что скоро включат ChatGPT в Azure

Софтверный гигант объявил о широкой доступности Azure, которая была доступна для ограниченного круга клиентов. Azure предоставит своим клиентам доступ к различным инструментам OpenAI, таким как языковая система GPT-3.5, на которой которой работает ChatGPТ.

О каком развитии ИИ, квантовых вычислений, космоса в стране может идти речь, если законопроект об отсрочке от военной службы при частичной мобилизации для кандидатов и докторов наук отклонила ГД.

В заключении правового управления Госдумы сообщается, что законопроект, предусматривающий отсрочку кандидатов и докторов наук от частичной мобилизации, не согласовывается с подходом в законодательстве о мобилизации. Соответствующий документ опубликован в системе обеспечения
законодательной деятельности.

Если нет уважения и понимания к образованию, то все пойдёт на регресс https://news.1rj.ru/str/blockchainRF/6823

Посмотрите, как вы будете делать покупки онлайн с помощью AR и генеративного ИИ

Этот эксперимент с дополненной реальностью (AR) показывает новый подход взаимодействия потребителей с онлайн-площадками.

В этом кейсе с WebAR используются отражения в реальном времени, имитация ткани и некоторых текстур, сгенерированных с помощью ИИ.

AR прототип использует изображения на мобильном устройстве для отслеживания, которые соотносятся с указанными элементами цифровой одежды. Все текстуры одежды сгенерированы с помощью Dalle2.

Вот таким образом скоро сможем ежедневно взаимодействовать с миром с помощью AR-очков.

Объем доминирования стейблкоина достиг рекордного уровня - данные Kaiko

Сегодня почти 90% всех сделок BTC проводятся с использованием стейблкоина. Kaiko анализировали объем торговли BTC с 4 стейблкоинами относительно 7 наиболее распространенных фиатных валют.

Всплеск использования стейблкоинов начался этим летом после того, как Binance исключил торговлю для пар BTC-BUSD и BTC-USDT. Тем не менее, растущее доминирование стейблкоинов является долгосрочной тенденцией, которая впервые появилась в 2018 году.

В целом, за последний год на деятельность BTC-fiat повлияло более строгое регулирование и падение институциональной активности.

Wow! стейблкоин USDC оказался менее спекулятивным, чем доллар США - годовой отчет Circle

Южная Корея переносит Сеул в метавселенную

Южная Корея создаёт копию своей столицы в метавселенной с целью улучшения предоставления государственных услуг.

Предполагается, что строительство Metaverse Seoul завершится к 2026 году.

На первом этапе гражданам предложат использовать аватары, чтобы получить ответы на вопросы в налоговой сфере, найти поддержку для малого бизнеса и даже читать электронные книги.

На следующих этапах метавселенная расширится до услуг в сфере недвижимости и иностранных инвесторов, включая дополненную реальность для управления муниципальной инфраструктурой.

Также планируется внедрение блокчейна и криптовалют.

Южная Корея создаёт метавселенную в рамках своей гос инициативы «Новый цифровой курс», об этом мы писали здесь https://news.1rj.ru/str/blockchainRF/7316

Кроме того, аналогичный курс держит и Япония, об их опыте мы писали здесь https://news.1rj.ru/str/blockchainRF/6884

Также не отстаёт от тренда Норвегия, тут их планы https://news.1rj.ru/str/blockchainRF/7001

США потратят $858 000 000 000 на оборону в 2023г.,4% от этой суммы пойдут на стартапы

Сотни компаний сейчас работают на оборонный сектор, начиная от ИИ до космоса — вот как эта экосистема выглядит сейчас, смотрите таблицу.

В начале марта 2022 года мы написали, что кризис в РФ по ИИ обеспечен, сегодняшняя статья в Коммерсанте это подтвердила.

Согласно утверждённой правительством дорожной карте, соглашение по которой подписали с исполнителями в этот понедельник, Правительство до 2030 года направит около 24,6 млрд руб. на развитие технологий искусственного интеллекта в РФ, еще около 100 млрд руб. в направление вложит Сбербанк.

К 2024 году, согласно документу, объем рынка технологий на базе ИИ в России составит 14 млрд руб., что более чем в 10 раз меньше оценок, заложенных в аналогичную программу от 2019 года.

Объем ожидаемого внебюджетного финансирования снизился еще драматичнее — с 334 млрд руб. до 2024 года до 111 млрд руб. уже до 2030 года.

К тому же, если концепция от 2019 года предполагала, что к 2024 году объем внутреннего рынка ИИ-технологий составит 160 млрд руб., то в новой «дорожной карте» этот показатель снижен более чем на порядок — до 14 млрд руб.

Судя по документу, развитие ИИ-технологий в России пойдет по четырем направлениям: «обработка естественного языка и синтез речи», «компьютерное зрение», «перспективные методы искусственного интеллекта» и «интеллектуальная поддержка принятия решений».

Если не читали наш прогноз о кризисе в развитии ИИ, то вот ссылка https://news.1rj.ru/str/blockchainRF/5663

2023 - время, когда мы увидим более четкое стремление к AGI

Во-первых, посмотрите, как вокруг ChatGPT сейчас раздувается информационная повестка, это свежий эксклюзив от Time 😁

Они пишут: «OpenAI использовала кенийских итшников за $2/час , чтобы те работали на ChatGPT».

Тут хочется отметить, ребята, вы серьезно считаете эту новость достойной внимания? Смешно.

Давайте по существу, что надо отметить:

1. Большая информационная волна играет только на руку OpenAI, так как повышается капитализация к их продукту.

2. Основываясь на простом анализе, наиболее вероятными источниками AGI могут стать Google или MIcrosoft. Если крупномасштабные DNNs не будут эффективным путем к AGI, а нейронно-символические эволюционные методы лучше, тогда все становится интереснее.

3. Из-за альянса, который возник между этими альтернативными подходами к ИИ (например, OpenCog) и децентрализованной программной экосистемой (например, SingularityNET и тд.), есть вероятность того, что AGI получится децентрализованным.

В продолжение к предыдущему посту

Google: We have the best AI in the world, we can show examples but you can’t have it

Tesla: We have an AI supercomputer but it doesn’t work

Meta*: We had 10k AI engineers but they all quit

IBM: Our AI works! We promise! Wink wink

Microsoft: Want some AI? That’ll be $26

*Запрещенная организация в РФ

Россия могла бы сделать госИИ, но даже его вряд ли сможет сделать в силу ряда причин, одна из которых - рассинхронность во взаимодействии.

Проблема ИИ, который делает сейчас правительство РФ вместе с околостоящими организациями состоит в том, что ответственными за идеи и разработку являются эти структуры:

1. Минцифры России
2. Минздрав России
3. Минсельхоз России
4. Минобрнауки России
5. Минпромторг России
6. Минпросвещения России
7. Минстрой России
8. Минтранс России
9. Росстандарт
10. Сбер
11. Управление делами Президента Российской Федерации
12. Национальный центр развития искусственного интеллекта при Правительстве Российской Федерации (Высшая школа экономики)
13. АНО «Аналитический центр при Правительстве Российской Федерации»
14. АНО «Национальные приоритеты»
15. РАНХиГС
16. АНО «Университет 2035»
17. АНО «Россия – страна возможностей»
18. Фонд «Талант и Успех»
19. ФГБУ «Фонд содействия развитию малых форм предприятий в научно-технической сфере»
20. Фонд «Сколково»
21. Институт системного программирования В.П.Иванникова РАН (исследовательский центр в сфере искусственного интеллекта)
22. МФТИ (исследовательский центр в сфере искусственного интеллекта)
23. Центр компетенций НТИ по искусственному интеллекту при МФТИ
24. Высшая школа экономики (исследовательский центр в сфере искусственного интеллекта)
25. Сколтех (исследовательский центр в сфере искусственного интеллекта)
26. Университет Иннополис (исследовательский центр в сфере искусственного интеллекта)
27. Университет ИТМО (исследовательский центр в сфере искусственного интеллекта)
28. Центр НТИ по машинному обучению и когнитивным технологиям на базе ИТМО
29. Центр компетенций НТИ по большим данным на базе МГУ имени М.В.Ломоносова
30. Академия криптографии Российской Федерации


При всем уважении к этим организациям, но откуда у них знания и опыт в ИИ?

Почему так много АНО и всяких центров компетенций, которые по сути не являются носителями реальных знаний и опыта?

Сейчас правительство докладывает, что все показатели 2022 года не просто выполнены , а перевыполнены. Санкции - не санкции:)

Интересует вопрос, раскройте, пожалуйста, очень простые данные относительно электронных трудовых книжек.

Какое количество людей пользуется реально этим продуктом?

ПФР, раскройте реальные данные.

⚡️ Linux Foundation запускает Open Metaverse Foundation

Linux учредила Open Metaverse Foundation для создания программного обеспечения и стандартов с открытым исходным кодом для открытой метавселенной.

Цель состоит в том, чтобы предоставить пространство для совместной работы различных отраслей над разработкой программного обеспечения и стандартов с открытым исходным кодом для инклюзивной, глобальной, независимой от поставщиков и масштабируемой метавселенной.

Многие передовые компании и сообщества разработчиков открытого исходного кода присоединились в качестве учредителей:

Cloud Native Computing Foundation
Futurewei
GenXP
Hyperledger Foundation
LF Edge & Networking
Open Voice Network
Veriken.

⚡️⚡️ Google заявил о разработке API-интерфейсов для генеративного ИИ

Гигант представил своё видение развития ИИ.

Научно-исследовательская компания Flashbots, которая работает для Ethereum собирается привлечь $50 млн инвестиций для MEV-boost

Раунд инвестиций может возглавить Paradigm.

Flashbots пытается уменьшить проблемы, связанные с централизованной максимальной извлекаемой стоимостью (MEV) в блокчейне Ethereum.

MEV относится к максимальной стоимости, которую можно извлечь из производства блоков сверх стандартных вознаграждений за блоки и комиссии за газ в Ethereum. Это сопряжено с риском передачи большого контроля над сетью в руки нескольких участников с ноу-хау MEV, чтобы извлечь выгоду из извлечения блоков за счет обычных пользователей.

Flashbots работает над вариантами уменьшения негативных последствий MEV с помощью MEV-boost.

Согласно официальным данным Flashbots, на ее долю приходится до 60% всех блоков в Ethereum.

В прошлом году система подверглась критике из-за того, что она подвергает цензуре транзакции, связанные с сервисом Tornado Cash, который попал под санкции Минфина США.

В августе прошлого годаFlashbots заявила, что откроет исходный код.

ГД примет во 2-м чтении законопроект о расширении обязательной геномной регистрации

Правительственные поправки к законам «О государственной геномной регистрации», «О порядке отбывания административного ареста» и «О персональных данных» были приняты в первом чтении еще в декабре 2020 года.

Авторы инициативы предложили существенно расширить перечень лиц, подлежащих обязательной государственной геномной регистрации (сейчас анализ ДНК берут лишь у осужденных за совершение тяжких и особо тяжких преступлений, а также любых преступлений против половой неприкосновенности), включив в него всех осужденных и отбывающих наказание в виде лишения свободы, подозреваемых и обвиняемых в совершении любых преступлений, а также лиц, подвергнутых административному аресту.

Предполагается также наделить Следственный комитет полномочиями по проведению обязательной государственной геномной регистрации и уточнить перераспределение функций по ее проведению между органами государственной власти.

В прошлом году было объявлено, что биотех и генетика - новая экономика

По этому поводу вот ряд важных моментов по этой теме:

1. Пример Китая, который монетизирует и не только генетические данные своих граждан https://news.1rj.ru/str/blockchainRF/4317

2. Вот поручения В. Путина, которые были даны в прошлом году по совещанию относительно генетики https://news.1rj.ru/str/blockchainRF/5297

3. МГУ, Роснефть и Курчатовский институт - центры развития генетики https://news.1rj.ru/str/blockchainRF/4946

Росфинмониторинг потратит 340 млн руб. на модуль для мониторинга и анализа криптовалютных трансакций.

2 года назад на это ведомство собиралось потратить всего 14,7 млн руб., об этом писали здесь.

С учетом прежних тендеров на систему будет потрачено свыше 1 млрд руб.

Средства пойдут на расширение состава отслеживаемых криптовалют(bitcoin, bitcoin cash, litecoin, dogecoin) улучшение анализа сведений о владельцах адресов, обеспечение мониторинга, уделяется больше внимания развитию информационного анализа и управления рисками на основе обмена информацией с внешними базами данных.

Однако ситуация осложняется тем, что это во многом международный бизнес, а сейчас контакты с зарубежными странами фактически заморожены.

Забавно, что все хотят использовать ИИ для написания контента, но в то же время никто не хочет читать контент, написанный ИИ.

Парадокс больших языковых моделей.