🇺🇸 Господдержка проектов иностранных инвесторов

TSMC получила обещания США на субсидирование в объеме $6,6 млрд

Так правительство США обещает поддержать стройку TSMC производств в Фениксе, Аризоне. Об этом сообщает Reuters.

Тайваньской компании обещаны недорогие госзаймы на $6.6 млрд в качестве поддержки ее проекта по развертыванию в Аризоне 2-х фабрик к 2030 году. В свою очередь тайваньцы готовы вложить в проект еще на $25 млрд больше - до $65 млрд, сообщает Минторг США. Как ожидается, на втором фабе будет производиться передовая продукция, с использованием техпроцессов, которые принято называть 2-х нанометровыми. Производство на этом фабе, как ожидается, начнется в 2028 году.

"Это чипы, которые лежат в основе всего ИИ, это чипы, которые необходимы для технологий, необходимых для различных отраслей экономики и, будем честны, это основа военной и национальной безопасности в 21-м веке", - комментирует решение Джина Раймондо из Минторга США. Производство на первой фабрике TSMC в Аризоне планируется начать в 1H2025.

С объемом более $65 млрд это будут крупнейшие прямые зарубежные инвестиции в проект в США. Это больше, чем правительство США планирует потратить на стимулирование увеличения внутренней разработки и производства полупроводников в рамках Закона о чипах и науке (с его планами субсидий на общую сумму в $52,7 млрд).

TSMC Arizona также будет поддерживать развитие передовых технологий упаковки / корпусирования с участием партнеров в США, что позволит клиентам покупать передовые микросхемы, целиком произведенные в США. В Минторге заявили, что 70% клиентов TSMC это американские компании (справедливости ради, следует упомянуть, что этот уровень получился после отлучения ряда китайских производителей от контрактного производства TSMC).

Как ожидается, этот проект создаст 6 тысяч рабочих мест на производстве и 20 тысяч - в строительстве. Кроме того, это вызовет приток в США 14 прямых поставщиков TSMC, поскольку они уже планируют расширить свое присутствие в США, в том числе, построить новые фабрики. По данным американского ведомства, после выхода на полную мощность, заводы TSMC в Аризоне будут производить десятки миллионов передовых чипов для смартфонов 5G/6G, автономных транспортных средств, серверов ЦОД и систем ИИ.

Продукция этих фабов TSMC в Аризоне востребована прежде всего такими гигантами американской промышленности, как Apple, NVidia, AMD, Qualcomm.

Поскольку в США невозможно строить производства без соблюдения сложных и многообразных экологических требований, TSMC отдельно заявляет, что ее фабы в Аризоне будут стремиться достичь уровня рециркуляции воды до 90%, что минимизирует сбросы загрязненной жидкости.

Это очередной грант Минторга после гранта на $8.5 млрд и кредита на $11 млрд для Intel. Теперь уже нельзя будет отказать корейцам из Samsung Electronics, которые также ожидают поддержки своих инвестиционных проектов в микроэлектронику США. Скорее всего о выделенной для этой компании сумме объявят на следующей неделе.

Как видим, в США наконец ускорился процесс распределения средств господдержки, выделенных в рамках Закона о науке и чипах. В теории это должно подстегнуть процессы строительства новых предприятий и попыток США нарастить внутреннее производство чипов. Дадут ли многомиллиардные вливания, общая сумма которых превысит $100 млрд, какой-то зримый эффект в виде росте доли США на мировом рынке микроэлектроники?

Возможно, но не обязательно. Оптимизм может смениться разочарованием, "бытовые трудности" развития бизнеса в США могут сделать даже столь мощные попытки неэффективными.

А пока что за США можно порадоваться - у этой страны есть союзники, готовые за свой счет построить в США с десяток новых фабрик, инвестировать в экономику США более сотни миллиардов долларов. Почему-то в США не слышно возражений от местных производителей, прежде всего от Intel, что приход в страну TSMC и Samsung Electronics оставит их без заказов или без шансов на победу в конкурентной борьбе. Не опасаются здесь, похоже, и утечки мозгов или американских технологий в Японию или в Корею.

(2) UPD: В США планируют выделить TSMC $6 млрд в виде грантов и еще $5 млрд в виде займов для того, чтобы компания с Тайваня реализовала свои крупные проекты строительства фабрик с поддержкой топовых техпроцессов производства микросхем в Аризоне. Об этом рассказал Bloomberg. Ожидается, что проект также получит налоговую льготу на инвестиции.

Схема аналогична той, что будет использована на поддержку Intel - грантов на $8.5 млрд и кредитов на $11 млрд,

Итого у TSMC будет 3 фабрики в Аризоне. Срок запуска первой сдвинулся на 2025 год после долгого конфликта с американскими профсоюзами, срок запуска второго фаба (3нм) уже перенесен с 2026-го на 2028 год, третий, в Финиксе, попробуют запустить до конца 2030 года. Ожидается что он предоставит возможность доступа к технологиям 2нм.

Денег еще придется подождать, по американским правилам компании придется пройти "комплексную проверку". Затем деньги будут выделяться в зависимости от темпов строительства и дат запуска производства. США могут потребовать их возврата, если TSMC не выполнит свою часть сделки.

Можно ожидать, что если этим проектам суждено быть реализованными, важность Тайваня для США и для всего мира заметно снизится.

🔥 Интервью

А вот и заявленное вчера большое интервью с Василием Шпаком вышло на CNews.ru . Стоит, конечно, почитать целиком. Ниже - отдельные тезисы, которые привлекли меня. В двойных скобках вырвавшиеся у меня комменты.

🔹 Интервью было по согласованному списку вопросов, согласовать удалось только половину того, о чем журналисты хотели спросить ((секреты)).

🔹 Технологическая независимость в области электроники нужна государствам, которые хотят транслировать гражданам и вовне свою политику

🔹 В ближайшие 15-30 лет ИИ не сможет решить всех тех задач, которые сможет решить только человек. ИИ лишь оптимизирует процесс. ИИ не создает нового. (На мой взгляд, - ошибка).

🔹 Полным стеком технологий в области микроэлектроники не обладает ни одна страна мира. И в ближайшие 10 лет такого не будет, чтобы все у какой-то страны было. В 1979 году в микроэлектронике отставание было не более, чем на 1 поколение от США, было лидерство в СВЧ-электронике, в вакуумной технике.

🔹 В ЕС и США инфляция, с экономическим и промышленным ростом все не очень. Возможностей для того, чтобы масштабно инвестировать в микроэлектронику у США нет, а бизнес вкладывать не будет, т.к. будущее туманно.

🔹 Нам нужен рынок около 450 млн человек. Нужна международная кооперация - Страны ЕАЭС, Узбекистан, в нашей зоне точно окажется Иран, с высокой долей вероятности и Турция. Это и арабские страны: Объединенные Арабские Эмираты, Саудовская Аравия, Сирия, Ливан, Египет. ((Не передовые в области технологий микроэлектроники / электроники страны)). С Китаем нужны равнозначные / равносторонние отношения.

🔹 Нужно заниматься НИОКРами, разработкой материалов, химии, электронных машин, конечных изделий, микросхем и т.п. Нужны люди, способные все это делать - это основа. Этим занимаемся - планируем разработку >100 видов оборудования, более 250 типов материалов, более 350 хим. веществ ((используется в микроэлектронике около 1000). Запущено 40 проектов по оборудованию, 39 - в области материалов и хим веществ. Средства производства - фундамент, нужно электронное машиностроение - шагаем туда. Отбить гигантские вложения позволит только рынок упомянутого выше размера. Отсюда = необходимость международной кооперации с перечисленными странами, внедрений производимого.

🔹 Экспорт из РФ "достаточно серьезный", больше всего - в Китай.

🔹 Странный пассаж о технологическом маршруте производства микросхем на алюминиевых пластинах 200 мм до 180 мм. ((Наверное речь о металлизированных пластинах)).
К 2030 году 70% мы должны сделать своего.

🔹 К 2030 году до 3нм, 2нм не добежим. Но если есть оборудование 28 нм, то получится сделать и 14 нм. На этой технологии вполне возможно сделать нормальный вычислитель для нейросетей ((ой-ой, а что будет с энергопотреблением?? на толстых техпроцессах оно выше, чем на тонких))

🔹 Кремниевые слитки (кристаллы). Две ОКР планируются на 2024 год:
1) разработка технологий изготовление и организация производства слитков и полированных пластин нейтронно-трансмутационно легированного монокристаллического кремния диаметром 150 мм для силовых электронных компонентов (тиристоры, биполярные транзисторы с изолированным затвором (IGBT), быстровосстанавливающиеся диоды FRD различных классов для использования в железнодорожном и автомобильном электротранспорте, зарядной инфраструктуре, изделиях электронной компонентной базы).
2) создание технологии получения и организации производства особо чистых кремнийсодержащих материалов из технического трихлорсилана, в том числе слитков кремния поликристаллического особо чистого и слитков кремния монокристаллического.
В Калининграде производятся слитки и пластины для фотовольтаики. Компания думает в сторону производства монокристаллов и кремниевых пластин.

(2) 🔹 По критическим материалам на 70% собственного должны выйти к 2030 году. Приоритезация - заменить то, что закупали на "Западе". Сами уже производим высокочистые неон, криптон, ксенон, пластины арсенида галлия VGF ((не густо пока)). Уже организуются проекты по организации производства 100+ материалов. Серийно к концу года будет порядка 10 материалов ((а надо всего около 1000)). В 2025 году в серию выйдет еще порядка 60 материалов. Проблема в том, что российская микроэлектроника не потребляет много материалов (по объему), что делает российскую продукцию дорогой ((нет эффекта экономии на масштабе)).

🔹 Упомянуто о сотрудничестве с Интегралом - стараемся не дублировать его продукцию, лучше размещать заказы у них. Есть совместная программа по электронному машиностроению ((это наверное про Планар)). Готовность фотолитографа 350 нм - в 2024 году, 130 нм - к концу 2026 года, запущена разработка электронно-лучевого литографа (востребован для СВЧ).
Возможно есть партнеры и проекты в других странах, но это секрет.

🔹 Выстроена система меро поддержки - субсидии, прежде всего, немало уже проинвестровано, более 450 проектов по ПП 109, 156 млрд руб. Ожидаем выручку 580 млрд от этих инвестиций, как минимум.
В разработке компонентов - 122 проекта, вложено субсидий - 118 млрд руб, плановая реализация - не менее 95 млрд руб., 3 года этой программе поддержки.

🔹 Отдельные предприятия растут в двузначных цифрах.

🔹 У нас некуда вложить суммы, которые вкладывают в НИОКР в США. Но эта возможность растет, к 2026-2027 году выйдем на активную кооперацию с другими странами.

🔹 Если нас отключат от международного сообщества RISC-V, сможем продолжить работу - у нас есть десятки компаний, кто этим занимается.

🔹 Пост-реестровые проверки внедрим в 2024 году.

🔹 Сейчас приходится конкурировать с китайскими решениями. Это "более, чем решаемая задача".

🔹 Все и так маркируется, а значит можно наладить централизованную систему прослеживаемости через маркировку составных частей и конечных изделий. Это поможет и в контроле российскости / нероссийскости. В целом пригодится для принятия обоснованных управленческих решений. Плюс вырастет оперативность в отслеживании ситуации. Пока это эксперимент - до апреля 2025, в нем участвует 458 участников рынка.

🔹 Хотелось бы освоить получение из лома электронной продукции РЗМ, работает над этим много коллег сейчас. Маркировка - ключевой элемент и для этого.

🔹 Кадровая проблема есть. Инженер это прежде всего про математику и физику, а не про информатику.

🔹 Доля финансовых организаций в прибыли сейчас 80% и будет стремительно возвращаться к 5%.

🔹 Средняя зарплата разработчика в электроники - от 100 тыр. (не только в Москве). Условный начальник отдела - от 200, руководитель разработки следующего уровня - от 300 тыр. "Нет других цен".
Дефицит людей колоссальный и будет расти.

🔹 Технологические полигоны - это места кооперации ученых, инженеров. технологов и студентов. Пилот - ЗНТЦ + Планар + МИЭТ + Протон. На первом этапе здесь займутся степперами и электронно-лучевыми литографами, оборудованием контроля дефектности и комплексами для производства фотошаблонов для технологий уровня 90 нм. Литограф - не исчерпывает тему оборудования, нужно собрать всю линейку линии, на ней уже учиться - российское оборудование, материалы, химия. Это 2025 года задача. Первый промышленный образец литографа 350 нм появится в 2024 году с возможностью коммерческого заказа. К нему создается плазмохимический кластер и т.п. К 2026 году будет создан литограф 130 нм. Лазеры к нему создаются в РФ, В 2024 году запустим работу, которая позволит дойти до 90-65 нм. Полигоны будут и другие.

🔹 Идет работа над отечественным ПО для проектирования микросхем. Также поддержан субсидиями проект по САПР для корпусирования цифровых схем. Часть решений будет на базе открытого кода. Кое-что будет готово еще в 2024 году.

🔥 Появятся "неубиваемые телефоны", которые годами и десятилетиями будут с вами, как паспорт, у них будет только ПО меняться. ((Ой-ой-ой..))

Титанический труд CNews - моя признательность, отличная работа! 🥇 👍

🇹🇼 🇯🇵 Кадры. Тайвань. Япония

Битва друзей за кадры микроэлектроники

TSMC, как мы знаем, в пожарном порядке разворачивает производства не только в США, но и в Японии. Здесь тайваньской компании нравится - хвалят правительство Японии за гостеприимство, поддержку субсидиями и регуляторикой, четкое соблюдение обязательств (чего не наблюдается в США).

Но есть проблема. Экспансия требует кадров. А с ними дефицит во всем мире. TSMC строит в Японии два фаба, уже вербует сотрудников и уже убедилась в сложностях этого дела.

Не удивительно, что компания двинулась проверенным и известным путем - заключать соглашения с универами Кумамото и Кюсю, - об этом сообщает Nikkey Asia. Но это путь долгий, и мало что гарантирующий - уровень образования после универа не обязательно достаточен для начала работы на столь технологически передовом предприятии, как заводы TSMC, плюс страновая разница культур, плюс нелюбовь японцев к иностранному, плюс конкуренция за дефицитные кадры с другими предприятиями, плюс в целом сокращение числа молодежи в стране. В общем, заполнить будущие заводы TSMC квалифицированным персоналом будет той еще проблемой.

Тайваньцы готовы тратиться - в частности, выплачивать стипендии талантливым студентам.

В выигрыше будет Япония. Вряд ли выученные на тайваньские деньги студенты уедут на Тайвань, скорее, если им захочется уйти из TSMC, они перейдут в тот же Rapidus, так что оттока квалифицированных кадров Япония вряд ли может опасаться, а вот их рост вполне возможен в связи с экспансией TSMC, эти фабы прокачают через себя немало людей, сделав из них специалистов в области микроэлектроники.

🇯🇵 Производственное оборудование. Упаковка

Когда речь заходит о производственном оборудовании, первое, что приходит обычно на ум, это фотолитографы. На деле ими набор необходимого оборудования не исчерпывается. Есть растущий интерес рынка к ряду других решений. Одно из быстро растущих направлений - различные решения в области упаковки / корпусирования чипов.

Мало известная в широких кругах японская компания Towa Corp. с ее 2 тысячами сотрудников, располагается в Японии, которая все еще только собирается оправиться после разгрома успешного восхождения своей микроэлектроники в конце 80-х - начале 90-х. Тогда сложился ряд факторов, от внутренних проблем японской экономики до недостатка инноваций и инвестиций, а также из-за начала подъема микроэлектронного производства в Южной Корее на Тайване. США тоже приложили к этому руку, вводились некоторые ограничения на экспорт в Японию технологий.

Сейчас, в рамках борьбы с Китаем, США нужны сильные союзники, в том числе по части технологий, способные производить современную микроэлектронику. Можно наблюдать, как опять в Японию вкачиваются самые современные технологии, инвестиции, как американские, так и тайваньские. У японцев появился второй шанс себя показать на ниве микроэлектроники (хотя отдельные ниши они и так сумели отстоять, например, ходовые DUV-литографы, фоторезисты, измерительное оборудование и т.п.)

Вернусь к компании Towa Corp. Несмотря на малоизвестность этого бренда, компания существует с 1979 года. Сегодня ее клиенты - звезды первой величины - корейские SK Hynix, Samsung Electronics и американская Micron - топ-3 производителей памяти в мире. Они закупают машины для компрессионного формования, которые сейчас используются при изготовлении многослойной памяти. Компания занимает примерно... 100% мирового рынка такого оборудования. Спрос на продукцию велик, десятки машин ежегодно, компания не почивает на лаврах и готовит новый продукт, который обещает вдвое сократить стоимость формовки при удвоении скорости формования. Массовое производство новой машины запланировано на 2028 год.

Акции этой небольшой японской компании выросли в цене на 390%, сообщает Bloomberg - это связывают с ростом спроса на ИИ, для которых нужна память, которую и запекают на японских машинах. Не знаю, получала ли эта компания госсубсидии, или этот бизнес развился естественным путем вокруг перспективной технологии.

🎓 Профильные источники информации

🔹 Сегодня ко мне постучался Сергей Воробьев, автор пока что небольшого канала SVMicro, посвященного упаковке / корпусированию микросхем. Кому интересна тема - загляните, возможно захотите подписаться.

🔹 На сайте CTA (Современная электроника и технологии автоматизации) периодически выходят публикации по нашей тематике (доступ открытый, бесплатный). Собрали для вас подборку за последний год.

🔸 Преимущества переноса производства микросхем малой степени интеграции на кремниевые пластины большего диаметра https://www.cta.ru/articles/soel/2024/2024-3/178369/

🔸 Открытие квантовых точек и разработка технологии их массового производства. Часть 1. Полупроводниковые наноматериалы с эффектом запрета перемещения зарядов по определённым направлениям
https://www.cta.ru/articles/soel/2024/2024-2/178209/

🔸 Объединение человека и машины для совершенствования полупроводниковых технологий
https://www.cta.ru/articles/soel/2023/2023-7/169729/

🔸 Одномолекулярные аналоги электронных компонентов. Часть 1. Перенос заряда через одну молекулу
https://www.cta.ru/articles/soel/2023/2023-7/169728/

🔸 Одномолекулярные аналоги электронных компонентов. Часть 2. Одномолекулярные аналоги классических электронных компонентов
https://www.cta.ru/articles/soel/2023/2023-8/169781/

🔸 Современные продукты компании Microchip. Особенности 32-разрядных микроконтроллеров семейства SAM
https://www.cta.ru/articles/soel/2023/2023-5/169466/

🔸 Квантовые электронные компоненты Часть 1. Молекулярная электроника и квантовые точки
https://www.cta.ru/articles/soel/2023/2023-3/169169/

🔸 Квантовые электронные компоненты. Часть 2. Квантовые транзисторы
https://www.cta.ru/articles/soel/2023/2023-5/169461/

🇻🇳 Участники глобального рынка. Вьетнам

Правительство Вьетнама попросило компанию Viettel заняться развитием полупроводниковой индустрии более активно

Вьетнам видит в конфликте США и Китая возможность стать заметным участником мирового рынка микроэлектроники. США ищет альтернативы Китаю с примерно тем же уровнем стоимости издержек производства. Вьетнам - один из кандидатов.

Во Вьетнаме на сегодня пейзаж в области микроэлектроники в основном сформирован зарубежными компаниями, американскими и южнокорейскими. На рынке страны действуют Intel, Samsung, Amkor, Qualcomm и Marvell. Конечно, вьетнамцы хотят и свой фаб, и строят планы по его созданию к концу двадцатых годов. Сложности создают классические проблемы - не самая развитая транспортная инфраструктура (плохие дороги), нестабильные и ограниченные энергоресурсы, нехватка квалифицированных кадров на рынке страны.

На этой неделе премьер-министр Вьетнама Фам Минь Чинь попросил телекоммуникационную компанию Viettel, за которой стоят военные, более эффективно и разнообразно развивать отрасль микроэлектроники, сообщает Reuters.

Viettel - финансово успешная компания, которая может дать хорошую основу для создания микроэлектронного бизнеса. Тем более, что правительство страны обещает в 2024 году ввести ряд налоговых льгот и создать инвестиционные фонды для поддержки развития полупроводниковой промышленности в рамках своего плана по усилению поддержки этой отрасли. Видимо во Вьетнаме решили взять за образец успех Huawei.

🇺🇸 Кастомные процессоры. Тренды

Google представил новый CPU Arm процессор и тензорные ускорители для ЦОД ИИ

Google раскрыл подробности о новой версии своих чипов для ИИ и анонсировал процессор на базе Arm. Подробности предлагает Reuters.

Тензорные процессоры Google (TPU) - одна из немногих жизнеспособных альтернатив передовым чипам для систем ИИ, производимым Nvidia. Особенность предложения компании - доступ к этим чипам можно получить только через облачную платформу Google, купить их напрямую - не получится. Компания Alphabet, дочерная компания Google, заявила, что новый чип TPU v5p рассчитан на работу в блоках по 8690 микросхем и обещает вдвое большую производительность, чем TPU прежнего поколения. Конечно же, модули получили жидкостное охлаждение - родовая особенность соврменных систем ИИ.

Google планирует расширить свое предложение облачных мощностей доступом к центральным процессорам Axion на базе Arm. Как утверждает компания, их производительность выше, чем у процессоров x86 и обычных неоптимизированных Arm-процессоров, доступных через облако.

"Мы упрощаем клиентам перенос существующих рабочих нагрузок на Arm", - заявил Марк Ломейер, вице-президент Google Cloud и генеральный менеджер по инфраструктуре вычислений и ML. "Axion построен на идеологии открытых платформ, клиенты, которые уже используют процессоры Arm архитектуры, могут переходить на Axion без перепроектирования или переписывания своих приложений".

Конкурирующие облачные операторы, как Amazon.com и Microsoft, тоже создали Arm процессоры, чтобы дифференцировать предлагаемые ими вычислительные услуги. У Google уже были чипы для YouTube, ИИ и своих смартфонов. В разработке предыдущих чипов TPU с Google сотрудничала с Broadcom. В Google отказались комментировать - использовала ли компания партнеров в разработке Axion или TPU v5p.

Чип Axion, по заявлению компании, обеспечивает производительность на 30% больше, чем у чипов Arm "общего назначения" и на 50% выше, чем чипы x86 текущего поколения компаний Intel и AMD.

В Google планируют использовать Axion для поддержки таких сервисов как реклама на Youtube с развертыванием соответствующих мощностей в Google Cloud "в ближайшее время". TPU v5p уже доступен в облаке Google.

Какие обобщения напрашиваются из этой заметки:

🔹 Крупные IT компании успешно справляются с проектированием различных, даже самых сложных и передовых чипов, включая чипы CPU / TPU под свои (и клиентские) нужды, причем выдают конкурентную продукцию, сокращая рынок для компаний, которые занимаются только разработкой и выпуском микросхем общего применения;

🔹 Процессоры на базе Arm успешно проникают в сервера и ЦОДы, обещают высокую производительность и сниженное энергопотребление;

🔹 Жидкостное охлаждение (и высокие мощности, подводимые к стойкам) - спутник современных больших моделей ИИ, реализуемых на базе ЦОД

🔹 Облачные предложения - значимая альтернатива строительству и обслуживания собственной инфраструктуры (банально, но важно упомянуть)

🇷🇺 Наука

Не совсем в тему микроэлектроники, это, скорее, о смене вектора в целом для всей науки в России. На сайте правительства РФ можно почитать конспект посвященной этой теме встречи премьера Михаила Мишустина с президентом РАН Геннадием Красниковым, приуроченной к 300-летию РАН. Что я оттуда почерпнул:

🔹 Если раньше KPI было по "научным публикациям", то теперь будет "по внедрениям". Собственно раньше тоже всегда был раздел про полезность для народного хозяйства / внедрениях, но, возможно, теперь будет чуть больше крен в эту область. Для академической науки это, конечно, такое себе. Где фундаментальная наука и где внедрения? А вот прикладной науке, конечно, нужно выстраивать прямые связи с производителями.

🔹 Идентифицировали сложную проблему. Что есть расширяющаяся сфера того, что хотелось бы изучить-исследовать. И раньше было, что научные учреждения сами выбирают из предложенного им списка направлений (наиболее приоритетных и просто приоритетных), что им исследовать. И получалось, что много институтов исследовало одно и то же, тогда как ряд направлений оставались без внимания вовсе.

Сейчас это хотят отрегулировать следующим образом.

На востребованных тематиках будет выбрано по 5 "лучших" (по некоему рейтингу) институтов, всем остальным предложат заняться другими направлениями из ежегодного списка. Желательно, в соответствии с названием (профилем) института.

Времена "вольницы" и конкуренции завершаются и в науке, возвращаемся к большей роли планирования и распределению заданий.

Я, к счастью, не руковожу наукой в РФ, и не берусь оценивать правильность этого поворота. Будем надеяться, что конкуренции 5 институтов по востребованным направлениям хватит, чтобы дойти до каких-то интересных и востребованных результатов, а выбор этих институтов по рейтингу не оставит за бортом тех, кто действительно силен в той или иной теме.

Заявляется, что такой подход отвечает задаче более рационального расходования бюджетных средств.. что же, поглядим, что из этого получится.

Про микроэлектронику на встрече не упоминалось, а жаль.

🇺🇸 Участники рынка. Производители памяти

Землетрясение на Тайване все же скажется на рынке микроэлектроники. Но весьма умеренно

Американский производитель чипов памяти Micron Technology сегодня сообщил, что землетрясение на Тайване негативно скажется на ее поставках DRAM, сократив их почти на 1%. Подробности предлагает Reuters.

У Micron - четыре производственные локации на Тайване. Компания все еще не вышла на полную мощность производства DRAM, но в Micron отмечают, что это не повлияет на ее долгосрочные возможности в плане поставок чипов.

В целом, для компании это не более, чем "досадный эпизод", т.к. в остальном дела у нее складываются неплохо - спрос на память растет из-за бурного развития индустрии ИИ. В феврале Micron заявляла, что начала массовое производство чипов памяти HBM (с высокой пропускной способностью), которые, как ожидается, покупает NVidia для своих ускорителей H200. Уже распределены все чипы, которые будут выпущены в 2024 году и часть чипов производства 2025 года. В сообщении компании не выделено, затронуло ли землетрясение производство чипов HBM.

🇺🇸 GPU. Микросхемы для ИИ. США

Intel представила новые ускорители ИИ - Gaudi3

Попробую пересказать вам публикацию The Register. Тема для меня сложная, так что всех адресую к источнику.

Новинка Intel Habana Gaudi3, на первый взгляд, не выглядит конкурентом для NVidia G100. Во-первых, задействован более зрелый техпроцесс, во-вторых, более медленная память HBM, что ограничивает производительность. Тем не менее, команда Гелсингера настаивает, что ее разработка может не только конкурировать с изделиями NVidia в приложениях инференции, но даже превосходить их по скорости обучения.

Ускоритель был представлен Intel во вторник, через 4 года после того, как компания отказалась от архитектуры Nervana в пользу ускорители Gaudi от Habana, почти через 2 года после выхода чипов Gaudi 2.

Для своего 3-го поколения команда Habana выбрала многокристалльную архитектуру. То есть пошла путем NVidia и AMD, которые уже внедрили современную упаковку / корпусирование в свою практику.

В сравнении с MI300X от AMD, или даже в сравнении с собственными интеловскими Ponte Vecchio GPU, Gaudi3 это сравнительно консервативное решение, в нем высокоскоростное соединение объединяет всего лишь пару вычисляющих кристаллов.

Кроме этого в составе ускорителя Gaudi3 - 8 матричных математических процессора, 64 тензорных ядра, 95 МБ SRAM, 128 ГБ HBM2e.

В свою очередь 2 вычислительных кристалла содержат 8 матричных математических процессоров; 64 тензорных ядра; 96 МБ кэш-памяти SRAM; 16 линий PCIe 5.0 и 24 канала 200GbE. Вокруг кристаллов 8 стеков памяти HBM2e с общей емкостью 128 ГБ и пропускной способностью 3.7 ТБ/с.

Хотя все это сооружение схоже с графическими процессорами NVidia Blackwell, главный операционный директор Habana Эйтан Медина подчеркивает, что Gaudi3 - НЕ графический процессор. (..)

(2)

"Графические процессоры - изделия для рендера графики. Графический рендеринг - рендеринг пикселей, поэтому, естественный выбор - это собрать воедино множество небольших исполнительных блоков", - объясняет он. "Для рендеринга графики вам не нужно гигантское матричное умножение".

Gaudi3 построен с использованием куда меньшего количества очень больших и мощных "математических движков", способных эффективно обрабатывать рабочие нагрузки ИИ, утверждает Медина. "У нас была возможность создавать Gaudi исключительно под задачи ИИ".

По иронии судьбы, следующим ускорителем ИИ, который Intel собирается вывести на рынок в 2025 году будет GPU.

Intel заявляет, что новинка способна выдавать 1835 Тфлопс в режиме FP8, то есть примерно x2 относительно его предшественника и потребляет от 600 Вт до 900 Вт в зависимости от выбранного заказчиком форм-фактора, будь то PCIe или OAM.

В этой части мир ускорителей ИИ несколько сложен для сравнений.

Бумажная производительность

Раскрытие производительности для операций с плавающей запятой - это заметное отклонение от позиции Intel. И компании утверждает, что этот показатель - не слишком хороший индикатор производительности ИИ. Понятно, почему это заявляется. Gaudi3, который выходит спустя 2 года после того, как NVidia представила H100 с почти 4 Пфлопс производительностью в режиме FP8, Gaudi3 едва дотягивает до половины этого показателя. Маловато будет?

Впрочем, цифры лукавы. 1835 Тфлопс, заявленные Intel соответствуют производительности для "плотных операций" с плавающей запятой, а в Nvidia полагались на разреженность таких операций, подсчитывая заявленные 4 Пфлопс. Если это учитывать, то возможно Gaudi3 всего примерно на 144 Тфлопс медленнее чем H100, но при этом располагает большим ресурсом памяти. (..)

(3) Есть еще AMD MI300X, который остается лидером по части FP8 в терминах FLOPS, по крайней мере до тех пор, пока детали Nvidia Blackwell не попадут в руки покупателей. Как ожидается, это случится еще в этом году, но не исключено, что более-менее массовым этот продукт станет лишь в 2025 году.

В любом случае, FP8 это только часть истории. В вычислениях с половинной точностью Gaudi3 показывает себя совсем с другой стороны. За счет небольшого трюка, Gaudi3 может выдать те же 1835 Тфлопс в FP16, что и в FP8, обещая преимущество в 1,85 раз перед H100 и преимущество в 1,4 раз над MI300X. Чего этот изделие не обеспечит, так это поддержки разреженности, что означает, что H100 и MI300X сохранят за собой рынок, где это важно.

"Разреженность - это то, что тщательно исследуется, но мы от нее не зависим", - говорит Медина, добавляя, что у Intel "нет ближайших планов" по поддержке разреженности в Gaudi3 ни для обучения, ни для инференции.

Производительность операций с плавающей запятой - это лишь один из показателей производительности ИИ, не обязательно хороший. Пропускная способность памяти и ее объем также играют огромную роль в производительности, особенно, для более крупных моделей ИИ, которые все актуальнее.

Выбор в пользу не самой передовой памяти, то есть HBM2e, а не HBM3, как у H100 и MI300X или HBM3e у H200, - ставит ее в странное положение. (..)

(4) С 8-ю стеками HBM2e, Gaudi3 на деле имеет больше памяти и работает она быстрее, чем NVidia H100 с 5-ю стеками HBM3. Но, конечно, новинка Intel, сильно отстает от H200 и MI300X с их 4,8 ГБ/c и 5.3 ТБс пропускной способностью, соответственно.

По словам Медины, выбор в пользу HBM2 - дань управлению рисками. "Наша методология - использовать только такие IP, которые уже были проверены в кремнии до того, как мы возьмем их в свое изделие. В тот момент, когда мы проектировали Gaudi3, еще не было доступных для покупки физических слоев, которые бы отвечали нашим стандартам".

Это, однако, позволяет предположить, что вывод Gaudi3 на рынок, возможно, занял больше времени, чем планировалось, с чем Intel до недавнего времени боролась, готовя линейки чипов для ЦОД.

Масштабирование

Еще одна история - пропускная способность межсетевых соединений.

В зависимости от количества задействованных параметров и точности вычислений, будь то FP8 или FP16/BF16, модель ИИ нередко работает не на одном, а на нескольких ускорителях. Например, чтобы обсчитывать модель со 175 млрд параметров на FP16, необходимо, минимум, пять H100, каждая с 80 ГБ на борту, чтобы модель уместилась в памяти.

Для этого NVidia и AMD используют специализированные межсоединения, называемые NVLink и Infinity Fabric, соответственно, которые обеспечивают пропускную способность около 900 ГБ/с для объединения 8 или более ускорителей. Для сравнения, Gaudi3 использует старенький RDMA поверх Converged Ethernet (ROCe) (..)