Nvidia unveils next-gen Blackwell GPUs with 25X lower costs and energy consumption | VentureBeat
https://venturebeat.com/ai/nvidia-unveils-next-gen-blackwell-gpus-with-25x-lower-costs-and-energy-consumption/
https://venturebeat.com/ai/nvidia-unveils-next-gen-blackwell-gpus-with-25x-lower-costs-and-energy-consumption/
VentureBeat
Nvidia unveils next-gen Blackwell GPUs with 25X lower costs and energy consumption
Nvidia unveiled its next-generation Blackwell GPUs which have 25X better energy consumption and lower costs.
What's a NIM? Nvidia Inference Manager is new approach to gen AI model deployment that could change the industry | VentureBeat
https://venturebeat.com/ai/whats-a-nim-nvidia-inference-manager-is-new-approach-to-gen-ai-model-deployment-that-could-change-the-industry/
https://venturebeat.com/ai/whats-a-nim-nvidia-inference-manager-is-new-approach-to-gen-ai-model-deployment-that-could-change-the-industry/
VentureBeat
What’s a NIM? Nvidia Inference Microservices is new approach to gen AI model deployment that could change the industry
Nvidia's new NIM packages inference engines, industry standard APIs and support for AI models into containers for easy model deployment.
황 CEO는 ‘삼성의 HBM을 엔비디아 칩에 적용하고 있는가’ 질문에 “우리는 지금 삼성 HBM을 현재 테스트하고 있다(qualifying)”며 “기대가 크다”고 언급했다. 아직 사용하고 있지 않느냐는 질문에는 “기대가 크다”고 덧붙였다.
https://m.edaily.co.kr/news/read?newsId=01308726638825288&mediaCodeNo=257
https://m.edaily.co.kr/news/read?newsId=01308726638825288&mediaCodeNo=257
이데일리
젠슨 황 엔비디아 CEO “삼성 HBM 메모리 테스트 중…기대 커"
인공지능(AI) 칩 선두 주자인 미국 반도체 기업 엔비디아의 젠슨 황 최고경영자(CEO)는 19일(현지시간) “삼성전자의 고대역폭 메모리(HBM)를 테스트하고 있다”며 “기대가 크다”고 밝혔다.젠슨 황 엔비디아 최고경영자(CEO)황 CEO는 엔비디아의 연례 개발자...
Mustafa Suleyman, DeepMind and Inflection Co-founder, joins Microsoft to lead Copilot - The Official Microsoft Blog
https://blogs.microsoft.com/blog/2024/03/19/mustafa-suleyman-deepmind-and-inflection-co-founder-joins-microsoft-to-lead-copilot/
https://blogs.microsoft.com/blog/2024/03/19/mustafa-suleyman-deepmind-and-inflection-co-founder-joins-microsoft-to-lead-copilot/
The Official Microsoft Blog
Mustafa Suleyman, DeepMind and Inflection Co-founder, joins Microsoft to lead Copilot
Satya Nadella, Chairman and CEO, shared the below communication today with Microsoft employees. I want to share an exciting and important organizational update today. We are in Year 2 of the AI platform shift and must ensure we have the capability and capacity…
Micron Technology, Inc. Reports Results for the Second Quarter of Fiscal 2024 | Micron Technology
https://investors.micron.com/news-releases/news-release-details/micron-technology-inc-reports-results-second-quarter-fiscal-2024
https://investors.micron.com/news-releases/news-release-details/micron-technology-inc-reports-results-second-quarter-fiscal-2024
[DB금융투자 반도체 서승연]
Micron FY2Q24 실적이 발표되었습니다. 실적 발표 후 Micron은 시간외 16% 상승 중입니다.
Micron 실적 및 주요 코멘트 업데이트 드립니다. 업무에 도움이 되시길 바랍니다. 감사합니다.
■ FY2Q24 실적 요약
[매출] $58.2억 (컨센서스 $53.6억)
[GPM] 20.0% (컨센서스 13.6%)
[EPS] $0.42 (컨센서스 -$0.24)
[재고] 160일 (전분기 159일)
*Non-GAPP 기준
[DRAM]
- B/G: +한자릿수% 초반 QoQ
- ASP: +10% 후반 QoQ
[NAND]
- B/G: -한자릿수% 초반 QoQ
- ASP: +30% 이상 QoQ
■ FY3Q24 가이던스
[매출] $64~68억 (컨센서스 $59.9억)
[GPM] 25~28% (컨센서스 21%)
[EPS] $0.38~0.52 (컨센서스 $0.24)
*Non-GAPP 기준
■ CY24 산업 가이던스
[DRAM]
- 산업 수요 B/G: 약 +10% 중반 예상 (vs 종전 +10% 중반 예상). CAGR +10% 중반 예상
- 산업 공급 B/G: 산업 수요 B/G 하회 예상
- 당사 공급 B/G (FY24): 산업 수요 B/G 하회 예상
[NAND]
- 산업 수요 B/G: +10% 중반 예상 (vs 종전 +20% 초반 하회 예상). CAGR +20% 초반 예상
- 산업 공급 B/G: 산업 수요 B/G 하회 예상
- 당사 공급 B/G (FY24): 산업 수요 B/G 하회 예상
■ FY24 Capex, 공급, 재고 가이던스
- Capex: $75~80억로 종전과 동일. WFE Capex는 FY23 대비 감소할 것
- FY24말 DRAM, NAND 캐파는 캐파 고점이었던 FY22 대비 -두자릿수 초반% 예상
- HBM 램프업은 non-HBM 생산 증가를 제한시키는 요인. 동일한 테노드 기준 HBM3E는 D5 대비 웨이퍼 소비가 약 3배 많음. HBM4에서는 더 타이트할 것
- FY24 DRAM, NAND 재고일수 감소 예상
■ 기술 및 생산
- DRAM bit의 3/4 이상은 1α, 1ß. NAND bit의 90% 이상이 176단, 232단
- EUV와 non-EUV 공정 간 1α, 1ß에서 비슷한 수율 달성 중
- EUV를 활용한 1γ (1-gamma) DRAM 파일럿 생산 중이며 CY25 양산 예정
- 차세대 NAND 개발 진행 중이며 CY25 양산 목표
■ 수요처별 코멘트
- 데이터센터: CY24 서버 출하량은 +한자릿수 중후반% 예상 (vs 종전 +한자릿수 중반% YoY). 이는 강력한 AI 서버 성장률과 전통 일반 서버의 완연한 성장 전환에 따름. 메모리 대역폭, 소비전력, 전반적인 성능 향상은 GPU 또는 ASIC가 내장된 AI 서버의 효율적인 워크로드 능력에 중요한 요인임. 당사 고객사들은 높은 탑재량, 성능의 메모리와 스토리지가 요구되는 GPU, ASIC 기반 서버 플랫폼 로드맵을 지니고 있음. 예를 들어 금주 Nvidia는 HBM3E 탑재량이 기존 제품 대비 33% 증가하는 차세대 Blackwell GPU를 발표한 바 있음. 당사 HBM 제품 로드맵은 순조롭게 진행되고 있으며 캐파, 수율, 품질이 두드러지게 개선되고 있음. 당사는 HBM3E 양산 시작했으며 FY2Q24 매출에 처음으로 반영했음. HBM3E 양산 출하 본격적으로 진행 중. 고객사들은 당사 HBM3E이 경쟁사 대비 30% 낮은 소비전력을 지녔다고 지속 피드백하며 강력한 수요로 이어지고 있음. 당사 HBM3E는 Nvidia의 H200 Tensor Core GPU에 탑재될 예정이며 다수의 고객사들에게도 퀄 진행 중. FY24 HBM 매출은 수억달러로 예상하며 FY3Q24부터 HBM 매출이 DRAM과 GPM 내 추가될 것으로 전망. 당사 CY24 HBM 물량은 sold out되었으며 CY25 생산의 대부분은 HBM으로 이미 할당했음. 25년 전체 DRAM bit 비중과 HBM bit 비중 동일할 것으로 전망. 이번달 초 당사는 12hi HBM3E 제품 샘플 출하. 당사는 12hi HBM3E 양산 예정이며 25년 믹스 높아질 것으로 전망. 또한 당사는 금번 분기에 산업계 최초로 모노다이 베이스 128GB 고용량 서버 DRAM 모듈 인증을 완료. 추가적으로 256GB MCRDIMM 모듈 샘플링 시작
- PC: PC 출하량은 CY24 +한자릿수 초반% YoY 예상 (vs 종전 +한자릿수 초중반% YoY). AI PC는 고성능 NPU와 기존 PC 대비 40~80% 많은 DRAM 탑재량이 필요함. CY25 전체 PC 출하량 내 AI PC 비중이 유의미하게 증가할 것으로 전망. 올초 CES에서 당사는 업계 최초로 PC용 LPCAMM2를 선보인 바 있음. 또한 금번 분기 당사는 232단 Crucial T705 Gen5 SSD 출시했음. 당사 클라이언트 SSD QLC bit 출하는 사상 최대치를 기록했으며 클라이언트 SSD 출하의 약 2/3 기록함
- 모바일: 스마트폰 출하량은 CY24 +한자릿수 초중반% YoY 예상. AI 스마트폰은 non-AI 스마트폰 대비 DRAM 탑재량 50~100% 증가할 것. 현재 당사는 1ß LPDRAM 5X 샘플링 중이며 232단 NAND UFS 4.0 두번째 세대 발표한 바 있음. 올초 출시된 삼성 갤럭시S24, Honor Magic 6프로 스마트폰에 당사 DRAM, NAND 솔루션 탑재됨
- 차량용: 차량용은 비메모리 공급 병목이 완화와 신차 출시로 메모리, 스토리지 수요가 강력하게 발생 중. Level 2+ ADAS 채택되며 탑재량 증가 모멘텀 지속 중
■ 주요 코멘트
타이트한 수급 기반 강력한 가격 상승 시현. 이는 AI 서버 수요 강세, 대부분 전방 시장의 건전한 수요, 산업 전반적인 감산에 기인함. AI 서버 수요는 DRAM, NAND 선단공정의 HBM, DDR5, 데이터센터 SSD 위주 급증 중. 이는 전반적인 메모리 가격에 긍정적으로 작용함. CY24 DRAM, NAND 가격은 추가 상승할 것으로 예상되며 FY25 사상 최대 매출과 개선된 수익성 전망
[수요처별 재고 현황]
데이터센터향 메모리, 스토리지 재고 개선은 두드러지게 관찰되고 있음. CY24 상반기까지 재고 정상화 지속될 것으로 전망. PC와 스마트폰은 출하량 (+)성장 전환에 따른 전략적 구매 수요가 CY4Q23에 발생했음. 차량, 산업용 재고는 정상 수준 가깝게 유지되었음
Micron FY2Q24 실적이 발표되었습니다. 실적 발표 후 Micron은 시간외 16% 상승 중입니다.
Micron 실적 및 주요 코멘트 업데이트 드립니다. 업무에 도움이 되시길 바랍니다. 감사합니다.
■ FY2Q24 실적 요약
[매출] $58.2억 (컨센서스 $53.6억)
[GPM] 20.0% (컨센서스 13.6%)
[EPS] $0.42 (컨센서스 -$0.24)
[재고] 160일 (전분기 159일)
*Non-GAPP 기준
[DRAM]
- B/G: +한자릿수% 초반 QoQ
- ASP: +10% 후반 QoQ
[NAND]
- B/G: -한자릿수% 초반 QoQ
- ASP: +30% 이상 QoQ
■ FY3Q24 가이던스
[매출] $64~68억 (컨센서스 $59.9억)
[GPM] 25~28% (컨센서스 21%)
[EPS] $0.38~0.52 (컨센서스 $0.24)
*Non-GAPP 기준
■ CY24 산업 가이던스
[DRAM]
- 산업 수요 B/G: 약 +10% 중반 예상 (vs 종전 +10% 중반 예상). CAGR +10% 중반 예상
- 산업 공급 B/G: 산업 수요 B/G 하회 예상
- 당사 공급 B/G (FY24): 산업 수요 B/G 하회 예상
[NAND]
- 산업 수요 B/G: +10% 중반 예상 (vs 종전 +20% 초반 하회 예상). CAGR +20% 초반 예상
- 산업 공급 B/G: 산업 수요 B/G 하회 예상
- 당사 공급 B/G (FY24): 산업 수요 B/G 하회 예상
■ FY24 Capex, 공급, 재고 가이던스
- Capex: $75~80억로 종전과 동일. WFE Capex는 FY23 대비 감소할 것
- FY24말 DRAM, NAND 캐파는 캐파 고점이었던 FY22 대비 -두자릿수 초반% 예상
- HBM 램프업은 non-HBM 생산 증가를 제한시키는 요인. 동일한 테노드 기준 HBM3E는 D5 대비 웨이퍼 소비가 약 3배 많음. HBM4에서는 더 타이트할 것
- FY24 DRAM, NAND 재고일수 감소 예상
■ 기술 및 생산
- DRAM bit의 3/4 이상은 1α, 1ß. NAND bit의 90% 이상이 176단, 232단
- EUV와 non-EUV 공정 간 1α, 1ß에서 비슷한 수율 달성 중
- EUV를 활용한 1γ (1-gamma) DRAM 파일럿 생산 중이며 CY25 양산 예정
- 차세대 NAND 개발 진행 중이며 CY25 양산 목표
■ 수요처별 코멘트
- 데이터센터: CY24 서버 출하량은 +한자릿수 중후반% 예상 (vs 종전 +한자릿수 중반% YoY). 이는 강력한 AI 서버 성장률과 전통 일반 서버의 완연한 성장 전환에 따름. 메모리 대역폭, 소비전력, 전반적인 성능 향상은 GPU 또는 ASIC가 내장된 AI 서버의 효율적인 워크로드 능력에 중요한 요인임. 당사 고객사들은 높은 탑재량, 성능의 메모리와 스토리지가 요구되는 GPU, ASIC 기반 서버 플랫폼 로드맵을 지니고 있음. 예를 들어 금주 Nvidia는 HBM3E 탑재량이 기존 제품 대비 33% 증가하는 차세대 Blackwell GPU를 발표한 바 있음. 당사 HBM 제품 로드맵은 순조롭게 진행되고 있으며 캐파, 수율, 품질이 두드러지게 개선되고 있음. 당사는 HBM3E 양산 시작했으며 FY2Q24 매출에 처음으로 반영했음. HBM3E 양산 출하 본격적으로 진행 중. 고객사들은 당사 HBM3E이 경쟁사 대비 30% 낮은 소비전력을 지녔다고 지속 피드백하며 강력한 수요로 이어지고 있음. 당사 HBM3E는 Nvidia의 H200 Tensor Core GPU에 탑재될 예정이며 다수의 고객사들에게도 퀄 진행 중. FY24 HBM 매출은 수억달러로 예상하며 FY3Q24부터 HBM 매출이 DRAM과 GPM 내 추가될 것으로 전망. 당사 CY24 HBM 물량은 sold out되었으며 CY25 생산의 대부분은 HBM으로 이미 할당했음. 25년 전체 DRAM bit 비중과 HBM bit 비중 동일할 것으로 전망. 이번달 초 당사는 12hi HBM3E 제품 샘플 출하. 당사는 12hi HBM3E 양산 예정이며 25년 믹스 높아질 것으로 전망. 또한 당사는 금번 분기에 산업계 최초로 모노다이 베이스 128GB 고용량 서버 DRAM 모듈 인증을 완료. 추가적으로 256GB MCRDIMM 모듈 샘플링 시작
- PC: PC 출하량은 CY24 +한자릿수 초반% YoY 예상 (vs 종전 +한자릿수 초중반% YoY). AI PC는 고성능 NPU와 기존 PC 대비 40~80% 많은 DRAM 탑재량이 필요함. CY25 전체 PC 출하량 내 AI PC 비중이 유의미하게 증가할 것으로 전망. 올초 CES에서 당사는 업계 최초로 PC용 LPCAMM2를 선보인 바 있음. 또한 금번 분기 당사는 232단 Crucial T705 Gen5 SSD 출시했음. 당사 클라이언트 SSD QLC bit 출하는 사상 최대치를 기록했으며 클라이언트 SSD 출하의 약 2/3 기록함
- 모바일: 스마트폰 출하량은 CY24 +한자릿수 초중반% YoY 예상. AI 스마트폰은 non-AI 스마트폰 대비 DRAM 탑재량 50~100% 증가할 것. 현재 당사는 1ß LPDRAM 5X 샘플링 중이며 232단 NAND UFS 4.0 두번째 세대 발표한 바 있음. 올초 출시된 삼성 갤럭시S24, Honor Magic 6프로 스마트폰에 당사 DRAM, NAND 솔루션 탑재됨
- 차량용: 차량용은 비메모리 공급 병목이 완화와 신차 출시로 메모리, 스토리지 수요가 강력하게 발생 중. Level 2+ ADAS 채택되며 탑재량 증가 모멘텀 지속 중
■ 주요 코멘트
타이트한 수급 기반 강력한 가격 상승 시현. 이는 AI 서버 수요 강세, 대부분 전방 시장의 건전한 수요, 산업 전반적인 감산에 기인함. AI 서버 수요는 DRAM, NAND 선단공정의 HBM, DDR5, 데이터센터 SSD 위주 급증 중. 이는 전반적인 메모리 가격에 긍정적으로 작용함. CY24 DRAM, NAND 가격은 추가 상승할 것으로 예상되며 FY25 사상 최대 매출과 개선된 수익성 전망
[수요처별 재고 현황]
데이터센터향 메모리, 스토리지 재고 개선은 두드러지게 관찰되고 있음. CY24 상반기까지 재고 정상화 지속될 것으로 전망. PC와 스마트폰은 출하량 (+)성장 전환에 따른 전략적 구매 수요가 CY4Q23에 발생했음. 차량, 산업용 재고는 정상 수준 가깝게 유지되었음
[DB금융투자 반도체 서승연]
Micron FY2Q24 Review: 타이트한 공급 재확인
■ FY2Q24 Review: 시장 예상을 상회한 실적
Micron의 FY2Q24 매출과 EPS는 각각 $58.2억(+23% QoQ, +58% YoY), 0.71달러(흑자전환 QoQ, 흑자전환 YoY, GAPP 기준)으로 시장 예상치를 상회했다. AI 서버 수요 강세, 전방 시장의 완연한 수요, 메모리 산업계 전반적인 감산 영향으로 메모리 가격이 전분기 대비 큰 폭으로 상승했다(DRAM +19% QoQ, NAND +30% QoQ). 특히 PC와 스마트폰 출하량 증가에 따른 고객사들의 전략적 구매 수요가 관찰되었으며 데이터센터 고객사들의 재고 개선 역시 두드러지고 있다.
■ AI가 이끄는 메모리 수요 vs 타이트한 메모리 공급
GPU, ASIC 고객사들의 HBM 출하와 퀄이 활발히 진행 중임을 밝힌 동사는 CY24 HBM 물량이 이미 완판되었다고 밝혔다. 최근 NVIDIA가 공개한 Blackwell GPU에 동사의 HBM3E가 탑재될 것이라고 밝혔으며 양산 시작된 동사의 HBM3E는 금번 분기(FY2Q24) 매출에 반영되기 시작했다. 동사는 AI PC와 AI 스마트폰 내 대당 DRAM 탑재량이 기존 대비 각각 40~80%, 50~100% 증가할 것이라 언급하며 AI 서버 뿐만 아니라 AI PC, AI 스마트폰에 대한 전망 역시 긍정적으로 제시했다. 한편 DRAM 공급은 HBM 램프업으로 제한적일 전망이다. 동일한 tech node 기준 HBM3E가 DDR5대비 3배 많은 웨이퍼가 소모된다고 밝히며 타이트한 DRAM 공급 전망을 재차 강조했다. HBM4에서는 3배 이상의 웨이퍼 소모가 예상된다.
■ 메모리 반도체 개선세 지속. 메모리 업종 비중 확대 의견 유지
DRAM 공급사들의 재고 감소세가 지속되고 있는 가운데 HBM전환에 따른 2024년 DRAM 업황 개선이 예상된다. 당사 DRAM 모델에 따르면 HBM은 DDR 대비 2.2~2.3배 큰 die 크기로 1anm 기준 57%의 net die 패널티가 발생하는 것으로 추정된다. 하반기 추론 AI 확산에 따른 일반 서버 교체와 HBM, 선단 공정 전환에 따른 DRAM 생산 b/g 감소에 기반해 메모리 반도체에 대해 비중 확대 의견을 유지한다.
보고서 링크: https://zrr.kr/0Qrf
Micron FY2Q24 Review: 타이트한 공급 재확인
■ FY2Q24 Review: 시장 예상을 상회한 실적
Micron의 FY2Q24 매출과 EPS는 각각 $58.2억(+23% QoQ, +58% YoY), 0.71달러(흑자전환 QoQ, 흑자전환 YoY, GAPP 기준)으로 시장 예상치를 상회했다. AI 서버 수요 강세, 전방 시장의 완연한 수요, 메모리 산업계 전반적인 감산 영향으로 메모리 가격이 전분기 대비 큰 폭으로 상승했다(DRAM +19% QoQ, NAND +30% QoQ). 특히 PC와 스마트폰 출하량 증가에 따른 고객사들의 전략적 구매 수요가 관찰되었으며 데이터센터 고객사들의 재고 개선 역시 두드러지고 있다.
■ AI가 이끄는 메모리 수요 vs 타이트한 메모리 공급
GPU, ASIC 고객사들의 HBM 출하와 퀄이 활발히 진행 중임을 밝힌 동사는 CY24 HBM 물량이 이미 완판되었다고 밝혔다. 최근 NVIDIA가 공개한 Blackwell GPU에 동사의 HBM3E가 탑재될 것이라고 밝혔으며 양산 시작된 동사의 HBM3E는 금번 분기(FY2Q24) 매출에 반영되기 시작했다. 동사는 AI PC와 AI 스마트폰 내 대당 DRAM 탑재량이 기존 대비 각각 40~80%, 50~100% 증가할 것이라 언급하며 AI 서버 뿐만 아니라 AI PC, AI 스마트폰에 대한 전망 역시 긍정적으로 제시했다. 한편 DRAM 공급은 HBM 램프업으로 제한적일 전망이다. 동일한 tech node 기준 HBM3E가 DDR5대비 3배 많은 웨이퍼가 소모된다고 밝히며 타이트한 DRAM 공급 전망을 재차 강조했다. HBM4에서는 3배 이상의 웨이퍼 소모가 예상된다.
■ 메모리 반도체 개선세 지속. 메모리 업종 비중 확대 의견 유지
DRAM 공급사들의 재고 감소세가 지속되고 있는 가운데 HBM전환에 따른 2024년 DRAM 업황 개선이 예상된다. 당사 DRAM 모델에 따르면 HBM은 DDR 대비 2.2~2.3배 큰 die 크기로 1anm 기준 57%의 net die 패널티가 발생하는 것으로 추정된다. 하반기 추론 AI 확산에 따른 일반 서버 교체와 HBM, 선단 공정 전환에 따른 DRAM 생산 b/g 감소에 기반해 메모리 반도체에 대해 비중 확대 의견을 유지한다.
보고서 링크: https://zrr.kr/0Qrf
Everything Announced at Microsoft Copilot and Surface Event - Video - CNET
https://www.cnet.com/videos/everything-announced-at-microsoft-copilot-and-surface-event/
https://www.cnet.com/videos/everything-announced-at-microsoft-copilot-and-surface-event/
CNET
Everything Announced at Microsoft Copilot and Surface Event - Video
Microsoft holds a Windows 11 Copilot event for PCs and Surface devices for business users. Check out our recap here.
Domestic chip tool companies take centre stage at Semicon China with US counterparts largely absent amid tech war | South China Morning Post
https://www.google.com/amp/s/amp.scmp.com/tech/big-tech/article/3256241/domestic-chip-tool-companies-take-centre-stage-semicon-china-us-counterparts-largely-absent-amid
https://www.google.com/amp/s/amp.scmp.com/tech/big-tech/article/3256241/domestic-chip-tool-companies-take-centre-stage-semicon-china-us-counterparts-largely-absent-amid
China blocks use of Intel and AMD chips in government computers
https://www.ft.com/content/7bf0f79b-dea7-49fa-8253-f678d5acd64a
https://www.ft.com/content/7bf0f79b-dea7-49fa-8253-f678d5acd64a
DB증권 Tech 서승연, 조현지
China blocks use of Intel and AMD chips in government computers https://www.ft.com/content/7bf0f79b-dea7-49fa-8253-f678d5acd64a
Reuters
China blocks use of Intel and AMD chips in government computers, FT reports
China has introduced guidelines to phase out U.S. microprocessors from Intel and AMD from government personal computers and servers, the Financial Times reported on Sunday.