위 자료 토대로 HBM 메모리 자료 및 숫자 정리해봤습니다.

* HBM 현황(JPM)

* HBM2~HBM3E 합산 시장규모
- 2022년 17억 달러
- 2023년 41억 달러(yy +132%)
- 2024년 78억 달러(yy +89%)
- 2025년 118억 달러(yy +50%)

* HBM 제품 어플리케이션별 성장률
[2023년]
- HBM2 yy +110%
- HBM2E yy +87%
- HBM3 yy +313%

[2024년]
- HBM2 yy +30%
- HBM2E yy -27%
- HBM3 yy +232%
- HBM3E 신규진입

[2025년]
- HBM2 yy +39%
- HBM2E yy +3%
- HBM3 yy +16%
- HBM3E yy +301%

* 공급자별 HBM 제품 매출전망
* HBM 제품 합산 시장규모 x 공급사별 점유율 전망치
[2023년]
- SKH 21.2억 달러
- SEC 18.7억 달러
- MU 1.67억 달러

[2024년]
- SKH 40.2억 달러(yy +89%)
- SEC 34.7억 달러(yy +85%)
- MU 4.74억 달러(yy +183%)

[2025년]
- SKH 53.4억 달러(yy +32%)
- SEC 52.2억 달러(yy +50%)
- MU 13억 달러(yy +174%)

[HBM 제품 개발 로드맵]
* SEC
4Q23~ HBM3 16GB (1Z)
1Q24~ HBM3 24GB (1Z)
3Q24~ HBM3E 24GB (1a)
4Q24~ HBM3E 36GB (1a) / leading

* SKH
4Q22~ HBM3 16GB (1Z) / leading
4Q23~ HBM3 24GB (1Z) / leading
2Q24~ HBM3E 24GB (1a) / leading
1Q25~ HBM3E 36GB (1a)

* MU
1Q24~ HBM3E 24GB / (1b)
3Q24~ HBM3E 36GB / (1b)

HMB3 16GB
- SKH, 4Q22 1st production
- SEC, 4Q23 2nd production / about 1 years behind

HMB3 24GB
- SKH, 4Q23 1st production
- SEC, 1Q24 2nd production / about 1 quarter behind

HBM3E 24GB
- SKH, 2Q24 1st production
- SEC, 3Q24 2nd production / about 1 quarter behind

HBM3E 36GB
- SEC, 4Q24 1st production
- SKH, 1Q25 2nd production / about 1 quarter behind

* Nvidia A100에 적용되는 HBM3 16GB의 경우 SK하이닉스와 삼성전자의 격차는 대략 1년(닉스 4Q22, 전자 4Q23)

* HBM3 24GB 부터는 SK하이닉스와 삼성전자의 격차가 대략 1분기로 좁혀짐(닉스 4Q23, 전자 1Q24)

* 고객 입장에서는 선택권이 넓어질 것

* HBM3E 24GB 또한 SK하이닉스와 삼성전자의 격차 대략 1분기(닉스 2Q24, 전자 3Q24)

* HBM3E 36GB 부터는 삼성전자가 SK하이닉스보다 1분기 앞서는 상황이 연출됨(전자 4Q24, 닉스 1Q25)

* 올해 9월부터 삼성전자는 엔비디아 HBM + 2.5D 패키징 턴키 수주 따기 위해 퀄 테스트 진행 중

[최근 분기 HBM 코멘트]

1. SK하이닉스

- 2분기, HBM 제품을 포함한 그래픽 D램 매출은 그동안 한 자릿수에 불과했으나 지난 4분기 10% 차지, 이후 매 분기 빠르게 증가, 2분기 전체 D램 매출 20% 상회, DDR5, HBM 출하량 전분기 대비 두배 이상 성장

- 올해 연결기준 투자 금액 작년 대비 50% 이상 축소하는 기존 계획 유지하여 투자 집행 중. 제한된 투자 규모 내 DDR5, HBM3 등 수요 성장 주도 부문에 Capa 확보 위해 노력 중

- HBM 로드맵은 가속기 시장 주도하고 있는 그래픽 프로세서 업체들과 협력하여 출시 간격을 잘 지켜봐야 함, 약 2년 간격으로 HBM2E -> HBM3 -> HBM3E 탑재 게획을 보면 2년 간격으로 제품 수명주기 움직이는 상황, 2026년부터는 HBM4로 넘어갈 것으로 보고 있음

- 선학습(Pre-Trained)에서 실시간 지속 학습으로 연결되면서 사이클이 쉬는 시기가 완화될 것

- 올해 HBM 양산 확대에 필요한 1z 비중 확대, 내년에는 상반기 공급 예정인 HBM3E를 위한 1b와 TSV Capa 확보중에 있음
- 24년 상반기에 1b nm를 적용한 LPDDR5T와 HBM3E에도 확대 적용할 것

- DDR5, 128GB 이상 고용량 서버 모듈과 HBM 매출 전년 대비 2배 이상 성장 예상, 내년 더욱 확대될 것

2. 삼성전자
- 외부 기관에 따르면 HBM 수요 빠르게 늘어날 것으로 예상, 중장기 관점 5년 동안 CAGR 30% 중후반 성장 예상

- HBM2, 주요 고객사에 독점 공급, 후속 HBM2E 제품 사업 원활히 진행 중
- 다음 세대인 HBM3, 고객 퀄 진행 중, 8단 16GB, 12단 24GB 제품을 주요 AI SoC 업체와 클라우드 업체에 출하 시작
- 다음 세대인 HBM3P 제품은 24GB 기반 하반기 출시 예정

- 업계 최고 수준의 HBM 생산 능력 유지 중. 전년 대비 2배 수준인 10억GB 중반을 넘어서는 고객 수요 확보, 하반기 추가 수주 대비하여 생산성 향상 추진 중
- 24년 HBM Capa, 23년 대비 최소 2배 이상 확보 중. 향후 수요 변화에 따라 추가 대응 계획

#엔비디아 #제품라인업

엔비디아 제품 라인업도 정리해봤습니다. 기대가 되는 점은 그레이스하퍼200 칩을 대량으로 사용한 DGX GH200 Server용 슈퍼컴퓨터입니다. 대략적으로 계산해보면 HBM3 or HBM3E 제품이 36,096GB 정도 사용됩니다.

(볼드처리 = HBM 사용 GPU)

* NVIDIA
2Q20~ (훈련/추론) A100 GPU(7nm, 80GB HBM2e, 2GB 8-Hi stacked 16GB 6ea)
2Q20~ (훈련/추론) A800 GPU(7nm, 40GB HBM2e, ?) [중국 수출 전용 제품, A100 다운그레이드]
4Q20~ A40 GPU(?, 48GB GDDR6)
2Q21~ (훈련/추론) A30 GPU(?, 24GB HBM2)
2H21~ A16 GPU(?, 16GB GDDR6, max 4ea)
2Q21~ A10 GPU(?, 24GB GDDR6)
4Q21~ A2 GPU(?, 16GB GDDR6)
4Q22~ L40 GPU(?, 48G DDR6 with ECC)
3Q23~4Q23~ L40S GPU(?, 48GB GDDR6 with ECC)
1Q23~ (추론) L4 GPU(?, 24GB)
4Q22~ (훈련/추론) H100 GPU(4nm, 80GB HBM3, 2GB 8-Hi stacked 16GB 6ea)
2Q23~ (훈련/추론) H800 GPU(4nm, 40GB HBM3, 2GB 8-Hi stacked 16GB 6ea)
2Q24~ (훈련/추론) GH200(CPU+GPU) GPU(4nm, 141GB HBM3e, ?)
4Q23~ (훈련/추론) DGX GH200 Server용 (GH200 256ea(36,096GB HBM3 or etc) + 1ExaFLOPS Transformer Engine + 144 TB GPU Memory)

* GH200 / H100 GPU 만든 후 본인들이 제작한 CPU Grace랑 GPU Hopper랑 섞은 제품
* H100만 사용하면 각각 계산할 내용을 다 뿌려줘야 함

* GH200을 사용하면 2.5D 구조로 CPU와 GPU 합쳐져 있으니, 병목도 없어지고 하나의 시스템으로 계산 -> 거대 LLM 활용 시 효율적
* 이러한 GH200을 서버용 제품으로 만든 제품이 DGX GH200 Server

* x86 프로세서로 진행하면 AI로 각각 잘개 쪼개서 처리하던 부분을, CPU와 GPU 한꺼번에 처리
* GH에 NVLink 지원하게 되면서 병렬/단일코딩, GPU끼리 초당 900GB

HBM3 24GB 부터 SK하이닉스와 삼성전자 제품 로드맵 기간 차이가 기존 1년에서 1분기로 좁혀집니다. (4Q23 닉스, 1Q24 전자)

관련하여 삼성전자 및 삼성전자 HBM 벨류체인에 대한 코멘트 공유드립니다.

- 반도체 업황은 공급 Side 줄이면서 바닥을 확인, 그에 대한 반등 나온 상황, 추가적인 수요 반등은 요원한 상황. 개인적으로는 수요 반등에 대해서는 예상하기 어렵다고 봄.

- 오히려 반도체 수급은 HBM, DDR5 등 고성장에 더 집중될 것

- SK하이닉스에 이어서 이제는 삼성전자의 HBM 랠리 또한 시작될 것, 전자에 HBM 벨류가 반영되어 있지 않다고 봄

- 기본적으로 SK하이닉스가 가져가던 HBM의 부가가치보다 삼성전자가 창출할 수 있는 부가가치가 더 클것 이라는 프레임

- 현재 GPU-파운드리-HBM 구조에서 가장 크게 돈을 버는 곳은 GPU
- 때문에 벨류체인에서 최대한 후공정까지 같이 진행해주는 등 부가가치를 가져와야 함. 2.5D 패키징, CoWoS 등 지속 투자가 필요함

- SK하이닉스의 재무상황 문제가 불거지는 상황. 실제로 전년대비 Capa 50% 줄이는 등 투자는 하지만 긴축 투자를 진행하고 있음. 때문에 HBM 관련한 지속적인 투자 가시성이 떨어지는 상황

- 오히려 업황 최악 상황인 삼성전자가 HBM에 더 집중할 시기

- 삼성전자, 북미 GPU 고객사서 HBM3, 패키징 품질 승인 완료(08.22), 아마 AMD로 추정. 4분기부터 AMD의 AI GPU인 MI300X 출하 예정. 192GB HBM3 탑재가 고무적인 상황.

- 물론 삼성전자 입장에서는 AMD와 같은 신규 고객군 발굴도 중요하지만 엔비디아를 고객으로 가져오는게 가장 중요함. CUDA 등 개발자 편의성 부분에 있어서 엔비디아 락업 효과가 크게 작용하고 있기 때문임

- 삼성전자, 9월 엔비디아 향 2.5D 후공정 패키징 턴키 진행 목표로 퀄테스트 진행 중.

- KB증권에 따르면 삼성전자의 HBM3 신규 고객사가 올해 4~5곳, 내년 8~10곳으로 늘어날 것으로 추정하고 있음

- 삼성전자 외에 삼성전자 HBM 관련 소재, 부품주에도 집중

- 관련 기업으로 티에프이, 삼성전기, 대덕전자, 덕산하이메탈 등 모니터링

#반도체 #미국 #중국

* 미국 상무장관과 중국 상무부장, 마이크론, 인텔 등 미국 기업에 대한 규제에 대한 우려 논의, 양국 수출 규제에 대한 정보 교환 시작하기로 합의

-> 최근 G7이 발표한 중국 대응 전략인 디커플링 -> 디리스킹의 연장선 수준

- 논의 내용은 1) 최근 중국의 갈륨, 게르마늄 수출 제한, 2) 중국의 마이크론 칩 구매 제한
- 영업 비밀 및 기밀 사업 정보 보호 강화에 관한 기술적 논의 위해 양측의 전문가들을 소집하기로 합의

https://www.reuters.com/markets/us-china-agree-export-controls-information-exchange-2023-08-28/

#AI #오픈AI #ChatGPT

* 대기업을 겨냥한 ChatGPT Enterprise 버전 출시 발표

- ChatGPT Enterprise는 OpenAI 기술에 더 많은 보안, 개인 정보 보호 및 고속 액세스를 제공
- 초기 고객으로는 블록, 칼라일 및 에스티로더컴퍼니 등

- OpenAI는 ChatGPT Enterprise 출시와 함께 고용주들이 직장에서 ChatGPT 사용을 편안하게 받아들일 수 있기를 바라고 있음

- Microsoft는 이미 Azure OpenAI 서비스를 통해 ChatGPT에 대한 액세스를 제공하고 있으나 이 서비스를 사용하려면 Microsoft의 클라우드 컴퓨팅 플랫폼인 Azure의 고객이어야 함

- ChatGPT Enterprise 가입자는 Azure에 가입할 필요가 없음. 마이크로소프트와의 경쟁하는지에 대한 질문에는 고객은 자신의 비지니스에 적합한 플랫폼을 선택할 수 있다고 답변

https://www.reuters.com/technology/openai-releasing-version-chatgpt-large-businesses-2023-08-28/

#AI #법률

* 미국변호사협회(ABA), AI가 법률 업무에 어떤 영향을 미칠지 평가, 기술이 법조계에 제기하는 윤리적 문제를 조사하기 위해 새로운 그룹 구성

- ABA는 위험 관리, 생성 AI, 정의에 대한 접근성, AI 거버넌스 및 법률 교육의 AI를 포함한 문제를 검토할 것이라 발표

- 로펌들은 새로운 AI 도구에 투자하고 있고, 일부 법률 AI 스타트업은 투자자들과 주요 로펌 고객들로부터 관심을 받고 있음

- 큰 규모의 회계법인인 PWC와 같은 기업 또한 법률 전문가들에게 AI 플랫폼에 대한 접근을 제공 중

https://www.reuters.com/legal/transactional/aba-taps-prominent-lawyers-tackle-ai-risks-opportunities-2023-08-28/

#애플 #아이패드

* 애플, 아이패드 Pro에 대해 2024년에 새로운 Magic Keyborad, M3 칩으로의 전환, 더 밝고 선명한 디스플레이 포함한 주요 업데이트를 계획하고 있음

- 2018년 이후 실시한 첫 번째 주요 업데이트

- 애플이 2020년에 처음 선보인 액세서리인 새로운 매직키보드를 지원할 예정
- 더 큰 트랙패드를 갖추고 있어 태블릿이 노트북과 유사한 느낌을 갖게 될 것

- 2017년부터 Apple 아이폰에 장착되어 온 M3 칩과 OLED 디스플레이를 갖춘 회사 최초의 태블릿이 될 것
- 새로운 아이패드 프로는 9월 애플의 출시 행사에서 발표되지 않지만 내년 봄이나 여름에 선보일 예정

https://www.cnbc.com/2023/08/28/apple-ipad-pro-major-upgrade-reportedly-coming-next-year.html

#반도체 #소재 #부품 #쿼츠

* 주요 원료업체, 고객사에 내년 가격 인상 통보 중
-> 확실한 점은 쿼츠 부품 업체들 중에서도 에프터마켓 업체들의 실적이 좋았다는 점. 월덱스/케이엔제이. 추가적으로 상대적으로 비싼 천연쿼츠 합성쿼츠를 판매하는 비씨엔씨의 실적이 지속 하향하고 있다는 점

반도체 핵심 소재인 쿼츠(석영유리) 원재료가 시장 침체기 속에서도 가격 상승 압박을 받고 있다. 최근 주요 제조업체가 내년도 가격을 인상하겠다는 통보를 고객사에 전달한 것으로 파악됐다.

28일 업계에 따르면 반도체 산업용 쿼츠 가격은 올해에 이어 내년에도 상승할 것으로 전망된다.

쿼츠는 주로 반도체 전공정에 활용되는 핵심 소재 중 하나다. 식각·증착·이온주입 등 여러 공정에서 반도체 웨이퍼를 보호하고 이송하는 쿼츠웨어를 비롯해 포커스링, 마스크 등의 부품에도 두루 쓰인다.

앞서 반도체용 쿼츠 가격은 올해 초 기준으로 전년 대비 10~20% 가량 상승한 바 있다. 이후에도 올해 중순까지 인상된 가격이 그대로 유지된 것으로 알려졌다. 반도체 시장이 거시경제 악화로 침체기를 지속하는 것과는 다른 흐름이다.

https://zdnet.co.kr/view/?no=20230828145555

#두산테스나 #에이팩트

* 두산테스나, 에이팩트 인수 협상 난항
실사 이후 인수 범위, 인수가격 등 이견
"에이팩트 메모리부문 설비 기대 이하로 판단"

두산그룹의 반도체 사업 확대 전략이 난항을 겪고 있다. 지난해 4월 두산테스나 인수 이후 반도체 사업부문 '몸집'을 키우기 위해 다양한 M&A를 추진하고 있는데, 후속 성과가 없어서다. 지난해 하반기 엔지온 인수를 추진했다가 철회했으며, 최근 외주 반도체 패키지·테스트(OSAT) 기업 에이팩트 인수 작업도 인수가격, 인수범위 등의 문제로 난항을 겪고 있는 상황이다. 업계에선 "(에이팩트 인수 딜은) 사실상 결렬됐다"는 얘기도 나온다.

28일 업계에 따르면 두산테스나와 에이팩트 간 매각 협상이 사실상 결렬 수순에 접어든 것으로 알려졌다. 앞서 두산테스나는 반도체 후공정(패키지) 사업 강화를 위해 에이팩트 인수를 뭍밑에서 진행해왔으며, 지난달에는 실사까지 마친 것으로 전해졌다.

https://www.thelec.kr/news/articleView.html?idxno=22737