Forwarded from 한화투자증권 유통/의류 이진협
어제 메이시스가 가이던스를 보수적으로 주면서, 미국 소비에 대해 우려가 커지는 와중에 콜스는 가이던스를 유지했네요. 인테리어 소매업체인 로우스컴퍼니도 개선되고 있다고 하는데, 딕스와 풋락커는 실적 부진에 가이던스 하향. 미국 소비시장에 대한 해석/전망이 기업별로 차이가 크네요.
확실한 건 신발은 좋지 못한가봅니다. 실적발표를 앞두고 있는 백화점은 노드스트롬의 실적이 궁금해지는 구간이구요. 메이시스만의 문제인 것인가 의문이 드는 시점이기 때문이죠.
https://www.barrons.com/articles/kohls-earnings-beat-guidance-stock-b401aa2c?siteid=yhoof2&yptr=yahoo
확실한 건 신발은 좋지 못한가봅니다. 실적발표를 앞두고 있는 백화점은 노드스트롬의 실적이 궁금해지는 구간이구요. 메이시스만의 문제인 것인가 의문이 드는 시점이기 때문이죠.
https://www.barrons.com/articles/kohls-earnings-beat-guidance-stock-b401aa2c?siteid=yhoof2&yptr=yahoo
Barrons
Kohl's Stock Is Rising. Earnings Crushed Estimates.
Retailer Kohl's posted second-quarter earnings of 52 cents a share, handily topping Wall Street estimate for 23 cents.
Forwarded from [인베스퀴즈]
#투자
리 루는 찰리멍거와 약속을 할 때마다 항상 그보다 빨리 도착해있으려고 노력했다고 한다. 그런데, 약속 시간 대비 얼마를 빠르게 장소에 도착하든지 간에 멍거는 항상 자기보다 앞서 도착해 있었다고. 리 루는 매번 약속 시간보다 몇 분은 빨리 장소에 도착했지만, 언제나 멍거는 자기를 기다리고 있었다고 한다.
결국 리 루는 한 시간 먼저 도착했고, 두 사람은 각자 신문을 읽다가 약속된 시간에 이야기를 시작했다고. 찰리는 한 번 중요한 모임에 늦은 적이 있어서, 그 이후로는 언제나 약속 시간보다 앞선 시간에 도착해있는 습관이 있었다고 한다.
독한 인간들. 하지만, 저런 류의 독한 사람들이 주변에 있으면 좋은 영향을 받고 좋을 것 같다. 항상 내 주변에 있는 사람들이 삶을 살아가는 하나의 기준이 된다. 좋은 사람들을 주변에 채워야 하는 이유. 꼭 '성공', '돈 벌기'가 아니라, 사소한 이런 행동들에서 신뢰를 보여주는 것이 더 중요하다고 생각한다.
https://m.blog.naver.com/bizucafe/223191576789
리 루는 찰리멍거와 약속을 할 때마다 항상 그보다 빨리 도착해있으려고 노력했다고 한다. 그런데, 약속 시간 대비 얼마를 빠르게 장소에 도착하든지 간에 멍거는 항상 자기보다 앞서 도착해 있었다고. 리 루는 매번 약속 시간보다 몇 분은 빨리 장소에 도착했지만, 언제나 멍거는 자기를 기다리고 있었다고 한다.
결국 리 루는 한 시간 먼저 도착했고, 두 사람은 각자 신문을 읽다가 약속된 시간에 이야기를 시작했다고. 찰리는 한 번 중요한 모임에 늦은 적이 있어서, 그 이후로는 언제나 약속 시간보다 앞선 시간에 도착해있는 습관이 있었다고 한다.
독한 인간들. 하지만, 저런 류의 독한 사람들이 주변에 있으면 좋은 영향을 받고 좋을 것 같다. 항상 내 주변에 있는 사람들이 삶을 살아가는 하나의 기준이 된다. 좋은 사람들을 주변에 채워야 하는 이유. 꼭 '성공', '돈 벌기'가 아니라, 사소한 이런 행동들에서 신뢰를 보여주는 것이 더 중요하다고 생각한다.
https://m.blog.naver.com/bizucafe/223191576789
NAVER
약속 시간 한 시간 전에 도착하기
버크셔 해서웨이 부회장 찰리멍거와 찰리멍거가 가장 존중하는 중국의 투자자 리 루의 일화. 리 루는 찰리...
Forwarded from •SMART한 주식투자•
[Nvidia 2Q23 : 메가 서프라이즈]
(Feat. 당분간 명쾌한 글로벌 주도주인데 12mFwd_PER은 이제 30배 수준)
☑️Jen-Hsun Huang
"A new computing era has begun."
☑️엄청난 가이던스를 크게 비트하는 메가슈퍼 서프라이즈 실적 발표
☑️3Q 가이던스는 더욱 무시무시하고, 당분간 전세계 AI투자(B2B투자)가 명확한 글로벌 성장트렌드임을 증명
•주가 : 장중 +3.18% / 시간외 +9%
•EPS : $2.70 vs $2.07e
•Revenue : $13.52B vs $11.04Be
Data center : $10.32B vs $7.98Be
(YoY +171% / QoQ +141%)
Gaming : $2.49B vs $2.38Be
•3Q23 가이던스
Revenue : $16B +-2% vs $12.5Be
•자사주매입 : $25B
•Nvidia 3분기 매출 History
2007: $1.1B
2008: $898M
2009: $903M
2010: $844M
2011: $1.1B
2012: $1.2B
2013: $1.1B
2014: $1.2B
2015: $1.3B
2016: $2B
2017: $2.6B
2018: $3.2B
2019: $3B
2020: $4.7B
2021: $7.1B
2022: $5.9B
2023*: $16B +-@(가이던스)
SMART한 주식투자
(Feat. 당분간 명쾌한 글로벌 주도주인데 12mFwd_PER은 이제 30배 수준)
☑️Jen-Hsun Huang
"A new computing era has begun."
☑️엄청난 가이던스를 크게 비트하는 메가슈퍼 서프라이즈 실적 발표
☑️3Q 가이던스는 더욱 무시무시하고, 당분간 전세계 AI투자(B2B투자)가 명확한 글로벌 성장트렌드임을 증명
•주가 : 장중 +3.18% / 시간외 +9%
•EPS : $2.70 vs $2.07e
•Revenue : $13.52B vs $11.04Be
Data center : $10.32B vs $7.98Be
(YoY +171% / QoQ +141%)
Gaming : $2.49B vs $2.38Be
•3Q23 가이던스
Revenue : $16B +-2% vs $12.5Be
•자사주매입 : $25B
•Nvidia 3분기 매출 History
2007: $1.1B
2008: $898M
2009: $903M
2010: $844M
2011: $1.1B
2012: $1.2B
2013: $1.1B
2014: $1.2B
2015: $1.3B
2016: $2B
2017: $2.6B
2018: $3.2B
2019: $3B
2020: $4.7B
2021: $7.1B
2022: $5.9B
2023*: $16B +-@(가이던스)
SMART한 주식투자
Forwarded from YM리서치
🌟NVIDIA실적에서 보이는 AI수요의 폭발
오늘 새벽 발표된 엔비디아의 실적은 말 그대로 '찢어'버렸습니다. 매출, 이익은 컨센서스를 수십퍼센트 상회했고, 수요증가를 이미 반영했다던 가이던스도 예상치를 30% 상회하는 수치로 제시했습니다.
엔비디아의 실적이 컨센서스를 능가했다는 것은 여러가지를 의미하겠지만 저희는 이렇게 정의하고 싶습니다.
'세상은 아직도 AI의 파괴력을 과소평가 하고있다.'
Chat-GPT는 AI수요의 극히 일부일 뿐입니다. AI 학습, 추론능력의 발전은 산업 곳곳에서 혁신을 일으키고 있습니다. 국내에서 주목받고있는 의료, 공급망, 생산관리 뿐만 아니라 로봇, B2C서비스까지 적용분야를 빠르게 늘려가고 있습니다.
NVIDIA의 새로운 모델인 GH200은 기존 HBM3 대비 성능이 20%향상된 HBM3e를 사용할 뿐만 아니라 탑재량 또한 80% 증가했습니다. 메모리 용량을 보수적으로 늘려오던 NVIDIA에서도 어쩔 수 없는 포인트가 나타난 것 입니다.
이런 변화는 HBM의 공급부족으로 이어질 가능성이 높습니다. NVIDIA도 적극적으로 구애하는 삼성을 언제까지 외면하지는 않을 것입니다. HBM 수요확대는 결국 DRAM공급을 줄이는 효과를 가져오고, 메모리 업사이클을 가져오게 될 것입니다.
저희는 이 변화에 대해 지속적으로 강력하게 말씀드리고 있지만, 더 강력하게 말씀드리지 못함이 아쉬울정도로 AI수요는 파괴적으로 성장하고 있습니다.
오늘 새벽 발표된 엔비디아의 실적은 말 그대로 '찢어'버렸습니다. 매출, 이익은 컨센서스를 수십퍼센트 상회했고, 수요증가를 이미 반영했다던 가이던스도 예상치를 30% 상회하는 수치로 제시했습니다.
엔비디아의 실적이 컨센서스를 능가했다는 것은 여러가지를 의미하겠지만 저희는 이렇게 정의하고 싶습니다.
'세상은 아직도 AI의 파괴력을 과소평가 하고있다.'
Chat-GPT는 AI수요의 극히 일부일 뿐입니다. AI 학습, 추론능력의 발전은 산업 곳곳에서 혁신을 일으키고 있습니다. 국내에서 주목받고있는 의료, 공급망, 생산관리 뿐만 아니라 로봇, B2C서비스까지 적용분야를 빠르게 늘려가고 있습니다.
NVIDIA의 새로운 모델인 GH200은 기존 HBM3 대비 성능이 20%향상된 HBM3e를 사용할 뿐만 아니라 탑재량 또한 80% 증가했습니다. 메모리 용량을 보수적으로 늘려오던 NVIDIA에서도 어쩔 수 없는 포인트가 나타난 것 입니다.
이런 변화는 HBM의 공급부족으로 이어질 가능성이 높습니다. NVIDIA도 적극적으로 구애하는 삼성을 언제까지 외면하지는 않을 것입니다. HBM 수요확대는 결국 DRAM공급을 줄이는 효과를 가져오고, 메모리 업사이클을 가져오게 될 것입니다.
저희는 이 변화에 대해 지속적으로 강력하게 말씀드리고 있지만, 더 강력하게 말씀드리지 못함이 아쉬울정도로 AI수요는 파괴적으로 성장하고 있습니다.
Forwarded from 엄브렐라리서치 Anakin의 투자노트
* 엔비디아 가이던스 서프라이즈 = 공급병목 해소가 빨라진다
1) 엔비디아의 주가와 실적을 눌렀던 요소는 단연 공급병목이었습니다. 아무리 수요가 좋아도 공급량이 따라오지 못하면 실적 성장에 단기적으로 제한이 있을 수밖에 없기 때문입니다.
2) 그러나 이번 엔비디아의 가이던스 서프는 결국, 'CoWoS와 HBM의 공급이 점점 올라오고 있다'는 의미로 해석됩니다.
3) 실제로 외사들의 엔비디아 리포트 GPU 추정방식을 보면, 맨 먼저 AI서버 수요부터 시작해서 내려가는 탑다운 방식이 아니라, TSMC CoWoS capa를 기반으로 웨이퍼당 넷 다이의 갯수(약35~40), 수율, 가동률(사싱살 100%), CoWoS내 엔비디아에게 할당된 MS 등을 기반으로 AI GPU 출하를 측정합니다. 즉, CoWoS capa를 기반으로한 바텀업 방식의 추정을 사용합니다.
4) 이런 추정 방식을 사용하는 이유는 수요>>>공급 상황이 매우 심하기 때문에, 공급을 찍어내는만큼 숫자가 나오기 때문입니다. UBS가 제시한 엔비디아의 실적 시나리오에서도 결국 핵심 가정은 'TSMC CoWoS capa 확장 여부' 입니다.
5) 즉, 수요는 이미 증명되었고, 이번 가이던스 서프라이즈로 인해 '공급도 예상보다 빨리 올라온다'라고 판단할 수 있습니다. 그 말인즉슨, HBM과 2.5D 패키징 캐파 중심의 시장 확대 속도가 예상보다 빠르다는 것을 의미하며, 관련 업체들의 수주 및 실적 기대 속도도 점점 탄력이 붙을 것으로 예상됩니다.
1) 엔비디아의 주가와 실적을 눌렀던 요소는 단연 공급병목이었습니다. 아무리 수요가 좋아도 공급량이 따라오지 못하면 실적 성장에 단기적으로 제한이 있을 수밖에 없기 때문입니다.
2) 그러나 이번 엔비디아의 가이던스 서프는 결국, 'CoWoS와 HBM의 공급이 점점 올라오고 있다'는 의미로 해석됩니다.
3) 실제로 외사들의 엔비디아 리포트 GPU 추정방식을 보면, 맨 먼저 AI서버 수요부터 시작해서 내려가는 탑다운 방식이 아니라, TSMC CoWoS capa를 기반으로 웨이퍼당 넷 다이의 갯수(약35~40), 수율, 가동률(사싱살 100%), CoWoS내 엔비디아에게 할당된 MS 등을 기반으로 AI GPU 출하를 측정합니다. 즉, CoWoS capa를 기반으로한 바텀업 방식의 추정을 사용합니다.
4) 이런 추정 방식을 사용하는 이유는 수요>>>공급 상황이 매우 심하기 때문에, 공급을 찍어내는만큼 숫자가 나오기 때문입니다. UBS가 제시한 엔비디아의 실적 시나리오에서도 결국 핵심 가정은 'TSMC CoWoS capa 확장 여부' 입니다.
5) 즉, 수요는 이미 증명되었고, 이번 가이던스 서프라이즈로 인해 '공급도 예상보다 빨리 올라온다'라고 판단할 수 있습니다. 그 말인즉슨, HBM과 2.5D 패키징 캐파 중심의 시장 확대 속도가 예상보다 빠르다는 것을 의미하며, 관련 업체들의 수주 및 실적 기대 속도도 점점 탄력이 붙을 것으로 예상됩니다.
Forwarded from 석디 아카이브
엔비디아 머신러닝 인터페이스 프로그램 쿠다(CUDA)의 연간 누적 다운로드 수와 개발자 증가 추이
부사장 : "가속 컴퓨팅 분야에서 지금까지 20년의 여정이 있었습니다. 그리고 그것은 GPU의 프로그래밍 가능성을 높이는 것부터 시작되었으며, 2006년에 CUDA를 출시하고 그 이후로 해당 생태계에 투자했습니다."
VP: "it's been a 20-year journey so far in accelerated computing as a whole.And the -- it started with making our GPUs more programmable, launching CUDA in 2006 and investing in that ecosystem since then"
부사장 : "가속 컴퓨팅 분야에서 지금까지 20년의 여정이 있었습니다. 그리고 그것은 GPU의 프로그래밍 가능성을 높이는 것부터 시작되었으며, 2006년에 CUDA를 출시하고 그 이후로 해당 생태계에 투자했습니다."
VP: "it's been a 20-year journey so far in accelerated computing as a whole.And the -- it started with making our GPUs more programmable, launching CUDA in 2006 and investing in that ecosystem since then"
Forwarded from 석디 아카이브
엔비디아보다 뛰어난 AI 가속기가 나올지언정 개발자가 생태계에서 빠져나올 수 없는 이유 - CUDA 베이스로 머신러닝 개발을 해왔기 때문
Forwarded from 석디 아카이브
Q2'23 어닝자료 중 GH 칩 코멘트
- HBM3 탑재한 슈퍼칩 GH200 1세대 2023년 3분기 출하 예정
- HBM3e가 탑재된 2세대 버전은 2024년 2분기에 출시 예정
※ GH 칩 설명
- 대규모 AI 훈련 및 추론 그리고 HPC 구축을 위해 설계된 CPU+GPU
- PCIe Gen5보다 7배 빠른 새로운 900GB/s 일관된 인터페이스
- HBM3 및 HBM3e GPU 메모리로 가속 컴퓨팅 및 생성 AI 강화
- NVIDIA AI Enterprise, HPC SDK 및 Omniverse™를 포함한 모든 NVIDIA 소프트웨어 스택 및 플랫폼을 실행 가능
- HBM3 탑재한 슈퍼칩 GH200 1세대 2023년 3분기 출하 예정
- HBM3e가 탑재된 2세대 버전은 2024년 2분기에 출시 예정
※ GH 칩 설명
- 대규모 AI 훈련 및 추론 그리고 HPC 구축을 위해 설계된 CPU+GPU
- PCIe Gen5보다 7배 빠른 새로운 900GB/s 일관된 인터페이스
- HBM3 및 HBM3e GPU 메모리로 가속 컴퓨팅 및 생성 AI 강화
- NVIDIA AI Enterprise, HPC SDK 및 Omniverse™를 포함한 모든 NVIDIA 소프트웨어 스택 및 플랫폼을 실행 가능
Forwarded from IT의 신 이형수
AI 분야는 이재용 삼성전자 회장이 직접 챙기는 미래 성장 동력 중 하나다. 최근 삼성 내부에서도 꾸준히 생성형AI 분야의 주도권을 잡아야 한다는 목소리가 커지고 있다. 세계적인 AI 석학인 세바스찬 승(승현준) 삼성리서치 글로벌 연구개발(R&D) 협력담당 사장은 지난 14일 사내 지식 공유 플랫폼 모자이크에 “퍼스널 AI 혁명은 인터넷과 휴대전화가 가져왔던 변화만큼 중대할 것”이라며 “삼성은 이 생태계 내에서 어떠한 방식으로 전략적 우위를 차지할 수 있을 것인지 확인해야 한다”고 말했다. https://www.joongang.co.kr/article/25186838#home
중앙일보
삼성, 생성형AI 서비스 내달 첫 공개
23일 전자업계에 따르면 삼성SDS가 개발 중인 생성형 AI 서비스를 내달 12일 열리는 ‘리얼 서밋 2023’에서 고객사와 미디어에 공개한다. 구형준 삼성SDS 클라우드서비스사업부장은 지난달 컨퍼런스콜에서 "기업 고객의 우려에 대응해 클라우드 플랫폼을 기반으로 높은 보안성을 갖춘 생성형 AI 플랫폼과 서비스 개발을 연내 개발해 선보일 예정"이라며 "관계사 수요를 파악한 만큼 적합한 서비스를 제공하고, 그를 통해 얻은 노하우를 갖고 대외 사업을 펼칠 계획"이라고…
Forwarded from World Breaking News
NVIDIA CEO SAYS HE EXPECTS AI BOOM WILL LAST WELL INTO NEXT YEAR: RTRS thought it was going to last 10 years
- Fxhedgers
- Fxhedgers
Forwarded from •SMART한 주식투자•
[메가테크 성장포인트 = AI]
(feat. 모두의 AI = 모두의 Nvidia)
☑️글로벌하게 한자리하는 named 테크기업들 중 AI투자에 공격적이지 않은 기업이 있다면 둘중 하나
1)아래 AI에 집중 투자하는 메가테크가 모두 틀리고 자신들이 맞아서, 시간이 흘러 메가테크들을 모두 제치고 세계최고의 테크기업이 되거나
2)판세를 잘 못 읽은 대가로, 시간이 흐르며 점점 도태되어 소멸 되거나
<메가테크의 투자 = AI>
•Nvidia : H100
아래 모든 기업에 H100 판매
•Apple : Vision Pro(VR) + ?
VR(가상현실) + 관련 컨텐츠(핵심은 AI)
•Microsoft : chat GPT + Azure
AI서비스 + AI개발운영 위한 클라우드
•Google : Bard + Goole Cloud
AI서비스 + AI개발운영 위한 클라우드
•Amazon : AI(Alexa 등) + AWS
AI서비스 + AI개발운영 위한 클라우드
*AI투자비용 확대를 위해 물류투자비용 축소(효율화 진행중)
•meta : Oculus(VR) + AI
VR(가상현실) + 관련 컨텐츠(핵심은 AI)
•Tesla : FSD 상용화
FSD의 핵심은 결국 Data수집과 분석(=AI)
SMART한 주식투자
(feat. 모두의 AI = 모두의 Nvidia)
☑️글로벌하게 한자리하는 named 테크기업들 중 AI투자에 공격적이지 않은 기업이 있다면 둘중 하나
1)아래 AI에 집중 투자하는 메가테크가 모두 틀리고 자신들이 맞아서, 시간이 흘러 메가테크들을 모두 제치고 세계최고의 테크기업이 되거나
2)판세를 잘 못 읽은 대가로, 시간이 흐르며 점점 도태되어 소멸 되거나
<메가테크의 투자 = AI>
•Nvidia : H100
아래 모든 기업에 H100 판매
•Apple : Vision Pro(VR) + ?
VR(가상현실) + 관련 컨텐츠(핵심은 AI)
•Microsoft : chat GPT + Azure
AI서비스 + AI개발운영 위한 클라우드
•Google : Bard + Goole Cloud
AI서비스 + AI개발운영 위한 클라우드
•Amazon : AI(Alexa 등) + AWS
AI서비스 + AI개발운영 위한 클라우드
*AI투자비용 확대를 위해 물류투자비용 축소(효율화 진행중)
•meta : Oculus(VR) + AI
VR(가상현실) + 관련 컨텐츠(핵심은 AI)
•Tesla : FSD 상용화
FSD의 핵심은 결국 Data수집과 분석(=AI)
SMART한 주식투자
Forwarded from 하나 중국/신흥국 전략 김경환 (경환 김)
• 폭스콘, 엔비디아의 차세대 AI 칩 GH200 모듈과 L40S GPU 그래픽카드 주문 독점 수주 소식 (대만경제일보)
> 传鸿海独家承接英伟达GH200模组和L40S推理卡大单
市场传出英伟达扩大与鸿海合作,由鸿海独家承接英伟达最新的AI芯片GH200的芯片模组订单以及搭载英伟达L40S绘图处理器(GPU)的推理卡订单。(台湾经济日报)
> 传鸿海独家承接英伟达GH200模组和L40S推理卡大单
市场传出英伟达扩大与鸿海合作,由鸿海独家承接英伟达最新的AI芯片GH200的芯片模组订单以及搭载英伟达L40S绘图处理器(GPU)的推理卡订单。(台湾经济日报)
Forwarded from 키움 반도체,이차전지 PRIME☀️
Digitimes: '24년 AI 서버 출하량이 337,000개를 기록할 것으로 예상. 올해 출하량은 167,000개로 추정. 2030년까지 생성형 AI 시장은 CAGR 35%의 성장률을 보일 것으로 전망.
뉴스: https://www.digitimes.com/news/a20230823PD213/advanced-packaging-ai-server-cowos-digitimes-research-hbm3-server-shipments.html
☀️채널: https://news.1rj.ru/str/kiwoom_semibat
.
뉴스: https://www.digitimes.com/news/a20230823PD213/advanced-packaging-ai-server-cowos-digitimes-research-hbm3-server-shipments.html
☀️채널: https://news.1rj.ru/str/kiwoom_semibat
.
DIGITIMES
AI server shipments forecast to top 300,000 units in 2024, says DIGITIMES Research
High-end AI server shipments are forecast to reach 337,000 units in 2024, with the generative AI market reaching US$109 billion by 2030, at a CAGR of 35%, according to DIGITIMES Research.
Forwarded from 키움 반도체,이차전지 PRIME☀️
독일이 AI 연구를 위한 공적 자금을 향후 2년간 10억 유로 수준까지 늘릴 계획. 대학 연구소 설립과 데이터센터 확장에 쓰일 예정
뉴스: https://www.reuters.com/technology/germany-plans-double-ai-funding-race-with-china-us-2023-08-23/
☀️채널: https://news.1rj.ru/str/kiwoom_semibat
.
뉴스: https://www.reuters.com/technology/germany-plans-double-ai-funding-race-with-china-us-2023-08-23/
☀️채널: https://news.1rj.ru/str/kiwoom_semibat
.
Reuters
Germany plans to double AI funding in race with China, U.S.
Germany plans to almost double its public funding for artificial intelligence research to nearly a billion euros over the next two years, as it attempts to close a skills gap with sector leaders China and the United States.
Forwarded from Risk & Return
엔비디아 Q2'23 컨퍼런스콜 中 핵심 내용 요약
t.me/seokd_platform
1. CPU와 GPU를 합친 슈퍼칩 GH200 출시 예정
» CPU 그레이스(Grace) 아키텍처와 GPU 호퍼(Hopper) 아키텍처를 합친 GH200은 HBM3 및 HBM3e과 결합해 AI 가속화에 특화된 칩
» 1세대 GH100 DGX(서버제품)의 경우 NVLink를 통해 8개의 GPU만 연결했던 반면 GH200 기반 DGX에서는 256개 GPU를 연결해 하나로 작동하도록 지원.
※ NVLink = 근거리 반도체 통신을 위한 유선 기반 통신 프로토콜로 GPU 간 병목현상을 해결하는 데 사용하는 기술
» HBM3 탑재한 슈퍼칩 GH200 1세대 2023년 3분기 출하 예정, HBM3e가 탑재된 2세대 버전은 2024년 2분기에 출시 예정
2. 범용 데이터센터 GPU L40S
» 최근 8월에 발표한 L40S는 서버용 GPU로 AI 언어모델 훈련 및 추론, 3D 그래픽 및 렌더링에 이르기까지 차세대 데이터센터 워크로드를 지원
» H100은 대규모 언어 모델과 매우 큰 모델 및 대량의 데이터 처리를 위해 설계된 반면 L40S는 사전 학습된 모델을 미세조정(파인튜닝)하는 데 중점을 두고 있음
» 기존 하이퍼스케일 데이터센터에 L40S 서버를 쉽게 설치할 수 있음 표준 랙, 표준 서버로 제공되며 모든 것이 표준으로 제공돼 설치 용이
3. 게이밍 분야의 생성 AI 툴
» 맞춤형 AI 모델 파운드리 서비스인 게임용 NVIDIA 아바타 클라우드 엔진(ACE)를 발표
» 게임 개발자는 ACE를 통해 게임 내 NPC에 지능을 부여할 수 있습니다.
4. 가속 컴퓨팅은 AI 개발 뿐만 아니라 에너지 효율의 목적도 존재
» 가속 컴퓨팅은 현재 컴퓨팅을 수행하는 가장 비용 효율적이고, 가장 에너지 효율적이며, 가장 성능이 뛰어난 방법
» 기존 범용 컴퓨팅을 대규모로 사용하는 것은 더 이상 최선의 방법이 아님. 에너지 비용이 너무 많이 들고, 비용이 너무 비싸며, 애플리케이션의 성능이 너무 느리기 때문.
» 주요 IT 기업들 대부분은 기존 범용 컴퓨팅에서 가속 컴퓨팅으로 전환하고 있음. 매년 약 1조 달러 규모의 데이터센터 시장은 가속 컴퓨팅에 0.25조 달러의 자본지출을 할 것으로 예상.
5. 엔비디아 데이터센터와 깊이 연관된 VMware
» 데이터센터 관리 시스템, 운영 체제, 보안 및 소프트웨어 지원은 VMware가 제공.
» VMware는 CPU 가상화뿐만 아니라 GPU의 분산 컴퓨팅 기능을 지원할 수 있도록 협력해 왔으며 고성능 네트워킹을 위한 BlueField(데이터 처리 장치, DPU)를 지원.
» 엔비디아의 모든 생성 AI 라이브러리는 전 세계 약 수십만 명의 VMware 고객에게 도달할 수 있음. 이는 VMware Private AI Foundation라는 이름의 서비스로 제공
6. 중국 수출 제재에도 불구하고 강력한 중국의 수요
» 중국 수요는 컴퓨팅 및 네트워킹 솔루션을 포함해 데이터센터 매출의 20~25%에 해당
» 중국 수출에 대한 추가 제재가 있더라도 수익에 중대한 영향을 미치진 않을 것이다.
7. 젠슨 황이 언급한 엔비디아를 특별하게 만드는 3가지
» 첫 번째는 아키텍처. 데이터 처리, AI 모델 훈련 및 추론, 실시간 음성처리, 컴퓨터 비전에 이르기까지 모든 컴퓨팅 기능을 가속화합니다.
» 두 번째는 설치 기반. 엔비디아는 전 세계에 수억 개의 CUDA 호환 GPU를 보유하고 있으며 이는 개발자가 최종 사용자에게 도달하고 비즈니스를 성장시키기 위한 대규모 설치 기반이 되고 있음.
» 세 번째는 산업 도달 범위. 클라우드, 엔터프라이즈 데이터센터, 산업용 엣지, PC, 워크스테이션, 계측기 및 로봇까지 이름. 액센츄어, 어도비, 게티, 허깅 페이스, 스노우플레이크, 서비스나우, VMware, WPP 등 글로벌 IT 기업과 델, HPE, 레노버과 같은 엔터프라이즈 시스템 파트너와 함께 전 세계 기업에 생성 AI를 도입 중
※ 3줄 요약
① AI 칩이 잘 팔리는 것은 AI 모델 개발 뿐만 아니라 데이터센터 에너지 효율성 향상을 위한 대형 트렌드
② GH200 기반 DGX 플랫폼과 서버용 GPU L40S는 H100 이상 중욯나 제품이 될 것
③ 엔비디아 가속 컴퓨팅 솔루션의 산업 도달 범위를 확대하기 위해 VMware 외 여러 회사와 파트너십을 형성 중.
t.me/seokd_platform
1. CPU와 GPU를 합친 슈퍼칩 GH200 출시 예정
» CPU 그레이스(Grace) 아키텍처와 GPU 호퍼(Hopper) 아키텍처를 합친 GH200은 HBM3 및 HBM3e과 결합해 AI 가속화에 특화된 칩
» 1세대 GH100 DGX(서버제품)의 경우 NVLink를 통해 8개의 GPU만 연결했던 반면 GH200 기반 DGX에서는 256개 GPU를 연결해 하나로 작동하도록 지원.
※ NVLink = 근거리 반도체 통신을 위한 유선 기반 통신 프로토콜로 GPU 간 병목현상을 해결하는 데 사용하는 기술
» HBM3 탑재한 슈퍼칩 GH200 1세대 2023년 3분기 출하 예정, HBM3e가 탑재된 2세대 버전은 2024년 2분기에 출시 예정
2. 범용 데이터센터 GPU L40S
» 최근 8월에 발표한 L40S는 서버용 GPU로 AI 언어모델 훈련 및 추론, 3D 그래픽 및 렌더링에 이르기까지 차세대 데이터센터 워크로드를 지원
» H100은 대규모 언어 모델과 매우 큰 모델 및 대량의 데이터 처리를 위해 설계된 반면 L40S는 사전 학습된 모델을 미세조정(파인튜닝)하는 데 중점을 두고 있음
» 기존 하이퍼스케일 데이터센터에 L40S 서버를 쉽게 설치할 수 있음 표준 랙, 표준 서버로 제공되며 모든 것이 표준으로 제공돼 설치 용이
3. 게이밍 분야의 생성 AI 툴
» 맞춤형 AI 모델 파운드리 서비스인 게임용 NVIDIA 아바타 클라우드 엔진(ACE)를 발표
» 게임 개발자는 ACE를 통해 게임 내 NPC에 지능을 부여할 수 있습니다.
4. 가속 컴퓨팅은 AI 개발 뿐만 아니라 에너지 효율의 목적도 존재
» 가속 컴퓨팅은 현재 컴퓨팅을 수행하는 가장 비용 효율적이고, 가장 에너지 효율적이며, 가장 성능이 뛰어난 방법
» 기존 범용 컴퓨팅을 대규모로 사용하는 것은 더 이상 최선의 방법이 아님. 에너지 비용이 너무 많이 들고, 비용이 너무 비싸며, 애플리케이션의 성능이 너무 느리기 때문.
» 주요 IT 기업들 대부분은 기존 범용 컴퓨팅에서 가속 컴퓨팅으로 전환하고 있음. 매년 약 1조 달러 규모의 데이터센터 시장은 가속 컴퓨팅에 0.25조 달러의 자본지출을 할 것으로 예상.
5. 엔비디아 데이터센터와 깊이 연관된 VMware
» 데이터센터 관리 시스템, 운영 체제, 보안 및 소프트웨어 지원은 VMware가 제공.
» VMware는 CPU 가상화뿐만 아니라 GPU의 분산 컴퓨팅 기능을 지원할 수 있도록 협력해 왔으며 고성능 네트워킹을 위한 BlueField(데이터 처리 장치, DPU)를 지원.
» 엔비디아의 모든 생성 AI 라이브러리는 전 세계 약 수십만 명의 VMware 고객에게 도달할 수 있음. 이는 VMware Private AI Foundation라는 이름의 서비스로 제공
6. 중국 수출 제재에도 불구하고 강력한 중국의 수요
» 중국 수요는 컴퓨팅 및 네트워킹 솔루션을 포함해 데이터센터 매출의 20~25%에 해당
» 중국 수출에 대한 추가 제재가 있더라도 수익에 중대한 영향을 미치진 않을 것이다.
7. 젠슨 황이 언급한 엔비디아를 특별하게 만드는 3가지
» 첫 번째는 아키텍처. 데이터 처리, AI 모델 훈련 및 추론, 실시간 음성처리, 컴퓨터 비전에 이르기까지 모든 컴퓨팅 기능을 가속화합니다.
» 두 번째는 설치 기반. 엔비디아는 전 세계에 수억 개의 CUDA 호환 GPU를 보유하고 있으며 이는 개발자가 최종 사용자에게 도달하고 비즈니스를 성장시키기 위한 대규모 설치 기반이 되고 있음.
» 세 번째는 산업 도달 범위. 클라우드, 엔터프라이즈 데이터센터, 산업용 엣지, PC, 워크스테이션, 계측기 및 로봇까지 이름. 액센츄어, 어도비, 게티, 허깅 페이스, 스노우플레이크, 서비스나우, VMware, WPP 등 글로벌 IT 기업과 델, HPE, 레노버과 같은 엔터프라이즈 시스템 파트너와 함께 전 세계 기업에 생성 AI를 도입 중
※ 3줄 요약
① AI 칩이 잘 팔리는 것은 AI 모델 개발 뿐만 아니라 데이터센터 에너지 효율성 향상을 위한 대형 트렌드
② GH200 기반 DGX 플랫폼과 서버용 GPU L40S는 H100 이상 중욯나 제품이 될 것
③ 엔비디아 가속 컴퓨팅 솔루션의 산업 도달 범위를 확대하기 위해 VMware 외 여러 회사와 파트너십을 형성 중.