🤩Dojo 컴퓨터가 주는 함의

1. 일론머스크는 향후 1년간 도조컴퓨터에 1조 3000억원 투자하겠다는 계획과 동시에 23년 7월에 도조컴퓨터의 생산을 발표했음.

2. 도조 슈퍼컴퓨터는 초당 100경 번 연산이 가능한 엑사플롭(exaFLOP)급 슈퍼 컴퓨터임.

3. 도조는 AI 머신 러닝(ML), 특히 차량에서 나오는 비디오 데이터를 사용한 비디오 훈련(Training)을 위해 구축된 테슬라의 맞춤형 슈퍼컴퓨터 플랫폼이며, 기존에는 엔비디아 GPU가 탑재된 슈퍼컴퓨터를 보유해 사용하고 있었는데 이번 도조는 테슬라가 설계한 칩과 인프라를 사용하는 것임.

4. 맞춤형 슈퍼컴퓨터는 자율주행을 지원하는 컴퓨터 비전 기술에 중요한 비디오 데이터를 사용해 신경망을 훈련하는 테슬라의 능력을 향상시킬 것으로 예상됨.

5. 도조는 기존의 슈퍼컴퓨터와 달리 특정 머신 러닝 알고리즘을 대규모로 실행할 목적으로 컴퓨팅, 네트워킹 및 I/O(입/출력) 실리콘에서 ISA(명령 세트 아키텍처), 전력 공급, 포장 및 냉각까지 포괄하는 맞춤형 아키텍처로 구축되었음.

6. 훈련 타일의 핵심은 TSMC의 7nm 공정을 기반으로 하는 500억 개의 트랜지스터 다이(die)인 테슬라의 D1칩임.

7. 각 D1칩이 400W의 TDP(Thermal Design Power)에서 22 TFLOPS의 FP32 성능을 낼 수 있으며 이는 엔비디아 A100을 자율주행 학습부분에서 두 배나 뛰어 넘은것임.

8. 도조의 구조를 살펴보면 가장 기본이 되는 D1칩 25개로 트레이닝 타일을 만들고, 트레이닝 타일 6개와 시스템 트레이 2개 + 컴파일러와 전원 부분을 합쳐 캐비넷을 만드는데, 이 캐비넷 10개를 합친 것을 완성된 엑사팟이라고 함. 이것이 슈퍼컴퓨터의 최종 형태

7. 무려 1.1 엑사플롭스라는 연산력을 보여줌 2022년 세계 1위 컴퓨터인 프론티어 컴퓨터가 1.1 엑사플롭스임. 도조 엑사팟 한 대가 결국 슈퍼컴퓨터 1위의 성능을 하는 것임.

8. 테슬라의 계획을 보면 23년 7월 도조 생산, 24년 안에 Top 5 입성, 24년 10월에 100엑사플롭스 컴퓨팅 파워를 달성할 것이라고 발표.

9. 100엑사플롭스는 엔비디아 A100 GPU 30만개를 합친 수준이며 테슬라 엑사팟 100개 합쳐진 것. 대략 1조원 정도의 비용이 들어갈 것.

10. 100엑사플롭스는 현재 챗 GPT 3.5가 파라미터 175억개 훈련시킨건데, 이를 1시간 안에 끝낼 수 있는 수치임.

11. 일론 머스크는 도조를 통해서 1차적으로 자율주행 서비스, 다음으로는 거대 언어모델 혹은 신약 개발에 사용하겠다고 언급했음. 쉽게 말하면 몸통을 가져오면 뇌를 채워주겠다는 것.

12. 이렇게 되면 엔비디아와 적극적으로 경쟁하는 구도가 될 것임.

13. 엔비디아의 아쉬운 점은 데이터 확보량에서 테슬라가 압도적이라는 것.

14. 자율주행하면 빼놓을 수 없는 것이 바로 추론 과정인데, 테슬라의 경우 실시간으로 슈퍼컴퓨터에 정보를 주고 받음. 여기에 사용되는 것이 바로 OTA.

15. 차량 내부 컴퓨터인 엣지컴퓨터가 하는 행위가 추론의 영역임.

16. 테슬라의 경우 엔비디아와 협업해서 2.5 버전을 만들었지만 3.0버전에서는 자체설계한 칩을 사용하고 있음. 새롭게 나올 모델 3에서는 HW 4.0 버전을 탑재할 것으로 예상.

17. 일론머스크는 HW 5.0 버전이 된다면 인간의 10배 이상 안전하다고 호언장담하고 있으며 테슬라는 머리에서 발 끝까지 수직계열화를 이야기하고 있음.

18. 결국 Dojo 컴퓨터의 개발 및 발전은 자율주행 Next Level을 위한 지름길이라고 해석할 수 있음.

[참고] 월텍남 유튜브
[작성] 👔도PB의 생존투자