1. 예상 캐파으로의 점진적 진입 필요성:
우리의 원래 분석에 따르면, 각각 약 50T 매개변수를 가진 세 개의 최첨단 모델만을 구동하는 데 필요한 컴퓨팅 자원은 2027년까지 훈련만을 위해 거의 2천만 개의 칩이 필요할 것으로 추정됩니다. 대규모 유닛 수요의 주요 이유는 새로운 모델의 컴퓨팅 수요가 현재 관찰되는 속도와 가속기 성능 향상 예상 속도보다 훨씬 빠르게 증가할 것으로 예상되기 때문입니다. 예를 들어, 2024/2025년 GPT-5 훈련에 필요한 컴퓨팅 자원은 2022년 GPT-4 대비 약 46배 증가할 것으로 추정됩니다. 같은 기간 NVDA의 최첨단 칩의 컴퓨팅 성능은 7배 정도만 향상될 것으로 예상됩니다. 더욱이, TSMC의 총 CoWoS 용량은 내년에 약 60k wspm에 불과할 것으로 예상되며, Blackwell CoWoS 다이는 웨이퍼당 약 16개만 생산될 것으로 예상됩니다. 이는 우리가 여전히 공급 제한적인 초기 단계에 있으며, 증가하는 컴퓨팅 수요를 수용하기 위해 공급망의 나머지 부분도 대규모 확장이 필요하다는 것을 의미합니다.

2. 상용 및 맞춤형 솔루션이 모두 성공할 수 있는 방법:
우리는 AI 가속기에 대해 두 가지 접근 방식을 오랫동안 믿어왔습니다. 상용 솔루션은 최첨단 모델의 훈련과 추론에 더 적합하고, 하이퍼스케일 맞춤형 실리콘은 칩 개발자의 데이터 센터 내 더 특화된 워크로드에 사용될 것입니다. 우리는 이러한 시장 이분화가 계속될 것으로 예상하며, 계산된 컴퓨팅 수요는 극도로 큰 시장을 가리키고 있습니다.

3. 추론을 위한 강력한 시장 존재:
NVDA의 최근 주장에 따르면 칩의 약 40%가 추론에 사용되고 있으며, 이는 AI 컴퓨팅 방정식의 새로운 부분을 뒷받침합니다. 훈련 컴퓨팅 성장, 매개변수 수 증가, 토큰 증가에 대한 보고서의 예측은 효과적인 추론의 중요성이 증가하고 있음을 더욱 강조합니다. 추론은 현재 개발 중인 최첨단 모델을 수익화하는 주요 수단이 될 것입니다. 마지막으로, OpenAI의 o1 모델 도입은 추론 단계에 투입되는 추가 컴퓨팅 자원의 엄청난 잠재력을 시사하는 것으로 널리 믿어지고 있습니다.

결론적으로, "AI의 다음 단계는 무엇인가?" 보고서에서 도출한 시사점들은 AI 가속기 시장에 관여하는 반도체 기업들에게 매우 긍정적인 해석이 될 수 있다고 판단합니다. 또한 속도 전환과 가속기 제품에 대한 높은 부착률로 인해 AI 데이터 센터 인프라 공급업체들에게도 강력한 파생 이익이 계속될 것으로 봅니다.
우리는 계속해서 NVDA, AVGO, MRVL, COHR, MTSI, ALAB를 선호합니다. 이들 기업은 AI 반도체 생태계에서 강력한 입지를 갖고 있기 때문입니다. 또한 "AI의 다음 단계는 무엇인가?" 보고서와 이 노트에서 탐구한 주제들이 앞으로 몇 년 동안 계속해서 실적 상승을 이끌 것이라고 믿습니다.