[번외] 타이레놀, 알고 먹으면 좋은 지식!

요새 코로나랑 감기가 유행이래요.
아플때 병원 잘 안가는 분들 많죠?
약국 내원도 알고 가면 좋잖아요!

타이레놀마다 종류가 많습니다.

BTC 58,318.25 비트 미쳤 UP
ETH 2,618.17 이더 미쳤 UP

https://x.com/VitalikButerin/status/1824034740627800121

비탈릭 이더랑 밈코팔아서 기부중

BTC 59,258.00 비트 미쳤 UP
ETH 2,659.01 이더 미쳤 UP

[AI 비즈니스의 비용 구조?] (4/8)

저도 AI 비즈니스의 비용 구조까지 설명드릴 줄 몰랐어요.
다시 태어나도 개발자는 안 할래요.

AI 비즈니스의 비용은 대부분 하드웨어와 클라우드에서 발생합니다.
특히 하드웨어 비용 중 40%가 GPU, NPU, TPU와 같은 AI 컴퓨팅에서 발생해요.

예전에 비트코인 채굴하는 사람들이 많아져서 GPU 싹슬이 대란있던거 알죠? 그때 저 집에 컴퓨터 한 대 제대로 놓고 싶었는데 비싸서 걍 안 샀어요. 2배 값으로 도저히 살 수 없었어요. (어쩌다보니 노트북만 3대있음)

AI를 활용한 서비스를 제공하는 기업이 많아질 수록, 컴퓨팅 지출 비용은 높아집니다. 이는 더 비싼 하드웨어 가격을 이끌 예정이며, AI가 본격적으로 시작하는 이 시점에 가격은 더 상승할거라 감히 생각해봅니다.

지금도 AI를 활용한 서비스를 진행한다는게 저렴한 건 아닙니다. 빅 테크끼리 서로 경쟁 중이고 막대한 비용을 투입해 인프라를 늘리고 있거든요.

최근에 공개된 Gemini Ultra는 모델 1개를 만들기 위해 약 2,700억 원을 컴퓨팅 비용에 지출했습니다.

[그럼 AI를 개발하려면 뭐가 필요할까?] (5/8)

1) 양질의 데이터
2) 뛰어난 개발자
3) AI 인프라 (고성능 GPU)

양질의 데이터와 뛰어난 개발자도 중요하지만, 실제 비즈니스에서 큰 차이를 불러오는 건 AI 인프라 (GPU)라고 생각합니다.

아무리 좋은 개발자들이 뚝딱뚝딱 개발을 만들었다해도, 성능이 부족해 천 명, 만 명이 몰려 사이트가 터지면(인프라).. 아무 의미가 없거든요.

옛날에 코인빗 이벤트 할 때 맨날 사이트 터졌고, 나이키도 신발 어디랑 콜라보했다하면 항상 사이트 뻑 나가잖아요. 그런 것처럼 고성능 인프라가 가장 중요하다고 생각합니다.

음..그럼 고성능 인프라 (GPU)로 AI 개발 뭘 할 수 있는 거죠?

바로 AI를 학습 시킬 수 있는 인프라를 뜻합니다. AI가 사람처럼 생각하고, 대답해주고 그러려면 기초를 알려주는 학습이 필요합니다. 해당 내용이 많은 데이터가 소모되는데 이때 고성능 인프라가 있어야 AI가 과부하가 되지 않으며 데이터들을 흡수할 수 있어요.

그렇지만 고성능 GPU는 희소하고 비싸서... 모든 기업들이 보유하고 있긴 좀.. 어려움이 있죠.

[아니 그럼 GPU 없는 기업들은 AI 활용 못하는거야?] (6/8)

정답은: "아니요" 입니다.

이제는 AI = GPU 경쟁력이 되어버렸습니다. GPU 공급이 수요를 따라가지 못하게 되는 현상도 있었으니(2023년 얘기), 대체할게 필요했습니다.

이에 엔비디아의 GPU를 직접 구매하기 어려운 소규모의 스타트업이나 기업들은 GPU 클라우드를 활용하기 시작했습니다.

GPU 클라우드란?

에어비앤비나 위워크가 필요에 맞춰 공간을 대여해 주는 것처럼 GPU를 클라우드 환경에서 대여해 사용하는 방식

GPU 클라우드는, 주로 크게 2가지로 나눌 수 있다.

1) 범용 클라우드 - AWS, GCP, Azure
2) Ai 전용 클라우드 - 코어위브, 람다랩스 등

즉, 기존의 클라우드 컴퓨팅을 제공하던 범용 클라우드와 AI 용 클라우드로 나눌 수 있다.

p.s 범용 클라우드는 AI 전용 클라우드 대비 비용이 상대적으로 높지만 개발자들에게 익숙하고 다양한 부가 서비스를 제공하는 장점이 있습니다. 다만, 비용 부담을 느끼는 AI 스타트업들은 코어위브와 같은 AI 전용 클라우드를 사용합니다.