https://x.com/VitalikButerin/status/1824034740627800121

비탈릭 이더랑 밈코팔아서 기부중

BTC 59,258.00 비트 미쳤 UP
ETH 2,659.01 이더 미쳤 UP

[AI 비즈니스의 비용 구조?] (4/8)

저도 AI 비즈니스의 비용 구조까지 설명드릴 줄 몰랐어요.
다시 태어나도 개발자는 안 할래요.

AI 비즈니스의 비용은 대부분 하드웨어와 클라우드에서 발생합니다.
특히 하드웨어 비용 중 40%가 GPU, NPU, TPU와 같은 AI 컴퓨팅에서 발생해요.

예전에 비트코인 채굴하는 사람들이 많아져서 GPU 싹슬이 대란있던거 알죠? 그때 저 집에 컴퓨터 한 대 제대로 놓고 싶었는데 비싸서 걍 안 샀어요. 2배 값으로 도저히 살 수 없었어요. (어쩌다보니 노트북만 3대있음)

AI를 활용한 서비스를 제공하는 기업이 많아질 수록, 컴퓨팅 지출 비용은 높아집니다. 이는 더 비싼 하드웨어 가격을 이끌 예정이며, AI가 본격적으로 시작하는 이 시점에 가격은 더 상승할거라 감히 생각해봅니다.

지금도 AI를 활용한 서비스를 진행한다는게 저렴한 건 아닙니다. 빅 테크끼리 서로 경쟁 중이고 막대한 비용을 투입해 인프라를 늘리고 있거든요.

최근에 공개된 Gemini Ultra는 모델 1개를 만들기 위해 약 2,700억 원을 컴퓨팅 비용에 지출했습니다.

[그럼 AI를 개발하려면 뭐가 필요할까?] (5/8)

1) 양질의 데이터
2) 뛰어난 개발자
3) AI 인프라 (고성능 GPU)

양질의 데이터와 뛰어난 개발자도 중요하지만, 실제 비즈니스에서 큰 차이를 불러오는 건 AI 인프라 (GPU)라고 생각합니다.

아무리 좋은 개발자들이 뚝딱뚝딱 개발을 만들었다해도, 성능이 부족해 천 명, 만 명이 몰려 사이트가 터지면(인프라).. 아무 의미가 없거든요.

옛날에 코인빗 이벤트 할 때 맨날 사이트 터졌고, 나이키도 신발 어디랑 콜라보했다하면 항상 사이트 뻑 나가잖아요. 그런 것처럼 고성능 인프라가 가장 중요하다고 생각합니다.

음..그럼 고성능 인프라 (GPU)로 AI 개발 뭘 할 수 있는 거죠?

바로 AI를 학습 시킬 수 있는 인프라를 뜻합니다. AI가 사람처럼 생각하고, 대답해주고 그러려면 기초를 알려주는 학습이 필요합니다. 해당 내용이 많은 데이터가 소모되는데 이때 고성능 인프라가 있어야 AI가 과부하가 되지 않으며 데이터들을 흡수할 수 있어요.

그렇지만 고성능 GPU는 희소하고 비싸서... 모든 기업들이 보유하고 있긴 좀.. 어려움이 있죠.

[아니 그럼 GPU 없는 기업들은 AI 활용 못하는거야?] (6/8)

정답은: "아니요" 입니다.

이제는 AI = GPU 경쟁력이 되어버렸습니다. GPU 공급이 수요를 따라가지 못하게 되는 현상도 있었으니(2023년 얘기), 대체할게 필요했습니다.

이에 엔비디아의 GPU를 직접 구매하기 어려운 소규모의 스타트업이나 기업들은 GPU 클라우드를 활용하기 시작했습니다.

GPU 클라우드란?

에어비앤비나 위워크가 필요에 맞춰 공간을 대여해 주는 것처럼 GPU를 클라우드 환경에서 대여해 사용하는 방식

GPU 클라우드는, 주로 크게 2가지로 나눌 수 있다.

1) 범용 클라우드 - AWS, GCP, Azure
2) Ai 전용 클라우드 - 코어위브, 람다랩스 등

즉, 기존의 클라우드 컴퓨팅을 제공하던 범용 클라우드와 AI 용 클라우드로 나눌 수 있다.

p.s 범용 클라우드는 AI 전용 클라우드 대비 비용이 상대적으로 높지만 개발자들에게 익숙하고 다양한 부가 서비스를 제공하는 장점이 있습니다. 다만, 비용 부담을 느끼는 AI 스타트업들은 코어위브와 같은 AI 전용 클라우드를 사용합니다.

[근데 AI가 지금 여기서 더 발전할게 있나?] (7/8)

GPT 혁명 이후 AI 시장은 엄청난 속도로 성장하고 있습니다.

그렇지만, 아직까지 대한민국의 GPU 현황은 그렇게 좋진 않습니다.

미국에 비해 훨씬 적은 수의 데이터센터가 있기도하고, 한국 기업들은 아직까지 GPU 구하는게 어렵고, 비싼 가격으로 이어지기에 자연스레 한국 기업들이 원하는 만큼 개발을 못하는 것도 사실입니다. (한국에 AI 서비스 회사가 적기도 함)

그렇지만, AI는 앞으로 필수 카테고리라고 생각합니다.

개인적인 생각으로는

1) AI를 통한 1:1 맞춤형 과외/학원
2) AI 활용 그림 그리기 / 전시회
3) 내 형상 AI 로보트와 함께하는 쇼핑
4) AI랑 테니스 치기 (파트너 필요없음)
6) 심리 상담 (의사쌤에게 비밀얘기 X)

아직까지는 AI 로보트가 말할 때 표정이나 감정이 없다는게 문제고, 글 쓸 때 사람 고유의 감정을 담지 못하는 게 아쉽다는 피드백이 있습니다. 그건 더 개발이 세분화되면서 고쳐질 수 있는 문제라고 생각합니다.

AI의 미래 발전은 우리가 상상하는 것 이상으로 변화를 가져올거라 의심치않습니다. 물론, 그만큼 사람들의 직업 대체도 오게되겠지만요...

[번외] 찝찝한거 좋아하는 사람?

AI가 만든 영상인데 이거 보면 찝찝함과 불쾌감에 미칠수도 있음

나만 불쾌할 수 없기에... 다들 보세요

이거 비싼건가요? 롤렉스

하 Web2는 제출하라는 서류가 왜케 많음 진짜로

하루종일 서류작업하고 있네

-요약-

하루종일 서류 작업함
빡쳐서 글 올림
본사에서 본듯
갑자기 자리로 와서 친절히 설명해 주심
감사하다 인사드림...

좀 머리 좀 식히고 이따 밤에 포스팅할 거 있음 하겠습니다!