AI 인프라 시장은 오랫동안 더 큰 모델을 더 빨리 학습시키는 문제에 집중해 왔다. 그런데 모델을 실제 서비스로 돌리는 시간이 길어지면서 병목은 훈련에서 추론으로 이동했다. 제너럴 컴퓨트는 이 지점에서 엔비디아 GPU가 아니라 삼바노바의 추론 특화 칩 SN50을 전면에 세웠고, 거기에 195억원이 붙었다1. 시드 라운드 치고는 작지 않은 돈이다.
왜 추론이었나 — AI 의 비용 중심이 옮겨갔다
AI 인프라의 첫 번째 사이클은 학습이었다. 거대한 데이터셋, 거대한 GPU 클러스터, 거대한 선투자가 경쟁력을 만들었다. 하지만 모델이 제품 안으로 들어오면 경제성은 다른 방식으로 계산된다. 한 번 훈련하는 비용보다 매일 수백만 번 호출되는 추론 비용이 손익계산서를 흔든다.
제너럴 컴퓨트가 잡은 것은 이 전환이다. 회사는 AI 추론에 특화된 네오클라우드를 표방하며, 훈련이 아닌 실제 구동 단계의 속도와 효율에 집중한다1. 모델을 만드는 회사가 아니라, 모델이 계속 작동하도록 하는 비용 구조를 파는 회사다.
이 선택이 중요한 이유는 GPU가 더 이상 모든 문제의 기본값으로 남기 어렵기 때문이다. 출처는 AI 에이전트가 서로 대화하고 코딩 에이전트가 긴 작업을 수행하는 시대가 오면서, GPU 중심 구조의 한계가 드러나기 시작했다고 설명한다1. 추론은 짧고 반복적이며 지연시간에 민감하다. 학습용으로 설계된 병목과 운영용으로 필요한 병목이 다르다.
그래서 제너럴 컴퓨트의 베팅은 칩 하나의 성능 광고가 아니다. SN50을 기반으로 기존 데이터센터에 설치 가능한 추론 전용 클라우드를 만들겠다는 구조적 주장이다1. GPU 가격을 이기는 것이 아니라, GPU가 과하게 쓰이던 업무를 분리해내겠다는 전략에 가깝다.
무엇이 다른가 — 전통 GPU 클라우드와 제너럴 컴퓨트
| 영역 | 전통 GPU 클라우드 | 제너럴 컴퓨트 |
|---|---|---|
| 주요 용도 | 훈련과 추론을 모두 GPU 자원으로 처리 | 추론 단계에 집중한 네오클라우드1 |
| 칩 전략 | 엔비디아 GPU 중심의 범용 연산 | 삼바노바 추론 특화 칩 SN50 채택1 |
| 성능 주장 | 워크로드에 따라 GPU 성능과 비용이 결정 | SN50 기준 초당 600~700개 토큰, GPU 대비 2배 이상 속도 주장1 |
| 설치 조건 | 전력·냉각·랙 구성에서 추가 투자가 필요할 수 있음 | 공랭식 설계로 기존 데이터센터에 추가 인프라 투자 없이 설치 가능하다고 밝힘1 |
| 시장 포지션 | 학습 수요가 만든 GPU 공급망에 종속 | MiniMax 2.7을 가장 빠르게 구동하는 네오클라우드라고 주장1 |
어떻게 시장에 들어가나
- 칩을 먼저 잠근다. 제너럴 컴퓨트는 삼바노바의 SN50 칩을 3억 달러어치 선주문했고, 최초 배포 네오클라우드가 될 예정이라고 알려졌다1. 초기 인프라 회사에서 공급 접근권은 제품 로드맵 그 자체다.
- 기존 데이터센터를 노린다. SN50은 공랭식 설계로 기존 데이터센터에 추가 인프라 투자 없이 설치 가능하다고 소개됐다1. 이 주장이 실제 운영에서 검증된다면, 제너럴 컴퓨트는 신규 초대형 캠퍼스가 아니라 이미 있는 데이터센터 용량을 추론용으로 재배치할 수 있다.
- 속도를 판매 단위로 만든다. 회사는 정식 클라우드 서비스를 출시했고, MiniMax 2.7을 가장 빠르게 구동하는 네오클라우드라고 주장한다1. 추론 인프라의 구매 기준은 더 많은 플롭스가 아니라 더 낮은 지연시간과 더 예측 가능한 토큰 처리량으로 이동한다.
The Bet — 왜 이 VC들은 이 베팅을 샀나
FUSE VC, 카야 벤처 파트너스, 빌리지 글로벌 벤처스, 에버크레스트 캐피털 파트너스가 산 것은 또 하나의 클라우드 계정이 아니다1. 이들이 본 핵심은 추론이 AI 산업의 반복 매출 원가가 된다는 점이다. 모델이 앱으로 퍼질수록 호출은 늘고, 호출이 늘수록 지연시간과 전력, 칩 단가가 경쟁력이 된다. 제너럴 컴퓨트가 맞다면, AI 인프라의 다음 병목은 GPU 확보량이 아니라 추론 워크로드를 얼마나 전용화할 수 있느냐다.
물론 이 베팅에는 검증해야 할 부분이 많다. SN50의 토큰 처리량과 GPU 대비 속도 우위는 회사가 제시한 주장이고, 실제 고객 워크로드에서 비용·안정성·모델 호환성으로 이어져야 한다1. 네오클라우드는 하드웨어만 잘 사면 되는 사업이 아니다. 스케줄링, 모델 서빙, 장애 대응, 고객 락인, 가격 정책이 모두 제품이다.
다만 시장의 방향성은 제너럴 컴퓨트에 유리하게 움직인다. 그록도 칩에서 AI 추론 클라우드로 방향을 틀며 6억5천만 달러를 유치했다는 보도가 나왔다2. 이는 추론 인프라가 단순한 하위 카테고리가 아니라, 별도 자본시장이 붙는 영역이 되고 있음을 보여준다.
다음 12개월에 지켜볼 지표 3개
- 실제 고객 워크로드의 단가. 초당 토큰 수는 출발점일 뿐이다. 고객이 보는 것은 동일 모델을 같은 품질로 돌렸을 때 토큰당 비용과 지연시간, 장애율이 얼마나 낮아지는가다.
- SN50 배포 속도. 3억 달러 선주문이 실제 클러스터 용량으로 전환되는 속도가 중요하다1. 공급 계약은 발표보다 배포가 어렵고, 배포보다 안정 운영이 더 어렵다.
- GPU 생태계와의 호환성. 제너럴 컴퓨트가 GPU를 완전히 대체할 필요는 없다. 대신 특정 추론 워크로드에서 더 빠르고 싸다는 명확한 사용처를 만들어야 한다. 승부는 범용성의 크기가 아니라, 가장 비싼 반복 작업을 얼마나 정확히 떼어내는지에 달려 있다.
다음은 SN50 클러스터가 발표 숫자를 실제 고객의 청구서 절감으로 바꾸는지다.
