AI 업계가 오랫동안 집중해 온 것은 모델을 더 크게, 더 똑똑하게 만드는 일이었다. 그런데 그 모델이 실제로 수익을 내는 순간—사용자의 질문에 답을 내놓는 추론(inference)—은 여전히 느리고, 비싸고, 구현이 복잡한 상태로 남겨져 있었다. 2019년 설립된 베이스텐(Baseten)은 그 간극을 플랫폼으로 만든 회사다. 요청을 최적 모델로 자동 라우팅하고, 오픈소스 모델로 비용을 통제하며, 기업 고객의 자체 클라우드에도 그대로 배포되는 추론 인프라를 서비스로 제공한다. 그 플랫폼에 스파크 캐피털·샌즈 캐피털·알티미터 캐피털·웰링턴 매니지먼트 4개 기관이 공동으로 15억 달러를 넣었다1.
왜 '추론'이었나 — 학습이 끝나는 곳에서 수익이 시작됐다
AI 스택에서 돈이 도는 위치가 바뀌고 있다. 초기 생성 AI 붐은 기반 모델 레이어에 자본을 집중시켰다. 그러나 오픈소스 모델의 품질이 빠르게 올라오면서 기반 모델의 상품화 압력이 거세지는 한편, 그 모델들이 실제로 답을 내놓는 추론 레이어는 여전히 해결되지 않은 병목으로 남아 있었다. 서비스 트래픽이 늘어날수록 레이턴시가 치솟고, 자체 GPU 서버를 운용하자니 인프라 팀 전체를 꾸려야 한다. AI 제품을 만드는 기업들이 공통적으로 부딪히는 벽이 여기에 있었다.
베이스텐은 이 병목을 추론 플랫폼으로 해소한다. 핵심은 두 가지다. 첫째, 들어오는 요청을 그 성격에 맞는 최적 모델로 자동 라우팅하는 메커니즘이다. 고비용 프론티어 모델이 필요한 요청과 성능이 충분한 오픈소스 모델로 처리 가능한 요청을 구분해 비용을 능동적으로 통제한다1. 둘째, 고객사의 클라우드 환경에 베이스텐 인프라를 그대로 올리는 BYOC(Bring Your Own Cloud) 지원이다6. 데이터가 외부로 나가지 않아야 하는 금융·의료 분야 기업들이 이 경로로 진입할 수 있다.
고객사 라인업이 이 포지셔닝을 뒷받침한다. Cursor, Notion, HeyGen, Gamma, Lovable, Writer, OpenEvidence, Abridge 등 현재 AI 생태계에서 가장 빠르게 성장하는 기업들이 베이스텐을 추론 레이어로 쓰고 있다6. 이들이 베이스텐 위에서 서비스를 키울수록, 베이스텐의 추론 트래픽도 함께 불어나는 구조다.
밸류에이션 상승 속도가 이 가설에 대한 시장 반응을 압축한다. 베이스텐은 시리즈D에서 21억 달러 기업가치에 1억5천만 달러를 유치했고1, 9개월 후 시리즈E에서 50억 달러 가치에 3억 달러를 끌어모았다1. 이번 시리즈F의 헤드라인 기업가치는 130억 달러다1. 5개월 만에 160% 상승이다. 다만 이번 라운드는 일부 투자자가 130억 달러, 다른 투자자가 110억 달러로 들어오는 스플릿 프라이스(split-priced) 구조인 것으로 알려졌다1. 헤드라인 기업가치를 최대로 끌어올리는 기법인 동시에, 그 숫자가 시장 전체의 합의를 대변하지는 않는다는 신호이기도 하다.
| 인프라 영역 | 전통 자체 구축 방식 | 베이스텐 플랫폼 |
|---|---|---|
| 모델 배포 | GPU 서버 구매·운영, ML 인프라팀 별도 필요 | 자사 클라우드 또는 BYOC 원클릭 배포6 |
| 트래픽 라우팅 | 단일 엔드포인트 고정, 요청 성격 무관 처리 | 요청별 최적 모델 자동 라우팅1 |
| 비용 구조 | 프론티어 모델 API 단가에 100% 종속 | 오픈소스 모델 우선 활용, 비용 능동 통제1 |
| 가용성 SLA | 팀별 자체 관리, 장애 대응 직접 부담 | 99.99% 업타임 플랫폼 보장6 |
| 고객 범위 | 자체 ML팀 보유한 대형 기업 중심 | Cursor·Notion·HeyGen 등 AI-네이티브 전계층6 |
세 가지 무기 — 어떻게 벽을 쌓았나
- 자동 라우팅으로 속도를 잡았다 베이스텐의 핵심 메커니즘은 들어오는 추론 요청을 실시간으로 분류해 가장 적합한 모델로 연결하는 라우팅 레이어다1. 단순 질의는 저비용 오픈소스 모델로, 복잡한 추론은 프론티어 모델로 자동 분기한다. 레이턴시를 낮추면서 품질도 유지하는 이 구조가 AI 서비스 개발사에게 인프라 고민을 덜어준다. 모델 선택권이 사용자가 아닌 플랫폼에 있다는 점이 락인의 시작이기도 하다.
- 오픈소스 모델로 비용을 잡았다 베이스텐의 비용 경쟁력은 오픈소스 모델의 적극 활용에 기반한다1. 클로즈드 소스 모델 API에 100% 의존할 때와 비교해, 적절한 요청을 오픈소스로 처리함으로써 추론 단가를 대폭 낮출 수 있다. 이 비용 절감이 고객사의 서비스 마진에 직접 닿는다. 오픈소스 모델 품질이 계속 올라오는 트렌드가 베이스텐에게 구조적 유리로 작용하는 이유다.
- BYOC로 기업 시장을 잡았다 데이터 주권 이슈는 많은 기업 고객이 퍼블릭 SaaS 추론 플랫폼 도입을 주저하게 만드는 최대 장벽이다. 베이스텐의 BYOC 모델은 플랫폼 소프트웨어를 고객사 자체 클라우드 환경에 배포함으로써 이 장벽을 우회한다16. 규제가 엄격한 금융·의료·공공 부문이 열리는 경로다. AI 서비스가 성숙 산업으로 확산될수록 이 진입구의 가치는 커진다.
The Bet — 왜 4개 기관이 이 베팅을 샀나
추론은 AI 경제에서 가장 반복적으로 과금이 발생하는 레이어다. 모델 학습은 일회성이지만, 추론은 서비스가 살아 있는 매 순간 돈이 나간다. 스파크 캐피털·알티미터 캐피털이 이 베팅에 합류한 논리는 단순하다. 추론 트래픽은 AI 제품 채택과 정비례하고, 베이스텐의 고객사 라인업—Cursor, Notion, HeyGen 등6—은 그 트래픽이 가장 가파르게 자라는 곳들이다1. 자동 라우팅과 BYOC는 경쟁사가 단기간에 복제하기 어려운 모트(moat)이며, 고객사가 베이스텐 위에서 서비스를 키울수록 이탈 비용은 높아진다. 15억 달러라는 규모는 단순 성장 베팅이 아니라, 이 플랫폼이 AI 스택의 추론 인프라 표준이 될 수 있다는 구조적 판단이다. 다만 스플릿 프라이스 구조1가 이미 말하고 있는 것도 있다. 기업가치에 낙관론이 선반영돼 있다는 시장의 자기 경고다.
다음 12개월에 지켜볼 지표 3개
- ARR 공개 여부와 수치 베이스텐의 연간 반복 매출(ARR)은 아직 공개된 적이 없다. 경쟁사 모달랩스(Modal Labs)가 ARR 3억 달러를 공개하며 자금 조달에 성공한 사례5와 대조된다. 베이스텐이 130억 달러 기업가치를 뒷받침하는 수익 지표를 언제, 얼마 규모로 공개하는지가 핵심 신호다.
- BYOC 계약의 엔터프라이즈 확장 속도 규제 산업(금융·의료·공공)으로의 침투가 베이스텐의 다음 성장 레이어다. AI-네이티브 스타트업 락인은 이미 확인됐다. 이 분야에서 레퍼런스 계약 몇 건이 공개되는지가 TAM 확장 가능성을 직접 가늠하는 지표가 된다.
- 경쟁사 대비 추론 단가 격차 유지 여부 모달랩스5·파이어웍스AI1·오픈라우터4 등 경쟁사들이 빠르게 성장하는 추론 인프라 시장에서 베이스텐이 단가 경쟁력을 유지하면서도 마진을 확보하는지가 플랫폼 지속 가능성의 핵심이다. 오픈소스 모델 라우팅은 단가를 낮추지만, 경쟁사도 동일한 카드를 쓸 수 있다.
130억 달러가 그 층의 두께를 대변하는지, 아니면 추론 골드러시의 온도만 반영한 것인지는 다음 12개월이 답한다.
