Baseten, 헬스케어 및 비즈니스 AI 애플리케이션 구동에 힘입어 AI 인프라 가치 21억 5천만 달러로 3배 급증, 1억 5천만 달러 유치
보이지 않는 엔진: AI 인프라에 대한 1억 5천만 달러 투자, 현대 의학의 숨겨진 경제를 드러내다
샌프란시스코 — 미국 의료 시스템 전역의 진료실에서 매주 수백만 번 조용한 기술 혁명이 펼쳐지고 있습니다. 대부분의 환자는 인지하지 못하지만, 인공지능 덕분에 의료 상담이 몇 초 만에 진료 기록으로 전환됩니다. 이러한 변화의 이면에는 최근까지 투자자와 기술 전문가 모두에게 거의 보이지 않았던 컴퓨팅 인프라가 존재합니다.
이러한 상황은 지난 목요일, 숨겨진 AI 경제의 상당 부분을 뒷받침하는 기업인 바세텐(Baseten)이 21억 5천만 달러의 기업 가치로 1억 5천만 달러 규모의 시리즈 D 투자를 유치했다고 발표하면서 달라졌습니다. 지난 7천 5백만 달러 유치 이후 6개월 만에 회사 가치를 거의 세 배 가까이 끌어올린 이번 투자는 실리콘밸리가 인공지능의 운영적 중추를 평가하는 방식에 근본적인 변화가 있음을 시사합니다.
BOND가 주도하고 CapitalG, Premji, 그리고 기존 투자자인 Conviction, IVP, Spark, Greylock 등이 참여한 이번 투자 유치로 바세텐이 유치한 총 자본은 2억 8천 5백만 달러를 넘어섰습니다. 하지만 그 중요성은 벤처캐피탈 지표를 훨씬 뛰어넘습니다. 이번 투자는 업계 분석가들이 "추론 경제(inference economy)"라고 부르는 개념, 즉 모델 훈련 후 수백만 명의 일일 사용자를 위해 AI 애플리케이션이 작동하게 하는 컴퓨팅 프로세스의 중요성을 입증합니다.
바세텐의 고객 포트폴리오는 이 신흥 시장의 범위와 중요성을 보여줍니다. 의료 상담을 진료 기록으로 변환하는 에이브리지(Abridge)는 이 플랫폼을 통해 매주 백만 건 이상의 진료 기록을 처리합니다. 전국 주요 의료 시설의 의료 서비스 제공자들에게 서비스를 제공하는 오픈에비던스(OpenEvidence)는 매주 수십억 건의 맞춤형 AI 모델 호출을 위해 바세텐의 인프라에 의존합니다. AI 기반 영업 플랫폼인 클레이(Clay)와 기업 콘텐츠 생성 도구인 라이터(Writer)는 안정적이고 고성능의 추론 인프라에 의존하는 애플리케이션의 확장되는 영역을 대표합니다.
에이브리지의 CEO이자 공동 창립자인 시브 라오 박사는 "에이브리지의 사명은 의료 상담을 실시간으로 임상적으로 유용하고 청구 가능한 문서로 변환하여 의료 분야의 더 깊은 이해를 돕는 것입니다"라고 설명했습니다. 그는 "이러한 약속을 이행하려면 빠르고 신뢰할 수 있는 추론이 필요합니다"라고 덧붙였습니다.
이 인프라 계층은 이제 벤처 투자자들이 AI 애플리케이션 성공의 핵심 병목 현상으로 인식하는 것이 되었습니다. 이는 유망한 AI 기술이 실험실 시연에서 수백만 명의 사용자에게 서비스를 제공하는 생산 시스템으로 확장될 수 있는지 여부를 결정하는 컴퓨팅 기반입니다.
1천억 달러 규모의 숨겨진 경제
전국 의료 서비스 제공자들의 번쩍이는 사무실에서는 매시간 수천 번 조용한 혁명이 펼쳐집니다. 모든 AI 기반 진단, 모든 자동 전사(transcription), 모든 지능형 추천은 추론(inference)에 의존합니다. 이는 훈련된 AI 모델을 실행하여 실시간 결과를 생성하는 과정입니다.
AI 훈련(training)은 방대한 데이터셋을 사용하여 모델이 패턴을 학습하고 예측하도록 가르치는 자원 집약적인 과정입니다. 반대로 AI 추론(inference)은 훈련된 모델이 새로운, 보지 못한 데이터에 이 지식을 적용하여 예측을 수행하는 것으로, 일반적으로 쿼리당 컴퓨팅 능력은 덜 필요하지만 지속적인 운영 비용을 발생시킵니다. 이러한 근본적인 차이는 AI 시스템의 기술적 배포와 경제적 함의를 이해하는 데 중요합니다.
AI 시스템 훈련에 필요한 막대한 컴퓨팅 노력과는 달리, 추론은 지속적으로 발생하며, 업계 분석가들은 연간 1천억 달러 규모의 시장이 될 것으로 추정하고 있습니다. 경제성은 전통적인 소프트웨어와는 근본적으로 다릅니다. 비용은 사용자 참여도에 비례하여 증가하며, 이는 막대한 기회와 상당한 운영상의 과제를 동시에 만듭니다.
실리콘밸리 전역의 AI 인프라 투자를 추적해 온 한 고위 분석가는 "우리가 목격하는 것은 완전히 새로운 범주의 비즈니스 인프라의 출현입니다"라고 설명합니다. 그는 "기업들은 AI 모델을 실험실에서 작동시키는 것과 수백만 명의 사용자에게 안정적으로 작동시키는 것이 매우 다르다는 것을 깨닫고 있습니다"라고 덧붙였습니다.
이러한 발견은 기업들이 AI 배포에 대해 생각하는 방식을 재편했습니다. 초기 도입자들은 성공적인 모델 훈련이 자동적으로 성공적인 애플리케이션으로 이어질 것이라고 가정했지만, 현실은 더 복잡하다는 것이 입증되었습니다. 대규모 환경에서의 성능, 신뢰성 및 비용 관리는 머신러닝 알고리즘을 훨씬 뛰어넘는 전문 지식을 필요로 합니다.
밀리초가 시장 지위를 좌우할 때
에이브리지(Abridge)가 지원하는 것과 같은 의료 애플리케이션에서 그 중요성은 명확해집니다. 의사가 AI에 의존하여 중요한 환자 정보를 포착할 때, 시스템 지연은 단순히 불편함을 넘어 환자 치료의 질과 진료소 운영 효율성에 영향을 미칠 수 있습니다.
라오 박사는 "그 약속을 이행하려면 빠르고 신뢰할 수 있는 추론이 필요합니다"라고 설명합니다. 그는 "바세텐은 의료 시스템 전반에서 안전하게 확장되는 인프라로 우리의 사명을 지원합니다"라고 덧붙였습니다.
비슷한 역학 관계는 AI 애플리케이션이 중요한 기능을 수행하는 여러 산업에서도 나타납니다. 전국 주요 의료 시설의 의료 서비스 제공자들에게 의료 정보를 제공하는 오픈에비던스(OpenEvidence)에서는 매주 수십억 건의 맞춤형 AI 모델 호출을 처리합니다. 이 회사의 공동 창립자이자 최고기술책임자(CTO)인 재커리 지글러(Zachary Ziegler)는 인프라 요구 사항을 "말 그대로 생사를 좌우하는 미션 크리티컬한 것"이라고 설명합니다.
이러한 운영 요구 사항은 벤처 투자자들이 이제 "추론 병목 현상(inference bottleneck)"이라고 부르는 것을 만들어냈습니다. 이는 유망한 프로토타입에서 생산 규모의 배포로 전환할 때 어떤 AI 애플리케이션이 살아남을 수 있을지를 결정하는 기술적, 경제적 제약입니다.
AI 붐 뒤에 숨겨진 플랫폼 전쟁
바세텐의 급격한 기업 가치 상승은 점점 더 경쟁이 심화되는 시장의 중심에 자리 잡고 있음을 반영합니다. 이 회사는 투게더 AI(Together AI, 33억 달러 가치) 및 파이어웍스(Fireworks)와 같은 전문 플랫폼뿐만 아니라 포괄적인 AI 서비스를 구축하는 거대 기술 기업들과도 경쟁하고 있습니다.
2025년 기준 선도적인 AI 인프라 및 추론 플랫폼 기업의 기업 가치.
| 기업 | 기업 가치 | 평가 일자 |
|---|---|---|
| 바세텐 | 21억 5천만 달러 | 2025년 9월 5일 |
| 투게더 AI | 33억 달러 | 2025년 2월 |
| 파이어웍스 AI | 40억 달러 (잠재적) | 2025년 7월 |
아마존 웹 서비스(Amazon Web Services), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure)는 자사의 광범위한 클라우드 서비스와 함께 추론 기능을 적극적으로 묶어 제공하고 있으며, 이는 업계 관찰자들이 "미들웨어 압착(middleware squeeze)"이라고 부르는 현상을 초래하고 있습니다. 독립 플랫폼은 더 큰 기술 생태계에 흡수되는 것을 피하기 위해 지속적으로 혁신해야 합니다.
여러 AI 인프라 기업을 평가한 한 벤처 파트너는 "가장 성공적인 추론 플랫폼은 규모가 커질수록 극적으로 개선되는 단위 경제(unit economics)를 입증해야 할 것입니다"라고 말합니다. 그는 "이 시장에서는 단순히 매출을 늘리면서 일정한 마진을 유지하는 것만으로는 충분하지 않을 것입니다"라고 지적합니다.
이러한 경쟁 압력은 바세텐을 순수한 추론을 넘어 모델 훈련 및 미세 조정과 같은 인접 기능으로 이끌었습니다. 투힌 스리바스타바(Tuhin Srivastava) CEO는 이러한 발전을 AI 애플리케이션의 초기 개발부터 대규모 배포까지 지원할 수 있는 "전체 추론 수명 주기(full inference lifecycle)" 플랫폼을 만드는 것이라고 설명합니다.
경제적 방어로서의 수직적 전문화
아마도 가장 중요한 것은, 바세텐의 성장 궤적이 전문화된 산업 지식이 어떻게 지속 가능한 경쟁 우위로 전환되는지를 보여준다는 것입니다. 규제 준수, 데이터 프라이버시, 신뢰성 요구 사항이 매우 엄격한 의료 분야에서 이 회사의 성공은 기술 역량이 단순한 소프트웨어 통합을 훨씬 뛰어넘는 전환 비용(switching costs)을 어떻게 만들어내는지 보여줍니다.
의료 AI 애플리케이션은 소비자 챗봇과는 근본적으로 다른 제약 조건 하에서 작동합니다. 이들은 감사 가능한 성능 지표, 상세한 규정 준수 문서, 그리고 기본 모델이 실패할 경우의 정교한 대체 메커니즘을 필요로 합니다. 이러한 운영 요구 사항은 기술 경영진들이 상당한 마이그레이션 장벽이라고 설명하는 것을 만듭니다.
경쟁 역학을 논의하기 위해 익명을 요청한 한 유명 건강 기술 기업의 최고기술책임자(CTO)는 "특정 추론 플랫폼을 중심으로 전체 규정 준수 프레임워크를 구성하면, 공급업체를 변경하는 것은 6개월에서 12개월이 걸리는 엔지니어링 프로젝트가 됩니다"라고 설명합니다. 그는 "기술 부채(technical debt)만으로도 상당한 종속 효과(lock-in effects)를 유발합니다"라고 덧붙였습니다.
투자 함의 및 시장 진화
투자 관점에서 바세텐의 기업 가치는 추론 시장 기회의 규모와 제3자 하드웨어 공급업체에 의존하는 인프라 사업 구축의 내재된 위험을 모두 반영합니다. 거의 제로에 가까운 한계 비용(marginal costs)을 달성할 수 있는 전통적인 소프트웨어 플랫폼과 달리, 추론 제공업체는 변동하는 수요 패턴을 관리하면서 GPU 용량에 지속적으로 투자해야 합니다.
이러한 도전은 순수한 자본 요구 사항을 넘어섭니다. 엔비디아(NVIDIA)의 고급 프로세서는 여전히 비싸고 조달하기 어려워, 정교한 공급망 관리와 장기적인 용량 계획이 필요합니다. 성공은 성능 최적화와 비용 통제를 균형 있게 맞추는 것을 요구하는데, 이는 소수의 조직만이 내부적으로 개발할 수 있는 기술 역량입니다.
AI 인프라의 단위 경제(Unit economics)는 서비스 또는 산출물의 단일하고 정의 가능한 단위와 관련된 수익 및 비용을 분석하는 것을 포함합니다. 이는 추론당 비용, 훈련된 모델당 비용, 또는 처리된 데이터 기가바이트당 비용을 계산하고, 클라우드 서비스 및 SaaS의 원칙을 적용하여 비용 관리, 수익성 및 확장성을 최적화하는 것을 의미합니다.
이 분야를 추적하는 금융 분석가들은 지속 가능한 추론 플랫폼이 단순히 매출을 늘리는 것을 넘어 개선된 단위 경제를 입증해야 할 것이라고 제안합니다. 가장 방어적인 비즈니스 모델은 사용량 기반 가격 책정과 특정 고객 결과에 연동된 가치 기반 수수료를 결합할 수 있습니다.
클레이(Clay)의 공동 창립자이자 CEO인 카림 아민(Kareem Amin)은 바세텐의 인프라를 도입한 후 자사의 AI 기반 영업 플랫폼이 겪은 변화를 설명합니다. 그는 "우리는 새로운 AI 기능을 더 빠르고, 더 높은 품질로, 그리고 고객에게 제대로 작동할 것이라는 확신을 가지고 출시합니다. 바세텐은 우리에게 단순한 인프라가 아니라, 차세대 AI 기반 솔루션을 제공하는 방식의 핵심적인 부분입니다"라고 말했습니다.
통합의 질문
앞으로 추론 인프라 시장은 상당한 통합(consolidation)을 겪을 것으로 보입니다. 벤처 자금이 전문 플랫폼으로 계속 흘러들어 가고 있지만, 근본적인 경제성은 여러 고객 부문과 사용 사례에 걸쳐 대규모를 달성할 수 있는 기업에게 유리합니다.
바세텐의 과제는 고성장 AI 스타트업과 중견 기업에 집중된 현재의 역량에서 벗어나 확장하는 것입니다. 기업 도입은 일반적으로 포괄적인 공급업체 관리, 상세한 서비스 수준 협약(SLA), 정교한 비용 할당 도구 등 기술적 성능을 훨씬 뛰어넘는 역량을 요구합니다.
인기 있는 오픈 소스 모델을 위한 관리형 API와 통합 훈련 기능을 포함한 회사의 최근 제품 출시는 전문 솔루션보다는 포괄적인 플랫폼이 되기 위한 전략을 시사합니다. 이러한 접근 방식이 집중된 경쟁자들과 하이퍼스케일 클라우드 제공업체 모두에 맞서 효과적으로 경쟁할 수 있을지 여부가 회사의 장기적인 시장 지위를 결정할 가능성이 높습니다.
AI 애플리케이션이 여러 산업에 걸쳐 계속 확산됨에 따라, 추론 인프라 시장은 클라우드 통합 시대에 크고 독립적인 소프트웨어 비즈니스를 구축할 몇 안 되는 남은 기회 중 하나를 대표합니다. 바세텐의 1억 5천만 달러 투자는 궁극적으로 산업의 가장 큰 플레이어들이 AI 인프라를 완전히 상품화하기 전에, 전문화되고 성능이 최적화된 플랫폼이 지속 가능한 시장 지위를 확보할 수 있다는 베팅을 의미합니다.
그 중요성은 단일 기업의 성공을 넘어섭니다. 추론 시장이 어떻게 진화하느냐에 따라 어떤 조직이 AI를 대규모로 배포할 여유가 있는지 근본적으로 결정될 것이며, 이는 인공지능이 진정으로 민주화될지 아니면 자본이 풍부한 거대 기술 기업들 사이에 집중될지를 잠재적으로 결정할 것입니다.
에이브리지의 서비스를 사용하는 의료 서비스 제공자들과 같은 이들에게, 이러한 인프라 결정은 궁극적으로 환자 치료의 AI 기반 개선이 널리 접근 가능해질지 아니면 자금력이 풍부한 기관에 국한될지를 결정할 것입니다. 그런 의미에서 바세텐의 시리즈 D 투자는 단순한 사업적 이정표를 넘어, 인공지능이 사회를 어떻게 변화시킬지 결정할 기술적 기반에 대한 투자입니다.
본 자료는 투자 조언이 아닙니다.