핵심 요약

  • 톰 퉁구즈는 AI 추론 시장이 2027년 약 3,500억 달러에 이르러 데이터베이스 시장 전망치인 1,900억 달러를 크게 넘어설 것으로 예상한다.
  • 애플리케이션의 추론 사용료가 기본 구독료보다 커지면 매출 성장과 함께 고객의 비용 예측, 영업 보상, 매출 전망도 복잡해진다.
  • 추론 비용은 기존 소프트웨어의 매출총이익률을 압박한다. 고객이 자체 GPU나 모델 API를 제공하면 공급사는 높은 소프트웨어 마진을 얻는 대신 계약 매출이 작아진다.
  • 성능을 감안한 토큰 비용은 내려가고 있지만, 최상위 모델의 표시 가격은 성능 향상에 따라 다시 오를 수 있다.

데이터베이스를 넘어서는 시장 전망

퉁구즈에 따르면 2010년대 중반 데이터베이스 시장에서는 스타트업이 점유율 2%를 확보하면 기업공개를 할 수 있을 만큼 시장이 컸다. 그는 이제 AI 모델을 실제로 실행하는 데 드는 비용인 추론이 그 시장을 넘어설 것으로 본다.

기업들이 AI 모델 실행에 지불한 금액은 2025년 약 250억 달러였으며, 퉁구즈는 올해 시장 규모를 약 1,300억 달러로 제시한다. 이는 그가 인용한 가트너의 데이터베이스 시장 전망치 1,610억 달러에 근접한다. 2027년에는 추론 시장이 약 3,500억 달러로 커져 데이터베이스 시장 전망치 1,900억 달러의 거의 두 배에 이를 것이라는 예상이다. 이 수치들은 향후 시장 규모에 관한 전망이며 확정된 매출이 아니다.

사용량이 구독료보다 커질 때

퉁구즈는 애플리케이션이 고객에게 추론 기능을 제공하고 그 비용을 다시 청구하는 구조로 바뀐다고 설명한다. 이 경우 추론 사용료가 사용자당 라이선스 비용이나 기본 구독료를 넘어설 수 있다. 사용량 증가는 매출 성장을 이끌 수 있지만, 예상 밖의 청구액을 우려하는 고객에게는 예측 가능한 요금제가 필요해진다. 영업 담당자의 보상 설계와 공급사의 매출 예측도 복잡해진다.

매출총이익률과 고객 자체 인프라의 교환관계

추론 비용이 커지면 기존 소프트웨어의 평균 매출총이익률 72%를 유지하기 어려워질 수 있다. 퉁구즈는 애플리케이션이 자체 실행 체계를 개선해 불필요한 토큰 사용을 크게 줄이거나, 모델 간 경쟁으로 추론 가격이 공급 제약에 따른 가격 상승보다 빠르게 내려가야 한다고 본다. 그렇지 않으면 고객 확보 비용을 회수하는 데 걸리는 기간에도 영향을 준다.

기업 고객이 자체 GPU 클러스터나 모델 API 인증 정보를 제공하는 방식도 있다. 이때 공급사는 추론 비용을 부담하지 않아 소프트웨어에 가까운 높은 매출총이익률을 얻지만, 추론 사용료를 매출로 잡지 못해 계약 매출 규모는 훨씬 작아진다.

내려가는 토큰 비용, 다시 오르는 최상위 모델 가격

퉁구즈가 인용한 자료에서는 모델 성능을 감안한 토큰 비용이 분기마다 약 47% 하락한다. 그러나 최상위 모델의 표시 가격은 성능이 높아질 때 다시 올라갔다. 그가 제시한 혼합 가격은 18개월 동안 0.96달러에서 11.25달러로 상승한 뒤 GPT-6 Sol 출시로 4.00달러 수준으로 재설정됐다.

따라서 추론 단가 하락만으로 애플리케이션의 비용 부담이 사라진다고 보기는 어렵다는 것이 그의 주장이다. 추론 인프라 비용은 전체 매출원가에서 큰 비중을 차지할 수 있으며, 경우에 따라 매출의 절반 이상이 여기에 쓰일 수도 있다. 공급사는 더 작은 모델, 토큰 사용을 줄이는 실행 체계, 요청에 맞는 모델을 고르는 방식을 통해 효율을 높이려 할 것이다.

결론

퉁구즈의 전망대로 추론 시장이 커진다면 애플리케이션 공급사는 추론 사용량에서 얻는 매출과 그에 따르는 비용을 함께 관리해야 한다. 고객이 비용을 직접 부담하는 방식은 마진을 높이는 대신 매출 규모를 줄인다는 선택지도 남긴다.