핵심 요약

  • 톰 퉁구즈가 제시한 GPU 임대료 지표는 최근 6개월 사이 GPU 시간당 4.40달러에서 8.08달러로 올랐다.
  • 반면 퉁구즈가 인용한 모델 운영비와 성능 기준 달성 비용은 낮아졌다. GPU 한 대로 처리할 수 있는 작업량이 늘고 있다는 뜻이다.
  • 데이터센터 건설 비용과 전력 제약은 GPU 임대료에 상승 압력을 주고 있다.
  • 퉁구즈는 두 흐름의 균형을 판단할 지표로 GPU 시간당 매출총이익을 제시한다.

GPU 임대료를 밀어 올리는 비용과 수요

GPU 시간당 임대료는 최근 6개월 사이 4.40달러에서 8.08달러로 올랐다. 퉁구즈는 업계가 새 데이터센터를 짓는 동안 높은 GPU 비용이 이어질 가능성이 있다고 본다. 콘크리트와 구리 같은 자재뿐 아니라 자금 조달 비용도 오르고 있다는 설명이다.

특히 전력 공급이 제약이다. 퉁구즈는 뉴멕시코의 오라클 데이터센터에 가스를 공급할 파이프라인 일정이 6개월 늦어지자 오라클이 불가항력을 주장한 사례를 들었다. 데이터센터를 계획해도 필요한 에너지를 제때 확보하지 못할 수 있다는 사례다.

그는 추론 서비스 기업과 모델 기업의 성장이 투자 확대와 제한된 GPU 사용 시간에 대한 경쟁으로 이어진다고 분석한다. 여기서 추론은 이미 만들어진 AI 모델이 사용자의 요청을 처리하는 과정이다.

모델 효율이 낮추는 이용 가격

퉁구즈에 따르면 Claude Opus 5.5의 운영 비용은 이전 모델보다 40% 낮다. 그는 OpenAI가 Luna의 가격을 7월에 80%, 9월에 추가로 50% 낮췄다고도 적었다. 가격 인하의 배경에 수익성 개선이 있었을 것이라는 설명은 그의 추정이다.

같은 벤치마크 기준을 달성하는 비용도 18개월 전 0.55달러에서 현재 0.0015달러로 낮아졌다는 수치를 제시했다. 이는 GPU 임대료가 올라도 일정한 성능의 AI 작업에 드는 비용은 내려갈 수 있음을 보여준다.

높아진 금리와 성장에 건 투자

자본 조달 비용도 퉁구즈의 분석에 포함된다. 그의 계산에 따르면 미국 10년물 국채 금리와 기술주 가치의 상관관계는 전체 관측 기간에 −0.50이었지만 최근 2년에는 +0.39로 바뀌었다. 그 기간 금리가 3.63%에서 5.18%로 오르는 동안 나스닥 지수도 약 78% 상승했다.

퉁구즈는 이를 시장이 현재의 자금 조달 비용보다 향후 성장에 무게를 두고 있다는 신호로 해석한다. 다만 금리와 주가의 동반 상승만으로 투자자들의 판단이 성공할지는 알 수 없다.

GPU 한 시간에서 남는 이익

퉁구즈가 최종적으로 주목하는 수치는 GPU 시간당 매출총이익이다. GPU 사용 비용이 오르는 속도보다 같은 GPU로 처리하는 작업량과 그에 따른 이익이 더 빠르게 늘어나는지가 관건이라는 뜻이다.

그는 마이크로소프트가 GPU당 연간 생성 토큰 수가 전년 대비 90% 늘었다고 밝힌 점을 인용한다. 토큰은 모델이 처리하거나 생성하는 텍스트의 단위다. 다만 이 개선은 작은 모델에 집중돼 있다. 따라서 이 수치를 모든 모델의 효율 개선 속도로 일반화할 수는 없다.

GPU 임대료 상승과 AI 이용 비용 하락은 동시에 나타나고 있다. 퉁구즈의 분석에서는 인프라 비용과 수요가 전자를, 모델 효율 개선이 후자를 설명한다. 현재 두 흐름이 균형을 이루는지는 GPU 시간당 실제 이익의 변화로 판단해야 한다.