핵심 요약

  • 딜런 파텔에 따르면 SemiAnalysis의 Claude Code 지출은 현재 속도를 연간으로 환산하면 약 700만 달러다. 회사의 연간 급여 비용 약 2,500만 달러와 비교하면 25%를 넘는다.
  • 파텔은 모델 사용 비용이 낮아지는 것만으로 토큰 수요를 설명할 수 없다고 봤다. 더 뛰어난 모델로 새롭게 수행할 수 있는 일이 수요를 키운다는 주장이다.
  • 수요가 늘어도 메모리와 반도체 제조 설비의 공급은 빠르게 확대하기 어렵다. 파텔은 GPU 재계약, 메모리 가격, 부품 선급금에서 공급 부족의 징후를 읽었다.
  • 토큰의 사용량과 매출은 관찰할 수 있지만, 그 토큰으로 만들어진 경제적 가치를 측정하기는 어렵다고 파텔은 인정했다.

한 기업의 지출이 보여준 수요 변화

파텔은 지난해 SemiAnalysis가 AI를 많이 쓰는 회사라고 생각했지만, 당시 지출은 수만 달러 수준이었다고 말했다. 올해 들어 사용량이 급증했고 Anthropic과 기업 계약을 맺었다. 인터뷰 당시 Claude Code 지출 속도를 연간으로 환산한 금액은 약 700만 달러다. 실제 연간 지출이 확정됐다는 뜻은 아니다.

사용 범위도 개발자를 넘어섰다. 파텔의 설명에 따르면 칩 역설계 연구실의 직원 한 명은 수천 달러어치의 Claude 토큰을 써서 칩 이미지에 재료별 위치를 표시하는 GPU 가속 애플리케이션을 만들었다. 과거 Intel에서 일한 그 직원은 이전에는 팀 전체가 구축하고 유지했을 작업이라고 평가했다.

에너지 데이터에서도 비슷한 변화가 있었다. 여러 직원이 약 1년간 개발하던 모델을 바탕으로, 담당자 한 명이 약 3주 동안 미국 발전소와 일정 전압 이상 송전선의 공개 데이터를 모아 전력망 지도를 구축했다. 하루 약 6,000달러를 쓴 날도 있었다. 파텔은 고객 반응이 좋았다고 전하면서도, 이 결과물이 기존 업체의 서비스만큼 완전히 견고하지는 않다고 선을 그었다. 높은 토큰 지출이 곧바로 완성된 제품이나 확정된 매출을 뜻하는 것은 아니다.

값싼 모델보다 새로운 사용처

파텔은 같은 수준의 모델 성능을 얻는 비용이 시간이 지나며 크게 떨어졌다고 설명했다. 그러나 기업이 지출을 늘리는 이유는 과거 모델을 더 싸게 쓰기 위해서만은 아니라는 견해다. 더 성능이 높은 모델이 이전에는 어려웠던 작업을 수행하면서 새로운 사용처가 생긴다는 것이다.

그는 구현이 쉬워질수록 어떤 아이디어에 토큰 비용을 쓸지 고르는 판단이 중요해진다고 봤다. 다만 구현이 쉬워졌다는 말은 비용이 사라졌다는 뜻이 아니다. SemiAnalysis 사례에서도 개발에 투입한 인력과 시간은 줄었지만 토큰 지출은 빠르게 늘었다.

토큰을 많이 쓰는 일, 그 사용으로 가치를 만드는 일, 만들어진 가치에서 수익을 얻는 일도 파텔은 별개의 문제로 구분했다. 그는 모델 접근 권한과 사용 한도가 기업마다 다를 경우 성과가 일부 기업에 집중될 가능성을 우려했다. 이는 그가 제시한 위험이지, 이미 확인된 결과는 아니다.

수요를 따라가기 어려운 공급

파텔에 따르면 일부 오래된 GPU 클러스터는 사용 계약을 다시 맺고 있다. 그는 3~4년 된 Hopper 클러스터가 추가로 3~4년 계약되는 사례를 근거로 GPU의 실제 사용 기간이 예상보다 길어질 수 있다고 봤다. 7~8년이라는 수치는 그의 가능성 판단이며, 최종 수명이 확인된 것은 아니다.

메모리 증설에는 더 긴 시간이 걸린다는 설명이다. 파텔은 업체들이 수요 신호에 대응하더라도 통상적인 증설을 넘어서는 공급이 본격적으로 도착하는 시점을 이르면 2027년 말, 대체로 2028년으로 내다봤다. 그는 특히 DRAM 가격이 현재보다 두세 배 더 오를 수 있다고 전망했다. 가격 전망은 공급 지연과 다른 용도의 생산능력을 옮겨와야 한다는 그의 판단에 근거한다.

병목은 GPU와 메모리에만 있지 않다. 파텔은 인쇄회로기판용 구리박·유리섬유, 광학 부품, 반도체 제조 장비에도 공급 압박이 있다고 말했다. 일부 공급사는 가격 인상 대신 고객의 선급금을 받는다. 이 경우 매출총이익률이 크게 변하지 않아도 투자 자금이 묶이는 기간이 줄어 자본수익률에 영향을 줄 수 있다.

CPU와 로봇으로 넓어지는 수요

GPU가 모델 계산을 맡는 동안 CPU도 필요하다. 파텔은 강화학습에서 모델의 시도를 시험하고 점수를 매기는 환경이 CPU에서 실행된다고 설명했다. 모델이 만든 코드나 결과물을 실제 애플리케이션으로 운영할 때도 CPU가 쓰인다. 그는 이 두 용도가 CPU 수요를 늘리고 있다고 봤다.

로봇은 또 다른 잠재 수요처로 제시했다. 다만 파텔은 현재의 로봇 모델이 데이터를 효율적으로 학습하지 못하고, 학습 데이터를 빠르게 늘리기도 어렵다고 지적했다. 그는 적은 시범만 보고 새 작업을 익히는 방식에 향후 6~18개월 안에 진전이 있을 것으로 예상했다. 옷 접기나 칠판 청소 같은 작업별 로봇 서비스를 예로 들었지만, 이는 실현된 사업 성과가 아니라 전망이다.

아직 측정하기 어려운 토큰의 가치

파텔은 인프라와 모델 운영 비용보다 사용 확산을 예측하는 일이 더 어렵다고 말했다. 토큰으로 분석을 만들고 이를 고객에게 판매하면, 고객의 의사결정에도 가치가 생길 수 있다. 그러나 그 효과가 얼마인지, 기존 경제 지표에 어떻게 나타나는지는 파악하기 어렵다는 것이다.

그의 동료가 구축했다는 ‘팬텀 GDP’ 분석도 이 문제의식에서 나왔다. AI로 처리할 수 있는 업무의 비용이 낮아지면 산출물은 늘어도 측정되는 금액은 줄어들 수 있다는 가설이다. 파텔이 든 사례와 수치만으로 경제 전체에서 그런 변화가 일어났다고 결론 내릴 수는 없다.

결국 인터뷰가 보여주는 것은 한 기업에서 토큰 사용이 빠르게 늘었고, 파텔이 이를 공급망 전반의 압박과 연결해 해석한다는 점이다. 그 지출이 기업과 경제에 얼마만큼의 가치를 만드는지는 여전히 확인해야 할 문제로 남아 있다.