핵심 요약

  • 드워케시 파텔은 AI 연구소의 컴퓨팅 자원이 연 3배 늘어나는 동안 매출이 연 10배 성장한다면, 이익률·컴퓨팅 가격·추론에 쓰는 자원의 비중 중 하나 이상이 커져야 한다고 본다.
  • 파텔에 따르면 이 세 변화는 이미 나타나고 있다. 다만 매출 성장세가 앞으로도 이어질지는 AI 모델의 성능에 달렸다.
  • 더 뛰어난 모델이 같은 컴퓨팅 자원으로 더 큰 가치를 만들면, 컴퓨팅 가격이 오르고 자원을 효율적으로 쓰는 모델의 가치도 높아질 수 있다.
  • 파텔은 반도체 성능 개선, 공장 증설, 기존 웨이퍼 생산량의 AI 전환만으로 컴퓨팅 공급 증가 속도를 더 높이기 어렵다고 주장한다.

매출 성장과 컴퓨팅 공급 사이의 간격

파텔에 따르면 앤트로픽의 매출은 최근 3년 연속 전년 대비 10배로 늘었다. 그는 지난해 말 매출을 90억 달러로 제시하고, 올해 말에는 1,000억~1,500억 달러에 이를 수 있다고 예상한다. 이 속도가 계속되려면 내년 말 매출은 1조 달러에 도달해야 한다. 파텔도 이를 매우 큰 가정으로 보며, 실현 여부는 그때까지 AI가 얼마나 유용해지는지에 달렸다고 말한다.

그가 제시한 AI 연구소의 컴퓨팅 자원 증가율은 연 3배다. 매출은 10배, 자원은 3배로 늘어나는 상황이 지속된다면 연구소의 이익률이 높아지거나 컴퓨팅 가격이 오르거나, 모델 실행에 필요한 추론에 더 많은 자원을 배분해야 한다. 세 변화가 함께 일어날 수도 있다.

이미 나타난 세 변화

파텔은 앤트로픽의 추론 이익률이 지난해 중반 약 40%에서 현재 80% 이상으로 올랐다는 보도를 인용한다. 컴퓨팅 현물 가격도 올해 2월 저점보다 40% 넘게 높다고 말한다. 현물 가격은 필요한 자원을 그때그때 빌리는 가격이다.

추론에 쓰는 자원의 비중도 늘어난 것으로 본다. 파텔이 인용한 Epoch의 추정에 따르면 2024년 오픈AI는 컴퓨팅 자원의 약 4분의 1을 추론에 썼다. 파텔은 현재 그 비중이 50%에 가깝거나 더 높을 가능성이 있다고 본다.

하지만 그의 설명에 따르면 연구소들은 추론 비중을 계속 높이길 바라지 않는다. 추론 매출을 바탕으로 다음 모델의 훈련 자금을 조달하고, 훈련과 실험에 컴퓨팅 자원의 대부분을 투입하려 하기 때문이다. 그렇다면 매출과 공급의 차이는 연구소의 이익률이나 컴퓨팅 가격에 더 크게 반영될 수 있다. 어느 쪽이 우세할지는 파텔도 단정하지 않는다.

더 유용한 모델이 컴퓨팅 가격에 미치는 영향

파텔은 선두 모델의 이익률이 90%를 넘으려면 경쟁 모델로 대체하기 어려울 만큼 앞서야 한다고 본다. 그만한 우위가 장기간 유지될지는 의문이라며, 컴퓨팅 가격 상승 가능성에 주목한다.

그가 든 사례에 따르면 구글은 GB200과 GB300을 섞은 GPU 11만 개를 빌리는 데 월 9억 달러를 지급한다. 파텔은 시간당 가격이 해당 GPU의 현물 가격보다 2배 높다고 말한다. 대규모 자원을 한꺼번에 확보해야 하는 선두 연구소에는 효율성, 운용 유연성, 모델과 고객 정보의 보안도 중요하다는 설명이다.

파텔은 인간 수준의 소프트웨어 엔지니어가 H100급 GPU 한 개에서 작동한다는 가정도 제시한다. 현재 엔지니어 인건비를 적용하면 그 GPU의 연간 임대 가치는 25만 달러를 넘어, 현재 H100 현물 가격의 15배 이상이 된다는 계산이다. 다만 엔지니어 공급이 크게 늘면 노동의 한계 가치가 낮아질 수 있다. 파텔은 혁신과 전문화가 그 영향을 상쇄할 가능성도 언급하면서, 충격의 규모와 속도가 워낙 크다면 기존의 경제학적 경험칙이 통하지 않을 수 있다고 인정한다.

비싼 컴퓨팅은 효율적인 모델에 유리하다

컴퓨팅을 더 가치 있게 활용하는 연구소와 경쟁하려면 다른 기업도 같은 자원을 두고 가격을 제시해야 한다. 파텔은 이 때문에 후발 주자의 경쟁이 어려워질 수 있다고 본다.

컴퓨팅 가격이 높아지면 같은 결과를 얻는 데 자원을 덜 쓰는 모델의 가치도 커진다. 예를 들어 H100 임대료가 시간당 20달러라면, 같은 작업에 더 많은 연산을 쓰는 모델을 선택할 이유가 줄어든다는 논리다. 반대로 연구나 고부가가치 업무에 쓸 수 있는 컴퓨팅의 가치가 높아지면, 현재의 저렴한 AI 활용 가운데 일부는 가격 부담을 감당하기 어려워질 수 있다.

공급 확대에도 한계가 있다는 주장

파텔은 연 3배의 컴퓨팅 증가율을 반도체 성능 개선 약 1.4배, 새 공장 건설 약 1.2배, 스마트폰과 PC에 쓰이던 웨이퍼 생산량의 AI 전환 약 1.8배로 나눈다. 그는 성능 개선 속도를 유지하는 일부터 쉽지 않으며, 공장 증설은 2030년까지 또는 그 이후에도 EUV 장비 생산의 제약을 받을 수 있다고 본다.

기존 생산량을 AI로 돌리는 데도 끝이 있다. 파텔은 TSMC의 첨단 N3 공정에서 AI의 비중이 내년 말까지 60%에서 86%로 높아질 것으로 예상한다. 이미 AI에 배정한 생산량은 다시 전환할 수 없으므로, 같은 방식으로 공급을 계속 늘리기는 어렵다는 주장이다.

결론

파텔의 전망은 AI의 수익 창출 능력이 컴퓨팅 공급보다 빠르게 커진다는 가정에 달려 있다. 그는 언젠가 생산 방식이 바뀌면 컴퓨팅이 다시 저렴해질 수 있다고 보면서도, 당분간은 공급 증가의 제약이 가격과 모델 경쟁에 영향을 줄 것으로 예상한다.