핵심 요약

  • 맷 가먼 AWS CEO는 AI 스타트업의 출발 규모가 커졌지만, 보안·성능·확장성을 갖춘 인프라에 대한 요구는 여전하다고 말했다.
  • 에이전트는 짧은 시간 쓸 데이터베이스를 빠르게 만들고 없애기도 한다. AWS는 이런 사용 방식과 장기 운영에 필요한 내구성을 함께 충족하는 방법을 고민하고 있다.
  • AWS는 대형 AI 연구소에 가속기를 공급하면서 스타트업 몫도 따로 확보한다고 밝혔다. 다만 요청한 시점·지역·구성 그대로 공급하기는 어렵다.
  • 가먼은 기업의 에이전트 도입에서 업무 방식의 재설계와 권한·평가·보안 체계가 핵심 과제라고 봤다.

스타트업이 AWS에 요구하는 것

가먼은 AWS가 출범할 때부터 스타트업을 중요한 고객으로 여겼다고 설명했다. AWS의 추정으로는 현재 매출의 약 30~40%가 과거 AWS에서 스타트업으로 출발한 기업에서 나온다. 그는 스타트업이 새로운 기능을 먼저 요구하기 때문에 AWS가 향후 대기업 고객의 수요를 파악하는 데도 도움이 된다고 말했다.

그가 보기에 AI 스타트업은 과거보다 훨씬 큰 자금과 야심을 갖고 시작하는 경우가 있다. 모델을 학습시키는 일에는 큰 비용이 든다. 그러나 규모가 커질 때의 시스템 구조, 보안, 성능, 권한 설정을 미리 고민해야 한다는 점은 달라지지 않았다. 최근에는 사람이 쓰기 편한 클라우드뿐 아니라 에이전트가 다루기 쉬운 클라우드도 요구한다.

에이전트가 바꾸는 인프라 설계

에이전트는 명확한 API를 통해 여러 서비스를 오가고, 데이터를 찾으며, 자원을 빠르게 생성한다. 가먼은 사람이 체감하지 못할 수 있는 느린 응답도 에이전트의 작업을 막을 수 있어 지연 시간과 처리량이 중요하다고 설명했다. AWS는 에이전트 구축용 서비스와 함께 기존 서비스의 사용 방식도 조정하고 있다.

새 계정 개설 과정도 단순화하고 있다고 밝혔다. 기존에는 가상 네트워크와 접근 권한 등을 먼저 설정해야 했지만, 새 방식에서는 기본 설정을 뒤에서 처리해 빠르게 시작할 수 있다는 설명이다. 가먼은 이 방식을 단계적으로 배포 중이며 전체 적용 여부는 확신하지 못한다고 덧붙였다. 시작한 뒤에도 같은 AWS 계정에서 필요한 설정을 세분화할 수 있다고 말했다.

더 어려운 문제는 임시 자원의 속도와 운영 자원의 내구성을 함께 제공하는 일이다. 에이전트는 잠깐 작업할 데이터베이스를 만들고 곧 없앨 수 있지만, 어떤 데이터베이스가 오래 쓰일지는 처음부터 알기 어렵다. AWS는 빠르게 만들고 폐기할 수 있으면서도 필요하면 실제 운영용 데이터베이스로 키울 수 있는 방식을 고민하고 있다. 가먼은 작업별로 짧게 유효한 세밀한 권한, 컴퓨팅 샌드박스, 게이트웨이도 새로운 구성 요소로 꼽았다. 샌드박스는 에이전트의 작업을 격리해 실행하는 환경이다.

GPU는 누구에게 돌아가는가

대형 AI 연구소의 수요가 큰 상황에서 가먼은 AWS가 스타트업용 가속기 용량을 의도적으로 남겨 둔다고 말했다. 대형 연구소뿐 아니라 기업과 스타트업에도 공급하려는 배분 전략이다. 그의 설명에 따르면 AWS는 들어오는 요청 가운데 약 60%에 어떤 형태로든 응하지만, 공급 시점이 늦어지거나 지역·구성이 달라질 수 있다. 따라서 요청한 GPU를 곧바로 확보할 수 있다는 뜻은 아니다.

그는 AWS가 향후 몇 년에 걸쳐 엔비디아 GPU 200만 개를 구매할 계획이라고 밝혔다. 동시에 데이터센터 건설, 전력, 메모리, 칩, 건설 인력 등도 공급을 제약한다고 설명했다. 진행자가 언급한 2026년 자본지출 2,200억 달러 규모에 가먼은 동의했지만, 이 지출만으로 모든 수요를 충족할 수 있다고 말하지는 않았다.

전력과 부품까지 길어진 계획 기간

가먼에 따르면 AWS는 과거보다 훨씬 먼 시점의 전력과 서버 부품을 계획해야 한다. 전력 사업자에게 추가 공급을 요청하는 데 그치지 않고 발전 사업에 자본을 투입하기도 한다. 서버 수요와 공급업체 협의 역시 여러 분기가 아니라 여러 해를 내다보는 방식으로 바뀌었다.

그는 특정 시기의 병목을 하나로 예측하기 어렵다고 말했다. 전력이 풀리면 메모리, 반도체 생산 능력, 네트워크 부품이나 다른 연결 부품이 제약이 될 수 있다. 필요한 지역에 용량이 있는지도 중요하다. 한 지역에서 확보한 전력을 다른 지역의 수요에 그대로 쓸 수는 없기 때문이다.

자체 칩의 출발점과 현재 용도

AWS의 자체 칩 개발은 가상화 처리의 부담을 줄이려는 시도에서 시작됐다는 설명이다. 네트워크와 저장장치의 가상화 작업을 서버 본체 밖의 카드로 옮기는 과정이 Nitro로 이어졌고, 이후 ARM 기반 서버 칩 Graviton으로 확장됐다. 가먼은 Graviton이 고객에게 가격과 성능상의 이점을 제공한다고 주장했다.

AI 가속기 Trainium은 이름과 달리 학습뿐 아니라 추론에도 쓰인다. 추론은 학습을 마친 모델이 요청에 응답하는 과정이다. 가먼은 Bedrock 추론 트래픽의 상당 부분이 Trainium에서 실행된다고 설명했고, 대형 고객의 학습용 수요도 언급했다. Trainium 4는 발표됐지만 아직 출시되지 않았다고 구분했다.

기업 에이전트의 과제는 자율성과 신뢰

가먼이 보는 대부분의 기업용 에이전트는 아직 사람이 과정에 참여하는 비교적 단순한 형태다. 그는 기존 업무의 순서를 에이전트에게 그대로 맡기는 것보다, 여러 방법을 병렬로 시도할 수 있는 에이전트의 특성에 맞춰 문제 해결 방식을 다시 설계해야 한다고 주장했다.

자율성을 높이려면 권한과 보호 장치뿐 아니라 평가 체계도 필요하다. 평가 체계는 에이전트가 의도한 결과를 내는지 지속해서 시험하고 확인하는 방법이다. 가먼은 데이터에 적절한 표시를 붙이고, 운영 중 결과를 측정하며, 시간이 지나며 성능이 달라지는지도 살피는 일이 기업에 어렵다고 말했다. AWS와 파트너사가 고객을 지원하되, 궁극적으로 고객이 직접 이 작업을 수행할 수 있게 하는 것이 그의 구상이다.

기업 데이터 보호도 강조했다. 가먼은 Bedrock에서 고객 데이터와 프롬프트가 모델 제공업체로 전달되지 않는다고 설명했다. 기업 고유 데이터로 공개 가중치 모델을 추가 학습하면 더 낮은 비용으로 좋은 성능을 얻을 수 있다는 기대도 소개했지만, 실제로 그런지 입증하려면 적절한 평가가 필요하다고 선을 그었다.

AWS 내부에서는 보안, 소프트웨어 개발, 인사와 재무 업무에 에이전트를 사용한다고 밝혔다. 가먼은 특히 제품 개발 속도의 변화를 크게 체감한다고 말했다. 다만 조직 구조의 정답은 아직 모르며, 더 작은 팀이 제품을 만든 뒤 다른 과제로 이동하는 방식 등을 실험 중이라고 했다.

가먼의 설명에서 에이전트 시대의 클라우드 과제는 GPU 공급만이 아니다. 빠르게 생성되는 자원, 제한된 권한, 기업 데이터 보호와 지속적인 평가를 실제 운영 환경에서 함께 다뤄야 한다.