핵심 요약

  • 인텔 전 CEO 팻은 AI 도구가 칩 설계를 빠르게 할 수 있지만, 제조부터 패키징과 랙 구축까지 걸리는 시간이 혁신을 늦춘다고 봤다.
  • 그는 AI 칩의 지나친 세분화가 변하는 작업과 대규모 배치 비용에 맞지 않아 공급자가 줄어들 것으로 예상했다.
  • 메모리는 연산 장치에 더 가까워져야 하지만, 적층 수율과 발열이 설계의 한계를 정한다.
  • 광통신은 칩 사이 연결에 유망하다고 보면서도 연산 장치와 메모리 사이의 광 변환에는 전력 손실을 우려했다.
  • 데이터센터 전력 공급과 AI 에이전트의 실행 환경 관리도 새로운 하드웨어·시스템 과제로 꼽았다.

칩 설계가 빨라지면 제조가 기다린다

팻은 인텔에서 386과 486 개발에 참여했던 경험을 돌아봤다. 당시 486 팀은 하드웨어 기술 언어와 컴파일러, 자동 배치·배선 등의 도구를 직접 만들어야 했다. 그는 이 작업을 현대적인 반도체 설계 자동화의 토대 중 하나로 설명했다.

이번에는 AI가 설계 방식을 바꾸고 있다고 봤다. 그의 설명에 따르면 AI 도구는 여러 논리 기능의 설계에 쓰일 수 있지만, 아날로그 회로에는 실리콘에서 얻은 데이터가 많이 필요해 같은 방식으로 다루기 어렵다. 설계가 빨라져도 병목은 사라지지 않는다. 그는 칩을 3개월 만에 설계하는 가상의 사례에서, 제조와 첨단 패키징을 거쳐 랙에서 사용하기까지 약 9개월이 더 걸린다고 설명했다. 그 사이 AI 작업의 특성이 바뀌면 처음 설계할 때의 가정도 낡을 수 있다. 팻은 시제품 제작에 앞서 큰 마스크 비용이 드는 설계 흐름과 긴 제조 기간을 줄여야 한다고 주장했다.

AI 칩 공급자는 왜 줄어들 수 있나

팻은 AI 추론 가속기 설계가 매우 다양해졌지만, 그 상태가 오래가지는 않을 것으로 예상했다. 입력을 처리하는 단계와 출력을 생성하는 단계마다 장비를 세분화하면 작업 변화에 맞춰 전체 장비를 운영하기 어렵다는 이유다. 그는 향후 모델과 알고리즘이 달라지고, 화학·생물학 분야의 분석처럼 높은 정밀도의 계산이 다시 중요해질 가능성도 제시했다. 이는 전망이지 확정된 변화는 아니다.

칩을 실제 규모로 배치하려면 자본과 작업량을 확보해야 한다는 점도 들었다. 대형 고객이 하드웨어뿐 아니라 그 위에서 발전할 소프트웨어까지 보고 플랫폼을 고르면 공급자 수가 좁혀질 것이라는 견해다. 대담의 다른 참석자는 AI가 칩별 소프트웨어 개발을 쉽게 만들어 설계 다양성을 유지할 수 있다고 반론했다. 팻은 그 가능성을 인정하면서도 제조 기간과 데이터센터 구축 비용이 여전히 크다고 답했다.

메모리는 가까이, 적층은 신중하게

팻은 현재 쓰이는 HBM이 최선의 선택지이면서도 밀도, 대역폭, 전력, 발열에 제약이 있다고 평가했다. AI 작업에 필요한 메모리 성능을 높이려면 메모리와 연산 장치를 더 가까이 놓는 구조와 새로운 메모리 기술이 필요하다고 봤다. 다만 새 기술이 실제로 채택되려면 성능뿐 아니라 비용과 제조 가능성도 갖춰야 한다. 그는 자신이 관여했던 여러 메모리 구조가 널리 쓰이지 못한 경험을 언급했다.

적층에도 한계가 있다. 층이 늘수록 각 층의 결함이 완성품 수율에 미치는 부담이 커진다는 설명이다. 팻은 16층이나 32층보다 3~5층 정도가 제조상 적절할 수 있다고 예상했고, 메모리 적층만 놓고는 2층 또는 4층을 유력하게 봤다. 이는 현재 제조 방식을 전제로 한 그의 판단이다. 전력 공급층과 신호 연결, 냉각까지 함께 설계해야 한다는 조건도 붙였다.

광통신의 자리와 한계

팻은 칩과 시스템 사이의 입출력 연결이 광통신으로 옮겨갈 것으로 봤다. 구리 연결은 거리가 길어질수록 비용과 설계 부담이 커진다는 이유다. 다만 광 부품 공급망은 대규모 배치가 충분히 검증되지 않았고, 열 관리와 패키지 통합, 레이저 공급도 해결해야 한다고 말했다. 그가 업계의 전환 시기로 거론한 2028~2029년 역시 예상이다.

연산 장치와 메모리의 핵심 연결에는 다른 판단을 내렸다. 메모리를 패키지 밖으로 옮기고 광 연결을 쓰면 큰 메모리 공간에 접근할 수 있지만, 전기 신호와 빛을 반복해서 변환하는 데 전력이 든다는 것이다. 그는 일부 연산을 메모리 안에서 처리하는 방식도 작업 설계에 제약을 준다고 봤다. 변화하는 여러 작업에는 고밀도·고성능 메모리를 연산 장치 가까이 두고 충분한 대역폭을 확보하는 편이 더 폭넓게 적용될 것이라는 견해다.

데이터센터를 제한하는 전력

팻은 AI 시대에 전력 공급 능력이 데이터센터 확장의 상한이 될 수 있다고 주장했다. 전력을 확보하지 못한다면 데이터센터를 짓고 GPU를 구매해도 가동할 수 없다는 논리다. 그는 전력 부족으로 일부 데이터센터 사업이 약속한 대로 진행되지 못할 가능성도 제기했다. 이는 향후 사업에 대한 그의 전망이다.

그가 제시한 과제는 발전 용량 확대와 전력 전달 효율 개선이다. 원자력을 기저 전력원 중 하나로 평가했고, 800볼트 직류를 데이터센터에 공급해 중간 변환 단계를 줄이는 방안도 거론했다. 칩 내부에서는 전력 사용량과 열이 집중되는 지점을 더 잘 예측하고, 전력 공급과 냉각을 함께 설계해야 한다고 말했다.

에이전트가 쓰는 가상 머신

대담 말미에는 가상 머신의 역할도 다뤘다. 가상 머신은 하나의 물리 장비 위에 분리된 실행 환경을 만드는 방식이다. 팻은 AI 에이전트가 이를 사용한다면 실행 성능과 보안, 이동과 관리 방식도 에이전트에 맞춰 설계해야 한다고 봤다. 동시에 사람이 에이전트의 정책을 정하고 상태를 확인할 수 있는 관리 도구가 필요하다고 덧붙였다.

팻이 그린 하드웨어 혁신은 빠른 칩 설계만으로 완성되지 않는다. 설계한 칩을 제때 만들고, 메모리와 연결하며, 전력을 공급해 실제 규모로 운영하는 과정이 함께 맞아야 한다.