# AI 인프라 투자 붐: 최고의 창업가들이 모이는 이유

> 2026-08-28 · a16z · 큐레이션 김태우
> https://challengekim.com/insights/ai-infrastructure-investment-boom-why-top-entrepreneurs-are-moving-into-hardw-ko
> 원문: https://www.youtube.com/watch?v=Zx1Ec8LWFeM

## 핵심 요약

- **창업가 진출 급증**: 최고의 창업팀 중 5%에서 20\~30%로 증가한 하드웨어 벤처 추구
- **공급 위기 심화**: 2028년까지 핵심 부품 예약 마감, 전례 없는 수급 불균형
- **하이퍼스케일러 자본**: 올해 7천억 달러, 내년 1조 달러 규모의 자본 지출 확대
- **인프라 재설계 필수**: 랙당 전력 5\~10㎾에서 100\~150㎾로 증가, 기존 시스템 구식화
- **토큰 수요 폭증**: 매년 거의 1,000% 수준의 AI 작업량 증가 예상

## AI 기술의 인프라 혁신이 필요한 시점

과거 기술 도약은 새로운 인프라를 요구했지만, **AI는 그 영향이 비교할 수 없을 정도로 심오합니다.** 새로운 칩과 시스템 소프트웨어뿐만 아니라 혁신적인 전력 솔루션, 심지어 구리 같은 재료의 대체품까지 필요한 시대입니다.

지난 3년간 AI 모델의 역량이 꾸준히 증가하면서, 제약은 **'모델 외부'로 옮겨갔습니다.** 이제 성능 개선의 열쇠는 인프라 최적화에 있으며, 창업가 커뮤니티가 이를 먼저 감지하고 행동으로 옮기고 있습니다.

## 창업가들이 주목하는 AI 인프라의 현실

**벤처캐피탈리스트들이 감지한 추세는 명확합니다.** 고도로 유능한 창업 팀들이 복잡한 하드웨어 문제에 도전하는 비율이 과거 5%에서 20\~30%를 넘어섰습니다. 이는 **스타트업 생태계가 소프트웨어 벤처에서 하드웨어 벤처로 급격히 전환** 되고 있음을 의미합니다.

### 수요와 공급의 극단적 불균형

무한에 가까운 AI 수요는 **공급망의 모든 부분에 엄청난 압력** 을 가하고 있습니다. 메모리, GPU, 전력—모두 부족한 상황입니다.

- **하이퍼스케일러의 자본 지출**: 올해 약 7천억 달러, 내년 1조 달러 규모
- **부품 예약 상황**: 핵심 부품이 2028년까지 사전 판매됨 (역사적 선례 없음)
- **GPU 암시장**: 구매 가격의 4배에 되팔리는 상황 발생

> "우리는 완전히 한계에 도달했습니다. 전력과 냉각 시설이 부족하고, 새로운 인프라 구축도 정치적 난관으로 어렵습니다. 제 경력에서 이런 일은 한 번도 본 적이 없습니다."

## 기존 시스템이 AI 워크로드를 감당할 수 없는 이유

현재의 데이터센터, 칩 아키텍처, 시스템 소프트웨어는 **과거의 컴퓨팅 시대를 위해 설계** 되었습니다. 이들은 AI의 강도 높은 워크로드를 감당할 수 없으며, 근본적인 변화가 필수적입니다.

### 인프라 재설계의 구체적 변화

- **전력**: 랙당 5\~10㎾ → 100\~150㎾ (20배 증가)
- **냉각**: 공랭식 → 수랭식 필수화
- **전력 체계**: AC 전력 → DC 전력으로 전환 필요
- **연산 밀도**: 약 70배 증가

특히 **DC 전력 운영이 가능한 전기 기술자는 극히 부족합니다.** 미국 전기 기술자 중 단 2%만 DC 전력 인증을 보유했을 정도입니다.

## 토큰 수요 폭증과 공급의 물리적 한계

AI의 핵심 확장 전략은 **추론(Inference)에 크게 의존** 하며, 이는 토큰의 높은 소비를 의미합니다. 강화 학습, 사고의 사슬, 장기 실행 에이전트 같은 접근 방식들이 모두 상당한 추론을 요구합니다.

**토큰 수요는 매년 거의 1,000% 가까이 증가할 것으로 예상** 되는데, 공급을 그 속도로 늘리는 것은 불가능합니다. 이는 단순한 공학적 문제가 아니라 **진정한 자원 한계** 입니다.

스탠포드의 "핫 칩스" 컨퍼런스에서 선도적인 메모리 공급업체는 현재 수요를 충족하려면 **3년간의 전체 생산 능력이 필요** 하며, 이는 오늘날의 수요일 뿐 미래 성장은 고려하지 않은 것이라고 밝혔습니다.

## 창업가와 투자자의 관점 변화

과거 소프트웨어 시대에는 엔지니어를 추가로 고용하는 방식으로 문제를 해결할 수 있었습니다. 하지만 **지금은 그렇지 않습니다.** 자본, GPU, 데이터가 있는 한, 시스템은 예측 가능한 미래까지 확장될 수 있게 되었습니다.

### 변화된 역학 관계

- **자금 유입 효율성**: 자본이 직접 컴퓨팅 성능으로 전환
- **경쟁 동역학**: "신화적 인월" 원칙 무너짐 (막대한 자본으로 빠른 따라잡기 가능)
- **창업자 특성**: 경험 많은 창업자와 시스템 사고자 선호

특히 **최고의 창업자들은 칩 설계 전에 전체 생태계를 생각** 합니다. 공급망, 제조, 소프트웨어 통합까지 모든 것을 고려하는 "시스템 창업자"가 필요한 시대입니다.

## 전력 부족과 인프라 확장의 정치적 난제

2028년까지 새로운 데이터센터는 약 44기가와트의 추가 전력이 필요하지만, **예상 전력망 증설은 25기가와트에 불과합니다.** 이는 19기가와트의 심각한 전력 부족을 의미합니다.

### 인프라 확장이 지연되는 근본 원인

- **건설 인력 부족**: 대규모 인프라 구축에 필요한 숙련공 부족
- **규제 장벽**: 허가 및 승인 프로세스의 복잡성
- **부품 공급 제약**: 변압기, 터빈 등 필수 부품의 장기 납기
- **국내 개발 저해**: 신생 기업들이 멕시코, 호주 등 해외로 눈 돌리는 상황

## 결론

**AI 시대의 진정한 병목은 소프트웨어가 아니라 하드웨어입니다.** 지능에 대한 수요는 수직으로 증가하고 있으며, 현재 인프라로는 이를 감당할 수 없습니다.

최고의 창업가들이 AI 인프라에 진출하는 이유는 간단합니다. **막대한 투자 기회와 명확한 시장 수요가 존재하기 때문입니다.** 칩, 메모리, 네트워킹, 전력 솔루션—이 모든 영역에서 혁신이 절실하며, 올바른 팀과 자본이 모인다면 세상을 바꿀 수 있는 회사를 만들 수 있습니다.

이는 단순한 유행이 아닙니다. 이는 **기술 인프라의 근본적인 재설계** 가 요구되는, 역사적으로 드문 기회의 시대입니다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://www.youtube.com/watch?v=Zx1Ec8LWFeM)