핵심 요약

  • 시간 압축: 새로운 AI 모델은 41일마다 출시되며 기업들은 기록적인 시간 안에 1억 달러의 매출을 달성한다.
  • 벤처 펀딩의 변화: 시드 라운드의 규모가 1백만 달러에서 5억 달러로 확대되면서 전통적 펀딩 카테고리가 의미를 잃고 있다.
  • 추론의 부상: AI 모델에서 추론이 지배적인 시장으로 부상하면서 특화된 인프라 수요가 늘고 있다.
  • 오픈소스 모델의 성장: 로컬 실행으로 비용을 절감하고 지연시간을 개선하며 제어력을 높일 수 있게 됐다.
  • AI 광고의 확산: 추론 비용 보조금 역할을 하는 AI 광고가 새로운 수익 모델로 등장했다.

AI가 소프트웨어 산업의 속도를 바꾸다

3년 전 Theory Ventures는 AI가 소프트웨어의 구축, 판매, 배포 및 운영 방식을 재편할 것이라는 전제로 출발했다. ChatGPT 등장 이후 시장은 가장 낙관적인 예상보다도 빠르게 움직였다.

최첨단 모델들은 섬세한 데모 단계를 넘어 실제 운영 시스템으로 도약했고 오픈 소스 모델들은 기업 워크로드의 대체재가 됐다. 새로운 모델은 41일마다 출시되며 기업들은 기록적인 시간 안에 1억 달러의 매출을 달성하고 있다. AI는 본질적으로 시간을 압축하는 기술이다.

벤처 펀딩의 전통적 분류가 사라지다

시간 압축으로 가장 먼저 흔들린 것은 벤처 캐피탈의 오래된 용어들이다. 시드, 시리즈 A, 시리즈 B와 같은 범주는 여전히 존재하지만 이제 기업의 성숙도보다는 기업이 추구하는 금융 상품을 설명하는 용어가 됐다.

시드 라운드의 규모는 1백만 달러에서 5억 달러까지 급증했다. 일부 시드 라운드는 IPO보다도 규모가 크다. 원대한 야망과 VC 생태계의 지원, 다음 세대 규모의 비즈니스를 구축할 수 있다는 약속에 힘입은 결과다. 최고의 기업들은 이전 세대 소프트웨어 기업보다 훨씬 더 일찍 성숙하고 있다.

전문화되는 추론 인프라

Theory Ventures를 시작했을 때 대부분의 AI 논의는 모델에 집중돼 있었다. 오늘날 추론(inference)은 지배적인 시장으로 부상했다. 워크로드와 구매자 선호도가 달라지면서 시장도 세분화되고 있다.

누구나 최첨단 AI의 사용 비용을 감당할 수 있는 것은 아니며 저마다 다른 제약 조건 때문에 새로운 인프라 범주가 생겨난다. Sail Research와 같은 기업들은 저렴하게 제공하고 지능적으로 라우팅하며 비디오, 배치, 로컬, 에이전트 기반, 실시간 워크로드 같은 사용 사례에 맞춰 전문화하는 시스템을 구축하고 있다.

데이터베이스가 10년 전 같은 길을 따랐듯이 추론 인프라도 이제 같은 방식으로 전문화되고 있다.

추론 비용을 보조하는 AI 광고

추론 비용은 광고 시장에 활력을 불어넣고 있다. TV, 웹, 모바일, 스트리밍 등 주요 인터페이스가 바뀔 때마다 대규모 잠재 고객을 광고로 수익화하는 해답을 찾았으며 AI도 다르지 않다.

AI 광고는 추론 비용 보조금으로 부상하고 있으며 애플리케이션은 사용량과 수익이 대립하는 대신 함께 늘어날 수 있게 됐다. AI 대화 내의 네이티브 광고 형식은 디스플레이 광고 기준보다 4~5배 높은 클릭률을 보이며 에이전트 기반 앱 빌더는 광고로 추론 비용을 상쇄할 수 있다.

로컬·오픈소스 모델의 부상

동일한 압축 기술로 폐쇄형 모델과 개방형 모델, 클라우드 모델과 로컬 모델 간의 격차가 좁아졌다. 최첨단 폐쇄형 모델이 선두를 달리는 것은 맞지만 AI는 이제 "아이폰 15 순간"에 도달했다. 많은 모델이 대부분의 작업을 수행하기에 충분히 좋다.

모델을 로컬에서 실행하면 비용이 절감되고 지연 시간이 개선되며 제어력이 향상되고 데이터 거버넌스 문제가 최소화된다. 기업들은 민감한 워크로드에 로컬 및 오픈소스 모델을 채택하고 있으며 최첨단 기능은 몇 년 안에 소비자 하드웨어로 압축될 것이다. 한때 하이퍼스케일러 클러스터가 필요했던 작업이 불과 몇 분기 만에 노트북에서 실행될 수 있게 됐다.

보안과 운영, AI 에이전트로 재편되다

AI는 궁극적으로 더 안전한 소프트웨어를 약속한다. 그동안 공격 표면은 폭발적으로 증가하고 있다. MCP 서버, 스킬, 플러그인, 코딩 에이전트 각각이 새로운 진입점을 만들고 있으며 기업들은 보안 팀이 검토할 수 있는 속도보다 빠르게 이를 배포하고 있다.

에이전트가 확산하면서 운영 방식도 바뀌고 있다. ERP 및 백오피스 시스템은 수십 년 동안 변화에 저항해 왔다. 에이전트는 이러한 계산을 뒤집는다. 문서를 읽고 기록을 대조하며 워크플로우를 실행하는 시스템은 전면 교체 없이 내부에서부터 운영을 개선할 수 있다.

Theory Ventures의 AI 활용 전략

변화를 조기에 인지하려면 관찰에 그치지 않고 직접 AI 에이전트를 다루며 실험해야 한다. Theory는 기술 조직으로 출발했으며 연구, 소싱, 실사, 포트폴리오 지원 및 내부 운영 전반에서 AI를 실험했다.

창립 이후 3명의 투자자와 9명의 인텔리전스 조직으로 구성된 소규모 팀으로 2배 더 많은 투자 기회를 분석했다. 오늘날 13명의 강력한 팀을 이루고 있으며 시장을 매핑하는 에이전트, 기업을 발굴하는 파이프라인, 소규모 팀이 더 큰 규모의 회사 업무를 처리할 수 있게 하는 연구 인프라를 갖추고 있다.

결론

지난 3년 동안 AI는 벤처 산업, 기업 운영, 소프트웨어 개발의 속도를 근본적으로 바꿨다. 시간 압축으로 펀딩 구조가 재편됐고 추론 인프라가 부상했으며 로컬 모델이 실용화됐다. 그 이야기의 중심에는 이 기술 위에서 기업을 만드는 창업자들이 있으며 다음 3년은 이 모든 것을 느리게 보이게 할 것이다.