# AI 애플리케이션의 황금기: 성공하는 기업이 갖춰야 할 3가지

> 2026-06-15 · Tom Tunguz · 큐레이션 김태우
> https://challengekim.com/insights/ai-applications-golden-age-3-essential-strategies-for-successful-enterprises-ko
> 원문: https://www.tomtunguz.com/golden-age-of-applications/

## 핵심 요약

- **AI 생태계의 대전환**: 규제 강화, 전략적 재편, 시장 검증으로 AI 산업이 새로운 단계에 진입
- **모델 선택의 중요성**: 예산에 따라 선택할 수 있는 다양한 모델들, 각각의 장단점을 파악해야 성공
- **시스템 설계가 핵심**: 올바른 모델 선택, 피드백 루프 개발, 성능 평가라는 3가지 역량이 차별화의 핵심
- **토큰 예산의 게임**: 제한된 예산 내에서 최대한의 지능을 끌어내는 것이 경쟁력의 원천
- **플랫폼 기업의 부상**: 복잡한 AI 시스템을 관리하는 공급업체의 역할이 더욱 중요해지는 중

## AI 애플리케이션 시대의 도래: 세 가지 신호

우리는 지금 **AI 애플리케이션의 황금기** 에 진입하고 있습니다. 이를 뒷받침하는 최근의 세 가지 중요한 사건들이 있습니다.

### 규제 강화와 오픈소스의 부상

**미국 정부의 규제 강화** 는 AI 생태계에 큰 충격을 주었습니다. 정부가 특정 AI 모델(Fable)의 접근을 차단하자, 소프트웨어 생태계는 즉각적인 반응을 보였습니다. 이는 단순한 기술적 문제가 아니라 **전략적 필요성** 을 여실히 보여주었습니다.

업계의 반응은 명확했습니다. 단일 모델에 의존할 수 없다는 깨달음이 확산되었고, **오픈소스 모델과 로컬 모델의 필요성** 이 급부상했습니다. 이는 AI 애플리케이션을 개발하는 기업들에게 중요한 교훈을 제공합니다. 특정 벤더에 완전히 의존하는 것은 비즈니스 리스크이며, **다양한 모델 옵션을 보유** 하는 것이 생존 전략이 되었다는 뜻입니다.

사티아 나델라(Satya Nadella) 마이크로소프트 회장의 AI 생태계 논문도 같은 맥락을 강조했습니다. 그는 "건강한 생태계를 위해서는 모델 자체가 해자(moat)가 될 수 없다"고 명확히 주장했습니다. 대신 **인간의 전문 지식과 모델을 중심으로 구축된 시스템**(하네스)이 진정한 경쟁력이 된다는 것이죠. 이는 단순히 더 나은 모델을 만드는 것에서, **모델을 어떻게 활용하는가** 로 포커스가 이동했음을 의미합니다.

### 시장의 검증: 대형 인수 사건

**세일즈포스의 Fin 인수**(36억 달러)는 시장이 실제로 검증한 AI 애플리케이션의 가치를 보여주는 구체적인 사례입니다. Intercom의 AI 고객 서비스 솔루션인 Fin은 많은 도전을 극복해냈습니다.

특히 주목할 점은 Fin의 성공 전략입니다. Fin은 **최첨단의 독점 모델을 사용하지 않았습니다**. 대신 **오픈소스 모델을 전략적으로 활용** 하여 **가격 대비 성능을 극대화** 했습니다. 이는 앞서 언급한 규제 강화의 신호와 정확히 맞아떨어지는 접근법입니다. 시장은 이 전략이 성공한다는 것을 검증했고, 그에 대한 보상으로 36억 달러라는 거액을 제시한 것입니다.

이 세 가지 신호—규제 강화, 전략적 논문, 그리고 시장의 검증—는 명확한 메시지를 전달합니다. **AI 애플리케이션의 황금기는 단순히 "더 나은 모델"을 추구하는 시대가 아니라, "올바른 모델 선택"과 "효율적인 시스템 구축"의 시대** 라는 것입니다.

## AI 애플리케이션 개발이 SaaS와 다른 이유

전통적인 SaaS 개발과 AI 애플리케이션 개발은 근본적으로 다릅니다. AI 애플리케이션이 더 어려운 이유는 단순히 엔지니어 부족, 인프라 안정성 부족, 또는 빠른 출시 압박 때문만은 아닙니다.

**AI 애플리케이션은 전혀 새로운 세 가지 분야를 요구합니다:**

### 1단계: 올바른 모델 선택 - 다양한 옵션, 명확한 기준 필요

현재 AI 모델의 환경은 매우 다양하고 복잡합니다. 모든 기업이 **최첨단 대형 모델(LLM)을 기본으로 사용할 수는 없습니다**. 비용 문제도 있지만, 각 모델은 독특한 특성을 가지고 있기 때문입니다.

모델 선택은 마치 도구를 고르는 것과 같습니다. 각 모델은 특정 용도에 뛰어나지만, 다른 분야에서는 약할 수 있습니다.

**현재 주요 모델들의 특징:**

- **Kimi K2.6**: 빠른 응답 속도와 창의적인 콘텐츠 생성에 뛰어나지만, 정밀도가 떨어집니다. 빠른 프로토타이핑이 필요한 프로젝트에 적합합니다.

- **Qwen 3.6 27b**: 소형 모델이면서 전설적인 성능을 자랑합니다. 그러나 고집이 세서(stubborn), 특정 작업 중간에 갑자기 멈출 수 있으며, 재개하려면 세심한 프롬프트 엔지니어링이 필요합니다. 이는 복잡한 도구 호출 시나리오에서 도전이 될 수 있습니다.

- **GLM 5.1**: 코딩 작업에 탁월한 성능을 보이지만, 응답 속도가 느립니다. 성능이 중요하고 속도가 덜 중요한 작업에 이상적입니다.

- **기타 오픈소스 모델들**: Meta의 Llama, Mistral의 Mistral 모델 등 수십 가지의 선택지가 있으며, 각각 다른 성능 프로필을 제공합니다.

**모델 선택의 핵심 질문:**

이 모든 선택의 중심에는 하나의 근본적인 질문이 있습니다: **"제한된 토큰 예산으로 얼마나 많은 지능을 짜낼 수 있는가?"** 이것이 AI 애플리케이션 시대의 가장 중요한 최적화 문제입니다.

토큰(token)은 AI 모델의 작동 비용입니다. 더 큰 모델은 더 정확하지만 더 비싼 토큰을 소비합니다. 기업의 과제는 주어진 예산 내에서 최적의 성능을 달성하는 **모델의 조합** 을 찾는 것입니다. 어떤 작업에는 Qwen을 쓰고, 어떤 작업에는 GLM을 쓰고, 또 다른 작업에는 더 작은 모델을 사용하는 방식입니다.

### 2단계: 피드백 루프 개발 - 시스템을 개선하는 엔진

AI 애플리케이션이 지속적으로 개선되려면 **효과적인 피드백 루프(feedback loop)** 가 필수적입니다. 이는 전통적인 소프트웨어 개발의 테스트 및 배포 사이클보다 훨씬 더 복잡합니다.

**피드백 루프가 중요한 이유:**

AI 모델은 결정론적(deterministic)이지 않습니다. 같은 입력에 대해서도 매번 약간씩 다른 출력을 제공할 수 있습니다. 따라서 **전체 시스템이 어떻게 작동하는지, 어디서 문제가 발생하는지 지속적으로 모니터링하고 개선** 해야 합니다.

도넬라 메도우즈의 시스템 사고 이론에 따르면, 복잡한 시스템의 성능은 개별 요소가 아니라 **루프의 설계** 에 의해 결정됩니다. AI 에이전트 시스템도 마찬가지입니다.

**효과적인 루프의 구성 요소:**

1. **모니터링**: 시스템이 실제 환경에서 어떻게 작동하는지 추적
2. **평가**: 성공/실패 사례를 분석하여 개선점 도출
3. **조정**: 모델 선택, 프롬프트, 파라미터 등을 조정
4. **재배포**: 개선된 시스템을 다시 배포

문제는 모델과 인프라가 **매우 빠르게 변화** 하고 있다는 것입니다. 이 분야는 새롭고 도전적이므로, 기존의 성숙한 루프 설계 방법론을 적용할 수 없습니다. 각 기업은 자신의 특정 사용 사례에 맞는 **맞춤형 피드백 루프** 를 설계해야 합니다.

### 3단계: 성능 평가 - 각 워크플로우마다 다른 기준

마지막 단계는 **모델과 루프의 성능을 평가** 하는 것입니다. 이것이 마지막이지만 결코 일회성 작업이 아니라 **지속적인 작업** 입니다.

여기서 큰 도전이 있습니다. 대부분의 회사는 **회사 내의 각 워크플로우 소프트웨어마다 전담 팀을 배치하고 싶어 하지 않습니다**. AI 시스템은 매우 복잡하고 까다로운 엔진이기 때문입니다.

**성능 평가의 복잡성:**

- **정성적 평가**: 생성된 결과물의 질을 인간이 직접 평가
- **정량적 평가**: 정확도, 재현율, F1 스코어 등의 메트릭 사용
- **비즈니스 메트릭**: 사용자 만족도, 비용 효율성, 처리량 등
- **동적 평가**: 시간이 지나면서 모델 성능이 어떻게 변하는지 추적

이 모든 평가를 각 부서의 각 워크플로우마다 수행하는 것은 비현실적입니다.

## AI 시대의 새로운 기회: 플랫폼 기업의 부상

이러한 복잡성 때문에, **업계는 새로운 역할을 필요로 하고 있습니다**: AI 시스템의 복잡한 엔진을 미세 조정하는 전문 공급업체입니다.

### 플랫폼 기업의 핵심 가치

이런 전문 공급업체들(플랫폼 기업들)의 역할은 다음과 같습니다:

1. **최적화의 중앙화**: 여러 기업의 데이터와 사용 사례를 모아서 **글로벌 최적화** 수행
2. **규모의 경제**: 수천 개의 기업에 걸쳐 비용을 분산하여 **효율성 극대화**
3. **전문성 집중**: AI 모델 최적화에 특화된 팀이 집중 투자
4. **지속적 개선**: 모델과 인프라 변화에 빠르게 대응

**세일즈포스의 Fin 사례는 이것을 증명했습니다.** Fin은:

- 다양한 오픈소스 모델을 전략적으로 활용
- 수천 개의 고객사 데이터로부터 학습
- 각 산업과 사용 사례에 맞게 최적화
- 그 결과 **가격 대비 성능에서 경쟁 우위 달성**

이것이 36억 달러의 인수 가격으로 평가받은 이유입니다.

### 일반 기업들의 전략적 선택

반면 대부분의 기업들이 취할 수 있는 현실적인 전략은 무엇일까요?

**"이 복잡한 짐승의 기화기와 타이밍 벨트를 미세 조정하는 미묘한 작업은 소수의 전문 공급업체에 맡기고, 각 공급업체에 달러당 최대의 지능을 제공하도록 경쟁하게 하는 것입니다."**

다시 말해:

1. **내부 역량 vs 외부 활용**: AI 시스템을 완전히 내부에서 구축하려 하지 말고, 이미 최적화된 플랫폼을 활용
2. **포커스 유지**: 자신의 핵심 비즈니스에 집중하고, AI 최적화는 전문가에게 위임
3. **비용 효율성**: 공급업체 간 경쟁을 통해 지속적인 가격 인하와 성능 개선 기대
4. **민첩성**: 신규 모델이 출시될 때마다 내부 변경이 아닌, 공급업체의 변경만으로 대응

## AI 황금기를 주도할 기업들의 조건

결론적으로, 다가오는 AI 애플리케이션 시대에서 성공하는 기업들은 다음 **세 가지 분야를 숙달** 한 기업들입니다:

### 1. 모델 선택 능력

다양한 모델의 장단점을 이해하고, 자신의 비즈니스 목표와 비용 제약에 맞는 **최적의 모델 조합** 을 구성할 수 있는 능력입니다. 이는 "가장 좋은" 모델을 찾는 것이 아니라 "우리에게 가장 맞는" 모델을 찾는 것입니다.

### 2. 피드백 루프 설계 능력

시스템이 지속적으로 개선될 수 있도록 **효과적인 피드백 메커니즘** 을 구축할 수 있는 능력입니다. 이는 모니터링, 평가, 조정, 배포의 순환 구조를 만드는 것입니다.

### 3. 성능 평가 능력

복잡한 AI 시스템의 성능을 **정확하게 측정하고 해석** 할 수 있는 능력입니다. 이는 데이터 과학, 통계, 그리고 도메인 전문 지식을 모두 요구합니다.

이 세 가지 능력은 개별 기업이 모두 개발하기 어려울 수 있습니다. 따라서 현실적으로는:

- **핵심 역량 기업**: 이 세 가지를 숙달하여 AI 시스템 최적화 비즈니스를 주도 (예: Fin, 향후 등장할 플랫폼들)
- **일반 기업**: 이러한 플랫폼의 클라이언트가 되어, 자신의 핵심 비즈니스 가치에 집중

이것이 AI 애플리케이션의 황금기에서 기업들이 취할 수 있는 가장 현명한 전략입니다.

## 결론

AI 애플리케이션의 황금기는 더 이상 미래가 아닙니다. 규제 강화, 전략적 재편, 그리고 세일즈포스의 Fin 인수라는 세 가지 신호는 이미 그 시대가 도래했음을 명확히 보여줍니다.

이 시대에서 성공하려면 **더 나은 모델을 만드는 것이 아니라, 올바른 모델을 선택하고 효율적으로 운영하는 능력** 이 필수적입니다. 토큰 예산이라는 제약 조건 하에서 최대의 지능을 끌어내고, 지속적인 개선 루프를 운영하며, 성능을 정확하게 평가할 수 있는 기업들이 이 시대를 주도할 것입니다.

당신의 기업이 이러한 세 가지 역량을 갖추고 있는지, 아니면 전문 플랫폼과의 파트너십을 통해 이를 활용할 것인지—이것이 AI 황금기에서 당신이 먼저 고민해야 할 전략적 질문입니다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://www.tomtunguz.com/golden-age-of-applications/)