# AI 시대 기업 데이터 보호: SaaS와 차이점

> 2026-08-30 · Tom Tunguz · 큐레이션 김태우
> https://challengekim.com/insights/enterprise-data-protection-ai-era-saas-differences-ko
> 원문: https://tomtunguz.com/the-harness-is-the-new-battleground/

## 핵심 요약

- **AI 모델은 학습을 위해 데이터가 필수** 이며, 사용자와의 모든 상호작용이 "트라젝토리"라는 데이터로 기록됨
- **SaaS와 달리 AI 시대에는** 고객 데이터가 벤더의 지적 재산의 일부가 될 수 있음
- **기업 리더들의 우려** 가 증가 중: 나델라, 카프 등 주요 인물들이 데이터 손실 위험을 경고
- **데이터 무보존(No Data Retention)이 새로운 표준** 이 될 것으로 예상되며, 향후 20년은 SaaS 시대와 동일한 데이터 보호 보장이 요구될 것

## SaaS와 AI 시대의 데이터 처리 차이

지난 20년 동안 SaaS는 기업들에게 새로운 신뢰 모델을 제시했습니다. 고객 데이터는 벤더의 클라우드에 저장되지만, 해당 데이터는 고객만 접근할 수 있는 데이터베이스에 보관되었습니다.

**하지만 AI 시대는 다릅니다.** 사용자가 AI와 상호작용할 때마다 생성되는 데이터("트라젝토리")는 모델 개선을 위해 다시 학습에 입력될 수 있습니다. 즉, 고객의 데이터가 벤더의 지적 재산의 일부가 될 수 있다는 뜻입니다.

## 기업 리더들의 데이터 우려 확산

마이크로소프트의 사티아 나델라는 지난 주말 다음과 같이 지적했습니다:

> "본질적으로 지능에 대해 두 번 비용을 지불하는 셈입니다. 한 번은 돈으로, 그리고 또 한 번은 훨씬 더 가치 있는 것으로 지불하죠. 바로 그 지능을 유용하게 만들기 위해 공개해야 하는 독점적인 지식입니다."

팔란티어의 알렉스 카프도 같은 주에 CNBC의 스쿼크 박스에서 유사한 경고를 했습니다:

> "[프론티어 랩들이] 내 사업의 가중치와 알파를 훔치고 있습니다."

두 리더의 일치된 경고는 **기업 소프트웨어 전반에 걸쳐 데이터 손실에 대한 광범위한 우려** 가 확산되고 있음을 보여줍니다.

## 실제 발생한 데이터 유출 사례

7월 13일, 보안 연구원이 xAI의 Grok Build 바이너리를 역분석한 결과, **AI 호출이 전혀 없는 세션에서도 개발자의 코드베이스가 xAI 클라우드에 업로드** 되었음을 발견했습니다. xAI는 이후 해당 기능을 비활성화했습니다.

이는 사용자가 명시적으로 AI를 호출하지 않았어도 데이터가 수집될 수 있음을 시사합니다.

## 하네스(Harness)와 데이터 흐름

하네스는 Claude Cowork나 Cursor 같은, 사용자가 AI와 함께 작업하는 소프트웨어입니다. 성공하는 하네스는 AI 활용을 지능적으로 접근하여 사용자 생산성을 극대화합니다.

**하지만 문제는 명확합니다:** 영업 비밀, 고객 지원 티켓, 브랜드 아이덴티티, 직원 급여 정보 등 모든 민감한 데이터가 이 하네스를 통해 흐릅니다.

## 데이터 무보존이 새로운 표준이 될 것

CIO와 CEO들은 점점 더 **데이터 무보존(No Data Retention)** 을 요구할 것입니다. 데이터는 익명화되는 것이 아니라 **완전히 삭제되어야 합니다.** 현재의 익명화 기술은 이를 보장하기에 충분히 강력하지 않습니다.

이는 **SaaS 시대의 보장이 AI 시대에도 동일하게 요구된다** 는 의미입니다: 공급업체는 기업 데이터에 접근할 수 없으며 자체 목적으로 사용하지 않아야 합니다.

## 결론

지난 20년은 공급업체가 고객 데이터를 신뢰할 수 있다는 가정이 지배적이었습니다. 하지만 AI 시대에는 그 신뢰가 흔들리고 있습니다. 앞으로 20년은 **동일한 데이터 보호 보장을 요구하는 시대** 가 될 것입니다. 기업들은 자신의 민감한 정보가 AI 모델 학습에 활용되지 않도록 하는 AI 도구를 선택해야 합니다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://tomtunguz.com/the-harness-is-the-new-battleground/)