# AI 공격이 약 20분으로 짧아지면서 달라지는 기업 보안

> 2026-11-13 · a16z · 큐레이션 김태우
> https://challengekim.com/insights/ai-공격이-약-20분으로-짧아지면서-달라지는-기업-보안
> 원문: https://www.youtube.com/watch?v=PbD9pVXxsYM

## 핵심 요약

- 보안업체 측 출연자는 AI가 복잡한 취약점의 발견과 악용을 함께 수행하면서 숙련된 공격자에게도 수주에서 수개월 걸리던 공격이 약 20분으로 짧아진 사례를 보고 있다고 밝혔다.
- 공격 속도에 맞춰 패치를 배포하기는 어렵다. 수정본이 나오지 않았거나 운영체제 배포판에 반영되지 않은 경우도 있고 오래된 소프트웨어는 패치를 받지 못하기도 한다.
- 방어의 우선순위로는 **인증 없이 인터넷에서 접근할 수 있는 지점의 지속적인 점검**을 꼽았다. 코드 전체를 한 번 검사하는 것만으로는 모델과 코드의 변화를 따라가기 어렵다.
- 신규 스타트업에는 개발·테스트·배포·운영을 잇는 자동화가 기회가 될 수 있다. 기존 기업은 자산별 담당자와 조직 내부 지식부터 정리해야 한다.
- 대담에서는 보안 예산을 늘리는 것과 함께 시스템을 격리하고 중요한 위험을 줄이며 수분 안에 탐지하고 대응할 수 있도록 설계를 바꿔야 한다고 주장했다.

## 공격이 20분 만에 끝날 때 필요한 방어

벤처캐피털 앤드리슨 호로위츠(a16z)의 이번 대담에서는 진행자들과 보안업체 측 출연자가 AI 공격의 변화, 기업의 방어 방식, 보안 자동화의 비용을 논의했다. 공격이 수분 단위로 진행될 때 기업의 보안 체계도 그 속도에 맞춰 움직일 수 있느냐가 중심 문제였다.

보안업체 측 출연자는 대담에서 언급한 10월을 취약점 발견과 실제 공격이 함께 급증한 시기로 설명했다. 모델이 복잡한 취약점을 찾아 악용할 만큼 발전했고 공개 모델도 빠르게 그 능력을 따라오고 있다고 말했다. 취약점 발견 능력에서 앞선 모델이 확보한 우위도 자신의 관찰로는 3개월을 넘지 않을 수 있다고 봤다.

그는 단순한 API 구현 실수도 공격의 출발점이 될 수 있으며 과거 최고 수준의 공격자에게 수주에서 수개월 걸리던 전체 공격이 약 20분 만에 이뤄지는 사례를 보고 있다고 밝혔다. 스타트업이 침입 한 시간 뒤에 상황을 알아차린다면 이미 고객의 AI 서비스 접근 키와 비밀정보가 빠져나간 뒤일 수 있다고 설명했다.

AI 키를 보유한 개발 플랫폼도 표적이 되고 있다고 했다. 그가 소개한 공격 사례 목록은 처음 9개 기업에서 대담 시점에는 15개로 늘었다. 그는 기업 규모보다 공격자가 가져갈 만한 자산을 갖고 있는지가 중요해졌다고 봤다. 키가 탈취된 뒤 과도한 사용료가 청구되는 사례도 있어 키의 사용 한도를 설정할 필요가 있다고 덧붙였다.

## 패치가 준비되기 전에 공격이 시작된다

공격 속도가 빨라져도 취약점 수정과 배포가 같은 속도로 이뤄지는 것은 아니다. 출연자는 취약점 정보가 공식 공개 전에 새어 나오거나 정보가 공개됐는데도 패치가 아직 준비되지 않은 경우를 지적했다. 리눅스 커널의 수정 사항이 각 배포판에 도달하기까지 수주에서 수개월 걸릴 수도 있다고 했다.

대담에서 다룬 PHP 취약점도 그런 사례였다. 그는 고객 환경에서 초기 2\~3일 안에 약 50%의 패치 적용을 관찰했다고 밝혔다. 초기 대응은 빨랐지만 구버전 PHP 중에는 패치 자체를 받지 못하는 경우도 있어 문제를 완전히 해소하는 데는 수년이 걸릴 수 있다고 봤다.

**패치를 빨리 적용할 의지만으로 해결되지 않는 구간**이 있다. 공급자가 수정본을 내놓고 여러 배포 경로를 거쳐 실제 운영 환경에 반영되기까지 공격자는 먼저 움직일 수 있다.

자동 패치도 단일 도구로 끝나는 작업이 아니다. 수정 요청을 받아 코드를 고치는 자동 개발, 자동 테스트, CI/CD라고 부르는 코드 통합·배포 절차, 운영 자동화가 이어져야 한다. 출연자는 새로 시작하는 기업이라면 이런 구조를 처음부터 설계할 수 있지만 기존 기업의 많은 코드에는 당장 적용하기 어렵다고 봤다.

## 코드 전체 검사보다 먼저 볼 것은 외부 노출이다

출연자는 방어팀과 공격 모의실험팀의 역할을 구분했다. 방어팀은 실제 공격을 탐지하고 조사하며 차단한다. 공격 모의실험팀은 공격자처럼 자사 시스템을 시험해 먼저 약점을 찾는다. 그는 AI 모델의 능력이 계속 바뀌므로 어제 안전하다고 평가한 애플리케이션도 오늘 다시 시험해야 한다고 말했다.

그가 가장 시급한 대상으로 꼽은 것은 인증 없이 인터넷에서 접근할 수 있는 서비스와 접점이었다. 모바일 애플리케이션 코드에 키를 직접 넣었다가 다수의 데이터가 노출된 사건을 예로 들며 공격자는 이런 외부 노출 지점을 이용한다고 설명했다.

점검에도 순서와 깊이가 필요하다. 우선 외부 노출 현황을 파악하고 인증 없이 접근할 수 있는 지점을 분석한 뒤 더 깊은 침투 테스트와 코드 분석으로 이어가는 방식이다. 각 접점을 몇 분씩 살펴보는 검사와 중요한 애플리케이션을 10시간 동안 시험하는 작업은 예산과 목적이 다르다.

내부 자산에 관한 정보를 외부 공격 모의실험에 활용하는 것도 중요하다고 했다. 발견한 문제를 즉시 고치기 어렵다면 방어 쪽에 탐지 장치를 마련하는 식으로 취약점 발견·수정·탐지를 연결해야 한다고 설명했다.

## 상시 검사에 필요한 모델 조합과 비용

지속적인 검사에는 비용이 든다. 출연자는 일부 고객이 코드 검사에 수천만 달러를 쓰고 있다고 밝혔다. 한 번 전체 코드를 검사했더라도 새 모델이 나오거나 코드가 바뀌면 다시 살펴야 하므로 비싼 모델에 모든 코드를 넘기는 방식만으로는 지속하기 어렵다고 봤다.

그는 모델마다, 같은 모델의 버전마다 능력·속도·비용이 다르다고 설명했다. 여러 모델을 계속 시험하고 작업에 맞게 조합하는 일이 AI 서비스를 만드는 기업의 핵심 과제가 됐다고 봤다.

공격 조사 절차가 한 사례다. 먼저 정해진 규칙으로 탐지하고 저렴한 모델과 더 고도화된 모델을 차례로 거친다. 이 단계들에서 악성이라고 판단한 사건을 가장 비싼 모델이 최종 확인한 뒤 고객에게 알리는 구조다. 모든 이벤트에 최고가 모델을 쓰지 않으면서도 중요한 사건에는 더 많은 분석 자원을 배정하는 방식이다.

그는 보안 검사를 내부와 외부, 코드와 실행 환경 등 여러 관점에서 수행할 때 예산을 어떻게 나눌지가 업계의 과제이며 아직 이를 모두 해결한 것은 아니라고 밝혔다.

## 자동화의 장애물은 오래된 코드와 조직 지식이다

기업이 보안업체에 기대하는 결과도 달라지고 있다. 취약점 목록과 우선순위만 받는 대신 문제가 있는 코드를 찾아 수정하고 변경 요청까지 만들어주기를 기대한다. 탐지 이후에도 침입 경로, 원인, 피해 흔적을 조사하고 공격자를 내보내는 작업까지 요구한다고 했다.

에이전트를 도입한다고 조직의 맥락까지 저절로 생기지는 않는다. 기존 기업에는 오래된 소프트웨어와 수많은 개발자가 있고 어떤 자산을 누가 책임지는지조차 불분명할 수 있다. 필요한 지식이 문서로 남아 있지 않은 경우도 있다.

출연자는 자산별 담당자를 알아내고 실제로 패치를 적용하게 만드는 일이 여전히 복잡하다고 강조했다. 충분한 환경 정보와 지식 기반을 갖춘 신규 기업과 이런 토대가 없는 기존 조직은 자동화 속도가 다를 수밖에 없다고 봤다.

## 예산 증액보다 먼저 필요한 보안 설계

출연자는 보안 도구를 더 사는 것만으로 문제가 해결되지는 않는다고 봤다. 취약점이 생길 수 있다는 전제 아래 실행 환경을 분리하는 샌드박스와 격리, 네트워크·프로세스 제한 등을 설계해야 한다고 강조했다. 컨테이너를 쓴다는 이유만으로 충분히 격리됐다고 가정해서도 안 된다고 말했다.

보안팀의 시간 배분도 같은 기준으로 다시 살펴야 한다고 했다. 보고서와 설정 점검 목록을 만드는 데 얼마나 시간을 쓰는지보다 실제 공격 경로를 찾고 중요한 위험을 줄이며 탐지와 대응을 준비하는 데 얼마나 집중하는지가 중요하다고 주장했다.

공공 서비스와 현실의 장비도 논의에 포함됐다. 출연자는 인터넷에 연결된 오래된 소프트웨어의 위험을 지적하며 공공 서비스를 점검하는 ‘Scan for Good’을 소개했다. 이런 점검으로 모든 문제를 해결하기보다는 문제를 발견한 기관이 자체적인 지속 점검에 착수하도록 돕는 것이 목표라고 설명했다.

대담에서는 공격 속도에 맞춰 방어의 전 과정을 연결해야 한다고 봤다. 외부 노출을 계속 살피고 수정과 배포를 자동화하며 당장 고칠 수 없는 위험에는 탐지와 격리를 마련해야 한다. 보안 투자의 초점도 검사 횟수나 도구 수보다 이 과정이 실제로 얼마나 빠르게 작동하는지에 놓였다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://www.youtube.com/watch?v=PbD9pVXxsYM)