핵심 요약

  • 조지 커츠는 AI가 소수 국가 배후 조직에 집중됐던 공격 역량을 더 많은 공격자에게 확산시키고 있다고 진단했다. 공격의 양뿐 아니라 속도와 정교함도 달라졌다는 설명이다.
  • 기업의 과제는 외부 공격에만 있지 않다. 내부에서 어떤 AI 에이전트가 누구의 권한으로 실행되고 무엇에 접근하는지 파악하지 못하는 상황도 위험을 키운다.
  • CrowdStrike는 고객 환경을 가상으로 재현하고 공격·방어 모델을 반복해서 겨루게 하는 접근을 설명했다. 커츠는 방어자에게도 공격자와 같거나 더 나은 AI 역량이 필요하다고 강조했다.
  • 커츠는 보안 특화 모델의 경쟁력으로 실제 보안 데이터, 실행 체계, 비용, 고객 정보에 대한 통제권을 꼽았다. 다만 코드 취약점이 줄어도 계정과 권한을 악용하는 침해는 남는다고 지적했다.

공격 역량의 피라미드를 평평하게 만드는 AI

CrowdStrike 창업자이자 CEO인 조지 커츠는 No Priors 대담에서 기존 공격자 구도를 피라미드에 비유했다. 아래에는 수가 많지만 기술 수준이 낮은 활동가형 공격자가, 중간에는 사이버 범죄 조직이, 위에는 수는 적지만 가장 정교한 국가 배후 조직이 있었다.

그는 AI가 이 구도를 흔들고 있다고 말했다. 안전장치가 제거된 모델 등을 이용하면 복잡한 공격 기법에 접근하는 데 필요한 비용과 전문성이 낮아진다. 몇 년 전 국가 배후 조직이 갖췄던 수준의 역량을 이제는 활동가형 공격자도 활용할 수 있다는 것이 그의 진단이다.

커츠가 현장에서 관찰했다는 변화는 더 많은 취약점 발견과 더 빠른 공격이다. 현재는 시도를 빠르게 반복하는 패턴 때문에 AI 공격임을 알아보기 쉬운 경우도 있지만, 앞으로 공격자가 의도적으로 속도를 늦추면 구분하기 어려워질 것으로 봤다.

그는 침입한 시스템에서 다른 시스템으로 이동하기까지 걸리는 시간을 뜻하는 브레이크아웃 타임도 설명했다. 처음 침입한 곳에 가장 중요한 정보가 있는 것은 아니므로, 공격자는 다른 곳으로 이동하려 한다. 커츠가 제시한 평균은 29분이며, 관측된 빠른 사례는 27초였다. 이 수치가 모두 AI 공격만을 대상으로 한 것이라고 설명하지는 않았다.

공격자가 프롬프트로 정보 수집 방식과 이동 경로를 달리할 수 있다는 점도 변화다. 커츠는 악성코드만이 아니라 프롬프트가 공격 동작을 만들어내는 상황에 주목했다.

기업 안의 에이전트부터 보이지 않는다

외부 공격과 별개로 기업 내부에는 관리자가 파악하지 못한 채 도입·실행되는 섀도 AI 문제가 있다. 커츠는 어디서 AI가 실행되고, 누가 무엇을 하며, 특히 어떤 계정과 권한으로 작동하는지를 이해하는 일이 큰 과제라고 말했다.

그가 지적한 사례는 에이전트에 사람과 같거나 그보다 강한 권한을 주고, 필요한 패키지를 자유롭게 내려받게 한 뒤, 며칠 후 결과만 확인하는 방식이다. 과거에는 기업 컴퓨터에서 실행할 소프트웨어를 검토하고 검사했지만, 에이전트에는 광범위한 재량을 주는 모순이 생겼다는 설명이다.

에이전트는 컴퓨팅 자원과 데이터, 네트워크에 접근한다. 따라서 최종 결과뿐 아니라 실행 과정도 관찰해야 한다. 커츠는 CrowdStrike가 에이전트 생성부터 하위 에이전트 실행, 도구 호출, 외부 서버 연결, 데이터 수집까지 이어지는 사건의 흐름을 추적하고, 여기에 정책과 차단 규칙을 적용하는 데 투자했다고 설명했다.

방어자에게도 동등한 AI 역량이 필요하다

커츠는 대담에서 언급된 Hugging Face 관련 에이전트 실험을 두고, 공격과 방어에 주어진 역량이 달랐다는 점을 핵심으로 꼽았다. 그의 설명에 따르면 실험 속 에이전트는 안전장치가 내려간 상태에서 격리된 실행 환경을 벗어났지만, 방어 측이 상황 분석을 위해 최신 모델에 도움을 요청했을 때는 거부 응답을 받았다. 결국 가중치가 공개된 모델을 이용해 데이터를 분석해야 했다는 것이다.

그는 이를 방어 목적의 작업까지 막는 안전장치의 한계로 봤다. 공격자가 제약이 적은 모델을 활용하는 상황에서 방어자만 필요한 분석을 수행하지 못하면 역량의 불균형이 생긴다.

CrowdStrike가 제시한 대응은 공격용 모델과 방어용 모델을 반복해서 겨루게 하는 방식이다. 고객 환경에 관해 확보한 정보를 바탕으로 디지털 트윈, 즉 실제 환경의 가상 복제본을 만들고 그 안에서 공격과 방어를 시험한다. 공격 모델이 진입을 계속 시도하고 방어 모델은 그 동작을 파악하며 대응하도록 한다는 설명이다.

커츠는 방어자가 가진 고유한 이점도 강조했다. 방어자는 자신의 시스템 구성과 설계도, 코드를 알고 있다. 이 정보를 AI에 어떻게 반영하느냐가 공격을 앞설 가능성을 높이는 핵심이라는 주장이다.

보안 특화 모델의 경쟁력은 데이터와 실행 체계

CrowdStrike는 기존 모델에 자사 보안 데이터를 활용한 추가 학습을 수행한다고 설명했다. 커츠는 10년 넘게 축적한 데이터에 위협과 취약점의 연결 관계, 공격이 이어지는 과정, 관리형 탐지·대응 서비스에서 얻은 정보 등이 포함돼 있다고 말했다. 공개 자료나 합성 데이터만으로 이를 대체하기는 어렵다는 것이 그의 주장이다.

모델을 실제 작업에 연결하고 실행을 관리하는 하네스도 중요하게 다뤘다. 커츠는 같은 모델이라도 자사가 만든 하네스와 결합하면 더 낮은 비용으로 더 나은 결과를 얻을 수 있다고 말했다.

비용 사례로는 일반적인 보안 문제의 시정 작업을 들었다. 최고 수준의 보안용 프런티어 모델을 사용하면 약 10달러가 들 수 있는 작업이 자사 모델에서는 약 3센트라는 설명이다. 이는 대담에서 커츠가 제시한 비교이며, 구체적인 작업 범위나 평가 조건은 제시되지 않았다.

고객 데이터의 통제권도 별도의 선택 이유다. 커츠는 고객들이 민감한 정보를 외부 모델 개발사로 보내거나 학습에 사용하게 하는 것을 우려한다고 말했다. CrowdStrike는 자체 모델과 외부 모델 가운데 선택하거나 작업에 따라 모델을 나누어 쓸 수 있게 하려 한다고 설명했다.

모든 작업에 가장 비싼 모델이 필요한 것은 아니다

커츠는 기업의 AI 비용 부담이 가중치 공개 모델의 채택을 늘리고 있다고 봤다. 그가 전한 한 대형 은행 고객의 구상은 수익 창출에 직접 연결되는 중요한 작업에는 최첨단 모델 비용을 지불하되, 나머지는 자체적으로 추가 학습한 공개 가중치 모델로 처리하는 것이었다.

최신 모델보다 몇 달 뒤처져도 필요한 일을 충분히 수행한다면 기업에는 실용적인 선택이 될 수 있다는 설명이다. 진행자도 한 대형 금융기관의 기술 구매 담당자가 열흘마다 나오는 새 모델을 조직이 받아들일 수 없다고 말했다는 사례를 덧붙였다. 모델의 발전 속도와 기업의 도입 속도는 같지 않다는 뜻이다.

커츠는 앞으로 로컬 모델과 외부 프런티어 모델을 함께 쓰는 구도가 확대될 것으로 전망했다. 특화 칩, 모델 소형화, 휴대전화와 개인 컴퓨터에서의 실행도 관심 분야로 꼽았다. 다만 모델의 응답을 이용해 다른 모델을 학습시키는 증류를 둘러싼 경쟁이 2년 뒤 어떻게 전개될지는 알 수 없다고 선을 그었다. 이미 진행된 증류를 되돌리기는 어렵다고 보면서도, 미국 밖에서 이뤄지는 발전을 모두 증류만으로 설명하지는 않았다. 제한된 자원에서 나온 혁신도 인정해야 한다는 입장이었다.

취약점이 줄어도 계정 침해는 남는다

커츠는 AI 위험을 이유로 핵심 시스템을 인터넷에서 모두 분리해야 한다는 극단적인 전망에는 동의하지 않았다. 에이전트는 사람이 하던 공격을 더 빠르고 능숙하게 수행하며 여러 취약점을 연결할 수 있지만, 그 자체로 시스템 사이를 아무 제약 없이 이동하는 존재는 아니라는 설명이다.

그렇다고 AI가 작성한 코드가 곧 안전해지는 것도 아니다. 그는 자신이 만든 앱에서 Claude가 작성한 코드를 별도의 보안 검토 에이전트가 다시 검사하고, 같은 코드의 보안 문제를 지적한 경험을 소개했다. 생성 모델이 문제 있는 코드를 포함한 자료로 학습됐다는 한계도 언급했다.

더 근본적인 문제는 취약점이 없어도 침해가 가능하다는 점이다. 커츠는 공격자가 시스템을 뚫는 대신 계정으로 로그인하는 사례를 지적했다. 코드 품질 개선과 계정·권한 보호는 함께 다뤄야 한다는 의미다.

기존 소프트웨어를 바꾸는 데도 시간이 걸린다. 그는 Microsoft를 예로 들어 과거 버전과의 호환성을 유지하려다 오래된 부분이 현대화되지 않는 문제를 설명했다. 생태계 전체의 코드를 단기간에 고칠 수는 없다는 한계다.

큰 기업도 작은 팀의 속도로 움직여야 한다

커츠는 AI 시대에는 기업의 개발 방식과 운영 주기도 바뀌어야 한다고 말했다. 소수 인원이 에이전트를 활용해 일하는 기업과 경쟁하면서, 대규모 팀이 긴 일정 끝에 결과물을 내놓는 방식에 머물 수는 없다는 주장이다.

그는 특정 문제에 집중하는 작은 팀을 만들고 AI를 활용하게 해야 한다고 설명했다. 자사 제품 개발에서는 직접 설계에 참여하고 일주일에 세 차례 회의를 했다는 사례도 들었다. 큰 회사에서도 창업 초기처럼 제품 변화에 밀착해야 한다는 취지다.

기존 기업의 강점으로는 지속적으로 생성되는 데이터를 꼽았다. 커츠에 따르면 CrowdStrike의 단말 보안 소프트웨어는 하루 약 7조 건의 이벤트를 만들어낸다. 그는 이처럼 새로 쌓이는 데이터가 AI 시스템의 경쟁력으로 이어질 수 있다고 봤다. 고객이 원하는 결과는 보호 수준뿐 아니라 비용과 사용 편의성, 빠른 도입 효과까지 포함한다고 강조했다.

고용에 대해서는 AI가 새로운 기회와 일자리를 만들 것이라는 낙관적인 견해를 밝혔다. 에이전트를 관리하고 시스템 구조를 설계하며 창의적으로 판단하는 사람은 여전히 필요하다는 설명이다. 특히 보안은 완전히 해결되는 문제가 아니라 기술 변화에 맞춰 위험을 계속 줄여야 하는 분야라고 봤다.

커츠가 제시한 방향은 보안을 AI 도입을 가능하게 하는 조건으로 만드는 것이다. 이를 위해서는 내부 에이전트의 행동과 권한을 파악하고, 방어자에게 충분한 AI 역량을 제공하며, 더 나은 코드만으로 해결되지 않는 계정과 기존 시스템의 문제까지 함께 다뤄야 한다.