핵심 요약

  • 팟캐스트에 출연한 데이비드 색스는 백악관 회의에서 마련한 초지능 협약에 주요 선도 AI 모델 기업 6곳이 서명했다고 설명했다.
  • 색스에 따르면 협약은 개발사의 책임, 내부 통제, 외부 감사, 이사회 감독을 담았다. 그는 기존 감독 기관도 기업의 공개 약속을 집행할 수 있다고 주장했다.
  • 출연진은 공개 모델의 확산으로 모델 개발을 일괄 통제하기 어렵다는 견해를 제시하면서, 사이버 방어와 데이터센터 확보를 논의했다.
  • 한편 제이슨 칼라카니스는 기업과 정부의 논의가 교육·주거·의료 등 일반 시민의 삶에 어떤 이익을 주는지 더 구체적으로 보여줘야 한다고 지적했다.

협약에 담겼다는 감독 체계

색스는 트럼프 대통령이 데이터센터, 반도체, 클라우드, 선도 AI 모델 분야의 기업 관계자들을 백악관에 모았다고 설명했다. 그의 말에 따르면 회의 중 마련된 ‘백악관 초지능 협약’에 주요 선도 모델 기업 6곳이 서명했다. 선도 모델은 현재 가장 앞선 성능의 AI 모델을 뜻한다.

색스가 설명한 협약의 출발점은 모델을 개발하는 기업이 안전에 책임을 진다는 것이다. 기업은 내부 통제를 마련하고 내부 조직을 통해 작동 여부를 확인하며, 외부 감사인이 이를 다시 검증한다. 이사회에는 감사 보고서를 받는 독립 위원회를 둔다. 색스는 미국 연방거래위원회(FTC)와 증권거래위원회(SEC)도 기업의 공개 약속을 집행할 수 있다고 주장했다. 다만 방송에서 설명된 감독 효과는 출연진의 평가이며, 감사가 실제로 어떻게 시행될지는 별개의 문제다.

색스는 처음 회람된 백악관 문안에는 기업의 책임 선언과 안전 문제를 계속 논의할 실무 그룹이 담겨 있었다고 말했다. 이후 내부 통제, 외부 감사, 이사회 위원회가 추가됐다는 설명이다. 그는 새 법률을 만들지 않고도 이 체계를 빠르게 도입할 수 있다고 봤다.

감사가 사업 기회가 될 가능성

출연진은 협약에서 가장 실효성이 큰 장치로 외부 감사를 꼽았다. 감사 결과가 이사회에 전달되면 이사가 감독 책임을 고려해 대응해야 한다는 논리다. 색스는 외부 감사 업무를 비영리단체보다 전문 감사인이 맡는 편이 좋다는 개인적 견해도 밝혔다.

차마스 팔리하피티야는 자신의 회사 8090이 EY를 첫 고객으로 삼아 초지능 감사 인프라를 구축해 왔다고 말했다. 그는 이를 더 많은 기업에 제공할 수 있을 것으로 예상했다. 그가 제시한 기능은 AI 활용 과정을 처음부터 끝까지 추적하고, 회사의 운영 절차를 위험 관리 정책과 연결하며, 감사인이 확인할 수 있는 증거를 남기는 것이다. 고객이나 규제기관이 특정 결과가 어떻게 나왔는지 물을 때 제시할 기록을 만들자는 취지다. 확대 공급은 그의 전망이지 체결된 계약이나 매출로 제시되지 않았다.

공개 모델과 사이버 방어

데이비드 프리드버그는 공개 가중치 모델이 퍼지고 작은 기기에서도 모델을 실행할 수 있다는 점을 들어, 중앙에서 AI 소프트웨어 개발 전반을 통제하기 어렵다고 주장했다. 공개 가중치 모델은 학습된 모델의 수치값을 공개해 다른 주체가 실행할 수 있게 한 모델이다.

그는 위험이 커질수록 기업과 정부가 AI를 활용한 사이버 방어에 더 투자할 것이라고 예측했다. 공격과 방어 양쪽에서 AI를 쓴다면 방어에도 충분한 연산 자원이 필요하다는 논리다. 이어 12~18개월 뒤에는 모델 평가와 통제보다 데이터센터 접근과 사용량 배분이 더 큰 정책 쟁점이 될 수 있다고 전망했다. 정부가 금융 시스템이나 국방에 필요한 GPU와 서버의 몫을 정하게 될 수 있다는 예시를 들었지만, 이는 현재 결정된 정책이 아니다.

색스는 모델 성능만큼 모델을 실행할 연산 자원과 전력도 중요하다고 동의했다. 다만 데이터센터 사용량을 정부가 배분해야 한다는 전망에는 출연진 사이에서도 이견이 있었다. 팔리하피티야는 데이터센터와 국내 전력 생산의 중요성은 커지겠지만, 공급 확대에는 시장의 역할이 클 것이라고 봤다.

안전 조치와 시민의 체감 사이

프리드버그는 기업이 자체 방어 수단을 내놓는 사례로 구글의 SynthID를 언급했다. 그는 AI로 만든 단백질과 이를 암호화하는 DNA 서열에 워터마크를 넣는 기술이라고 설명했다. 이 역시 방송에서 소개된 기업 대응 사례다.

칼라카니스는 안전 협약과 산업 인프라 논의만으로는 AI에 대한 시민의 불안을 해소하기 어렵다고 말했다. 그는 비행 중 만난 승무원이 일자리 상실을 걱정한 경험을 들며, 교육비·주택·의료비 같은 문제에서 AI의 이익을 어떻게 보여줄지 논의해야 한다고 주장했다. 다른 출연진은 대통령이 기업들에 지역사회에 미치는 긍정적 영향을 보여달라고 요청했다고 전했다. 칼라카니스는 그 메시지가 회의 밖 대중에게 충분히 전달되지 않았다고 평가했다.

이번 대담에서 협약은 기업의 책임을 감사와 이사회 감독으로 연결하려는 시도로 설명됐다. 동시에 출연진은 공개 모델의 확산, 방어에 필요한 연산 자원, 시민이 체감할 이익을 협약 이후에도 남는 쟁점으로 제시했다.