핵심 요약

  • 다리오 아모데이는 AI의 위험과 혜택을 균형 있게 말해 왔다고 반박하면서, AI 기업이 사회에 약속한 성과를 아직 내지 못한 점은 인정했다.
  • 출연진은 AI 업계의 안전 기준을 누가 만들고 검증할지 논쟁했다. 정부와 연결된 사전 모델 심사를 우려하는 쪽과 업계 공동 검토의 필요성을 강조하는 쪽이 갈렸다.
  • 데이터센터에 대한 반발을 전력망 문제만으로 설명할 수 없다는 의견이 나왔다. 일부 출연진은 일자리와 소득에 대한 불안을 더 큰 배경으로 봤다.
  • 오픈 모델 규제와 AI의 재귀적 자기 개선 가능성을 둘러싼 전망은 엇갈렸다. 출연진이 제시한 결과는 확정된 예측이 아니라 조건부 시나리오다.

아모데이의 반박과 출연진의 비판

진행자는 앤트로픽의 다리오 아모데이가 규제에 관한 두 편의 글을 발표했다고 소개했다. 아모데이는 규제를 곧바로 규제 포획과 권력 집중으로 연결하는 시각은 지나치게 단순하다고 반박했다. AI의 위험만 과도하게 강조했다는 평가에도 동의하지 않았다. 다만 앤트로픽을 포함한 AI 기업들이 세상에 도움이 되겠다는 큰 약속을 아직 실현하지 못했다는 비판은 받아들였다.

데이비드 색스는 앤트로픽이 선호하는 규제 체계를 주정부와 연방정부 차원에서 적극 추진해 왔다며 이를 규제 포획이라고 비판했다. 그는 아모데이의 금전적 동기를 단정하는 것은 아니라고 덧붙였다. 또 아모데이가 1~5년 안에 초급 지식 노동자의 50%가 일자리를 잃을 수 있다고 말한 사례를 들어, 위험에 관한 메시지가 균형 잡혀 있었다는 주장에 이의를 제기했다. 이 수치는 대담에서 인용된 아모데이의 전망이지 확인된 고용 결과가 아니다.

안전 기준을 누가 정할 것인가

출연진은 업계가 스스로 기준을 만드는 자율규제기구의 여러 형태를 구분했다. 색스는 금융업의 FINRA를 본뜬 조직이 모델 출시 전 시험과 승인까지 맡고 법으로 뒷받침된다면, 출시가 지연되고 기존 기업에 유리해질 수 있다고 주장했다. 반면 정부에 보고하지 않는 영화업계 단체 MPAA와 같은 방식의 기준 마련에는 동의할 수 있다고 했다. 다른 출연자는 업계가 서로의 모델을 살피되 정부의 통제를 받지 않는 구조가 필요하다고 설명했다.

색스는 논문·기술 문서 공개, 학회 발표, 공개 표준 제정 절차도 안전 지식을 공유하는 방법으로 제시했다. 핵심 조건은 판단 근거를 외부에서 검토하고 반박할 수 있어야 한다는 것이다. 차마스 팔리하피티야는 모델이 답을 만드는 중간 과정인 ‘사고 토큰’을 제3자가 볼 수 있어야 위험 주장도 독립적으로 검증할 수 있다고 말했다. 동시에 그 과정을 공개하면 경쟁사에 모델의 작동 방식이 드러날 수 있어 기업들이 동의하기 어려울 것이라고 봤다.

데이터센터 반발과 일자리 불안

대담에서는 데이터센터를 둘러싼 반발도 AI 산업의 문제로 다뤘다. 한 출연자는 텍사스와 펜실베이니아의 움직임을 언급하며 정치적 반발이 커지고 있다고 해석했다. 다른 출연자는 두 지역의 논의가 전력망 사용을 관리하려는 취지도 있다며, 이를 데이터센터 전면 금지로 단순화하지 않았다.

제이슨 캘러캐니스는 사람들이 AI로 생계가 흔들릴까 걱정하는 상황에서 데이터센터가 기술 기업에 부가 집중되는 상징이 됐다고 주장했다. 자율주행 차량과 배송 자동화를 예로 들며, 운전과 배송에서 지역 주민에게 지급되던 소득이 줄어들 수 있다는 우려를 제기했다. 반면 그는 자신의 조직에서는 AI 도구를 도입한 뒤 새 사업 기회가 생겨 채용을 늘리고 있다고 말했다. 이는 노동시장 전체에 관한 통계가 아니라 자신의 경험을 설명한 사례다.

오픈 모델과 경쟁의 갈림길

색스는 폐쇄형 서비스와 같은 안전 기준을 오픈 모델에도 적용하면, 공개 후 회수하거나 사용을 중앙에서 감시하기 어려운 오픈 모델이 시장에서 밀려날 수 있다고 전망했다. 이는 그가 예상한 규제 경로이며, 대담에서 확정된 정책으로 제시되지는 않았다.

팔리하피티야는 모델을 감싸 도구 사용과 작업 흐름을 관리하는 소프트웨어인 ‘하네스’에 주목했다. 그는 오픈 모델과 이런 도구를 조합하면 폐쇄형 모델보다 저렴하면서 성능도 나은 방식이 나올 수 있다고 주장했다. 그 때문에 소비자와 기업이 오픈 기술을 계속 선택할 수 있다면, 어느 한 폐쇄형 모델 기업의 승패가 미국 이용자의 이익을 결정하지는 않는다고 봤다. 색스는 반대로 미국의 개발이 느려져 중국이 앞서면 경제와 군사 분야에 손실이 생길 것이라고 주장했다. 출연진 사이에서도 ‘중국이 AI에서 이긴다’는 상황의 의미와 결과에는 합의가 없었다.

자기 개선 AI라는 조건부 시나리오

데이비드 프리드버그는 AI가 여러 작업 주체를 동원해 더 나은 다음 모델을 만들고 이 과정을 반복하는 ‘재귀적 자기 개선’을 설명했다. 그는 이것이 가능해진다면 일정한 주기로 새 모델을 심사하는 방식은 맞지 않을 수 있으며, 지속적인 감시가 필요할 것이라고 봤다. 칩과 전력, 통신 연결이 있는 곳이라면 개발 장소가 이동할 수 있다는 것도 그의 논거였다.

색스는 그런 가능성 자체는 인정하면서도 발생 시점을 판단하기 어렵다고 말했다. 새 규제기관이 이를 막을 수 있을지도 의문이라고 했다. 대담의 결론은 자기 개선 AI의 출현을 확인한 것이 아니다. 출연진은 불확실한 기술 위험을 다루면서도 안전 검증의 투명성, 모델 선택권, 데이터센터의 입지와 지역사회의 불안을 함께 고려해야 한다는 서로 다른 주장을 펼쳤다.