핵심 요약

  • 진행자에 따르면 앤트로픽의 Fable 5는 입력 데이터를 최소 30일 보관하며, 일부 민감한 연구 요청에는 더 낮은 성능의 모델을 적용한다. 앤트로픽은 모델 변경을 사용자에게 더 분명히 알리겠다고 밝혔다.
  • 데이비드 프리버그는 생명과학 연구에도 제한이 걸리면서 자신의 회사가 오픈소스 모델을 직접 운영하는 방안을 검토하고 있다고 말했다.
  • 출연진은 위험한 사용을 막아야 한다는 점에는 공감했지만, 모델 접근 단계의 제한과 실제 산출물이 쓰이는 단계의 관리 중 어디에 무게를 둘지를 놓고 의견을 달리했다.
  • 버니 샌더스의 제안은 대형 AI 기업의 이익이 아니라 주식에 일회성 50% 과세를 하는 구상으로 소개됐다. 출연진은 지분 압류, 자발적 참여, 공적 투자라는 서로 다른 방식을 논의했다.

Fable 5의 데이터 보관과 모델 변경

진행자는 Fable 5가 여러 성능 평가에서 높은 점수를 냈으며, 토큰당 가격은 Opus 4.8의 두 배라고 소개했다. 더 적은 토큰으로 일을 마칠 수 있다는 기대도 덧붙였지만, 실제 비용이 낮아질지는 불분명하다고 했다.

논쟁의 중심은 성능보다 사용자가 무엇을 제공하고 어떤 응답을 받는지 알 수 있는가였다. 진행자에 따르면 앤트로픽은 Fable 5 사용 시 입력 데이터를 최소 30일 보관한다. 데이비드 색스는 기업 고객이 이전에 데이터 보관을 하지 않는 계약을 맺었더라도 새 모델에는 이 방침이 적용된다고 주장했다. 그는 질문뿐 아니라 응답을 얻기 위해 함께 전달하는 파일과 맥락도 기업에 민감한 데이터가 될 수 있다고 지적했다.

진행자는 앤트로픽이 최첨단 AI 연구에 해당한다고 판단한 요청을 사용자에게 알리지 않고 하위 모델로 처리한 점이 개발자들의 반발을 샀다고 설명했다. 색스는 AI 연구와 칩 설계 연구 등이 대상이라고 말했다. 앤트로픽은 이후 이런 보호 조치를 더 눈에 띄게 바꾸겠다고 밝혔다. 색스의 해석으로는 모델 변경 자체는 계속되며, 달라지는 것은 이를 알리는 방식이다.

색스는 미토콘드리아나 암 위험과 GLP-1의 관계를 묻는 질문도 제한 사례로 거론했다. 진행자 역시 비료 관련 규제를 묻다가 모델이 바뀐 화면을 봤다고 말했다. 이 사례들은 안전장치가 정상적인 조사까지 포착할 수 있다는 출연진의 우려를 보여준다. 다만 개별 사례만으로 제한이 얼마나 자주 발생하는지는 알 수 없다.

연구 현장에서 드러난 기업의 의존 위험

프리버그는 자신의 회사가 농업 분야에서 유전자 변이가 식물에 미칠 영향을 예측하고, 유전자 편집 도구에 필요한 RNA 가이드를 설계하는 데 AI 모델을 활용한다고 설명했다. 약 6개월 전에는 특정 단백질을 만들기 위한 유전적 구성물을 설계하는 작업도 간단히 수행할 수 있었다고 했다. 그러나 최근 몇 주 사이 생물무기 위험과 관련된 제한 때문에 이런 연구에 모델을 쓰기 어려워졌다고 말했다.

그가 검토하는 대안은 오픈소스 모델을 자체 환경에서 운영하는 것이다. 그는 현재 이용할 만한 오픈소스 모델 중 중국 모델이 미국 모델보다 낫다고 평가했고, 접근 제한이 기업을 그쪽으로 밀어낼 수 있다고 우려했다. 이는 프리버그의 평가와 전망이지, 모든 기업의 이동이 확인됐다는 뜻은 아니다. 그는 기본 모델에 회사 데이터를 결합해 내부용 유전체 언어 모델과 예측 모델을 만들겠다는 계획도 밝혔다.

반대로 이미 사용 중인 사례도 있다. 프리버그는 아크 인스티튜트의 공개 유전체 모델을 식물 육종 프로그램의 입력 자료로 활용한다고 했다. 이 모델은 DNA 염기의 배열을 바탕으로 특정 변이를 평가하는 데 도움을 준다는 설명이다. 공개 모델을 자체 데이터와 결합할 수 있다는 점이 기업에 중요한 선택지로 제시됐다.

안전장치는 어디에 둘 것인가

진행자는 강력한 모델의 오용을 걱정하는 기업이 출시 초기 사용을 제한할 수 있다는 논리도 제시했다. 이전 모델이나 다른 모델을 선택할 수 있다는 것이다. 프리버그 역시 사이버 공격과 생물무기 등에 대한 보호 조치가 필요하다는 점은 인정했다. 다만 유익한 연구와 위험한 사용이 같은 기술 능력에 기대는 만큼, 모델을 쓰는 사람을 폭넓게 막는 방식에는 반대했다.

그가 든 대안은 기술이 실제 물리적 산출물로 이어지는 단계에서 점검하는 방식이다. 대담에서는 합성 DNA·RNA 서열을 제조업체에 주문할 때 위험한 서열인지 검사하고 기록하는 방안을 다룬 업계 서한이 사례로 소개됐다. 프리버그는 이런 점검이 모델에 질문하는 단계보다 연구를 덜 막으면서 위험에 대응할 수 있다고 봤다. 대담은 모델 접근 통제와 산출물 점검을 함께 설계할 가능성도 남겼다.

AI의 공공 몫을 둘러싼 다른 해법

이어 대담은 버니 샌더스의 제안으로 옮겨갔다. 진행자에 따르면 샌더스는 오픈AI, 앤트로픽, xAI를 포함한 대형 AI 기업의 주식에 일회성 50% 과세를 해 정부가 운영하는 펀드에 넣는 구상을 발표했다. 이익의 절반을 거두는 방안과는 다르다. 제안에는 기업별 의결권과 동등한 이사회 대표권도 포함된 것으로 소개됐다.

색스는 기업 지분을 강제로 가져가는 선례에 반대하면서도, 대중이 AI 성장의 몫을 얻어야 한다는 문제의식에는 공감했다. 프리버그는 사회보장기금을 주식에 투자할 수 있게 바꾸고, AI 기업을 포함한 여러 기업의 지분을 매입해 시민이 계좌를 통해 보유하는 방안을 제시했다. 강제 이전이 아니라 기업에 자본을 제공하는 투자 구상이다. 차마스 팔리하피티야는 AI 서비스가 이용자마다 연산 장비와 전력을 필요로 한다는 점을 들어 공공 인프라를 제공하는 정부가 지분을 협상할 논리가 있다고 주장했다. 이들은 공공 참여의 근거와 방식에서 서로 다른 견해를 보였다.

일자리 전망도 일치하지 않았다. 색스는 AI 기업 경영진의 실직 경고가 지분 공유 요구를 키웠다고 해석했다. 프리버그는 자신의 회사에서는 AI로 제품 개발 기회가 늘어 엔지니어 채용을 확대하려 한다고 반박했다. 출연진은 각 경영진이 말하는 실직의 범위와 시점도 같지 않다고 구분했다. 기업 한 곳의 채용 경험과 경영진의 전망 어느 쪽도 AI가 전체 고용에 미칠 결과를 확정하지는 않는다.

이번 대담은 AI 기업의 안전 판단이 고객의 연구와 제품 개발에 미치는 영향, 그리고 그 기업이 창출하는 가치에 대중이 어떻게 참여할지를 함께 다뤘다. 제시된 모델 제한 사례와 공공 지분 구상은 모두 구체적인 운영 방식과 적용 범위를 둘러싼 논쟁으로 남아 있다.