핵심 요약

  • 물리학자이자 Extropic 창업자인 기욤 베르동은 AI 연구 주체와 컴퓨팅 하드웨어가 소수에 집중되는 것을 주요 위험으로 본다.
  • 그가 공동 창립한 효과적 가속주의(e/acc)는 기술 발전을 지지하면서 사상, 연구 방식, 기업 간 경쟁의 다양성을 강조한다.
  • 베르동은 AI 시스템의 신뢰성을 시장 수요와 배포 주체의 책임으로 높일 수 있다고 주장한다. 진행자 렉스 프리드먼은 시장의 정보 부족과 예상하지 못한 피해를 반론으로 제기한다.
  • Extropic은 양자컴퓨팅의 잡음 제어 비용에서 출발해, 열역학을 활용하는 생성형 AI용 컴퓨팅 시스템과 알고리즘을 개발하려 한다.

AI 개발의 속도보다 통제권의 분산

베르동은 AI의 능력이 한 기업에 집중되는 상황을 우려한다. 그는 선도 기업의 기술과 공개된 AI 시스템 사이의 격차가 지나치게 벌어지지 않아야 한다고 주장한다. 여러 연구자와 조직이 시스템에 접근하고 서로 다른 방법을 시험할 수 있어야 특정 기업이 시장을 독점할 위험을 줄일 수 있다는 생각이다.

그는 하드웨어 공급망도 취약점으로 꼽았다. 대담에서 엔비디아를 주요 반도체 공급자, TSMC를 핵심 제조사, ASML을 극자외선 노광 장비 제조사로 언급하며, 공급망의 한 지점이 독점되거나 장악돼도 AI 개발 전반에 영향이 갈 수 있다고 설명했다. 그가 AI를 구현하는 새로운 물리적 방식을 찾는 이유에는 이런 경로를 늘리려는 목적도 있다.

다만 프리드먼은 범용 인공지능 개발에 높은 기술·공학적 장벽이 생기면 소규모 개발자가 경쟁하기 어려울 수 있다고 지적했다. 베르동의 분산 구상은 그 가능성을 막으려는 방향이지, 경쟁이 계속 유지된다는 보장은 아니다.

안전은 시장에서 확보할 수 있는가

베르동은 AI를 배포한 조직이나 개인이 그 결과에 책임을 져야 한다고 본다. 고객은 신뢰할 수 없는 AI 제품을 원하지 않을 것이므로, 시장이 더 안전하고 안정적인 시스템을 선택할 것이라는 주장이다. 고객이 신뢰성을 판단하도록 제삼자 평가 기관과 성능 기준도 생겨날 것으로 예상했다.

프리드먼은 독립 감사, 위험한 능력이 발견됐을 때의 안전 조치, 예방 가능한 피해에 대한 기업 책임 등을 거론했다. 베르동은 연구개발비의 일정 비율을 안전 분야에 일률적으로 배정하는 방안에는 반대했다. 특히 기존 대기업과 정부가 밀착한 규제가 신규 참여자의 진입을 막고 AI 권력을 집중시킬 수 있다고 우려했다.

이 대목에서 두 사람의 견해는 갈렸다. 프리드먼은 시장에 완전한 정보가 주어지지 않으며, AI 피해의 규모와 의도하지 않은 결과를 미리 알기 어렵다고 지적했다. 베르동은 시장의 선택과 정보의 자유를 강조했지만, 대담에서 시장만으로 모든 위험을 통제할 수 있음을 입증하지는 않았다.

e/acc가 강조하는 다양성

베르동은 e/acc를 인간, 기술, 자본, 정보가 서로 영향을 주며 변화하는 과정에 관한 느슨한 문화적 틀로 설명했다. 그에 따르면 핵심은 새로운 생각과 기술이 시험될 여지를 유지하는 것이다. 그는 표현과 정보 유통, AI 연구의 자유가 다양한 접근법의 경쟁에 필요하다고 주장한다.

이 관점의 출발점에는 생명과 문명의 성장을 열역학으로 해석하는 그의 견해가 있다. 다만 물리적 과정에 대한 해석을 사회와 AI 개발의 방향에 적용한 것은 베르동의 철학적 주장이다. 프리드먼은 강한 구호를 중심으로 모인 운동이 오히려 집단사고를 낳을 수 있다고 물었다. 베르동은 e/acc에 공식 조직이 없고 참여자가 다른 입장을 만들어 갈 수 있다고 답했다.

Extropic이 개발하려는 컴퓨터

베르동은 기존 양자컴퓨터에서 잡음을 계속 억제하고 오류를 바로잡는 데 큰 비용이 드는 경험이 Extropic의 출발점이었다고 설명했다. Extropic은 그 대신 열역학 컴퓨터를 구상한다. 온도와 에너지의 흐름처럼 물리계에서 일어나는 과정을 계산에 활용하고, 여기에 맞는 AI 알고리즘까지 함께 만들겠다는 계획이다.

대담에서 프리드먼은 Extropic이 최근 1,410만 달러 규모의 시드 투자 유치를 발표했다고 언급했다. 베르동은 회사가 생성형 AI를 위한 물리 기반 컴퓨팅 시스템을 만들려 한다고 밝혔지만, 대담에서 완성된 제품의 성능이나 상용화 성과를 제시하지는 않았다.

베르동은 앞서 참여한 TensorFlow Quantum 작업에서 얻은 방법도 설명했다. 물리 시스템을 조절하는 값을 정하고 결과를 측정한 뒤, 목표에 맞도록 그 값을 최적화하는 방식이다. Extropic에서도 물리학과 AI 분야의 인력이 서로의 전문 지식을 익혀야 하므로, 이런 협업에는 초기의 높은 소통 비용이 따른다고 말했다.

AI의 미래를 바라보는 차이

베르동은 사람처럼 대화하는 AI와 물리 세계를 표현하는 AI가 결합할 수 있다고 전망한다. 대담에서 그는 텍스트를 바탕으로 다음 내용을 예측하는 언어모델만으로는 세계의 상태와 불확실성을 정확히 나타내기 어렵다고 설명했다. 물리 기반 AI를 세계를 모델링하는 장치로, 인간과 비슷한 AI를 그 모델을 활용하는 쪽으로 상정한 것이다. 이는 Extropic이 지향하는 구상이며, 구현된 결과로 제시된 것은 아니다.

그는 AI가 어느 한 시점에 갑자기 모든 문제를 풀어내는 급격한 전환에도 회의적이다. 물질을 이해하고 조작하려면 정밀한 시뮬레이션이나 실제 세계에서 얻는 자료가 필요하고, 그 과정에는 계산과 에너지 비용이 든다는 이유다. 반면 프리드먼은 AI에만 고유한 실패 방식이 있을 가능성을 남겨 두었다.

대담이 보여 주는 쟁점은 뚜렷하다. 베르동은 경쟁과 접근성 확대가 AI 권력의 집중을 막는다고 주장한다. 프리드먼은 그 과정에서 생길 수 있는 피해와 시장이 놓칠 위험을 계속 묻는다. Extropic의 기술적 구상 역시 이 논쟁 속에서 제시됐으며, 성능과 효과는 대담만으로 판단할 수 없다.