핵심 요약

  • 샘 올트먼은 이사회 사태를 계기로 압박 속에서도 작동할 조직과 거버넌스가 필요하다고 말했다. 이사회에는 기술뿐 아니라 비영리 운영, 기업 경영, 법률과 사회적 영향에 대한 관점도 필요하다고 봤다.
  • Sora가 가려진 물체를 다시 일관되게 보여주는 사례는 인상적이지만, 그것만으로 정교한 3차원 세계 모델을 갖췄다고 단정할 수는 없다고 선을 그었다.
  • 올트먼은 GPT-4의 창의적 협업 가능성을 높이 평가하면서도, 여러 단계를 스스로 수행하는 일과 사실 오류를 줄이는 일은 아직 부족하다고 말했다.
  • 그는 컴퓨팅 수요가 가격에 따라 크게 달라질 것으로 예상했다. 널리 알려진 ‘7조 달러 조달’에 대해서는 자신이 그런 계획을 발표한 적이 없다고 부인했다.
  • AGI를 하나의 출시 시점으로 규정하기보다 구체적인 능력과 사회적 변화를 봐야 한다는 입장이다. 과학적 발견의 속도를 크게 높이는 능력을 중요한 기준으로 꼽았다.

이사회 사태가 드러낸 거버넌스 문제

올트먼은 자신이 해임됐던 기간에 OpenAI가 거의 무너질 뻔했다고 회고했다. 그가 설명한 구조적 문제는 비영리 조직의 이사회가 별도 규칙이 없으면 자신들 외에는 책임을 지지 않는다는 점이다. 그는 이사회가 큰 권한을 갖는 것은 당연하지만, OpenAI의 경우 가능한 범위에서 더 넓은 세계에 책임을 지는 구조를 원한다고 말했다.

당시 기존 이사회는 약 1년 사이 9명에서 6명으로 줄었고, 새 구성원을 추가하는 데 합의하지 못했다. 올트먼은 새 이사회에서 경험을 중시한다고 설명했다. 기술 전문가는 일부 필요하지만, 기술 이해만으로는 AI가 사람들의 삶에 미칠 영향을 판단할 수 없다는 것이다. 새 구성원은 개별 인물보다 이사회 전체의 역량을 고려해 선임하려 한다고 말했다.

그는 해임 사태가 거버넌스의 또 다른 한계도 보여줬다고 인정했다. 이사회에는 법적으로 자신을 해임할 권한이 있었지만, 실제로는 그 결정이 유지되지 않았다. 올트먼은 자신이나 다른 한 사람이 OpenAI 또는 AGI를 전적으로 통제해서는 안 되며, 정부가 규칙을 마련해야 한다는 견해를 밝혔다.

연구소에서 제품 회사로 바뀐 구조

일론 머스크와의 소송을 묻는 질문에 올트먼은 OpenAI가 처음에는 연구소로 출발했고, 당시에는 API나 챗봇 판매를 예상하지 못했다고 설명했다. 이후 막대한 자본이 필요해지면서 조직 구조를 단계적으로 수정했고, 그 결과 현재 구조가 의문을 낳을 수 있다는 점도 인정했다. 그는 처음부터 결과를 알았다면 다르게 설계했을 것이라며, 비영리 조직으로 시작해 나중에 영리 부문을 추가하려는 스타트업에는 그 방식을 권하지 않는다고 말했다.

‘개방’의 의미에 대해서는 강력한 도구를 무료 또는 낮은 비용으로 제공하는 일을 강조했다. 모든 모델을 공개해야 한다는 뜻으로 보지는 않았다. 특히 사용자가 로컬에서 실행할 수 있는 작은 공개 모델에는 수요가 있다고 보면서도, 공개 모델과 비공개 모델이 함께 존재할 것으로 예상했다.

Sora의 성과와 출시 전 과제

올트먼은 Sora 영상에서 사람이 물체 앞을 지나간 뒤에도 그 물체가 그대로 남아 있는 장면을 인상적인 사례로 들었다. 다만 가려진 물체를 잘 처리한다는 관찰과 모델 내부에 뛰어난 3차원 세계 모델이 있다는 주장은 구분했다. 영상 속 고양이의 신체가 갑자기 달라지는 것과 같은 약점도 있다고 인정했다.

출시 전 과제로는 예상 수요를 감당할 효율을 먼저 꼽았다. 딥페이크와 허위정보 위험도 언급했다. 창작 데이터의 이용과 보상에 관해서는 가치 있는 데이터를 만든 사람이 보상받을 방법이 필요하다고 말했다. 다만 어떤 경제 모델이 적절한지는 아직 답을 찾지 못했다고 밝혔다.

GPT가 유용한 제품이 된 과정

올트먼은 GPT-4를 아이디어를 함께 발전시키는 상대처럼 사용한다고 말했다. 코딩과 글쓰기의 생산성을 높이는 기능 외에도, 문제를 다른 각도에서 생각하도록 돕는 가능성에 주목했다. 반면 여러 단계의 일을 스스로 나누고 실행해 결과를 합치는 능력은 드물게만 제대로 작동한다고 평가했다.

그는 ChatGPT가 사람들의 인식을 바꾼 데에는 기반 모델뿐 아니라 인터페이스와 후속 훈련이 중요했다고 설명했다. 후속 훈련은 모델을 사용자에게 더 유용하게 조정하는 과정이다. 사실처럼 들리는 잘못된 답변도 여전히 과제이며, 중요한 용도에는 사용자가 확인해야 한다고 말했다.

검색에서도 기존 검색 결과의 복제보다 정보를 찾고 종합하고 활용하도록 돕는 방식을 원한다고 밝혔다. 다만 언어 모델과 검색의 결합을 잘 해결한 사례는 아직 없다는 평가다. 광고에 대해서는 답변이 광고주에게 영향을 받을 수 있다는 우려를 말했지만, 모든 광고 방식을 배제한다고 단정하지는 않았다.

기억, 추론과 다음 모델의 불확실성

올트먼이 바라는 개인용 AI는 시간이 지나며 사용자를 더 잘 이해하고, 과거 경험에서 얻은 교훈까지 반영하는 시스템이다. 동시에 사용자가 기억을 지우거나 기억 기능을 쓰지 않을 수 있어야 한다고 말했다. 진행자가 기업의 데이터 이용에 관한 투명성을 요구하자 그 필요성에도 동의했다.

어려운 문제에 더 많은 컴퓨팅 자원을 쓰는 추론도 중요한 방향으로 꼽았다. 그러나 그 구현 방식은 정해지지 않았으며, ‘Q*’에 관해서도 구체적으로 설명할 준비가 되지 않았다고 했다. 당시 GPT-5의 출시 시점을 묻는 질문에는 모른다고 답했다. 새 모델의 발전 역시 단일한 돌파구보다 컴퓨팅 자원과 여러 기술 개선이 합쳐진 결과로 설명했다.

컴퓨팅 수요와 안전의 범위

올트먼은 컴퓨팅 자원이 미래에 매우 귀한 자원이 될 것으로 예상했다. 휴대전화용 칩과 달리 AI 컴퓨팅 수요는 가격에 따라 사용 범위가 크게 바뀔 수 있다는 논리다. 비용이 낮으면 일상적인 이메일 검토에도 쓰겠지만, 높으면 더 제한적인 문제에만 쓸 수 있다는 예를 들었다. 공급을 늘리는 데에는 에너지, 데이터센터, 공급망과 칩 생산이 모두 걸림돌이라고 말했다.

경쟁은 더 나은 제품을 빠르고 저렴하게 만들 수 있지만, 안전을 해치는 개발 경쟁으로 번질 위험도 있다고 봤다. 그가 말하는 안전에는 모델의 기술적 정렬뿐 아니라 모델 탈취 시도, 사회적 영향과 경제적 영향이 포함된다. AI 자체에 대한 통제력을 잃는 문제는 당시 그의 최우선 걱정이 아니었지만, 계속 연구해야 할 어려운 문제라고 덧붙였다.

AGI를 판단하는 기준

올트먼은 AGI(범용 인공지능)의 정의가 사람마다 크게 달라 출시 시점을 묻는 방식만으로는 논의가 어렵다고 말했다. 그는 당시 기준으로 그해 말까지가 아니라 ‘그 10년이 끝나기 전, 어쩌면 그보다 조금 더 일찍’ 상당한 능력을 갖춘 시스템이 나올 것으로 예상했다. 이는 전망이지 달성 일정의 발표는 아니다.

그에게 중요한 기준 중 하나는 AI가 세계의 과학적 발견 속도를 크게 높일 수 있는가다. 첫 AGI가 곧바로 모든 과학 질문에 답할 것이라고 기대하지는 않았다. 필요한 측정이나 새 장비를 먼저 요구할 수도 있다는 예를 들었다.

대담에서 올트먼이 반복해 구분한 것은 현재 관찰된 능력과 앞으로 기대하는 능력이다. Sora의 영상 일관성, GPT의 협업 기능, 컴퓨팅 수요 전망을 설명하면서도 각각의 한계와 불확실성을 함께 밝혔다.