핵심 요약

  • 젠슨 황은 AI 안전을 중시하면서도, 재앙의 확률을 제시하는 예측은 실제 근거와 구분해야 한다고 주장했다.
  • 그는 AI 연구소에서 발생한 문제를 원인 분석, 재발 방지, 제품 출시 전 평가로 다뤄야 한다고 말했다.
  • 황은 폐쇄형과 오픈 모델이 모두 필요하며, 오픈 모델은 기업이 자체 기술과 개인정보 보호 요구에 맞춰 AI를 만드는 데 쓰인다고 설명했다.
  • 엔비디아는 칩과 모델뿐 아니라 데이터센터 부지·전력·건물, 공급망, 응용 서비스까지 살피며 병목을 줄이려 한다고 밝혔다.
  • 황이 말한 ‘초지능’은 모든 일을 인간보다 잘하는 AI가 아니라 자율주행이나 단백질 연구처럼 좁은 과업에서 인간을 능가한다는 뜻이었다.

위험 예측과 실제 문제를 구분하다

황은 AI 안전과 기술 개발의 속도를 양자택일로 보지 않았다. 다만 연구자의 직함을 근거로 문명 붕괴 확률을 숫자로 제시하는 방식에는 반대했다. 그는 과거 방사선과 의사가 사라질 것이라는 전망을 사례로 들었다. 그의 설명에 따르면 영상 판독에는 AI가 널리 쓰이지만 방사선과 의사의 필요가 없어지지는 않았다. 코드 생성 비율과 초급 일자리 감소를 예고한 단기 전망도 실현되지 않았다고 주장했다. 이는 황이 제시한 반론이며, 대담에서 각 전망을 검증하는 자료가 별도로 제시된 것은 아니다.

그렇다고 연구소 내부의 우려까지 묵살해야 한다는 뜻은 아니라고 선을 그었다. 황은 내부 고발자가 제기한 통제 문제를 진지하게 다뤄야 한다면서도, 그 사람이 무엇을 목격했는지는 자신도 모른다고 말했다. 연구 중심 조직이 제품을 만드는 엔지니어링 조직으로 옮겨가는 과정에서 통제가 미흡했을 가능성을 제기했다.

출시 전 검증을 통제의 기준으로 삼다

황은 규제가 실제 문제를 해결해야 한다고 말했다. 그가 제시한 첫 단계는 사고의 원인을 기술적으로 분석하고, 같은 일이 반복되지 않도록 도구와 절차를 마련하는 것이다. 연구소가 충분한 연산 자원을 보유해 첨단 기술을 시험하는 만큼 그곳에서 위험이 발생할 가능성이 크다는 것이 그의 판단이다. 반면 연산 자원이 적은 학생이나 스타트업이 같은 종류의 문제를 일으킬 가능성은 낮게 봤다.

대담에서는 AI가 다음 AI를 개선하는 재귀적 자기개선도 논의됐다. 황은 이를 단일한 통제 불능 현상보다, 기존 모델에 맥락·기술·반성 과정을 더하고 강화학습과 합성 데이터로 성능을 높이는 여러 방법의 조합으로 설명했다. 일부 방법은 기본 모델을 다시 훈련하지 않고도 개선을 시도할 수 있다고 했다. 그러나 회사 안에서 개선을 반복하더라도 제품을 내놓을 때는 성능 평가, 회귀 여부 확인, 검증이 필요하다고 강조했다. 외부의 독립 평가자를 둘 경우에는 한 기관에 의존하지 않도록 여러 평가자가 참여하는 방안에도 동의했다.

오픈 모델은 응용 기업의 선택지를 넓힌다

황은 자신도 폐쇄형 모델을 사용한다면서 오픈 모델과 폐쇄형 모델이 함께 필요하다고 말했다. 오픈 모델을 쓰는 이유로는 기술 주권, 개인정보 보호, 기업 고유 기술과의 결합을 들었다. 그는 최근 6개월간 AI 기반 기업에 들어간 벤처 자금이 4,000억 달러이며 그중 80%가 오픈 모델을 쓴다고 주장했다. 대담에서는 이 수치의 집계 기준이나 근거가 제시되지 않았다.

그는 모델이 어느 나라에서 만들어졌는지만으로 활용 가치를 판단하지 않았다. 내려받은 오픈 모델을 각자가 수정하고 개선할 수 있다는 것이다. 황이 보는 AI 경쟁의 핵심은 모델의 출처보다 기술을 얼마나 잘 활용하느냐에 있다. 이 관점에서 오픈 모델은 첨단 모델 연구소와 다른 목표를 가진 스타트업과 산업에도 개발 경로를 제공한다.

엔비디아는 생태계의 병목을 살핀다

황은 AI 산업에 모델과 칩뿐 아니라 데이터센터 건설, 전력 생산, 공급망, 응용 서비스가 필요하다고 설명했다. 엔비디아는 연산 장비를 공급할 준비가 돼 있어도 부지·전력·건물이 부족하면 배치할 수 없기 때문에 이런 제약을 살핀다고 했다. 기존에 반도체와 부품 공급사를 미리 지원해 왔듯, 이제는 장비를 설치할 인프라 쪽도 본다는 설명이다.

그는 지역에 기반을 둔 클라우드 사업자가 부지와 전력을 확보하는 데 역할을 할 수 있다고 봤다. 대형 클라우드 기업은 연간 계획을 세우지만 수요 변화가 빨라 계획이 어긋날 수 있고, 지역 사업자는 해당 지역의 사정을 더 잘 안다는 이유다. 데이터센터가 들어서는 작은 지역사회의 목소리도 더 주의 깊게 들어야 한다고 말했다.

필요한 곳까지 만들고, 활용은 고객에게 맡긴다

엔비디아가 모델과 소프트웨어를 직접 만드는 범위에 대해 황은 고객에게 필요한 기술이라면 개발하되, 고객이 그 위에서 제품을 만들 수 있도록 한다는 원칙을 제시했다. 자율주행 모델을 예로 들며 모든 자동차·트럭·농업 기술 기업이 전체 기술 체계를 자체 개발할 규모는 아니라고 설명했다. 엔비디아가 공통 기반을 만들고 각 기업이 자기 용도에 맞게 마지막 단계를 조정하는 방식이다. 생물학 모델 역시 이를 필요로 하는 고객을 돕기 위한 작업이라고 말했다.

마지막에 황은 이미 범용 인공지능과 초지능의 단계에 왔다고 말했다. 그러나 이어서 든 근거는 자율주행과 단백질 연구처럼 한정된 과업이었다. 따라서 그의 발언은 AI가 모든 영역에서 인간을 넘어섰다는 검증 결과로 읽기보다, 특정 영역의 성능에 관한 그의 판단으로 이해해야 한다.

황의 설명을 관통하는 기준은 실제로 확인된 문제를 분석하고, 출시 전 성능과 안전을 검증하며, 여러 기업이 AI를 활용할 수 있는 기반을 넓히는 데 있다.