핵심 요약

  • 드와르케시 파텔은 최고 수준의 인간 AI 연구자와 맞먹는 자동 연구자가 등장할 시점으로 2028년을 예상했다. 다만 2032년 이후로 늦어질 확률도 최소 25%로 봤다.
  • 핵심 근거는 AI 연구의 상당 부분을 측정하고 반복 훈련할 수 있다는 점이다. 수학에서 나타난 문제 해결 능력의 향상이 AI 연구에서도 재현될 수 있다고 봤다.
  • 빠르게 일하는 최상급 연구자를 대규모로 복제하면 연구가 가속되지만 실험용 연산 자원과 발견하기 어려워지는 아이디어가 속도를 제한한다.
  • 파텔은 연구 자동화 이후 기존 속도로 3~6년 걸릴 진전을 1년에 이루는 경우와 추가 연산 자원 없이 자기 개선이 급격히 이어지는 경우에 각각 50%의 가능성을 부여했다.

전망을 바꾼 AI 연구 자동화

AI 연구자와 기업가를 인터뷰하는 팟캐스터 드와르케시 파텔은 이번 영상 에세이에서 초지능 도래 시점에 관한 자신의 전망이 바뀐 이유를 설명했다. 중심 질문은 AI가 인간 최고 연구자 수준으로 AI 연구를 수행하면 그다음 발전 속도가 얼마나 빨라질 수 있느냐다.

파텔은 연초까지만 해도 초지능까지 대략 10년 가까이 남았다고 생각했지만 최근 3개월 동안 전망을 크게 앞당겼다고 밝혔다. 최고 인간 연구자 수준의 AI 연구 자동화는 수년 안에, 이르면 수개월 안에도 가능하다고 봤다. 모든 분야에서 최고 인간 전문가와 맞먹는 AI도 2030년까지, 빠르면 내년에도 나올 수 있다고 예상했다.

이미 연구 현장에서 나타나는 변화도 근거로 들었다. 파텔이 소개한 독립 평가기관 METR의 조사에 따르면 앤트로픽에서 범위가 명확한 과제의 AI 발전 속도는 1년 전보다 두 배 빨라졌다. METR은 이 가속의 대부분이 연구개발에 AI를 광범위하게 활용한 결과일 가능성이 크다고 평가했다. 앤트로픽 역시 클로드가 주도하는 AI 연구개발 업무 비중이 2월 1% 미만에서 9월 26%로 늘었다고 발표했다.

새로운 이론보다 중요한 조합과 실험

파텔이 주목하는 수학의 변화는 정답을 확인할 수 있는 문제에서 특히 빠르게 나타났다. 그는 오픈AI가 밀레니엄 난제 하나를 88시간 만에 풀었다고 소개했다. 동시에 현재 AI의 성과가 새로운 수학 이론이나 중요한 질문을 만드는 일보다 반례를 찾는 등 검증하기 쉬운 작업에 치우쳤다는 한계도 인정했다.

그러나 AI 연구에서는 이런 능력만으로도 가치가 크다고 봤다. 수학에서는 개념의 이해를 넓히는 일이 중요하지만 AI 연구소는 새로운 방법이 실제로 학습 비용을 줄이거나 모델 성능을 높이는지에 더 직접적인 관심을 두기 때문이다.

대표 사례는 현대 대규모 언어 모델의 기반인 트랜스포머 구조다. 파텔은 2017년 발표 이전에도 어텐션과 잔차 연결 같은 핵심 아이디어가 알려져 있었다고 설명했다. 여러 요소를 적절히 조합하고 추가적인 개선을 함께 적용해야 기존 방식보다 우수해졌으며 이를 찾으려면 연구자의 판단력과 수많은 작은 실험이 필요했다.

그는 다양한 분야의 아이디어를 끈질기게 조합하는 작업이 AI의 강점과 맞닿아 있다고 봤다. 다만 AI 연구의 모든 부분이 수학처럼 쉽게 검증되는 것은 아니며 수년 뒤 유망해질 방향을 고르는 능력까지 자동화될지는 불확실하다고 덧붙였다.

연구 성과를 측정하면 반복 훈련도 가능해진다

파텔은 AI 연구를 사전 학습, 사후 학습, 추론 효율 개선으로 나누고 각 영역에 검증 가능한 대리 지표가 있다고 설명했다. 대리 지표는 연구의 최종 가치를 곧바로 판단하기 어려울 때 진전을 확인하는 측정값이다. 이런 지표가 있으면 보상에 따라 시행착오를 반복하는 강화학습으로 연구 능력을 훈련하고 여러 AI의 결과도 독립적으로 평가할 수 있다.

사전 학습에서는 학습에 쓰지 않은 데이터의 예측 오차를 일정 수준까지 낮추는 데 필요한 연산량을 측정할 수 있다. 작은 모델에서 발견한 개선이 큰 모델에서도 통할지 판단하는 능력 역시 두 규모의 실험 결과를 비교하며 훈련할 수 있다고 봤다. 다만 이런 훈련에는 더 많은 비용이 든다.

사후 학습에서는 새 과제를 익히는 데 필요한 데이터·시간·연산량이나 처음 접한 환경에 적응하는 속도를 측정할 수 있다. 파텔은 앤트로픽 연구자와 엔지니어가 실제로 해결한 약 500개 문제를 담은 내부 평가 도구 CoBench를 사례로 들었다. 과거 연구 과제를 다시 풀게 하는 방식으로 연구 능력을 직접 훈련할 수 있다고 설명했다.

추론 효율은 모델을 실행할 때 연산 자원을 얼마나 효율적으로 쓰는지의 문제다. GPU 활용률이나 응답 지연 등을 측정할 수 있다. 같은 성능을 더 작은 모델로 구현하면 학습과 실험 비용이 줄고 같은 자원으로 더 많은 자동 연구자를 운용할 수 있다. 파텔은 이런 변화로 AI가 자신을 개선하는 순환도 짧아질 것으로 예상했다.

빠르고 뛰어난 연구자가 많아질 때

파텔은 연구 자동화가 속도를 높이는 이유로 자동 연구자의 작업 속도와 뛰어난 개별 능력, 훨씬 많아질 수 있는 수를 들었다.

그는 현재 AI의 작업 속도를 인간의 약 10배로 보고 밤과 주말에도 계속 일하면 연구자 한 명에 해당하는 AI가 매주 처리하는 작업량이 인간의 약 50배가 될 수 있다고 추산했다. 여기에 모든 자동 연구자가 최고 인간 연구자 수준이라면 연구 조직 전체의 역량도 달라진다고 봤다.

AI 연구는 병렬 작업에도 비교적 적합하다고 봤다. 학습 데이터 필터링, 강화학습 환경 설계, 연산 코드 최적화는 서로 다른 팀이 나눠 맡고 성과를 확인할 수 있다. 많은 AI가 각 부분에서 여러 접근법을 동시에 시험할 여지가 있다.

그러나 작업량 증가가 발전 속도의 같은 배수 증가를 뜻하지는 않는다. 실험에는 여전히 연산 자원과 시간이 필요하며 연구자 수를 늘릴수록 추가 인력의 효과도 줄어든다.

파텔은 이후의 경로를 두 가지로 나눴다. AI의 연구 능력이 향상되는 속도가 새 아이디어를 찾기 어려워지는 속도를 앞서면 추가 연산 자원 없이도 빠른 자기 개선이 이어지는 ‘소프트웨어만의 특이점’이 가능하다고 봤다. 반대로 아이디어 발굴이 더 빨리 어려워지면 기존 속도로 3~6년 걸릴 진전을 1년에 이룬 뒤 추가 자원이 마련될 때까지 속도가 둔화하는 ‘스파크’가 나타날 수 있다. 그는 두 경로의 가능성을 각각 50%로 평가했다.

지속 학습과 실험 자원이라는 병목

파텔이 가장 크게 재평가한 쟁점은 지속 학습이다. 현재 AI는 새 세션을 시작할 때 이전 업무 경험을 충분히 축적하지 못하고 한 세션에서 유지할 수 있는 정보에도 한계가 있다. 그는 과거에 이 문제를 연구 자동화가 늦어질 핵심 이유로 봤다.

지금은 세션 안의 정보를 바탕으로 학습하는 인컨텍스트 학습이 확대되면 사실상 수개월 동안 이어지는 세션에서 업무 경험을 쌓을 수 있다고 예상한다. 적은 데이터로 배우는 능력과 새 경험에서 학습하는 능력은 측정할 수 있으므로 지속 학습이 불완전한 AI도 이를 개선하는 연구를 수행할 수 있다고 봤다. 다만 이 문제가 해결되지 않고 다른 강점으로도 보완하지 못할 가능성이 남아 있어 최고 연구자 수준의 자동화가 2032년 이후로 늦어질 확률을 25%로 잡았다.

적절한 평가 지표를 누가 만들 것이냐는 반론도 있다. 파텔은 트랜스포머와 추론 모델의 큰 발전이 기존 번역·코딩·수학 평가에서도 드러났다는 점을 들어 기존 지표가 새로운 접근법의 가치를 포착할 수 있다고 답했다.

데이터와 실험 자원도 제약이다. 그는 더 나은 학습 데이터를 선별·생성하는 일 자체가 AI 연구 과제라고 봤다. 프린스턴대 학생 제리 한과 함께 진행한 연구에서는 최근 6년간 사전 학습의 알고리즘 발전에서 데이터 개선의 기여가 모델 개선보다 세 배 이상 컸다고 밝혔다.

실험 자원이 부족해지면 연구 방식도 달라질 수 있다. 인간 연구자의 시간을 아끼려고 큰 실험을 돌리는 대신 자동 연구자가 많은 소규모 실험을 세밀하게 설계하고 분석할 수 있다고 봤다. 작은 실험에서 큰 모델의 결과를 예측하는 방법도 연구 대상이다. 파텔은 GPT-4의 최종 예측 오차를 1만 분의 1 연산량으로 학습한 모델들에서 예측했다는 사례를 들었다.

연구실의 능력이 현실로 옮겨갈 조건

AI 연구 자동화가 곧바로 기업 경영 같은 현실 업무의 숙련을 뜻하지는 않는다. 파텔도 데이터센터 안에서 모든 현실 문제의 답을 학습시킬 수 있다고 보지는 않았다. 대신 다양한 훈련으로 정보 탐색, 계획, 오류 수정, 협업 능력을 기르면 낯선 분야에서도 빠르게 배울 수 있다고 예상했다.

그가 제시한 예시는 대기업 경영에 적응하는 AI다. 회사의 이메일과 문서를 읽고 복제된 AI들이 직원과 주요 고객을 병렬로 인터뷰하면 짧은 시간에 많은 맥락을 확보할 수 있다. 다만 다음 분기 실적처럼 실제 시간이 지나야 얻는 피드백은 기다려야 한다.

파텔은 이런 제약을 감안해도 연구 자동화 이후 등장할 AI가 배치된 지 수개월 안에 여러 분야의 최고 인간 수준에 도달할 수 있다고 봤다. 자신의 중간 전망에서는 그 시점을 2028~2029년으로 제시했다.

그의 전망을 가르는 핵심은 연구 자동화가 단순한 인력 보강에 그칠지, 더 나은 AI가 다시 더 나은 연구자를 만드는 순환으로 이어질지다. 파텔은 후자에 무게를 두지만 지속 학습과 실험 자원이 그 순환의 속도를 결정할 변수라고 봤다.