핵심 요약

  • 그레그 브로크먼은 AI가 새로운 지식을 만들어낼 수 있다는 근거로 수학 성과를 제시했다. 다만 완전히 새로운 이론을 만드는 단계에는 아직 이르지 않았다고 선을 그었다.
  • 신약 개발로 성과를 확장하려면 모델 성능뿐 아니라 데이터 확보, 실험, 규제 문서 등 개발 과정 전체의 병목을 풀어야 한다.
  • 상시 작동하는 AI 에이전트는 업무 맥락을 통합하고 필요한 일을 먼저 찾아낸다. 개인용과 기업용 제품은 가까워지겠지만 비용과 관리 권한의 차이는 남는다는 전망이다.
  • 브로크먼은 최상위 AI로 기존 취약점을 보완할 수 있는 현재를 ‘방어자의 기회’로 봤다. 소프트웨어 제작 비용이 낮아질수록 보안과 신뢰에 쓰는 비용이 더 중요해진다는 주장이다.

수학에서 얻은 답보다 중요한 것은 통찰이다

OpenAI 공동창업자이자 사장인 그레그 브로크먼은 No Priors 대담에서 최근 수학 성과를 AI가 새로운 지식을 만들어낼 수 있음을 보여주는 이정표로 평가했다. 그의 설명에 따르면 OpenAI는 해결된 중요 미해결 문제를 거의 400개 공개했고, 수학계가 그 결과에서 통찰을 찾고 있다. 그는 일부 분야 전문가들이 아이디어를 적용한 뜻밖의 방식에 주목하고 있다고 전했다.

브로크먼이 강조한 것은 기계가 답을 내놓았다는 사실만이 아니다. 사람이 그 결과를 이해하고, 도구를 활용해 이전에는 불가능했던 일을 할 수 있어야 한다는 것이다. 그는 새 지식의 생성과 인간의 이해를 함께 발전시키는 것을 중요한 과제로 봤다. 다만 AI가 완전히 새로운 이론을 만들어내는 단계는 아직 아니라고 말했다.

검증에도 한계가 있다. 산술 문제는 정답과 비교하기 쉽지만 자연어로 작성된 증명의 정확성을 판단하기는 훨씬 어렵다. 그는 기계가 검사할 수 있도록 형식화한 증명과 자연어 증명을 구분하며, 이번에 다루는 것은 후자라고 설명했다.

사람의 감독을 돕는 방법으로는 AI끼리 결과를 비판하고 검토하게 하는 접근을 들었다. 책 요약이 좋은지 판단하려면 보통 책 전체를 읽어야 한다. 그러나 다른 AI가 요약에서 빠진 중요한 대목을 찾아 제시하면, 사람은 그 구체적인 근거를 보고 문제를 판단할 수 있다. 복잡한 결과도 사람이 검토할 수 있는 형태로 전달해야 한다는 취지다.

신약 개발의 병목은 모델 밖에도 있다

브로크먼은 과학 분야에서 하나를 골라 근본적으로 바꿀 수 있다면 신약 개발을 택하겠다고 말했다. 다만 수학의 성과가 생물학에 그대로 이어진다고 단정하지는 않았다. 그가 꼽은 핵심 조건은 충분한 데이터를 확보할 수 있는가다.

수학과 이론물리학에서는 많은 데이터를 얻을 수 있지만 생물학은 데이터 확보 자체가 어렵다는 설명이다. OpenAI가 적은 데이터로도 학습하는 기법을 연구하고 있더라도, 필요한 데이터가 존재하는지와 이를 만들어낼 수 있는지는 여전히 풀리지 않은 문제다.

그는 같은 모델과 기법을 생물학에 적용하면 어떤 작업은 빠르게 쉬워지겠지만 다른 병목은 남을 것으로 봤다. 따라서 분자 설계만이 아니라 신약 개발의 모든 단계를 살펴야 한다고 강조했다. 사례로는 임상시험을 위한 규제 제출 문서를 들었다. 작성에 오랜 시간이 걸리는 이런 문서도 AI가 도울 수 있다는 것이다. 반대로 기초 데이터가 없는 영역에서는 실제 실험을 수행하는 연구실과 시뮬레이션의 혁신이 중요해진다.

기존 문헌을 찾는 일도 그가 기대하는 활용처다. 특정 환자의 상태에 도움이 될 치료법이 논문 속에 있지만 필요한 논문을 찾지 못하는 경우가 있으며, 이런 탐색을 확대하면 단기적인 효과도 낼 수 있다고 주장했다.

규제 변경은 성과 입증을 전제로 했다. 신경망이 실제 임상시험보다 더 나은 결과를 낼 수 있느냐는 질문에 그는 아직 그 단계가 아니라고 답했다. 특히 장기적인 결과를 예측하는 시뮬레이션이 정확한지 확인하려면 실제로 긴 시간이 지난 관측이 필요할 수 있다고 인정했다. 기술이 바뀔 가능성과 현재 검증된 능력을 구분한 것이다.

상시 작동하는 에이전트가 업무 맥락을 모은다

브로크먼은 업무 방식의 변화로 먼저 움직이는 에이전트를 소개했다. 사람이 일을 멈춘 뒤에도 계속 작동하며, 자신이 보내기로 했던 메시지나 미처 처리하지 못한 약속을 찾아 아침에 할 일 목록으로 보여준다는 설명이다.

일정 충돌을 발견하거나 다음 일정을 위해 회의를 일찍 나와야 한다고 알려주는 것도 사례로 들었다. 이메일, Slack, 일정, 진행 중인 프로젝트와 질문을 함께 이해하면서 사용자가 명시적으로 요청하지 않은 문제까지 짚는다는 것이다. 그는 이를 모델 능력뿐 아니라 AI를 사용하는 형태의 변화로 해석했다.

개인용과 업무용 비서는 점차 합쳐질 것으로 전망했다. 다만 소비자 제품은 무료나 낮은 가격으로 많은 사람에게 제공하는 일이 중요하고, 업무에서는 생산성 향상이 비용을 웃돌면 더 많은 연산 자원을 투입할 수 있다. 이 차이가 기능과 제품 경험의 차이로 이어질 수 있다는 설명이다.

그는 AI가 창업의 진입 장벽을 낮추는 사례도 주변에서 보고 있다고 말했다. 믿고 맡길 AI가 없었다면 회사를 시작하지 않았을 것이라는 사람들을 알고 있다는 것이다. 이는 그가 전한 사례이며, 창업 전반의 변화를 수치로 입증한 주장은 아니었다.

고정된 화면은 줄어도 기업의 통제는 남는다

브로크먼이 그리는 인터페이스의 방향은 사용자가 고정된 메뉴와 버튼을 배우는 부담을 줄이는 것이다. 말이나 메시지로 일을 맡기고, 화면이 필요할 때는 AI가 상황에 맞춰 만들어주는 방식이다.

항공편을 예약할 때는 여러 선택지를 비교할 화면이 유용하다. 자전거를 조립할 때는 그 순간에 맞춘 별도의 안내 앱이 도움이 될 수 있다. 사람에게 일회성 앱 제작을 맡기기 어려웠던 작업도 AI가 즉석에서 수행할 수 있다는 설명이다.

그러나 기업 환경에서는 관리자가 기능 도입 시점을 통제하고 보안팀을 비롯한 여러 이해관계자가 관여한다. 어떤 기능이 관리자 설정으로 제한됐다면 이를 사용자에게 알려야 한다. 브로크먼은 화면을 최소화하려는 방향에서도 이런 복잡성이 사라지지는 않으며, 제품이 직접 다뤄야 할 과제라고 말했다.

방어자의 기회는 새 모델마다 다시 열린다

보안에서 브로크먼은 현재를 ‘방어자의 기회’라고 표현했다. 방어자가 최상위 AI를 활용해 시스템을 보완할 수 있는 동안, 널리 접근 가능한 모델의 사이버 능력도 계속 높아지고 있다는 진단이다. 이 기회가 영구히 지속되지는 않는다고 봤다.

그는 취약점 상당수가 AI 이전부터 존재했다고 강조했다. 인터넷을 구축하는 과정에서 보안이 뒤늦게 덧붙여졌고, 이제 AI가 축적된 기술 부채를 드러내고 있다는 설명이다. OpenAI는 방어자의 모델 접근과 활용을 돕기 위해 10억 달러 규모의 지원을 약속했으며, 취약점 탐색과 사고 대응을 위한 협력도 추진하고 있다고 말했다. 이는 지원 약속이며 집행이 완료됐다는 설명은 아니었다.

내부 대응 사례도 공개했다. OpenAI는 프로덕션 엔지니어 약 25%의 기존 프로젝트를 멈추고 보안 작업에 투입했다고 한다. 당시 가장 강력한 모델로 인프라를 점검하고 모의 공격을 수행했으며, 반복 점검을 쉽게 하는 도구도 만들었다. 발견한 문제를 수정한 뒤에는 그 모델이 찾아낼 수 있는 문제를 더 찾기 어려운 지점까지 도달했다고 설명했다.

이것이 보안 작업의 끝은 아니다. 다음 모델이 나오면 같은 과정을 반복해야 한다는 것이 그의 결론이다. 조직의 보안 수준은 기초적인 설계를 얼마나 잘 갖췄는지뿐 아니라 어느 수준의 AI로 방어를 점검했는지에도 좌우될 것이라고 봤다.

장기적으로는 소프트웨어의 보안 속성을 수학적으로 입증하는 형식 검증과, 처음부터 안전한 코드를 쓰도록 모델을 훈련하는 접근에 기대를 걸었다. 방어자가 공격자를 앞설 가능성은 있지만 조직 운영 방식의 변화와 주요 기반시설에 대한 자원 배분, 공동 대응이 필요하다고 덧붙였다.

소프트웨어가 저렴해질수록 신뢰의 비중이 커진다

브로크먼은 보안 지출이 소프트웨어 지출을 크게 웃돌아야 한다는 견해를 밝혔다. 자신이 틀릴 수 있다고 전제하면서도, 소프트웨어를 만드는 비용이 낮아질수록 안정적이고 안전하며 믿을 수 있게 만드는 일이 더 중요해진다고 주장했다.

오픈소스 공급망이 그 사례다. 여러 기업이 의존하는 패키지에 악성 코드가 들어가면 피해가 퍼질 수 있지만, 이를 살필 전문가는 부족했다. 그는 AI가 이런 점검의 제약을 바꿀 수 있다고 봤다. 보안 비용을 몇 퍼센트로 정해야 한다는 구체적인 예산 기준을 제시한 것은 아니다.

대담의 마지막 기준은 인간의 통제였다. 브로크먼은 AI가 일부 영역에서 사람을 능가하더라도 인간의 판단과 가치가 방향을 정해야 한다고 강조했다. 과학에서는 결과를 이해하고 검증하는 일, 업무에서는 권한을 관리하는 일, 보안에서는 새 능력에 맞춰 방어를 반복하는 일이 그 원칙을 실행하는 과제로 제시됐다.