# 테런스 타오가 보는 AI 수학 연구의 가능성과 검증의 한계

> 2025-06-15 · Lex Fridman · 큐레이션 김태우
> https://challengekim.com/insights/테런스-타오가-보는-ai-수학-연구의-가능성과-검증의-한계
> 원문: https://lexfridman.com/terence-tao-transcript

## 핵심 요약

- 수학자 테런스 타오는 증명 보조 언어 **Lean**이 답과 함께 검증 가능한 증명을 만들며, 이를 바탕으로 여러 사람이 작은 단위의 작업을 나눌 수 있다고 설명했다.
- 타오의 추정으로는 증명을 Lean으로 형식화하는 데 드는 시간과 노력이 종이에 쓰는 것의 약 10배다. AI는 정리 검색과 코드 자동 완성으로 이 부담을 일부 줄인다.
- 타오는 AI가 만든 증명이 겉보기에는 매끄러워도 미묘한 오류를 포함할 수 있다고 지적했다. 긴 증명에서는 잘못된 방향을 일찍 알아채는 능력이 중요하다.
- AI 수학 시스템의 대회 성적은 풀이 시간, 사람이 문제를 형식화한 과정, 채점 방식까지 함께 봐야 한다는 것이 타오의 견해다.

## 증명을 확인하는 Lean과 그 비용

타오는 Lean을 계산 결과뿐 아니라 그 결과에 이르는 증명도 작성할 수 있는 언어로 소개했다. Lean의 검증 결과는 검증기를 신뢰한다는 조건 아래 증명이 올바르게 구성됐다는 보증을 준다. 사람이 쓴 증명에서 문맥상 넘어가는 대상의 종류나 예외 조건도 Lean에서는 명시하거나 확인해야 한다.

그만큼 작업량이 늘어난다. 타오는 대담 당시 증명을 형식화하는 데 종이에 쓰는 것보다 약 10배의 시간과 노력이 든다고 추정했다. 다만 일단 형식화하면 수정할 곳을 찾기 쉬워진다. 그가 든 사례에서는 결론에 쓰인 상수를 12에서 11로 개선할 때 Lean이 더는 성립하지 않는 코드 부분을 표시했다. 처음 증명을 형식화하는 데는 20명이 3주를 썼지만, 수정본은 하루나 이틀 만에 갱신했다고 설명했다.

## AI는 증명 위에서 어떤 일을 돕나

Lean의 검증 기능과 그 위에서 쓰는 최신 AI 도구는 역할이 다르다. 타오에 따르면 수학자가 현재 필요한 정리나 보조명제를 방대한 Mathlib에서 찾는 일이 병목이 될 수 있다. 그는 GitHub Copilot이 작성 중인 증명의 다음 부분을 제안하도록 사용한다. 제안이 곧바로 맞을 때도, 조금 고치면 쓸 수 있을 때도 있지만, 전혀 쓸 수 없을 때도 있다고 말했다.

AI는 타오가 간단한 탐색용 코드를 작성하는 부담도 줄였다. 그는 전에는 설정과 디버깅에 두 시간가량 걸릴 수 있던 작업을 이제 10\~15분 안에 할 때가 있다고 설명했다. 반면 이미 답을 아는 수학 문제를 AI와 함께 풀어본 경험에서는 모델이 원치 않는 풀이 방향으로 되돌아가고 출력까지 계속 점검해야 해, 혼자 푸는 것보다 더 힘들었다고 했다.

## 검증 가능한 작업이 바꾼 협업 방식

형식화된 증명은 협업의 단위를 작게 만든다. 타오는 한 사람이 막힌 코드 몇 줄을 다른 사람에게 보여주면, 상대가 필요한 맥락을 확인하고 그 부분에 기여할 수 있다고 설명했다. 증명의 단계를 자세히 적은 설계도를 마련하면 각 부분을 나눠 맡는 방식도 가능하다. 다만 대담 당시 이런 방식으로 분할할 수 있는 프로젝트는 일부였고, Lean 작업의 대부분은 사람이 이미 증명한 결과를 형식화하는 일이었다고 선을 그었다.

그가 소개한 *Equational Theories Project*는 대규모 협업 사례다. 연구진은 약 4,000개의 대수 법칙에서 약 2,200만 개의 법칙 쌍을 만들고, 한 법칙이 다른 법칙을 함의하는지 증명하거나 반례를 찾으려 했다. 대담 당시 타오는 두 문제를 제외하고 판정했으며, 남은 두 문제는 종이 증명을 형식화하는 중이라고 말했다. 약 50명이 참여한 이 프로젝트에서 AI도 많이 활용하기를 바랐다고 했지만, 그 발언만으로 AI가 어느 결과를 해결했는지는 알 수 없다.

## 대회 성적과 연구 역량 사이의 거리

타오는 DeepMind의 AlphaProof 같은 성과가 가능성을 보여주지만, 당시 방식은 계산 비용과 문제 복잡도 면에서 확장에 한계가 있다고 평가했다. 대담에서 언급된 수학 올림피아드 은메달 상당의 성적에 대해서도, 정해진 대회 시간보다 오래 걸렸고 사람이 문제를 형식화하는 데 도움을 줬다는 조건을 함께 짚었다. 짧고 정답이 숫자인 문제는 맞고 틀림을 판정하기 쉽지만, 긴 증명은 검증 가능한 형식으로 쓰거나 사람이 내용을 살펴야 한다는 차이도 설명했다.

타오가 꼽은 또 다른 어려움은 **잘못된 방향을 알아채는 능력**이다. AI가 만든 증명은 겉으로 완성돼 보여도 오류가 숨어 있을 수 있다. 그는 AI가 제안한 하위 문제가 원래 문제보다 실제로 쉬운지 판단할 수 있어야 인간 수학자와 경쟁할 가능성이 커진다고 봤다. 문헌 검색에서도 존재하지 않는 논문이나 관련 없는 논문을 제시하는 문제가 있어, 당시에는 연구자가 어느 정도 아는 분야에서 기억을 환기하는 용도로 더 도움이 된다고 평가했다.

## 결론

타오의 설명에서 AI의 기여는 코딩, 정리 검색, 증명 작성과 검증 가능한 협업에 걸쳐 있다. 동시에 긴 증명의 방향 판단과 오류 확인은 남은 과제다. 그는 수학 연구가 성공한 결과는 기록하지만 틀린 추측을 고쳐 가는 과정은 잘 남기지 않아, AI가 그 과정에서 배울 자료도 부족하다고 지적했다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://lexfridman.com/terence-tao-transcript)