# AI가 수학을 풀수록 중요해지는 인간의 이해와 검증

> 2026-10-26 · Lex Fridman · 큐레이션 김태우
> https://challengekim.com/insights/ai가-수학을-풀수록-중요해지는-인간의-이해와-검증
> 원문: https://lexfridman.com/math-ai-crisis-transcript

## 핵심 요약

- 출연자들은 AI의 수학 성과에 놀라면서도 인간과 AI가 함께 풀 수 있는 모든 문제를 AI 혼자서도 풀 수 있다는 가정에는 동의하지 않았다.
- 기존 아이디어를 조합하는 능력만으로도 연구 방향을 바꿀 수 있다. 다만 정답을 얻는 일과 그 정답이 나오는 이유를 이해하는 일은 다르다.
- Lean 같은 증명 검증 도구와 공개 협업은 AI가 만든 결과를 확인하고 재사용하는 기반이 될 수 있다.
- 실제 서비스에서는 결과를 얼마나 확실히 검증할 수 있는지, 틀렸을 때 피해가 얼마나 큰지를 함께 따져야 한다.

## 증명을 얻은 뒤에도 남는 일

AI 연구자이자 인터뷰 진행자인 렉스 프리드먼은 워싱턴대 수학자·유체역학 전문가 스티븐 브런턴, MIT 수학자·이론컴퓨터과학자 앙쿠르 모이트라, 럿거스대 수학자·정수론 연구자 알렉스 콘토로비치와 AI의 수학 연구 성과를 논의했다. 대화의 중심은 AI가 어려운 문제의 답을 내놓기 시작한 뒤 인간의 기여가 어떻게 달라지는가였다.

콘토로비치는 논의를 위해 하나의 가정을 제시했다. 미래에 인간과 AI가 협력해서 풀 수 있는 문제라면 AI 혼자서도 풀 수 있다고 가정해 보자는 것이다. 이는 모든 수학 문제가 풀린다는 뜻도, 현재 AI가 그 수준에 도달했다는 뜻도 아니다. 그 자신도 이 가정을 실제로 믿지는 않는다고 밝혔다.

그가 순수수학에서 중요하게 본 것은 **정답이 존재하는 것과 사람이 이해하는 것의 차이**다. 데이터센터에 증명이 저장돼 있어도 인간이 이해하지 못한다면 수학에서 얻으려던 가치가 온전히 실현됐다고 보기 어렵다고 봤다.

모이트라도 같은 정리를 증명하더라도 그 과정에서 무엇을 배웠는지가 중요하다고 봤다. 새로운 정의나 관점은 주변의 다른 문제를 푸는 도구가 된다. 연구의 가치를 증명한 정리의 개수로만 세기 어려운 이유다.

## 알려진 아이디어의 조합도 연구 방향을 바꾼다

AI가 기존 논문을 연결한 것인지, 새로운 수학적 아이디어를 만든 것인지를 놓고는 출연자들의 강조점이 달랐다.

콘토로비치는 자신이 살펴본 준 리만 가설 관련 증명에서 개별 기법은 인간에게 알려져 있었지만 이를 길게 연결한 방식이 놀라웠다고 평가했다. 알려진 수를 조합했다는 이유만으로 성과를 작게 볼 수는 없다고 봤다. 타일을 하나씩 이어 붙이면 출발점에서 아주 멀리 갈 수 있듯 기존 기법으로 도달할 수 있는 범위도 인간이 탐색한 것보다 훨씬 넓을 수 있다. 다만 그는 리만 가설 자체가 풀린 것은 아니라고 분명히 했다.

모이트라는 새로운 개념이 얼마나 나왔는지와 별개로 어떤 문제를 풀 수 있다는 사실만으로도 연구 분야의 방향이 달라진다고 봤다. 그는 Anthropic의 3SUM 관련 성과를 사례로 들었다. 이 문제가 충분히 어렵다는 전제 아래 여러 문제의 난도를 연결해 연구해 왔는데 예상보다 빠른 알고리즘이 나오면 그 연결 관계와 연구 우선순위를 다시 살펴야 한다고 설명했다.

브런턴은 기존 지식을 더 잘 연결하는 일 자체에도 큰 가치가 있다고 봤다. 인간은 이미 아는 지식 사이의 관계조차 충분히 빠르게 찾아내지 못한다. AI가 그 사이의 안개를 걷어내기만 해도 연구자가 탐색할 수 있는 범위는 넓어진다.

## 좋은 질문에는 전문성이 필요하다

브런턴은 좋은 문제 해결의 앞단에 좋은 질문이 있다고 말했다. 흥미롭고 풀 수 있으며 결과를 해석할 수 있는 하위 문제를 고르는 능력을 뜻한다.

모이트라는 여기에 조건을 붙였다. **좋은 질문을 던지는 일에도 깊은 수학적 통찰이 필요하다.** 앞으로 발표나 설명이 중요해진다는 말도 단순히 말을 잘하는 사람이 유리해진다는 뜻은 아니다. 다른 연구자가 받아들이고 시간이 흐를수록 힘을 발휘하는 아이디어를 만들어야 한다.

그가 우려한 것은 젊은 연구자를 길러내던 경로의 변화다. 예전에는 사람들이 중요하게 여기는 문제를 조금 개선하고 논문을 발표하면 연구자로서 이름을 알릴 수 있었다. AI가 결과를 대량으로 내놓으면 이 경로를 그대로 안내하기 어려워진다. 모이트라는 여러 수학 분야를 폭넓게 생각하는 연구자가 이런 도구의 도움을 받기 유리할 것으로 예상했다.

학습에서도 AI를 쓰는 방식에 따라 차이가 난다는 관찰이 나왔다. 콘토로비치는 강의 내용을 다시 설명받거나 시험 전 질문을 받으며 이해를 점검하는 학생들과 과제 답만 받아 적는 학생들의 성취가 갈라지고 있다고 말했다. AI가 답을 제공하는 능력과 사용자가 실력을 쌓는 과정은 자동으로 일치하지 않는다.

## 검증 가능한 증명과 이해하기 쉬운 설명

콘토로비치는 자연어로 쓰인 AI의 증명을 그대로 신뢰할 수는 없다고 말했다. 이때 등장하는 도구가 Lean이다. Lean은 공리와 논리 규칙에 따라 증명의 각 단계가 성립하는지 확인하는 소프트웨어다. Mathlib은 Lean에서 수학을 표현할 때 사용하는 공용 라이브러리로, 매번 기초 개념부터 다시 정의하지 않도록 돕는다.

그는 Mathlib의 협업 방식에도 주목했다. 기여자가 변경안을 제출하면 검토자가 수정과 재사용을 제안하고 누가 어떤 개선에 기여했는지 공개적으로 남는다. 정리의 가정과 조건을 명시해 두면 다른 연구자가 이를 가져다 쓸 때 잘못 적용하는 일도 줄일 수 있다.

그러나 **논리적으로 맞다는 확인과 왜 맞는지에 대한 이해는 별개**다. 증명을 한 줄씩 따라갈 수 있어도 전체 아이디어를 파악하지 못할 수 있다. 모이트라는 복잡한 결과에서 쉬운 특수 사례를 골라내고 어떤 생각으로 답에 도달했는지 풀어내는 작업이 필요하다고 봤다.

콘토로비치는 앞으로 논문이 핵심 아이디어와 탐색 과정을 설명하고 별도의 Lean 형식화가 세부 논리를 뒷받침하는 형태로 바뀔 수 있다고 예상했다. 증명을 빈틈없이 구성하는 일과 사람에게 이해시키는 일을 각각 더 잘하자는 구상이다.

## 수학의 성공이 모든 AI 서비스의 신뢰를 보장하지는 않는다

모이트라는 AI가 인간과 비슷한 성과를 낸다고 해서 같은 방식으로 문제를 푼다고 생각해서는 안 된다고 강조했다. 이미지 인식에서는 사람 눈에 거의 드러나지 않는 작은 패턴으로 신경망을 속일 수 있다. 모델이 활용하는 통계적 관계와 사람이 설명하는 판단 근거가 다를 수 있다는 사례다.

그는 언어 모델의 추가 학습에서도 예상하기 어려운 행동 전이가 나타날 수 있다고 설명했다. 그가 소개한 실험에서는 모델 A에 올빼미를 좋아하도록 지시한 뒤 무작위처럼 보이는 숫자를 생성하게 했다. 그 숫자로 모델 B를 추가 학습시키자 B도 대화에서 올빼미를 언급하는 성향을 보였다. 데이터에 명시적으로 드러나지 않는 행동까지 전달되는 이 현상을 잠재의식 학습이라고 불렀다.

모이트라는 여러 개념을 수치 벡터로 표현할 때 서로 완전히 독립적으로 배치되지 않으므로 한 방향의 학습이 다른 행동에도 영향을 줄 수 있다고 설명했다. 수학적 증명처럼 결과를 엄격히 검사할 수 있는 환경과 실제 사람을 상대하는 환경을 구분해야 하는 이유다.

브런턴은 AI 활용을 판단하는 두 축을 제시했다. 결과를 얼마나 확실히 검증할 수 있는지, 틀렸을 때 피해가 얼마나 큰지다. 잘못된 증명 후보는 검증 과정에서 걸러낼 수 있다. 공기저항을 줄이는 자동차 설계안도 풍동 실험으로 시험할 수 있다. 그는 이런 탐색·설계 작업을 유망한 활용처로 보면서 검증을 거치지 않은 결과가 중대한 의사결정으로 넘어가지 않도록 경계를 유지해야 한다고 말했다.

이 대화에서 인간의 역할은 AI보다 먼저 답을 내는 경쟁에만 머물지 않았다. 어떤 문제를 다룰지 판단하고 답의 의미를 이해하며 다른 사람이 재사용할 수 있게 설명하고 검증하는 일이 함께 남았다. AI가 만들어 내는 결과가 많아질수록 출연자들이 중요하게 본 것도 이 과정이었다.

---

원문을 바탕으로 AI 가 한국어로 요약·재구성한 글입니다. 인용·수치는 원문 링크에서 확인해 주세요. [원문 링크](https://lexfridman.com/math-ai-crisis-transcript)