AI 기업이 수학 난제 풀이를 성능 경쟁의 척도로 삼는 일이 수학의 발전을 해칠 수 있다고 필즈상 수상자 28명이 경고했다. 이들은 대규모 언어모델의 수학 능력이 크게 높아졌다는 점을 인정하면서도, 정답을 빠르게 내는 일과 수학적 이해를 쌓는 일은 같지 않다고 말한다. 2026년 9월 11일 발표한 공동 성명은 AI가 만든 풀이를 누가 검토하고 설명하며 다음 세대에 전할 것인지 묻는다. 수학에서 먼저 드러난 이 충돌은 다른 지적 노동에도 닥칠 수 있다는 것이 필자들의 주장이다.
핵심 요약
- 필즈상 수상자 28명은 AI 기업이 수학 난제 풀이를 성능 평가 기준으로 삼으면서 수학 공동체의 목표와 충돌한다고 주장했다.
- 성명은 유명 난제의 해답이 연구의 끝이 아니라 새로운 방법을 검토하고 더 넓은 수학적 이해로 발전시키는 출발점이라고 강조했다.
- AI 풀이가 빠르게 발표되면 충분한 설명과 선행 연구 인용이 뒤따르지 못해 공로 배분과 표절 문제가 커질 수 있다고 경고했다.
- 필자들은 문제를 푸는 과정에서 학생이 배우고 새 질문을 만드는 가치가 결과물 생산에 가려질 수 있다고 봤다.
- 토론에서는 AI 증명이 연구 교류를 늘릴 수 있다는 기대와 연구자의 동기·평가 체계를 흔들 수 있다는 우려가 맞섰다.
난제 풀이를 성능 경쟁으로 삼을 때
성명의 출발점은 AI가 수학에서 이룬 진전을 부정하는 데 있지 않다. 필자들은 최근 몇 달 사이 대규모 언어모델(LLM·방대한 자료를 학습해 답을 생성하는 AI)의 수학 능력이 크게 높아졌다고 평가한다. 여러 분야의 주요 미해결 문제를 풀 수 있을 정도라는 것이 이들의 판단이다. 이런 성과가 수학계 밖에서도 주목받자 AI 기업은 난제 풀이를 벤치마크(성능을 견주는 평가 기준)로 삼고 있다.
문제를 해결했는지와 얼마나 빨리 해결했는지는 성능을 비교하기에 편리하다. 그러나 성명은 그 기준을 수학 연구의 목표와 동일시해서는 안 된다고 말한다. 수학자에게 중요한 것은 답을 얻는 동안 어떤 구조를 이해했고, 어떤 방법을 발견했으며, 그것이 다른 질문으로 어떻게 이어지는가다. 필자들이 말하는 ‘목표의 불일치’는 AI가 답을 내는 행위 자체보다 답을 최종 성과로 취급하는 방식에 있다.
이 구분은 AI의 능력이 높아질수록 더 중요해진다. 난제를 푸는 기계가 없다면 해답을 내는 일과 그 과정에서 통찰을 얻는 일이 한 연구 안에서 함께 움직일 수 있다. 반면 풀이가 먼저 빠르게 생산되면, 그 안에 담긴 생각을 가려내고 다른 연구자에게 전하는 작업은 별도로 남는다. 성명은 AI를 연구에 활용할 가능성을 인정하면서도, 풀이 경쟁이 이 뒤따르는 작업을 밀어낼 수 있다고 경고한다.
난제가 밝혀온 새로운 길
연구 수학은 모양과 수, 자연 현상에 깔린 기본 구조를 이해하려는 작업이다. 여러 세대가 쌓아 올린 아이디어와 방법, 추상적 도구가 그 작업의 토대가 됐다. 현대 과학과 기술도 이렇게 축적된 수학적 도구에 기대고 있다. 성명은 수학을 단번에 완성할 답안지가 아니라 오랫동안 탐색해 온 넓은 지형으로 설명한다.
그 지형에서 유명 난제는 연구자가 자신의 이해가 얼마나 나아졌는지 살피는 표지 역할을 해왔다. 어려운 문제를 해결했다는 사실은 새로운 통찰이나 흥미로운 방법을 찾았다는 신호가 될 수 있다. 따라서 풀이의 가치는 마지막 결론 한 줄에만 담기지 않는다. 그 결론에 이르는 길이 이전에는 보지 못한 관계를 드러낼 때, 다른 연구자도 그 길을 따라가며 수학의 지도를 넓힐 수 있다.
풀이가 공동체의 지식으로 자리 잡는 데는 긴 후속 과정이 필요하다. 연구자들은 강연과 토론에서 증명을 살피고, 복잡한 논증에서 핵심 방법을 떼어내 더 단순하게 정리한다. 충분히 다듬은 결과는 대학원생이나 학부생이 공부할 수 있는 교과서적 설명이 될 수도 있다. 필자들은 어떤 아이디어는 수십 년이나 수백 년이 지나 더 많은 사람이 이해하고 사용하는 도구가 된다고 말한다.
학생과 아이디어를 키우는 시간
성명은 수학계의 가장 귀한 자원을 학생과 아이디어라고 부른다. 학생에게 문제를 권하는 목적은 미해결 항목 하나를 없애거나 정답을 받아내는 데만 있지 않다. 문제를 붙들고 시도하는 동안 연구를 진전시키고 다른 일에도 활용할 능력을 기르도록 돕는 뜻이 있다. 답을 얻지 못한 시간도 학생이 방법을 익히고 새로운 질문을 생각한다면 교육의 일부가 된다.
아이디어를 돌보는 방식 역시 결과를 발표하는 일로 끝나지 않는다. 수학자들은 강연과 사적인 논의, 신중하게 쓴 글을 통해 새 발상을 전하고 앞선 연구와 연결한다. 듣는 사람은 그 설명을 검토하고, 부족한 부분을 짚고, 다른 문제에 적용할 길을 찾는다. 필자들이 시간과 인간 사이의 교류를 강조하는 까닭은 아이디어가 발표 순간에 곧바로 완성된 지식이 되지는 않기 때문이다.
이 과정에서는 누가 무엇을 이해했는지도 중요하다. 한 사람이 발견한 생각이 다른 연구자의 설명을 거쳐 학생에게 전해지고, 학생은 다시 그것을 바탕으로 연구를 시작할 수 있다. 성명이 우려하는 것은 AI가 사람보다 먼저 답을 찾는 상황만이 아니다. 문제를 통해 배우고 아이디어를 서로에게 전하는 연결 고리가 풀이 생산의 속도에 가려지는 상황이다.
정답이 쌓여도 설명이 남지 않는다면
성명은 문제 풀이를 개념적 이해와 통찰에 이르기 위한 도구이자 대리 지표로 본다. 도구를 목표와 혼동하면 빠르게 생산되는 참·거짓 판단이 새 아이디어를 키울 토양을 해칠 수 있다고 필자들은 경고한다. AI가 많은 문제를 해결하더라도 각각의 풀이에서 무엇이 새롭고 중요한지는 따로 살펴야 한다. 해답이 늘어나는 속도와 이를 이해할 수 있는 지식으로 바꾸는 속도는 같은 문제가 아니다.
필자들이 특히 우려하는 장면은 풀이가 서둘러 발표될 때다. 제대로 된 해설을 쓸 시간 없이 결과를 내놓으면, 증명의 핵심 방법을 분리해 설명하기 어렵다. 관련된 선행 연구를 확인하고 인용하는 일도 뒤로 밀릴 수 있다. 성명은 이런 상황이 다른 창작 분야에서와 마찬가지로 공로 배분과 표절을 둘러싼 심각한 질문을 낳는다고 지적한다.
풀이가 옳다는 판단만으로 그 연구의 위치까지 설명되지는 않는다. 어떤 생각이 앞선 연구에서 왔고 어느 부분이 새로운지 밝혀야 다른 수학자도 결과를 검토하고 이어받을 수 있다. 성명은 AI가 낸 아이디어를 보살피고 기존 수학 지식에 편입할 수학자들이 없다면, 그 아이디어가 충분히 발전하지 못한다고 본다. 그 경우 수학자 사이에서 지식이 전해지는 중요한 연결 고리도 약해질 수 있다는 것이 필자들의 걱정이다.
결과물과 배움이 갈라지는 문제
필자들은 이 충돌을 수학만의 특수한 사정으로 보지 않는다. 여러 분야에서 오랜 훈련은 최종 답이나 결과물을 만드는 동시에 대상을 이해하는 능력을 길러왔다. 그 훈련을 거친 사람은 기존 질문에 답할 뿐 아니라 새 질문과 아이디어를 생각할 수도 있다. 일의 결과와 그 일을 하면서 자라는 능력이 서로 맞물려 있었던 셈이다.
AI는 방대한 인간의 선행 작업을 바탕으로 이런 활동의 결과물을 직접 만들어내는 능력이 높아지고 있다. 그럴수록 결과를 얻는 일과 그 결과에 이르며 이해를 키우는 일이 분리될 수 있다. 수학 난제의 경우 정답이 먼저 나왔는데도 왜 그 풀이가 중요한지 함께 설명할 사람이 부족한 상황이 이에 해당한다. 성명은 AI 활용의 결과가 처음 그 일을 하던 목적과 어긋날 위험을 여기서 찾는다.
따라서 필자들이 던지는 질문은 AI가 인간의 일을 얼마나 대신할 수 있느냐에 그치지 않는다. 일하는 방식이 바뀐 뒤에도 사람은 그 일이 원래 이루려던 바를 계속 추구할 수 있는가가 핵심이다. 수학에서는 그것이 개념을 이해하고 방법을 나누며 다음 질문을 만드는 일이다. 성명은 다른 과학·창작 분야도 저마다의 방식으로 같은 질문과 마주할 것이라고 본다.
수학을 돕는 AI의 조건
성명의 결론은 AI 사용을 멈추자는 요구가 아니다. 필자들은 AI가 진정한 수학 연구와 이해를 강화하고 앞당길 잠재력이 있다고 밝힌다. 수학자라는 직업도 변화에 여러 방식으로 적응해야 한다고 인정한다. 다만 새 도구가 도움이 될 가능성이 있다는 사실만으로 실제 사용 결과까지 학문에 이로울 것이라고 여기지는 않는다.
필자들은 변화가 수학에 이익이 될지 파괴적인 영향을 줄지는 기술을 통제하는 사람들의 결정에 크게 달렸다고 강조한다. AI의 풀이를 성능을 알리는 성과로만 다룰지, 연구자가 검토하고 설명하며 발전시킬 대상으로 다룰지에 따라 이후의 과정은 달라진다. 앞서 지적한 해설과 선행 연구 인용, 아이디어의 전승도 이 선택과 맞닿아 있다. 풀이의 생산을 앞당기는 것과 수학적 이해를 앞당기는 것은 구분해 다뤄야 한다는 뜻이다.
그래서 성명은 수학 공동체와 AI 개발 기업, 더 넓게는 사회가 이 문제를 서둘러 다뤄야 한다고 촉구한다. 수학계에는 새 풀이를 어떻게 살피고 가르칠지 고민할 일이 남는다. 기업에는 무엇을 AI의 성과로 내세우고 어떤 목표를 향해 기술을 사용할지 결정할 일이 있다. 필자들이 그리는 갈림길은 AI가 난제를 푸느냐가 아니라, 그 풀이가 사람의 이해와 다음 연구로 이어지느냐다.
커뮤니티 의견
한 수학자는 성명보다 낙관적인 전망을 내놓았다. 이해하기 어려운 방대한 증명이 제시되더라도 이를 검토하려는 학회와 논문, 학생들과의 토론이 뒤따를 수 있다는 것이다. 그는 모치즈키(Mochizuki)의 abc 추측 관련 증명을 둘러싼 논의를 예로 들며, AI가 낸 증명도 성명이 중시하는 공동체 활동을 촉발할 수 있다고 봤다.
한 사용자는 AI 기업이 앞세우는 발전 서사가 학생과 연구자의 의욕을 꺾을 수 있다고 우려했다. 자신이 아는 대학원생들 사이에서 연구할 가치가 있는지 회의하는 목소리가 나온다는 것이다. 그는 이런 분위기가 호기심 많은 다음 세대의 연구 참여를 막고 학계의 지식 전수에도 영향을 줄 수 있다고 주장했다.
또 다른 사용자는 AI가 수학적 이해 자체보다 기여를 재던 오래된 잣대를 흔들었다고 봤다. 유명 미해결 문제를 먼저 풀어 공로를 인정받는 방식은 AI가 풀이를 도울 수 있는 환경에서 더 불안정해진다는 설명이다. 그는 연구가 더 비밀스러워지거나 최초 해결자보다 여러 기여를 신중히 평가하는 방식으로 바뀔 수 있다고 전망했다.
한 댓글은 이번 경고를 19세기 사진술을 비판한 예술가의 반응에 빗댔다. 새로운 기술이 기존의 훈련과 창작을 약화한다는 걱정이 되풀이된다는 취지다. 반론을 편 사용자는 사진술이 시각예술에 준 충격과 AI가 인간의 지적 활동 전반에 줄 수 있는 충격을 같게 볼 수 없다고 맞섰다.
체스를 떠올린 사용자도 있었다. 그는 컴퓨터가 정답을 보여줘도 사람들이 그 답을 공부하며 더 나은 통찰을 얻을 수 있다고 주장했다. 같은 방식으로 수학자도 AI가 만든 긴 증명을 이해하기 쉬운 설명으로 바꾸는 과정에서 새로운 연구를 할 수 있다는 견해다.
한 사용자는 사태를 수학 자체보다 수학 교육과 평가의 문제로 해석했다. 학생들이 문제를 풀어 점수와 인정을 받는 방식에 익숙한 만큼, AI의 문제 해결 능력이 바깥에 보이던 수학의 성취 기준을 흔들었다는 것이다. 답글에서는 성명이 학문의 목표를 다시 설명하기보다 기존 지위 체계를 지키려는 시도로 보인다는 비판도 나왔다.
또 다른 사용자는 명성과 보상도 연구자를 움직이는 중요한 동기라고 강조했다. AI 기업이 큰 성과를 가져가면 사람이 어려운 문제에 도전할 이유가 줄어들 수 있다는 주장이다. 답글에서는 인정과 보상 외에도 놀이, 호기심, 스스로 이해하려는 욕구가 남는다는 반론이 제기됐다.
수학을 활용하는 입장의 사용자는 학계 내부의 이해만을 최우선에 놓는 시각을 비판했다. 그는 수학 논문을 검색하고 이해하며 실제 작업에 적용하기가 어렵다며, AI가 형식 증명(컴퓨터가 정해진 규칙에 따라 확인할 수 있게 쓴 증명)을 넓혀 수학의 활용성을 높일 수 있다고 기대했다. 답글에서는 모든 수학 연구를 넓은 독자에게 맞춰 쓸 수는 없으며 전문 분야 안에서 깊이를 쌓는 일에도 가치가 있다는 반론이 나왔다.
살펴볼 점
이번 성명이 겨냥한 것은 AI의 정답 생산 능력보다 정답을 학문의 성과로 세는 방식이다. 토론에서 드러났듯 AI 증명은 새로운 강연과 연구를 낳을 수도 있고, 학생의 동기와 공로 배분을 흔들 수도 있다. 어느 쪽으로 갈지는 풀이가 나온 뒤 그것을 누가 검토하고 설명하며 다음 질문으로 잇느냐에 달려 있다. 앞으로는 난제를 몇 개 풀었는지만큼 AI의 결과가 수학자가 배우고 가르치며 새 개념을 만드는 데 실제로 쓰이는지 살펴야 한다.
원본: A Severe Misalignment of AI in Mathematics
토론: Hacker News