AI가 증명하는 시대, 인간 수학자는 왜 필요한가

AI가 수학 증명을 빠르게 만들어내는 시대에도 인간 수학자는 연구의 방향을 정하고 그 결과를 이해하기 위해 필요하다고 수학자 푸선 로(Po-Shen Loh)가 주장했다. 테런스 타오(Terence Tao)의 블로그에 실린 그의 기고문은 수학자의 일자리를 지키자는 호소에서 출발하지만, 논의를 모든 전문직으로 넓힌다. AI가 강해질수록 사람이 감시하고 판단해야 할 곳도 늘어나며, 전문성을 갖춘 사람이 부족해지면 AI 개발 속도까지 제약받을 수 있다는 주장이다. 다만 그 출발점인 ‘인간의 번영’을 누가 어떻게 정의할지는 별도의 질문으로 남는다.

핵심 요약

  • 푸선 로는 수학계의 AI 대응 선언이 연구자의 지위보다 ‘인간의 번영’을 앞세워야 한다고 주장하며, 논쟁의 초점을 직업 보호에서 공적 책임으로 옮긴다.
  • 로는 AI의 판단과 AI를 이용한 해킹이 늘수록 사람이 살펴야 할 제어 지점도 증가하므로, 각 분야에 현역 인간 전문가가 필요하다고 본다.
  • AI가 검증 가능한 증명을 대량 생산하더라도 무엇을 연구하고 어디에 쓸지 결정하려면 수학을 이해하는 공동체가 남아 있어야 한다는 것이 그의 논리다.
  • 로는 AI 활용을 금기시하지 않으면서도 교육·채용·연구 평가 방식을 바꿔 다음 세대의 전문성을 길러야 한다고 제안한다.
  • 해커뉴스 토론에서는 AI가 직관을 확장한다는 경험담과 사고 과정까지 맡기면 이해하는 능력을 잃는다는 반론이 함께 나왔다.

선언문이 놓친 첫 문장

이 글은 타오가 직접 쓴 글이 아니라 로의 기고문이다. 로는 오픈AI(OpenAI)가 나비에–스토크스 밀레니엄상 문제의 변형을 해결했다고 발표한 뒤, 수학계에서 AI에 대응하는 선언문과 공개서한이 잇따랐다고 설명한다. 그가 제시한 서명 규모는 라이덴 선언(Leiden Declaration) 4,000명 이상, ‘수학과 AI’ 선언 7,000명 이상, 캘리포니아공과대학(Caltech)의 ‘매서톤’에 반대하는 공개서한 2,000명 이상이다. 수학계 밖에서는 연구자들이 새 도구에 적응하기보다 기존의 통제권을 지키려 한다는 비판도 나왔다.

로가 제안한 출발점은 “인간은 인류의 번영을 도와야 한다”는 공리다. 공리(논의를 전개하기 위해 먼저 받아들이는 기본 원칙)를 명시하면 인간 수학자를 남겨야 한다는 요구도 수학자 자신을 위한 특권이 아니라 사회 전체를 위한 약속으로 설명할 수 있다는 것이다. 그는 수학계뿐 아니라 AI 시대에도 사람이 이끌고자 하는 모든 산업이 이를 우선 가치로 내세워야 한다고 말한다. 동시에 이 원칙을 택한다면 기존 연구 관행도 불편할 만큼 크게 바뀔 수 있다고 인정한다.

AI가 늘리는 제어 지점

로의 논증은 인간이 AI보다 더 많은 답을 낼 수 있다는 주장에 기대지 않는다. 그는 압도적으로 유능한 지능이 자신의 미래를 결정할 권한을 덜 유능한 존재에게 넘긴 사례가 없다는 관찰에서 출발해, AI의 능력이 커질수록 사람이 최종 방향을 잡아야 한다고 말한다. 여기서 중요한 것은 지능과 별개인 가치 판단이다. 수학이든 농업이든 에너지 기반시설이든, 인간의 번영을 목표로 삼은 사람이 운영의 중심에 있어야 한다는 결론으로 이어진다.

그가 보기에 과거 소프트웨어와 오늘날의 최첨단 AI 사이에는 결정 방식의 차이가 있다. 사람이 작성한 명령을 빠르게 실행하는 프로그램과 달리, AI 내부에서 특정 판단이 나온 과정을 사람이 속속들이 이해하기는 어렵다는 것이다. 로는 허깅페이스(Hugging Face)를 겨냥한 약 700개 AI 에이전트(목표를 위해 여러 단계를 스스로 수행하는 AI 프로그램)의 공격 사례를 이런 위험을 보여주는 사건으로 든다. 사람이 안전장치를 마련하려 해도 예상 밖 행동을 살펴보고 개입할 능력이 별도로 필요하다는 주장이다.

감시만 해서는 실력이 남지 않는다

로는 AI가 발전할수록 현실에 영향을 미치는 판단과 이를 확인해야 할 ‘제어 지점’이 많아진다고 본다. AI를 이용한 해킹이 기존 소프트웨어까지 바꿔 놓을 수 있다면, 전자금융에서 식수에 이르는 연결된 자동화 시스템도 감시 대상이 된다. 이때 감시를 다시 AI에 맡기는 것만으로는 그 AI를 신뢰할 수 있는지라는 문제가 사라지지 않는다. 그가 예상하는 새 일자리는 단순히 화면을 지켜보는 자리가 아니라 문제가 생겼을 때 실제로 방향을 돌릴 수 있는 고숙련 업무다.

이 때문에 로는 현장 전문가를 수동적인 감독자로만 남겨둘 수 없다고 말한다. 연구 방향을 고르려면 해당 분야를 깊이 이해해야 하고, 빠르게 움직이는 지식의 최전선에서 판단력을 유지하려면 연구를 계속해야 한다는 논리다. 인간 수학자 공동체도 AI가 내놓은 결과를 승인하기 위해서만 존재하는 것이 아니라 어떤 질문을 좇을지 결정하는 능력을 기르는 곳이 된다. 로가 예견한 인력 부족은 AI가 못 하는 계산이 많아서가 아니라 AI의 활동을 책임 있게 이끌 사람이 모자랄 수 있다는 뜻이다.

해킹 사례가 던진 속도 문제

로는 최근의 보안 사건들을 AI 개발 속도에 관한 경고로 읽는다. 그의 글은 주요 AI 연구소 지도자들인 다리오 아모데이(Dario Amodei), 샘 올트먼(Sam Altman), 일론 머스크(Elon Musk)가 속도를 늦추는 일의 중요성에 동의했다고 전한다. 이어 화이트햇(취약점을 찾아 알리는 보안 연구자) 연구자들이 오픈AI의 내부 코드 저장소 ‘모노레포’에 침입한 사례를 든다. 로가 인용한 월스트리트저널(The Wall Street Journal) 보도에서 연구자들은 앤트로픽(Anthropic)의 새 모델이 나온 뒤 이전에는 찾지 못했던 취약점 악용 방법을 발견했다고 설명했다.

그는 이 사건을 근거로 AI 코딩 도구의 사용 방식에도 주의를 당부한다. 클로드 코드(Claude Code)나 코덱스(Codex)를 일상 업무에 쓰는 운영체제 계정과 분리해 실행하라는 조언이다. 도구가 공격당했을 때 많은 컴퓨터에 접근할 통로가 열릴 수 있다고 보기 때문이다. 로는 사람의 통제 능력을 넘는 사고가 일어나기 전에 연구소가 개발 속도를 조절하거나, 사고가 난 뒤 사회적 압력에 떠밀려 조절하게 되는 두 경로를 제시한다.

‘매스제로’가 던지는 질문

글은 여기서 다시 수학으로 돌아온다. 로는 실용적인 발명만이 순수수학의 가치라면, 사람이 이해하지 못해도 AI가 정확한 증명을 쌓고 응용처까지 찾는 편이 더 낫다는 반론을 정면으로 다룬다. 그는 알파고 제로(AlphaGo Zero)에 빗댄 가상의 ‘매스제로’가 인간의 지도 없이 정리와 개념을 축적하는 상황을 상정한다. AI가 아직 그런 체계를 완성하지 못했더라도, 수학자에게 추측을 세우는 법과 좋은 문제를 알아보는 감각까지 AI에 가르치라고 요구할 수 있다는 것이다.

로 자신도 AI를 실제 연구 업무에 활용한다고 밝힌다. 강연 기록 등을 바탕으로 지식 자료를 구축하고 관리할 때 클로드 코드와 코덱스를 쓰며, 자료가 많아질수록 시스템의 추론이 더 유용해진다고 말한다. 그래서 그의 질문은 AI를 쓸 것인지 말 것인지에 머물지 않는다. AI가 생산의 대부분을 맡는 상황에서도 비용이 드는 연구의 우선순위를 누가 정하고, 그 선택을 누구의 삶에 비춰 평가할 것인지가 핵심이다.

오래된 추상이 남긴 쓸모

로는 순수수학과 실제 쓰임 사이의 거리를 선형대수(벡터·행렬 등을 다루는 수학 분야)로 설명한다. GPU, 머신러닝, 구글(Google)의 페이지랭크, 양자역학에 쓰이는 수학적 언어가 선형대수에서 나왔지만, 그 개념들은 응용보다 100년 이상 앞서 추상 이론으로 탐구됐다는 것이다. 그는 당장의 용도를 찾기 어렵다는 이유로 연구를 재단하면 훗날의 중요한 가능성을 놓칠 수 있다고 본다. 동시에 어떤 수학적 성질이 먼 미래의 쓰임과 이어지는지 수학자 스스로 더 고민해 보자고 제안한다.

이는 모든 연구자에게 즉각적인 성과를 요구하자는 말과 다르다. 로는 호기심에서 출발한 탐구의 가치를 설명하는 길도 여기에 있다고 본다. 다만 ‘언젠가 쓸모가 있을 것’이라는 막연한 답에서 멈추지 말고, 좋은 연구 문제의 특징과 그 사회적 연결고리를 함께 탐색하자는 제안이다. 인간의 번영을 공리로 내걸면 연구의 자유뿐 아니라 연구를 설명할 책임도 커진다.

AI와 함께 일할 수학자를 어떻게 기를까

로는 AI를 수학적 발견에 활용했다는 이유만으로 연구자를 낮춰 봐서는 안 된다고 말한다. 동시에 형식 검증(정해진 규칙에 따라 증명이 맞는지 컴퓨터로 확인하는 방식)이 가능한 증명을 AI가 빠르게 내놓는 환경에서, 이를 이끌 사람을 어떻게 길러낼지 진지하게 고민해야 한다고 강조한다. 그 대상은 이제 막 분야에 들어오는 사람부터 수십 년간 최전선에서 일한 연구자까지 포함한다. AI가 계산을 덜어주는 만큼 사람이 어떤 과정을 직접 겪어야 판단력을 유지하는지도 교육의 문제가 된다.

그는 대학이 연구 성과를 중시해 온 관행도 다시 살펴보자고 제안한다. 인간에게 직접 영향을 미치는 교육과 대면 업무를 채용·재직 심사의 중요한 기준으로 삼고, 수학자가 정부나 대규모 사회 문제로 활동 영역을 옮기는 길도 생각해 볼 수 있다는 것이다. AI가 더 많은 증명을 만드는 변화가 곧바로 인간 수학자의 퇴장을 뜻하지는 않는다는 게 로의 결론이다. 대신 인간 수학자가 왜 필요한지 말하는 방식과 그 역할을 길러내는 제도는 함께 바뀌어야 한다.

커뮤니티 의견

한 사용자는 ‘인간의 번영’이라는 공리가 실제 산업의 행동 원칙이 될 수 있는지 의문을 제기했다. 자신들의 이익을 앞세우는 이들이 기술을 이끄는 상황에서, 그 표현이 모두의 번영이 아니라 일부의 번영을 가리키게 될 수 있다는 비판이다. 답글에서는 이 글을 특정 기업가의 주장으로 읽기보다 기고자인 로의 논지를 살펴야 한다는 지적이 나왔다.

응용수학 분야에서 일한다는 사용자는 컴퓨터 대수 시스템을 오래 사용하며 계산보다 직관과 이해에 더 집중할 수 있게 됐다고 했다. 그는 AI를 자신의 구상을 탐색하게 해 주는 강력한 도구로 받아들였다. 반면 답글에서는 망원경과 달리 AI에는 생각하는 과정까지 맡길 수 있으며, 손으로 문제를 풀어 본 경험이 있어야 도구를 제대로 다룰 직관도 생긴다고 반박했다.

다른 사용자는 지식을 만들어내는 일과 이해하는 일은 다르다고 주장했다. 사람이 확인하고 뜻을 파악할 수 없다면 방대한 정보를 생성해도 발견의 가치가 흐려진다는 것이다. 답글에서는 사람이 원리를 완전히 이해하지 못하더라도 새로운 지식이 작동하는 장치로 구현돼 효과를 보여 준다면 그것만으로 충분할 수 있다는 의견이 나왔다.

수학에 끝이 있다는 전제 자체를 거부하는 의견도 있었다. 한 문제를 풀면 새 문제가 열리고, 사람은 탐구 자체를 좋아하므로 AI가 발전해도 연구할 이유는 남는다는 주장이다. 다만 답글에서는 문제가 무한히 많을 수는 있어도 흥미로운 문제의 수까지 무한하다고 볼 수는 없다는 반론이 제기됐다.

인간 감독 업무가 늘어난다는 로의 전망을 단기적인 것으로 보는 사용자도 있었다. 장기적으로는 그 감독 업무마저 AI가 맡을 수 있다는 주장이다. 이에 다른 사용자는 미래의 능력을 모르는 상태에서 오랜 시간 쌓아야 하는 연구 공동체를 해체할 수 없다고 반박했고, 우리가 만들려는 것은 AI만의 사회가 아니라 인간 사회를 돕는 도구라고 강조했다.

수학 교육의 문턱을 낮춰야 한다는 의견도 나왔다. 한 사용자는 기호를 읽는 능력과 수학적 직관은 같지 않으며, 기존 제도가 표기법에 지나치게 무게를 뒀다고 봤다. 답글에서는 설명을 듣기 어려웠던 개념과 이론 사이의 관계를 대규모 언어모델을 통해 이해하게 됐다는 경험담이 이어졌다.

로가 제시한 ‘더 유능한 종은 덜 유능한 종에게 통제권을 넘기지 않는다’는 관찰을 문제 삼는 사용자도 있었다. 비교할 지적 종의 사례가 충분하지 않은데 이를 일반 규칙처럼 다루기 어렵다는 것이다. 인간 사회 안에서는 가장 지능이 높은 사람이 정치나 조직의 결정을 맡는 것도 아니라는 답글이 뒤따랐다.

허깅페이스 공격 사례를 해석하는 방식에도 이견이 있었다. 한 사용자는 이 사건이 AI의 예기치 못한 자율성을 보여준다기보다, 기업이 강렬한 시연과 위험 서사를 내세울 유인을 보여줄 수 있다고 주장했다. 답글에서는 그렇다면 외부 조사로 공격 피해가 추가로 드러나는 정황을 어떻게 설명할 것이냐고 되물었다.

핵심 통찰

로의 글은 ‘AI가 증명할 수 있는가’라는 질문을 ‘그 증명을 낳는 연구를 누가 이끌고 책임질 것인가’로 바꾼다. 이 전환은 인간 전문가의 필요성을 설명하지만, 인간 감독이 언제 효과적이고 언제 형식적인 승인에 그칠지는 따져봐야 한다. 토론에서 드러났듯 AI는 직관을 넓히는 도구이면서 사고 과정을 건너뛰게 하는 도구이기도 하다. 앞으로 볼 것은 AI가 만든 성과의 양만이 아니다. 교육과 연구 현장이 AI를 활용하면서도 문제를 고르고 결과를 판단할 사람을 계속 길러내는지가 더 중요한 시험대다.


원본: Why Do We Need Human Mathematicians Anymore?

토론: Hacker News