요약
AI 시대의 수학자는 에고를 내려놓고, 진리를 누가 찾았든 반겨야 합니다.
카르틱 C. S., 아미트 사하이, 제 쉐가 테렌스 타오의 블로그에 기고한 글입니다. AI가 수학 문제를 풀기 시작한 지금, 수학자는 자기 일의 목적을 다시 생각해 봐야 한다고 말합니다.
왜 중요한가
- AI가 증명을 내놓는 시대에 수학자의 가치를 성과나 순위가 아닌 진리를 이해하는 데서 찾자고 제안합니다.
- 인간만의 창의성을 내세우는 흔한 방어 논리도 결국 기계와의 경쟁에 가치를 거는 일이라고 짚었습니다.
- AI를 적극 쓰는 수학자와 쓰지 않는 수학자를 같은 진리 추구로 묶어 보려는 시도입니다.
핵심 내용
- 에고 없는 수학은 공을 양보하는 겸손이 아니라, 진리를 자기 중요성보다 앞에 두는 태도라고 정의했습니다.
- 수학은 발명보다 발견에 가깝다고 봤습니다. 화석을 캐는 데 상상력이 필요해도 화석은 발견자가 만든 것이 아닙니다.
- 논문, 인용, 수상 같은 지표가 일의 가치 자체가 되면 해롭다고 했습니다.
- AI에 밀려날까 하는 불안은 수학자를 이미 생산 단위로 여겨 왔다는 방증이라고 봤습니다.
- 저자들은 자신들도 그 경지에 이르지 못했다고 인정하고, 라마누잔이라면 AI의 성과를 어떻게 봤을지 물으며 글을 맺습니다.
HN 반응
- 수학은 살아남아도 수학자는 어떻게 되느냐는 반론이 많았고, 증명의 즐거움과 명예가 곧 연구 동기라는 지적도 이어졌습니다.
- OpenAI가 공개한 증명은 읽기 어렵다는 비판에, AI의 설명으로 이해했다는 수학자 사례와 Lean(증명을 기계로 검증하는 언어)으로 확인하자는 의견이 맞섰습니다.
다음 벤 다이어그램을 렌즈로 삼아 보세요.
수학에서 아무도 증명하지 못한 것을 증명하는 게 목표라면, 이 세 가지가 전부 위협받고 있습니다.
제가 보기에 "에고 없는" 길이란 위의 렌즈를 무시하고 수학을 5만 피트 상공에서 내려다보는 시각입니다. 물론 수학은 AI와 함께 살아남을 테고 오히려 번성하기까지 하겠죠. 하지만 수학자들은 어떻게 될까요?
시간이 흐르면 수학이라는 직업도 달라져서 다이어그램 한가운데에 새로운 역할이 들어설 겁니다. 수학 결과를 사람에게 설명하는 일일 수도 있고, 미래의 수학자를 가르치는 일일 수도 있습니다. 저도 모릅니다. 다만 모두가 이 변화를 반기지는 않을 테고, 뒤처지는 사람도 많으리라는 건 쉽게 짐작됩니다.
소프트웨어 엔지니어링은 무엇을 중심에 두느냐에 따라 달라집니다. "코드를 쓰는 일" 자체를 좋아한다면 3번이 위협받습니다. 반면 목표가 "뭐든 돌아가게 만드는 것"인 사람에게는 세 가지 모두 여전히 유효하고, 예전보다 오히려 더 좋아졌습니다(적어도 더 빨라졌습니다).
HN에서 AI가 소프트웨어 엔지니어링에 좋으냐 나쁘냐를 두고 의견이 그렇게 갈리는 이유가 이것입니다.
이미 많은 분이 같은 얘기를 하셨을 거라고 생각합니다.
저도 대학 가기 전에 전공을 고민할 때 할아버지께 똑같은 조언을 들었습니다. 흥미롭게도 서양에서 도는 이 조언은 벤 다이어그램에서 "세상이 필요로 하는 것" [0] 부분이 빠진 듯합니다. 이 도표는 일본의 이키가이(Ikigai) 개념에서 왔고, 위의 세 가지에 더해 다른 사람에게 이로운 일, 즉 더 큰 사명을 이루는 일이 들어갑니다.
https://en.wikipedia.org/wiki/Ikigai#Diagram
맞는 지적입니다.
하지만 저는 세 원에 똑같이 들어맞는 일자리가 여러 개라서 네 번째 원("세상이 필요로 하는 것")으로 가려야 했던 적이 거의 없습니다.
또 서양 문화의 핵심 원칙 하나가, 자기 길을 스스로 고를 힘(개인주의)에는 타인에게 이로워야 할 책임(봉사)이 따른다는 것이라고 생각합니다. 예컨대 아이들에게 담배를 파는 일은 세 원의 한가운데에 놓이지 않습니다. 아무리 잘하고 돈이 된다 해도 그런 일을 즐겨서는 안 되니까요.
우리는 "사회가 나에게 무엇을 원하는가"라고 묻는 대신 "어떻게 하면 세상을 더 낫게 만들 수 있는가"라고 묻습니다.
물론 수학은 AI와 함께 살아남을 테고 오히려 번성하기까지 하겠죠. 하지만 수학자들은 어떻게 될까요?
수학자 없이 수학이 살아남는다는 건 당연한 얘기가 아닙니다. 가능성도 별로 없습니다. 오픈AI가 담장 너머로 던져 놓은 증명들은 처음부터 끝까지 출판할 수 없는 쓰레기입니다. 수학자들이 그토록 화가 난 큰 이유는, 자신들이 오픈AI의 무급 편집자로 징집된 기분이 들기 때문입니다.
착각하지 마세요. 수학이라는 직업은 공격받고 있습니다. (돈 받고 일하는 퀀트가 아니라) 수학자가 되려는 가장 큰 동기는 증명을 풀어내는 도전입니다. 그걸 빼앗으면 가장 재능 있는 문제 해결사들도 함께 떠납니다.
시간이 흐르면 수학이라는 직업도 달라져서 다이어그램 한가운데에 새로운 역할이 들어설 겁니다. 수학 결과를 사람에게 설명하는 일일 수도 있고, 미래의 수학자를 가르치는 일일 수도 있습니다.
그게 바로 수학자의 본업입니다. 대학이 수학자에게 월급을 주는 이유가 그것입니다. 연구, 문제 풀이, 잡히지 않는 증명을 쫓는 "사냥의 짜릿함", 최초가 되는 영예는요? 그건 대학이 수학자들을 일하게 하려고 코앞에 흔들어 대는 당근입니다. 그게 없어지면 뛰어난 수학자가 수업을 맡고 대학원생을 지도하는 일도(세계 최고의 학생들이 그 학교로 몰리는 일도) 없어집니다. 남는 건 시간강사뿐입니다.
수학자 두 분(다나 모슈코비츠와 데이비드 하비)이 그 증명이 쓰인 그대로는 도무지 알아볼 수 없었지만, 다른 모델들은 논문을 아무 문제없이 이해하고 쪼개서 설명해 주더라고 밝히는 걸 봤습니다.
다나 모슈코비츠: "한마디로 논문이 너무 끔찍하게 쓰여 있어서 AI의 도움 없이는 읽는 게 불가능합니다. Astra에게 노이즈 가젯의 적당히 완전한 건전성·완전성 주장을 물었더니, 논문 곳곳에 흩어진 주장들을 조합해서 내놓았습니다."
데이비드 하비: "결론부터 말하면 저는 주장된 결과가 그럴듯하다고 봅니다. 사실 논문을 읽은 건 아닙니다. 서로 밀접하게 연관된 논문이 세 편 있는데 어느 것도 읽지 않았습니다. 시도는 했지만 곧 포기했습니다. 이 수학 덤프는 설명이 충실한 편이 아닌 듯합니다. 그래서 Fable에게 [논문]을 설명해 달라고 했습니다. Fable은 논증을 이해하는 듯하고 맞다고 생각합니다. 지난 2주 동안 전 세계의 최전선 LLM 인스턴스 수천 개가 같은 결론에 도달했으리라고 예상합니다. 그렇지 않다면 지금쯤 소식이 들렸을 테니까요. 처음에는 Fable의 설명이 이해되지 않았습니다. 하지만 질문하고, 또 질문하고, 문제의 핵심까지 파고들었습니다. 그러자 논증의 일부가 서서히 이해되기 시작했습니다. 지금까지 본 바로는 주요 결과가 아마도 옳을 것이라는 잠정적 믿음에 이르렀고(제가 말을 아주 신중하게 고르고 있다는 점에 주목해 주세요), O(n(log n) α)라는 한계도 모양새가 맞다고 봅니다. 증명을 진지한 수준으로 세세히 검증하지는 않았고, 아직 제대로 이해하지 못한 부분도 많다는 점을 강조합니다. 아래 절에서는 지금까지 배운 내용과, 제가 이것이 옳을지도 모른다고 생각하는 이유를 설명해 보겠습니다."
AI의 도움 없이는? 불가능. AI의 도움이 있으면? 이해 가능.
수학이 인간 수학자보다 오래 살아남을 수도 있다는 주장과 맞아떨어지는 얘기입니다.
(모델들이 자기들끼리 대화할 때 인간이 이해할 수 없는 속기 같은 형태로 진화한다는 얘기와도 닿아 있는 느낌입니다.)
요즘 만들어지는 일부 소프트웨어도 비슷합니다. AI 없이는 코드베이스를 이해하거나 더 발전시키는 것이 불가능합니다. 그 복잡도는 평균 이상의 사람 뇌로도 감당할 수 없는 수준입니다.
이것이 장기적으로 이 분야에 좋은지 나쁜지는 따지지 않더라도, AI 에이전트끼리 사람이 이해할 수 없게 소통한다는 얘기와 닮았다는 점은 흥미롭습니다. 사람이 개입하지 않으면 우리를 위해 표현을 번역하거나 "눈높이를 낮출" 이유가 사라지니까요.
아직은 초기라서 그 방향으로 얼마나 멀리 갈지, 거기서 앞으로 무엇이 생겨날지는 상상하고 짐작해 볼 수밖에 없습니다. AI 에이전트들이 바쁘게 파고들며 앞으로 밀고 나가는 연구 분야 전체가 생길 수도 있고, 사람은 거기서 이해할 수 있는 게 거의 없을 수도 있습니다.
저희 직장이 지금 그 상태입니다. 위아래를 통틀어 이제 코드를 제대로 이해하는 사람이 없고, 구체적인 질문을 해 보면 티가 확 납니다. 다들 AI로 코드를 생성하고, 리뷰하고, 코드에 대해 물어보지만, 지금 무슨 일이 벌어지고 있는지 감을 제대로 잡고 있는 사람은 더는 없습니다.
다나 모슈코비츠는 순수 수학자가 아니라 컴퓨터 과학자입니다. 증명을 이해할 수 없더라도 이분이 하는 연구는 실용적으로 쓰일 수 있습니다. 이해할 수 없는 소프트웨어도 쓸모는 있는 것과 마찬가지입니다.
이해할 수 없는 순수 수학은 누구에게도 아무 가치가 없습니다.
오픈AI의 증명이 출판할 수 없는 쓰레기라면, 출판이라는 개념 자체가 바뀌어야 합니다. 순수 수학은 저널이 PDF를 실어 주는 방식에서, 개인(또는 그 에이전트)이 Git 저장소에 Lean 코드를 올리는 방식으로 옮겨 갈 가능성이 큽니다.
그건 누구에게도 쓸모가 없습니다. 이 사안을 안 따라가 보셨습니까? 순수 수학 증명의 가치는 그것이 가져다주는 이해와 과정에서 새로 생기는 질문에 있습니다. 참이냐 거짓이냐는 부차적인 문제입니다.
중요한 소설의 결말로 곧장 건너뛰어 놓고 뭔가 얻었다고 생각하는 것과 같습니다.
저도 이 사안을 따라가고 있습니다. Lean 코드가 든 Git 저장소는 이해를 쌓아 가기에 좋은 출발점입니다. 먼저 증명이 맞는지 검증하고, 그다음에 증명을 단순화해 이해할 수 있게 만드는 방법을 찾으면 됩니다.
오픈AI가 공개한 증명 상당수에는 Lean 증명이 없습니다. 그쪽 시스템은 Lean에서 직접 작동하지 않고 먼저 자연어로 증명을 씁니다. 나중에 일부 증명을 자동 형식화 모델에 통과시켜 Lean 코드를 만들었고, 그 코드가 Lean의 검사를 통과한 것입니다.
문제는 자동 형식화 단계 자체가 만만치 않다는 점입니다. 번역이 올바른지 증명해 주는 형식 검증은 없습니다. 그래서 형식화된 결과가 같은 내용을 말하는지 수학자가 손으로 확인해야 합니다. 안타깝게도 이 문제는 일반적으로 결정 불가능합니다.
자동 형식화를 무조건 믿을 수 없다는 논문[1]이 이미 나와 있습니다. 그러니 Lean 코드가 잔뜩 든 GitHub 저장소가 제목에서 내세우는 내용을 정말 증명한다고 믿을 수는 없습니다.
[1] https://arxiv.org/abs/2610.08144
Astra가 학술지 출판을 때려 부숴 준다면, 그걸 곧바로 기술계 최고의 업적으로 인정할 거예요.
이미 많은 학술지가 AI 금지 정책을 두고 있지 않나요?
인간의 추구는 그것을 추구하는 인간과 떼어 놓을 수 없습니다. 지식을 추구할 때 사람들을 궁극적으로 움직이는 것은 자기 스스로 이해할 수 있는 것, 그리고 그 이해가 주는 의미입니다. 이는 자신의 경험과 자신이 중시하는 의견을 가진 사람들에 기반합니다. 사람은 플라톤적 지식 그 자체를 위해 지식을 추구하지 않으며, 그렇다고 주장하는 사람들도 대개 다른 방식으로 자아를 만족시키고 있습니다.
하지만 "인간의 추구" 따위는 쓰레기통에 처박아도 된다는 게 아주 분명해졌죠. 진짜 중요한 건 시장 체제의 강화와, 부의 축적 그 자체니까요.
기술계 리더라는 작자들의 생각은 이렇습니다. 인류? 사람? 그딴 헛소리에 누가 신경이나 쓴대? 엿이나 먹으라지(아니면 "짓밟아서 좋아하게 만들어 주지"). 난 만들 게 있고 벌 돈이 있다고.
우리에게 전해지는 메시지는 분명합니다. "[사람들] 스스로 이해할 수 있는 것과 그 이해가 주는 의미"는 중요하지 않고, 그런 걸 신경 쓰는 사람은 감상에 젖은 쓰레기라는 거죠.
그런 말은 얼마든지 하셔도 되지만, 사실 인류 역사상 "인간의 추구"를 두고 이렇게 많은 논의가 오간 적은 없었어요.
이 주제는 역사적으로 시간적 여유가 넉넉한 운 좋은 사람들의 몫이었죠. 지금 보고 계신 게 끝이 아니라 시작일 수 있다고는 생각해 보신 적 없나요? 그게 아니면 왜 이렇게 논쟁이 많겠어요? 기존 질서에 큰 변화가 오고 있는 거예요.
이 탐욕스러운 계획을 다 꿰뚫어 봤다고 그렇게 확신하신다면, 왜 그 계획은 안 먹히고 있죠?
저는 개인적으로 그런 인상은 거의 못 받습니다. 낭만주의자들의 시대와 베르터의 슬픔의 시대는 이미 한참 지나갔으니까요.
맞아요, 그리고 그건 전부 인터넷 이전의 일이었죠. 다른 거의 모든 맥락에서라면 이 사실은 상관없었을 거예요.
이 글을 읽는 누구든 태어나기 훨씬 전에 우리는 극단에서 벗어나 평범한 사람의 생각과 경험을 더 중시하기 시작했어요. 현대 서구 문명의 근본적인 특징이죠.
평범한 지성은 낭만주의에 대해 뭘 알까요? 아니, 사실 당신은 그것에 대해 정말 뭘 알죠?
나머지 인류가 자기 취미를 보조해 주길 바라면서, 자동화로 삶의 터전을 잃은 수백만 공장 노동자들을 위해서는 눈물 한 방울 흘려 본 적 없다면 그 사람이야말로 쓰레기죠.
문제는, 생존에 필요한 것보다 더 많은 돈을 버는 사람은 누구든 여전히 에고에 이끌린다는 점입니다. 이들은 순전히 거래적이지 않은 것에는 아무 관심이 없고, 신성한 것도 없으며, 그 자체를 위해 하는 일도 없습니다. 자본주의가 일종의 기계적인 자기 가속 성질을 드러내고 있고, 그것이 기대어 사는 인간이라는 토대에서 갈수록 떨어져 나가고 있는 것입니다.
마르크스는 이렇게 썼습니다. "생산의 끊임없는 변혁, 모든 사회 상태의 부단한 동요, 영구적인 불안정과 운동이 부르주아 시대를 이전의 모든 시대와 구별 짓는다. 모든 고정되고 꽁꽁 얼어붙은 관계는 오래되고 존경받는 편견·견해와 함께 해체되고, 새로 형성된 모든 관계는 굳어지기도 전에 낡은 것이 된다. 견고한 것은 모두 공기 속으로 사라지고, 신성한 것은 모두 모독되며, 인간은 마침내 자신의 생활 조건과 동류 인간과의 관계를 냉철한 눈으로 바라보도록 강요받는다."
그리고 물론 그 관계는 인구의 압도적 다수와 생산력의 소유자들 사이의 계급 전쟁입니다.
저는 이 "계급 전쟁"에도, 쓸모없는 "생산력"의 소유에도 관심 없습니다.
제품의 비용을 "가용성 비용(cost of availability)"과 변동비로 나눠 보면, 이런 건 아예 상관이 없어집니다.
누가 행복해질 자격이 있느냐를 두고 싸우는 시끄러운 이웃들은 무시하고, 새로 얻은 자유 속에서 그냥 행복하면 됩니다.
분명히 하자면, 두 비용을 나누지 않으면 그들의 운명은 서로 얽히고 결과도 마찬가지입니다.
생산력의 소유자가 없으면 생산력은 존재하지도 않을 겁니다. 아무도 자기 사업을 못 하게 하면 어떤 모습인지 보고 싶으면 북한에 가 보세요.
미국이 겁을 먹고 한국에 막대한 돈을 쏟아붓기 전까지는 북한이 남한보다 잘살았습니다. 그 결과 소수 가문이 소유한 거대 기업들이 있는 재벌 체제가 만들어졌고, 그 체제는 정치적 독재 아래에서 시간이 지나며 어느 정도 자유화되었습니다.
잘못된 이분법이네요.
그 "다른 방식"이란 "나는 달라, 내 이유가 더 나아"라는 거죠. 우리는 결국 에고 덩어리일 뿐입니다.
진지한 플라톤주의자라면 당신의 논리가 일관되지 않다고 지적할 거예요. 그런 비난에 담긴 우쭐함이 영리한 메타 담론식 수사로 은근슬쩍 당신 자신의 에고를 만족시키고 있을 뿐이니까요. 그리고 그들 말이 맞겠죠.
진실은 다른 데 있어요. 사람들이 철학적으로, 정치적으로 조금만 더 균형 잡혀 있었다면, 이 논쟁의 어느 편에서든 이런 상투적인 논점을 되풀이하지는 않았을 거예요.
테리 타오의 블로그를 따라가 보면, 그는 억지로라도 스스로 인지행동치료를 하고 있는 것 같습니다. 상실을 받아들이면서, 자신과 다른 사람들이 가치를 어디서 찾아야 하는지에 대한 새로운 틀을 만들어 가고 있습니다. 보기 좋은 모습입니다. 부정하고 반사적으로 반응하는 것보다 맞서는 편이 낫습니다.
타오의 블로그에 올라온 다른 많은 글처럼, 이 글도 타오 본인이 아니라 초청 필자들이 쓴 글입니다.
맞아요, 사람들이 계속 초청 글을 그가 한 말로 착각하죠. 초청 글만 올리는 블로그를 따로 하나 만드는 게 좋겠어요. 그러면 혼동이 줄 거예요.