요약
AI가 수학의 판을 바꿨으니, 수학계는 슬퍼하기보다 평가·채용·학술지 제도부터 고쳐야 합니다.
수론 학자 프랭크 칼레가리가 테런스 타오의 블로그에 쓴 기고문입니다. 오픈AI는 10월 6일 연구 논문 700여 편을 공개했습니다. 칼레가리는 이 논문들이 형편없이 쓰였고 일부는 틀렸다고 비판하면서도, 수학의 분기점으로 봤습니다.
왜 중요한가
- 증명이 흔해지면 논문 수와 '최초' 경쟁으로는 수학자를 제대로 평가하기 어려워집니다.
- 수학자의 일이 문제 풀이에서 좋은 문제를 고르고 결과를 이해해 설명하는 쪽으로 옮겨 갑니다.
- 칼레가리는 큰 문제가 풀려도 분야는 끝나지 않으며, 유한 단순군 분류 뒤에도 질문이 남았다고 말합니다.
핵심 내용
- 모든 연구를 AI의 도움을 받은 것으로 보고, 왜 흥미롭고 어떤 질문을 낳는지로 평가하자고 제안했습니다.
- AI만으로 증명을 얻었어도 좋은 문제를 고르고 깊이 이해해 새 질문으로 이어 가면 큰 기여라고 했습니다.
- 채용은 논문 수 대신 대면 면접과 수학의 방향에 대한 후보자의 구상으로 판단하자고 했습니다.
- arXiv(논문 사전 공개 사이트) 논문의 상당수는 출판하지 말아야 하며, 학술지가 적응하지 못하면 잠시 버리자고 했습니다.
- AI의 성과는 수천 년 인류 수학 위에 있으므로, 공을 기술 기업 경영자에게 넘기지 말자고 했습니다.
HN 반응
- 이해와 소통이 더 중요해졌다는 동의가 있었고, 결과가 혁신적이면 이해 없이도 공로를 줘야 한다는 반론도 나왔습니다.
- 수학은 과학의 토대이니 AI로 성과를 앞당기자는 쪽과, 직접 푸는 기쁨이 사라지면 수학자도 줄어든다는 쪽이 맞섰습니다.
맞습니다. 테렌스 타오가 몇 달째 결과물의 소화(digestion)를 두고 해 온 말이 바로 이겁니다. 수학은 결과 자체보다, 다른 사람들이 당신의 결과를 이해하고 새로운 문제를 탐구하도록 끌어들이는 사회적 측면이 더 중요한 분야가 되었습니다.
어찌 보면 소프트웨어 공학과 조금 비슷합니다. 코드를 짜는 일은 때로 AI에 맡길 수 있고, 고객이 이 소프트웨어에 정말 바라는 것이 무엇인지 파악하는 일보다 덜 중요하다고 할 수도 있으니까요.
타오는 이 기준들을 마치 필수 요건인 것처럼 말하지만, 모든 문제에 그런 건 아닙니다. 해법의 가치가 주로 이해하기 쉬움과 후속 발전에 있는 이론적 문제라면 말이 됩니다. 하지만 모든 문제가 그렇지는 않습니다. 어떤 문제는 해법 자체가 혁명적이라서, 다른 걸 하나도 보태지 않고 이해하지 못해도 상관없습니다. AI 기술 자체가 그런 사례입니다!
간단한 가정 하나로 반례를 들어 보겠습니다. 외판원 문제의 해법을 내놨는데, 실험적으로 최신 기술보다 충분히 빠르다면 그건 엄청난 기여이고, 그 해법이 왜 어떻게 동작하는지 본인이든 다른 누구든 이해하느냐와 상관없이 당연히 공로를 인정받아야 합니다. 심지어 결과가 50%는 틀리게 나오더라도, 맞을 때 충분히 효율적이라면 인류를 바꿔 놓을 수 있습니다. 알고리즘을 이해하지 못했다는 이유로 공로를 부정하는 건 터무니없습니다. 결과가 그 자체로 말해 줍니다.
통계학자와 전통적 AI 연구자 등이 이 교훈을 힘들게 배웠습니다. (사실상 블랙박스인) 신경망이 너무 좋아지는 바람에, 우아하고 설명 가능했던 고전 알고리즘들이 점점 더 많은 응용 분야에서 경쟁이 안 되어 뒤처졌으니까요. 수학자들도 그 역사를 되풀이하려는 겁니까?
공개 키 암호 체계를 깨는 쪽이 더 나은 반례일 겁니다. NP-난해 최적화 문제 대부분은 실제로는 풀 수 있습니다. 아무도 다루는 법을 모르는 퇴화된 사례가 늘 있기는 하지만, 현실적인 사례는 충분히 쉽게 풀리거나 최소한 정확하게 근사할 수 있는 경우가 많습니다.
그 예는 일부러 피했습니다. 그걸 인류에 대한 긍정적 기여라고 부르면서 공로를 기대하는 건, 원자폭탄을 인류에 대한 긍정적 기여라고 부르면서 공로를 기대하는 것과 비슷하게 느껴집니다. 세상 대부분은 그런 타임라인과는 거리를 두고 싶어 할 겁니다.
그래서 그냥 "해법"이 아니라 "실험적으로 최신 기술보다 충분히 빠른 해법"이라고 한 겁니다.
실제로 문제를 풀기 시작하면, 이론가들이 생각하는 단순하고 깔끔한 형태의 문제에는 더는 관심이 없을 가능성이 높습니다. 예를 들어 최단 공통 상위 문자열(shortest common superstring)을 찾는 대신 위상 분리(phased) 유전체 조립을 하게 될 수 있습니다. 그러면 문제는 더 이상 명확하게 정의되지 않습니다. 문제 공간이 더 잘 이해되고 데이터의 성격이 바뀜에 따라 제약 조건과 가정도 계속 달라집니다. 알고리즘 아이디어가 한 문제 유형에서 다른 유형으로 넘어가는 경우는 많지만, 모든 것을 해당 문제에 맞게 손봐야 합니다.
물론 결과 자체의 이점이 충분히 크다면 그렇게 해도 됩니다. 타오도 동의하리라 생각합니다. 예컨대 어떤 대수기하학 증명으로 생명을 구하는 약을 만들 수 있다면, AI로 그걸 증명하는 데 반대할 사람은 없을 겁니다. 하지만 대부분의 수학은 그렇지 않습니다. 대부분의 수학은 현실 세계에 즉각적인 영향을 거의 주지 않습니다.
이 논의 전체에는 암묵적인 트레이드오프가 있습니다. 어떤 결과를 활용해 어제보다 훨씬 더 낫고 빠르고 쉽게 현실에서 실제로 쓸모 있는 일을 할 수 있다면, 그 결과 자체에 가치가 있습니다. 그런 개별 문제를 떼로 달려들어 푸는 데 드는 비용은 비교적 작고 국지적이며 더해지는 가치도 분명하니, 좋습니다, 해야죠! 하지만 어떤 결과를 증명해서 그것을 다른 수학 문제에 적용할 수 있게 될 뿐이라면, 우리가 그 결과에 부여하는 가치 말고는 더해지는 가치가 없고, 그 가치는 이해에서 나옵니다. 그런데 이제 임의의 수학 문제들을 떼로 풀어 버리면, 우리가 직접 그 문제를 풀 기회를 빼앗게 됩니다.
수학 배경이 없는 사람들은 이 "우리가 직접 문제를 풀 기회"라는 입장을 하찮게 여기겠지만, 수학하는 사람들이 이 일을 생각하는 방식은 100% 그렇습니다. 제가 학부 때 수학과였는데, 어려운 숙제 문제의 힌트를 주지 않겠다고 한 친구가 있었습니다. 제가 직접 풀 기회를 갖길 바라서였죠. 그 친구에게는 어렵지만 보람 있는 문제를 풀 기회를 주는 것이 제게 주는 _선물_이었던 겁니다.
그렇다면 그 수학을 왜 지금 해야 하는지 묻는 게 정당하지 않을까요? 어떤 문제를 정식화할 수 있고 당신의 흥미를 끌며 당신의 흥미를 끄는 문제들로 이어진다고 해서, 지구상의 누군가가 그 문제를 지금 당장 붙들고 있어야 하는 건 아닙니다.
당신이 세계 최고의 두뇌 중 하나라서 사회가 당신의 일을 인정해 주고 (경력도 지원해 주길!) 바라는데, 세상이 당신을 자동화로 대체하고 있음을 알게 됐고, 게다가 당신 스스로 가까운 장래에 당신의 일이 현실 세계에 영향을 주리라 기대하지 않는다고 인정한다면, 적어도 당분간은 가까운 미래에 쓸모를 더 분명히 내세울 수 있는 문제부터 다루라고 기대하는 게 왜 부당합니까?
"프로그램은 사람이 읽도록 쓰여야 하며, 기계가 실행하는 것은 부수적일 뿐이다."라는 SICP의 훈계와 통하는 말이네요.
보통의 일상적인 프로그래머에게는 터무니없는 소리지만, 이론 전산학자에게는 결정적인 구분입니다.
일상적인 프로그래머 대부분은 실행 파일보다 프로그램의 소스 코드를 보관하는 쪽을 택합니다. 그러니 전혀 터무니없지 않다고 생각합니다. 잠깐만 곰곰이 생각해 보면 알 수 있어요.
소프트웨어의 수명을 생각하면 터무니없지 않습니다. 소프트웨어는 한 번 만들어져 곧바로 쓰이지만, 쓸모가 있다면 그 뒤로 수십 년 동안 다시 읽히고, 개작되고, 손질됩니다.
어떤 코드든 읽는 횟수가 쓰는 횟수보다 훨씬 많고, 확장하려면 이해할 수 있어야 합니다.
그러니 사실 그 지침은 모든 소프트웨어에 적용되고, 더 많은 사람이 진지하게 받아들이면 좋겠습니다. AI 시대에도 마찬가지입니다. AI도 코드를 이해해야 하고, AI는 코드를 쓰는 것보다 읽는 데 더 많은 시간을 쓰며, 사실 사람보다 읽은 것을 바탕으로 쓰는 비중이 더 크니까요.
여전히 맞을 수는 있지만, 레지스터와 스택에서 분리된 언어로 쓰이게 될 겁니다.
시간이 드는 건 이해입니다. 남이 쓴 것을 이해하는 게 내가 쓴 것을 이해하는 것보다 어렵고요.
AI로 아끼는 시간은 이해를 줄여서 나옵니다.
이 논의가 정말 이해하기 어렵습니다. 수학은 특정 부류의 지식인에게 재미있고 무의미한 퍼즐을 따로 풀게 해서 만족시켜 주는 수단이 아닙니다. 다른 모든 과학의 기반입니다. 목표는 해법을 찾고 분야를 발전시키는 것인데, 우리는 수학을 마치 심심한 천재들을 위한 작업 치료쯤으로 대하는 것 같습니다.
낮은 단계의 문제를 풀면 현실 세계의 수학적 해법을 열 수 있습니다. 스텔러레이터 설계, 양자 오류 정정, 초전도 예측, 단백질과 효소 역설계 등 끝이 없어요. AI가 찾아낼 수 있는 많은 해법이 우리를 이런 목표에 더 가까이 데려다줄 수 있으니, 찾을 수 있는 데이터센터는 모조리 가동해서 그 결과를 얻읍시다.
합리적인 부류가 이해하지 못하는 2차 효과예요.
게임 개발자는 AI로 더 나은 게임을 만들 수 있죠! 그런데 창작자들은 작품을 만드는 데 아무 노력도 들일 필요가 없다면 애초에 게임 개발에 뛰어들지 않아요.
수학자는 AI로 수학을 발전시킬 수 있죠! 그런데 수학자들은 수학을 "발전"시키고 싶어서 수학에 뛰어드는 게 아니에요.
교사는 AI로 더 잘 가르칠 수 있고, 작가는 AI로 더 잘 쓸 수 있고요... 정말 그럴까요?
여러분은 낭만과 인간적 노력의 아름다움을 정말 이해 못 하나요?
맞는 말이에요... 저도 AI가 하는 개발에는 관심이 거의 없다는 걸 서서히 깨닫고 있어요. 13살 때부터 해 온 제 주된 취미가 이제는 더없이 시시해졌어요. 예전에는 못 했을 더 복잡한 프로젝트를 노려도 만족스럽지 않고요.
뉴런이 새로운 연결을 만들 때 만족감이 생깁니다. AI와 일할 때는 그렇지 않습니다.
AI와 일하면 AI가 해법을 줍니다. 그러면 뇌는 AI를 관리하는 데 쓰이는데, 이건 그만큼 도전적이지도 만족스럽지도 않습니다. AI가 해법을 알려 주고 그것을 읽으면(대충 훑으면) 정말로 배우거나 이해하지 못합니다. 뇌가 연결을 만들려면 여전히 시간과 노력이 필요합니다.
글쓰기에 대한 스티븐 킹의 말입니다. "보세요. 붉은 천을 덮은 탁자가 있습니다. 그 위에 작은 어항만 한 우리가 있어요. 우리 안에는 분홍색 코와 분홍색 테두리 눈을 한 흰 토끼가 있고요. […] 등에는 파란 잉크로 뚜렷하게 숫자 8이 적혀 있습니다. […] 여기서 가장 흥미로운 건 우리 안에서 당근을 오물거리는 토끼가 아니라 그 등의 숫자입니다. 6도, 4도, 19.5도 아닌 8이라는 거죠. 우리는 이걸 보고 있고, 우리 모두 똑같이 봅니다. 내가 말해 준 것도 아니고, 당신이 물어본 것도 아닙니다. 나는 입도 열지 않았고 당신도 열지 않았죠. 우리는 같은 해에 함께 있지도 않은데 하물며 같은 방에 있겠습니까… 그런데도 우리는 함께 있습니다. 가까이 있어요. 마음이 통하는 자리를 갖고 있는 겁니다. […] 우리는 텔레파시를 행한 겁니다. 신비로운 산 같은 헛소리가 아니라, 진짜 텔레파시를요."
인간의 노력이 정말 그저 "뉴런"과 "보상 회로", 스키너 상자 같은 헛소리일 뿐인가요? 작가는 자기 글이 다른 사람의 마음에 닿길 바라며 씁니다. 화가는 자기 그림이 영혼 깊은 곳의 천 마디 말을 전해 주길 바라며 그립니다. 노력한다는 건 숙달 이상이고, 자기 자신, 그리고 다른 사람과 교감하는 일이라고 생각해요.
AI를 엄청나게 강력한 학습 도구로 쓸 수 있는 건 분명합니다. 저는 AI에게 Haskell을 안내받고 있는데, 대학 때 훨씬 많은 시간을 쏟았을 때보다 배운 게 훨씬 많아요. (그게 10년 전이라 대부분 잊어버렸기도 하고요.) AI에게 질문하고, 이해가 안 되는 부분을 다시 설명해 달라고 할 수 있다는 점이 정말 귀중합니다. traverse 함수가 정확히 뭘 하는지 알아내는 데에만 AI와 한 시간을 꼬박 썼어요. (
traverse (\x -> ['z', x]) "ab"는 아마 생각하시는 대로 동작하지 않을 겁니다.)스포일러입니다.
<*>는 리스트를 크로스 조인(for 루프 안의 for 루프)으로 결합합니다. 람다는 새 리스트 ['z', 'a']와 ['z', 'b']로 매핑하고(문자열은 그냥 char 배열이니까요), 이어서 이들을 다시 합치는 여러 조합을 계산해서 ['z', 'z'], ['z', 'b'], ['a', 'z'], ['a', 'b']가 됩니다. 람다에서 얻은 "기본" 배열 중 하나인데도 ['z', 'a']는 없으니 모든 순열은 아닙니다. 이걸 제대로 체화하는 데 오래 걸렸고, 지금도 아마 선뜻 손이 가는 함수는 아닙니다.그래도
(,) <$> lista <*> listb로 중첩된 for 루프를 얻을 수 있다는 건 꽤 멋집니다.저도 LLM에서 가장 큰 가치를 얻는 방식이 이거예요. 가장 빠른 MVP를 위해 코드를 토해 내는 데는 관심 없어요. 제가 만드는 것에 무엇이 들어가는지 조각조각 배우고 이해하고 싶어요. 그래서 LLM을 조사와 학습 보조로 써서 그런 자잘한 지식을 더 빨리 얻어요. 그래도 조각들을 직접 손으로 맞춰 넣을 만큼은 코드를 이해해야 하죠.
수학의 낭만 때문에 수학을 하는 걸 아무도 막지 않습니다. 직접 토마토를 키우는 걸 아무도 막지 않는 것과 같아요. 하지만 토마토를 키워서 먹고살고 싶은데 500년 전 사람들과 같은 방식으로 한다면 성공하기 어려울 겁니다.
다르게 말하면, 취미로 돈을 벌고 싶다면 다른 사람들에게 충분한 가치를 줘야 합니다. 그 가치가 "나는 직접 혜택을 보지 않더라도 누군가 이 일을 하고 있다는 걸 알면 기쁘다" 정도라도 말입니다. 간단해요. 그게 아니라면 그냥 취미라고 받아들여야 합니다.
정말 의미 있는 통찰이라고 생각합니다. 열정 프로젝트가 있고, 이를테면 "산업적 생산"이 있죠.
개발자들은 오랫동안, 자신이 열정을 쏟는 일이 산업계가 필요로 하는 일과 (적어도 어느 정도는) 맞아떨어지는 특권을 누렸습니다. 그러다 외주 개발사가, 나중에는 Claude와 Codex가 코드를 산업적 생산으로 바꿔 놓았죠. 그렇다고 좋은 와인을 홀짝이며 늘 존재했으면 하던 2D 플랫포머를 코딩하는 즐거움을 누리지 못하게 되는 건 아닙니다. 다만 코드의 산업적 생산이 이제 덜 만족스러워진 것은 사실입니다.
수학자도 마찬가지고, 앞으로 갈수록 더 많은 삶의 영역이 그렇게 될 겁니다. 그 점이 슬프고, 버스 팩터가 아주 높은 신화적인 10배 코더였던 시절이 그리운 것도 이해합니다. 하지만 개인의 만족을 향한 활동과 성과를 향한 활동을 구분하는 것이 중요하고, 앞의 것이 뒤의 것을 가로막게 해서는 안 됩니다.
이 조언은 좋은 결과와 너무 거리가 멀어서 놀랍습니다. 엄청나게 똑똑한 사람들이 수학, 생물 종, 끈 이론, 신경망 등 세상에 대한 호기심을 따라가도록 지원하는 일의 놀라운 효용은 차치하고 코딩만 놓고 봐도, 엔지니어링이 사양을 구현하기만 하길 바라지는 않을 겁니다. 호기심 있는 사람들이 말로 표현된 것의 밑바닥을 파고들기를 바라죠. 소프트웨어에서 가능한 해법의 공간은 너무 넓어서 폭포수 방식으로는 최선의 해법에 도달할 수 없습니다. 이건 탐색이고, 우아함과 추상화와 아름다움을 추구하는 탐색에서는 10배 코더가 아니라 덜 우아한 해법을 쓰는 경쟁사를 100배, 1000배 앞서게 해 주는 해법이 나옵니다. 폴 그레이엄이 말한 승산을 뒤집는 이야기의 근본 이상이 바로 이겁니다. 경쟁사가 계획을 세우는 동안 한 달에 70%씩 성장한 회사들의 이야기이기도 하고요. 여러분이 너무 젊어서 모를 수도 있지만, 혁신하고 커뮤니티를 계속 즐겁게 하는 회사는 가능하고, 소프트웨어를 구현하는 시스템은 예상보다 훨씬 더 우아하고 확장 가능할 수 있습니다. 아웃소싱이 성공하는 걸 본 곳에서는, 그 회사가 추상화와 단순함이라는 귀한 재능을 가진 사람들을 찾아 대가를 지불할 수 있었거나, 시스템을 너무나 잘 만들거나 고쳐 놔서 성과 중심 팀이 (머리가 돌아간다면) 놀라서 머리를 긁적일 정도였기 때문입니다.
저는 우아하지 못한 사람들이 AI로 거대한 쓰레기 덩어리를 만들어 내는 것도 봤고, 어떤 사람들이 AI를 메스처럼 휘두르며 가능한 해법의 공간을 헤치고 나아가는 것도 봤습니다.
LLM을 쓰는 데 반대하는 건 아니지만, 산업적 효율이 답이라는 청교도식 주장은 지난 40년 소프트웨어 혁신의 이야기를 놓치고 있습니다.
부모 댓글과 조부모 댓글이 흔한 태도를 대변한다면, 그렇게 많은 회사가 추한 소프트웨어에 발목 잡혀 있는 것도 당연합니다.
깊이 공감합니다. 하지만 코딩의 대다수가 범용 소프트웨어 생산이라는 것도 사실이에요. "웹사이트 폼의 데이터를 처리한다" 같은 일이죠. 일부 코딩은 훌륭한 두뇌들이 새로운 접근법을 찾아 열린 탐색에 나서야만 가능하다는 말씀은 알겠습니다. 하지만 그게 필수인 프로젝트는 제한된 일부입니다.
그리고 그런 건 전부 LLM이든 다른 것이든 자동화가 필요합니다. 제대로 만든 소프트웨어는 언제나 새로운 문제를 풀고 있어야 하고요.
이건 도저히 동의할 수 없어요. 우리 일이 흥미롭고 보람 있었던 건 그저 운 좋은 우연이고 자본주의의 이상한 부산물이라서, 그게 사라지면 뭐 어쩔 수 없다, 보답 없는 허리 휘는 노동으로 돌아가라, 세상이 원래 그렇다는 생각이잖아요.
너무 패배주의적이고 비관적이에요.
전적으로 맞습니다. 이번 자동화의 물결에서 놀라운 점은, 지금까지 자동화가 육체노동, 블루칼라 일에 일어났다는 겁니다. 저는 몇 달 전까지만 해도 소프트웨어 개발에 이런 일이 일어나리라고는 생각하지 못했습니다.
웃기네요. 게임과 컴퓨터가 막 태동하던 시기에도 사람들이 이런 말을 했던 기억이 나요.
수학을 직업으로 계속 이어 갈 경제적 여건이 안 되는 사람들이 생길 거라는 말씀은 맞아요. 저는 그게 사회에 끔찍한 일이라고 생각해요.
왜 그렇게 생각하시나요?
사회는 (암묵적으로) 이 사람들이 수학의 경계를 밀고 두드려 볼 수 있는 자리까지 오도록 자원을 투자했습니다. 이 투자가 사라집니다.
수학자 대부분은 자기 일에 열정이 있고, 이는 보통 생산성이 더 높다는 뜻입니다. 이들을 억지로 다른 분야로 보내면 그 생산성을 잃습니다.
수학자를 꿈꾸는 열정적인 사람들은 이 분야가 어떤 영향을 받는지 보고 결국 다른 일을 하게 될 겁니다. 이는 분야의 손실일 뿐 아니라 인류의 손실이기도 합니다. 그 사람이 다음 테렌스 타오가 될 수도 있었으니까요.
종합하면 2차, 3차 효과가 어떨지 예측하기 어렵습니다. 특히 순수 수학은 발전이 나중에 과학과 공학에서 실용적인 쓰임을 찾는 "낙수 효과" 분야이기 때문입니다.
우리가 AI 풍요의 시대에 산다는 걸 잊으셨군요. "먹고살다"나 "경제적으로 부양하다"는 여기서 무게 있는 논거가 못 됩니다. 분명히 해 둡시다. AI 낙관론자들이 미끼를 던져 놓고 바꿔치기해서, 약속했던 "당신을 위한 AI 풍요"를 "AI를 위해 당신을 희생하라"로 바꿨으니까요.
아주 중요한 점입니다. 수학과 논리 능력은 미끼를 물지 않기 위해 꼭 필요합니다. 다시 말해 수학은 과학 도구이자 예술일 뿐 아니라, 천재든 천재가 아니든 발톱을 갈 수 있는 나무입니다. 둔한 것은 존재를 위협하는 위험이고, 특히 교활한 AI 낙관론자들이 AI를 당신에게 불리하게 쓰려고 혈안이 되어 있을 때는 더욱 그렇습니다.
아뇨, 다른 사람들에게 충분하고도 남는 가치를 주는 건 AI가 할 일입니다. 쉬운 일이고, 그걸 해내지 못하는 쪽이 비켜서야 합니다. 그게 전부입니다. 헛소리는 그만둬야 합니다. AI 풍요를 실현하든가, 아니면 AI를 전부 없애든가 둘 중 하나예요. 여기에 중간은 없습니다. 아니, 중간은 존재를 위협하는 위험의 늪입니다.