요약
AI가 검증한 정답만으로는 지식이 되지 않으며, 그 답을 설명하고 책임질 사람과 공동체가 있어야 합니다.
노스웨스턴대학교 컴퓨터과학 교수 제시카 헐먼이 코스모스 연구소 블로그에 기고한 글입니다. AI 과학을 두고 결과만 맞으면 된다는 쪽과 사람의 이해가 필요하다는 쪽이 맞서자, 헐먼은 이해를 덤으로 보는 시각이 과학을 잘못 읽고 있다고 반박했습니다.
왜 중요한가
- 이해의 가치를 개인의 깨달음이 아니라, 결과가 틀렸을 때 따지고 고치는 능력으로 다시 정의합니다.
- AI가 연구 주제 선택까지 맡으면 무엇이 중요한지 가리는 연구자의 안목과 학계 공동체가 약해질 수 있다고 경고합니다.
- 저자가 자기 주장을 이해하지 못하는 논문이 arXiv에 올라오는 지금, 논문 저자라는 이름과 책임의 의미를 다시 묻습니다.
핵심 내용
- AI가 설계해 3상 임상시험까지 통과한 항암 치료라도, 허점을 파고든 결과라면 물어볼 사람이 없다고 지적했습니다.
- 과학을 윤리·사회적 가치와 떼어 놓으려는 가치중립 이상(2차 대전 이후 굳어진 과학관)을 이런 맹점의 뿌리로 봤습니다.
- 수학은 AI가 증명을 검증할 수 있지만, 수학자들은 검증 뒤에도 이해를 원한다는 점을 근거로 들었습니다.
- 철학자 헬렌 롱기노를 인용해, 객관성은 공동체 안의 비판적 검토에서 생긴다고 설명했습니다.
- 지금의 AI 에이전트는 정체성이 이어지지 않고 주장을 철회해도 잃을 것이 없어 책임 주체가 되기 어렵다고 했습니다.
HN 반응
- 케플러 법칙이나 원리를 모르고 쓰는 약처럼 이해 없이 받아들인 결과도 많다는 반론과, 케플러도 데이터와 법칙은 이해했다는 재반론이 맞섰습니다.
- 이해를 만들어 내는 수학자로 페터 숄체를 꼽는 댓글에는, 숄체조차 자기 증명을 확신하지 못해 컴퓨터 검증을 반겼다는 답이 달렸습니다.
케플러가 자신의 모델을 발표했을 때를 보세요.
사람들은 그 모델이 어떻게, 왜 맞아떨어지는지 이해하지 못했습니다. 그런데도 수학적으로 더 쉬웠기 때문에 프톨레마이오스 체계(튀코 체계 등†)에서 케플러의 모델로 갈아탔습니다. '왜'와 '어떻게'를 이해하게 된 것은 한참 뒤(뉴턴, 아인슈타인)의 일입니다.
† https://tofspot.blogspot.com/2013/08/the-great-ptolemaic-smackdown-down-for.html
케플러는 자기가 가진 데이터를 이해하고 있었습니다. 데이터가 어디서 왔는지, 자신의 법칙이 무엇을 주장하는지, 데이터가 법칙에 들어맞는지 어떻게 검증하는지, 그 데이터가 지동설을 어떻게 반증하는지까지 알았죠. 기사가 말하려는 게 바로 그런 이해입니다.
케플러의 모델은 행성이 타원 궤도로 움직인다는 것이 관측과 일치한다는 사실을 보여 준 것입니다. 하지만 프톨레마이오스(와 브라헤 등)도 관측에 맞추려는(맞추려 한) 모델을 만들었습니다.
케플러의 모델이 어떻게와 왜를 설명했다면, 뉴턴과 아인슈타인은 왜 필요했던 겁니까?
뉴턴과 아인슈타인은 '어떻게'라는 질문에 더 일반적이고 더 정밀하게 답했습니다.
케플러의 모델은 행성의 움직임을 예측했고 뉴턴의 모델도 마찬가지입니다. 다만 뉴턴의 모델은 더 일반적이라서 행성뿐 아니라 사과, 대포알, 기차 등 질량을 가진 다른 모든 물체에도 적용됩니다.
아인슈타인의 모델은 뉴턴의 모델보다 더 정확하고 정밀합니다. 특히 수성의 궤도에서 그렇습니다. 또 아인슈타인의 모델은 (예를 들어 일식 때의) 중력 렌즈 효과도 예측하는데, 뉴턴의 모델은 그러지 못합니다.
'왜'라는 질문은 물리학자에게 무척 어렵습니다. 보통 우리가 '왜'를 물을 때는 어떤 앞선 사건 X가 사건 Y를 일으켰는지를 묻습니다. 그런데 보편 법칙에는 그 법칙이 참이 되게 한 앞선 사건이 없습니다. 우리가 얻을 수 있는 최선은 더 큰 일반성입니다. 행성이 태양 둘레를 도는 이유는 사과가 땅으로 떨어지는 이유와 같지만, 중력이 왜 생기는지는 모르고 어떻게 작용하는지만 압니다. 자석끼리 밀어내는 이유는 바닥이 단단한 이유와 같지만, 자기가 왜 생기는지는 모르고 어떻게 작용하는지만 압니다.
맞아요.
이 주제라면 파인먼의 "자석은 왜 서로 밀어내는가?"가 있습니다.
https://youtube.com/watch?v=MO0r930Sn_8
뉴턴 역학은 그 자체의 '왜'를 설명하지 않습니다. 뉴턴 역학이 설명하는 것은 케플러의 법칙이 왜 참이냐는 겁니다. 케플러의 법칙이 무슨 말을 하는지 모르면 그 설명은 의미가 통하지 않고, 케플러의 법칙이 왜 참이라고 여겨지는지 모르면 그 설명은 아무런 의의도 없습니다.
처음에는 케플러의 모델이 예측력은 오히려 더 나쁘지 않았나요? 우리가 케플러의 모델을 택한 건 더 간결했기 때문이잖아요.
결국 또 원로들이 일반인은 반증할 수도, 반증하도록 허락받지도 못할 지식을 가진 양 훈계하는 꼴로 흘러갈 겁니다. 전문가 눈에는 자기 해석이 옳은 게 뻔히 보이고, 원로의 헛소리에 이의를 제기하는 건 무례한 일이라는 거죠.
타오 같은 사람들도 살아남으려는 생물학적 본능을 따르는 생물학적 존재일 뿐입니다. 배운 게 많은 만큼, 사회가 먹을 것을 얻으려면 지식인 역할극을 해 주기를 기대한다는 것쯤은 잘 알고 있죠.
사람이 죽으면 '기능이 종료'되는 현실의 재귀적이되 프랙털은 아닌 성질 때문에, 신호는 자연히 약해지고 다음 세대에서는 새로운 구전 전통이 생겨납니다.
우리의 사회적 방식을 100년 뒤까지 전할 방법은 없습니다. 전할 수 있는 건 물질적 산출물뿐이에요. 우리가 무언가를 설명하려고 정의한 의미 체계는 시간 속에 사라집니다.
미래 사람들에게 출처는 과거 사람들이었고, 미래에 중요한 건 그것뿐입니다. 지금 우리가 서로 어떻게 소통했느냐가 아니라요.
무슨 말씀이죠? 케플러는 관측값에 맞추려고 꼼꼼하게 애썼잖아요.
여기서 하시는 주장이 전혀 이해가 안 됩니다.
기사에서 암 치료제 비유가 나왔을 때 저도 거의 같은 생각을 했습니다. 어떤 약이 왜 듣는지 아직 모르는데도(가바펜틴이 대표적인 예입니다) 우리는 그 약을 일상적으로 편하게 쓰고 있죠.
맞습니다. 의료 행위는 흔히 순전히 통계적인 진술에 기반합니다. "질환 B를 동반한 A의 경우 C를 하면 환자의 D%가 도움을 받는다" 같은 식이죠. 약의 작용 기전을 찾아봐도 아무것도 안 나올 때가 있습니다. 문헌에는 불분명하다는 말만 있고, 운이 좋으면 그럴듯한 추측 몇 개가 적혀 있을 뿐이에요. "몸이 어떻게 작동하고, 어떻게 망가지고, 어떻게 고치는지를 이해한다"는 낭만적인 이상 대신 의학이 이렇게 되어 버렸다는 게 조금 슬픕니다.
그렇게 나쁘지만은 않아요. 의사들이 당뇨병이 어떻게 작동하는지는 보통 안다고 확신합니다.
케플러는 분명 진전을 이뤘습니다. 행성이 궤도에서 쓸고 지나가는 면적이 같다는 것이 궤도가 타원이라는 것을 함의함을(그리고 그 역도 성립함을) 보였죠. 다음 사람이 더 나아가기에 충분한 진전이었습니다.
그 다음 사람이 뉴턴입니다. 뉴턴은 (무한소를 다루는 표기법인 미적분학을 발명한 덕에) 중심력 문제의 해를 알고 있었습니다. 각운동량이 보존되는 운동 <=> 면적 속도가 일정한 운동 <=> 힘이 1/r^2에 비례할 때 일어나는 운동입니다. 여기서 뉴턴은 그 중심력이 '중력'이라고 결론 내렸습니다. 유도 과정은 물리학과 1학기 학생도 따라갈 만큼 간단하지만, 익숙한 적분을 얻으려면 변수를 한두 번 영리하게 바꿔야 합니다.
https://en.wikipedia.org/wiki/Central_force
https://en.wikipedia.org/wiki/Classical_central-force_problem
말도 안 됩니다! 훔친 거예요.
라이프니츠가 채팅방에 입장했습니다.
우리 모두 테런스 타오는 알지만, 페터 숄체는 아십니까?
필즈상 수상자이고, 타오도 우리 시대의 가장 중요한 수학자 중 한 명으로 꼽은 사람입니다.
숄체는 이렇게 알려져 있습니다. „지금까지 이루어진 모든 연구를 하나로 아우르는 정확하고 가장 깔끔한 방법을 찾아내 그것을 우아하게 정식화하고, 그렇게 정말로 올바른 틀을 찾았기에 기존 결과를 훌쩍 넘어서는 데까지 나아간다“
어떤 면에서 이 사람은 AI의 보완재입니다. 증명만 내놓는 게 아니라 이해를 만들어 내니까요.
어쩌면 이 사람이 미래 수학자들의 올바른 본보기일지도 모릅니다.
https://www.quantamagazine.org/peter-scholze-and-the-future-of-arithmetic-geometry-20160628/
페터 숄체조차 극도로 복잡한 수학적 명제의 정확성을 항상 확신하지는 못하며, 자기 결과를 검증하는 데 컴퓨터의 도움을 환영합니다.
Liquid tensor experiment를 보세요.
https://xenaproject.wordpress.com/2020/12/05/liquid-tensor-experiment/
https://www.ma.imperial.ac.uk/~buzzard/xena/pdfs/liquid_tensor_experiment.pdf
" 나는 2019년의 상당 기간을 이 정리의 증명에 사로잡혀 지냈고, 거의 미칠 지경이었다. 결국 논증을 종이에 정리해 낼 수는 있었지만, 다른 누구도 감히 이 세부 내용을 들여다보지 않았을 것이라고 생각한다. 그래서 나는 지금도 작은 의심이 조금 남아 있다. "
어떤 의미에서 수학은 소프트웨어 공학과 크게 다르지 않습니다.
더 정확히는 커리-하워드 대응입니다.
https://en.wikipedia.org/wiki/Curry%E2%80%93Howard_correspondence
이 사람은 인간 수학자 협회 회원이기도 합니다.
“
회원은 기술 노동, 수학 지식, 자문, 홍보를 제공하는 방식으로 상업적 AI 기업과 협력하지 않을 것을 약속한다.
회원은 AI 모델이 생성한 수학 텍스트(논문, 리뷰, 심사 보고서, 강의 노트, 교육 자료, 책 포함)를 출판하지 않을 것을 약속한다. 회원은 AI 도구의 산출물이 아니라 자기 자신의 글만 출판한다. 우리는 수학 저술에 인간 저자가 있어야 한다고 확언한다. “
https://www.ahmath.org/members
AI를 쓴 적이 없다는 암호학적 증명도 공개하나요? AI 기업들에 자기 IP 주소 등을 블랙리스트에 올려 AI 서비스에서 영구 차단해 달라고 요청하고, 그 차단을 받았다는 검증 가능한 암호학적 증명 같은 것도 제시해야 하지 않을까요.
아니면, 협회 안의 동료들은 선의로 행동한다고 믿는 걸 수도 있죠. 실리콘밸리처럼 도덕적으로 파산한 공동체 출신이 아니니까요.
그걸 어떻게 압니까? 실수로 AI를 쓰게 되는 것도 쉬운 일입니다. 수학자들이니 수학에는 증명이 필요하다는 걸 알 겁니다. AI를 쓰지 않겠다고 서약했다면 암호학적 증명을 제시해야 하고, 그러지 않으면 그 진술은 거짓으로 간주해야 합니다.
실리콘밸리가 어디가 도덕적으로 파산했다는 겁니까?
수학의 거의 모든 곳에 작은 수가 나타나는 것과 같습니다. 작은 수는 개수가 한정되어 있어요. 이런 것이 우연의 일치로 보일 때도 있죠. 마찬가지로 작고 우아한 설명도 개수가 한정되어 있습니다. 수학의 우주가 확장되면 이렇게 늘어난 결과를 설명할 방법은 복잡한 설명뿐일 겁니다.
이론적으로는 맞지만, 실제로는 서른 쪽쯤에 들어가는 증명의 공간이 워낙 방대해서 가까운 미래에 그걸 다 소진할 것 같지는 않습니다.
라마누잔도 그런 사람입니다. 많은 걸 머릿속으로 해냈고 방법에는 형식성이 많이 부족했죠. 직관적인 수학자들 중에는 이런 경우가 많습니다(모치즈키 신이치도 그렇습니다. 다만 그의 연구는 다른 사람들이 이해하기가 너무 어려워서 엄밀성이 없어 보이는 것일 수도 있습니다).
https://en.wikipedia.org/wiki/Peter_Scholze
아, 인식론이라... 요즘 학계 연구자 중에 이런 걸 신경 쓰는 사람이 있기는 한가요?
학계에 계시다면 최근 큰 변화를 눈치채셨을 겁니다. AI를 통한 산업 규모의 연구 생산이죠.
연구비는 '늘' 양에 질을 곱한 값을 기준으로 교수들에게 주어져 왔습니다. 그런데 이제 같은 공저자 무리와 한 달에 논문을 1~3편씩 찍어 내는 교수들이 있습니다. 연구비는 전부 그쪽으로 갑니다. 연구비를 주는 쪽은 발표된 논문 수만 세고 있어요.
산업혁명이 학계에도 닥쳤습니다. 어떤 학자들은 연구의 수공업적 가치를 옹호하느라 바쁘고, 어떤 학자들은 연구 공장을 세우고 있죠.
네, 진짜 과학자들은 인식론을 신경 씁니다.
문제는 진짜 과학, 즉 탐욕에 얽매이지 않고 진리와 지식을 추구하는 일을 체계적으로 억누르는 구조입니다.
"연구 공장"을 좋게 말하는 순간, 당신은 "풍요로운" 과학의 생산물을 반기며 즐기는 생각 없는 소비자의 입장을 취하게 됩니다.
가축도 풍요롭게 산다는 걸 모르시는군요.
'진정한 스코틀랜드인' 오류입니다. '진짜'라는 입장을 취하는 순간 위 글은 의미 있는 논증이 되지 못합니다.
'가짜' 과학자들이 LLM이 만든 논문을 쏟아내서 돈, 자원, 사회적 지위를 전부 가져가고, '진짜' 과학자들은 쓸모 0인 느려터진 이상주의자로 외면받는다면, 사회의 눈에는 앞쪽이 뒤쪽보다 더 과학자인 겁니다.