요약
AI가 과학 문헌이라는 공유지를 사유 재산으로 바꾸는 새 인클로저가 될 수 있다는 논문입니다.
하버드-스미스소니언 천체물리학 센터의 천문학자 P. K. G. 윌리엄스가 쓴 14쪽짜리 글입니다. 17~18세기 영국에서 공유 목초지를 울타리로 막아 사유지로 만든 인클로저(공유지 사유화 운동)에 빗대어, 생성형 AI가 과학 문헌에 하는 일을 설명합니다.
왜 중요한가
- AI 논쟁의 초점을 기술 성능에서 누가 이익을 가져가느냐는 경제·정치·권력 문제로 옮기자고 제안합니다.
- 데이터 무단 사용을 넘어, 동료 심사처럼 공유지를 지탱하는 사람들의 일까지 무너질 수 있다고 경고합니다.
핵심 내용
- 영국 공유지는 남용으로 무너진 것이 아니라 부유한 지주들이 빼앗아 사라졌다고 봤습니다.
- 대규모 언어 모델(LLM)의 학습 데이터는 대부분 공개 자료인데, 이익은 AI 기업이 가져간다고 지적했습니다.
- 창작자가 받은 보상은 앤트로픽이 작가들과 맺은 약 15억 달러 합의가 사실상 전부라고 했습니다.
- AI가 대량으로 만든 저품질 글(슬롭)이 코드 리뷰와 학술 심사를 서비스 거부 공격처럼 마비시킨다고 봤습니다.
- 땅을 빼앗던 옛 인클로저와 방식은 달라도, 공동의 부를 사유화한다는 본질은 같다고 결론 내렸습니다.
HN 반응
- 연구 문헌 다수를 영리 출판사 5곳이 쥐고 있어 '누구의 것도 아니다'라는 전제가 약하다는 지적에, 소수 AI 기업 독점보다는 낫다는 반론이 나왔습니다.
- AI 투고가 쏟아져 학술지 심사가 마비될 것이라며 논문의 우려에 공감하는 댓글이 있었고, AI 덕분에 논문을 훨씬 많이 읽게 됐다는 경험담도 나왔습니다.
이런 결론에 도달하려면 얼마나 억지를 부려야 하는지 상상하기 어렵습니다.
지금은 사실상 100년이 넘는 저작권 보호 기간에 대해서는 한마디도 없습니다. 가장 성공한 AI 모델 일부가 오픈소스라는 얘기도 한마디도 없고요.
저자가 말하는 공유지의 울타리 치기(enclosure)는 소스 코드가 공학이 아니라 예술로 분류되고, 로비 활동으로 저작권 기간이 늘어나던 때부터 계속 진행되어 왔습니다. 제 생각에 AI 기술은 그 울타리를 짓밟고 있고, 그래서 많은 사람이 화를 내는 겁니다.
(이 논문을 읽고도?) 이런 결론에 도달하려면 얼마나 억지를 부려야 하는지 상상하기 어렵습니다.
논문의 문장을 그대로 옮기면 이렇습니다. "20세기 동안 IP로 취급되는 인간 창작물의 범위가 극적으로 넓어졌으며, 이 현상은 '두 번째 인클로저 운동'이라 불려 왔다."
오픈 웨이트 모델은 오픈소스가 아닙니다. 오픈 웨이트 모델을 내놓는 기업들은 지금 자기 사업 이익에 맞아서 그렇게 하는 겁니다. 언제든 원하면, 혹은 정치적 압력을 받으면 접근을 끊을 수 있어요. 정말로 신경 쓴다면 학습 데이터와 절차를 공개하고 자기네 학습 인프라에 대한 접근을 민주화했을 겁니다.
맞습니다, 제가 잘못 봤네요. 논문은 IP를 인클로저의 한 사례로 다룰 뿐 아니라 FOSS(GPL)도 다루고 있군요.
그래도 저는 여전히 동의하지 않습니다만, 제가 더 중요하다고 생각하는 쟁점들을 저자가 겉핥기로나마 다루려 한 건 보이네요.
슈프링거가 한마디 하고 싶어 하실 텐데요.
글쎄요, 슈프링거의 가혹한 요구에도 불구하고 자기 논문을 온라인에서 볼 수 있게 해 두는 모든 과학자와 학생들에게도 한마디 하고 싶어 하겠죠. 하지만 그런 말은 이제 먹히지 않습니다. 뭐, 대체로는요.
오픈소스에 대한 논의가 상당히 빈약했습니다. 저자는 오픈소스를 GPL 카피레프트로만 생각하는 것 같아요. 실제로 오픈소스의 대다수는 허용적 라이선스이고, 개발 자금도 영리 기업이 댔습니다. 우리의 정보 공유지가 어떻게 만들어졌는지 논할 때 꼭 따져 봐야 할 부분인데 말이죠.
글 끝부분에 이 글을 자기 이익과 변화에 대한 저항 이상의 이야기로 읽어 달라는 문단이 있긴 한데, 그 "이상"이 무엇인지는 글에서 맛보기조차 보여 주지 못한 느낌입니다.
저한테 가장 생각해 볼 만했던 부분은 AI 기업들이 쓸 수 있는 데이터를 거의 전부 학습에 써 놓고는 "독점 학습 데이터를 만드는 데 점점 더 많은 돈을 쓰고 있다"는 대목이었습니다. 일종의 직관적인 사회적 계약이 깨지는 느낌이에요. 다들 남의 지식을 가져다 썼으면, 너희 것도 내놓으라는 거죠.
3brown1blue의 Grant가 지난 몇 주 사이 AI 기업들이 내놓은 결과물을 놓고, 수학 분야 경력을 가능하게 하는 경제와 구조를 짚어 보는 영상을 올렸습니다. 전체적으로 훨씬 희망적이었고, 이 글처럼 인클로저 같은 맞지 않는 역사적 틀을 끼워 맞추느라 억지를 부릴 필요도 없었습니다. 한번 볼 만합니다: https://www.youtube.com/watch?v=LKrwhjOI8Nc
저는 지난 10년보다 작년 한 해에 논문을 더 많이 읽었습니다. 아주 다양한 주제에 걸쳐서요. AI는 여전히 작동하려면 과학에 대한 공개 접근이 필요하지만, 그 공개 접근을 제가 실제로 쓸 수 있는 것으로 만들어 줬습니다. 이전의 어떤 기술도 이만큼 과학 공유지를 제게 열어 준 적이 없습니다.
앞으로 문을 걸어 잠그는 일이 생길까 하는 우려는 있을 수 있습니다. AI에게 문헌을 직접 "찾아보라"고 프롬프트로 시켜야 하고, 그러지 않으면 아예 생각하지 않은 채 대부분 아무 웹 페이지나 선호한다는 점이 아쉽긴 합니다. 하지만 적어도 지금은 과학이 그 어느 때보다 열려 있고 접근하기 쉽습니다.
논문을 더 많이 읽으신 겁니까, 아니면 중간 수준의 소비자 입맛에 맞추도록 RLHF를 거친, 중학교 2학년 수준으로 읽는 AI에게 역대 최다 논문을 요약시킨 겁니까?
정반대 주장, 즉 AI가 과학적 탐구와 기여의 문을 그 어느 때보다 많은 사람들에게 열어 줄 것이라는 주장도 똑같이 그럴듯하게 펼 수 있다면, 그건 앞으로 무슨 일이 일어날지 아무도 모른다는 신호라고 봅니다. 그렇다면 데이터가 더 쌓이기 전까지는 어느 쪽 주장을 하든 시간 낭비일 가능성이 큽니다.
LLM 기반 과학 연구를 돌리는 데 필요한 컴퓨팅에 누가 접근할 수 있느냐에는 상당한 제약이 있다는 건 꽤 분명합니다.
꼭 그렇지는 않습니다. 여러 종류의 연구와 실험을 훨씬 더 유능하게 자동화한다는 가장 쓸모 있는 활용 방식 중 일부는 그렇지 않아요. 데이터셋과 괜찮은 GPU가 달린 노트북이 있거나, 최첨단 수준일 필요도 없는 모델에 접근할 수 있는 꽤 저렴한 API나 구독만 있으면 됩니다. 그러면 수많은 분석 방법과 부분집합 분석을 지능적으로 반복하는 루프를 만들 수 있고, 다른 출처의 데이터로 보강하고, 연구 문헌을 검색해서 분석 결과를 다른 연구 결과와 교차 확인하고, 사람이 검토할 간단한 요약을 쓰고, 대안이 될 분석 방법을 찾아보게 할 수 있습니다.
물론 모두가 에이전트 군단을 띄우고 토큰 수십억 개를 쓸 수 있는 건 아닙니다. 하지만 과학 연구에는 원래부터 가장 앞선 도구가 접근하고 싶은 모든 과학자의 손이 닿지 않는 영역이 있었습니다.
이번에 다른 점은 이런 상황이 거의 모든 분야로 확대되고 있다는 겁니다.
앞으로 5년 정도뿐입니다. 7~10년 뒤에는 메모리와 컴퓨팅 가격이 80~90% 떨어질 겁니다. 10년 뒤에는 지금의 최첨단인 초당 1만 4천 토큰짜리 머신과 4TB 메모리가 고풍스러워 보일 겁니다. "저걸로는 커널 하나, 쓸 만한 POSIX 호환 OS 전체를 일주일 안에 부트스트랩하지도 못했다니" 하면서요. 그때는 "컴퓨터가 지금 하는 작업에 맞춰 실시간으로 자기 펌웨어를 업데이트한다"가 될 테고요.
그런데 같은 추세가 최상위 하드웨어의 성능과, 조 단위 달러 규모 기업들이 규모의 경제를 활용하는 능력도 똑같이 크게 끌어올리지 않을 이유가 있나요?
AI 역량이 민주화되어 소수 연구소 밖의 평범한 과학자들에게도 도움이 될 수 있다는 생각에는 저도 전적으로 찬성합니다. 하지만 시장이 알아서 하도록 내버려 두는 것만으로는 안 될 테고, 빅테크를 견제할 장치가 필요해 보입니다.
그게 어떤 메커니즘으로 일어나는데요?
대형 AI 연구소 중 한 곳(비싼 최첨단 모델에 너무 매달리니까 아마 앤트로픽)이 지급불능에 빠지고 트레이더들이 패닉에 빠져 기술주를 팔아 치우면서 수요가 무너지는 경우입니다.
그런 일이 없더라도, 데이터센터에 지나치게 투자한 오라클 같은 비(非)AI 기업 상당수가 망해서 하드웨어를 내다 팔게 될 겁니다. 대형 모델은 많은 중소기업에게 너무 비싸지고 있어서, 수요가 GPU를 덜 먹는 모델로 옮겨 갑니다. 그러면 오라클에는 남아도는 용량이 생길 수 있습니다.
게다가 높은 마진이 투자를 끌어들이니 공급도 늘어납니다. 새 DRAM 팹과 패키징 시설을 짓기에 7년은 현실적인 기간이고, 정부가 안보 문제로 다루면 더 짧아질 수도 있습니다.
GPU의 마진은 지금 80%로 추정됩니다. 그러니 생산 설비만 늘려도 가격은 70% 정도 떨어질 가능성이 큽니다. 여기에 비용이 조금 줄어드는 것까지 감안하면 가격이 80~90% 떨어질 수 있습니다.
컴퓨터가 이렇게 비싼 유일한 이유는 수요가 감당 못 할 만큼 폭주하고 있어서입니다.
그럴 수도 있죠. 하지만 그런 제약이 지금 과학 연구에 기여하기 위해 필요한 요건들보다 더 부담스러울까요, 덜 부담스러울까요? 아직 지켜봐야 한다고 생각합니다.
저는 그 주장이 전혀 그럴듯해 보이지 않습니다. 하늘에 작은 조랑말들이 있다고 말할 수도 있겠지만 그렇다고 그게 사실이 되지는 않잖아요.
ChatGPT에 프롬프트를 입력하는 게 "과학"인가요? 쓸 만한 답이 나오는지 보는 일종의 실험이긴 하겠죠. 그렇다면 가설은 모델이 내 질문에 올바르게 답할 수 있다는 것일 텐데, 그 답을 검증할 학문적 기초가 없다면 그 가설을 어떻게 반증합니까?
ChatGPT는 실험 대상이 아니라 연구 보조입니다. 과학적 탐구란 기존 과학을 설명받고 좋은 실험을 설계하는 데 ChatGPT를 쓰는 것이고, 실험을 마쳐서 데이터가 나오면, 화학자나 생물학자, 코딩을 싫어하는 사람 같은 이들을 위해 데이터를 분석하는 코드를 짜 주고 멋진 시각화도 만들어 주는 겁니다.
지금 이 일이 어떤 식으로 나타나고 있는지 가장 간단히 이해하는 방법은, 정부가 NSF의 기초과학 예산을 유례없이 심각하게 삭감하고 있다는 점입니다(NSF 각 부문에 책정한 의회의 예산안을 거스르는 것이어서 위헌일 가능성도 큽니다). 그 대신 (백악관 OSTP가) 자금을 돌리는 방식은 미래의 지식이 전적으로 AI(아, SI라고 해야 하나)가 만들어 낼 것이고 그러니 인간은 필요 없다는 가정에 기반하고 있습니다.
반면 중국은 기초 연구에 더 힘을 싣는 것으로 보이고, 다음과 같은 변화를 발표하기도 했습니다.
https://www.globaltimes.cn/page/202609/1371583.shtml
그리고 이것도요: https://www.scmp.com/news/china/science/article/3368750/china-offers-15-year-research-grants-worlds-brightest-young-scientists
좀 더 자세히 설명해 주실 수 있나요? 제가 받은 인상으로는 트럼프 행정부가 기초과학(그리고 다른 많은 분야)의 예산을 삭감한 진짜 이유는 "정부는 나쁘다"는 자유지상주의와, 그 자금이 자기네 이념의 적들에게 가고 있다는 믿음이 불경하게 뒤섞인 결과입니다.
자금 돌리기를 정당화하려고 AI를 끌어다 쓰는 건 사후 합리화일 가능성이 가장 크다고 봅니다.
질문에 달린 다른 답글과 같은 얘기인데, 상당 부분이 사후 합리화라는 점에는 크게 이견이 없습니다. 다만 생각이 변해서 이제는 이 사후 합리화를 진짜로 믿게 된 것 같습니다. 저는 자금이 어디로, 어떤 목적으로 흘러가는지를 지켜보는 관찰자 입장에서 말씀드리는 겁니다. 대학 중심이 아닌 대형 프로그램으로 연구소를 짓거나 AI 발견용 데이터셋을 만드는 경우가 많습니다. 일부 아이디어는 가치가 있을지 몰라도, 안타깝게도 공짜 점심은 없습니다. 그 돈은 개별 연구책임자(PI)와 그 밑의 훈련생들을 지원했을 돈이니까요.
공개된 발표를 보면, 원래 계획은 과학 예산을 삭감하는 것이었는데 의회가 "안 된다"고 하자, 차선책으로 시설 운영이나 제네시스 프로그램처럼 인간 과학자가 아닌 항목으로 돌리는 쪽이 되었습니다.
저는 이게 완전히 무관하다고 봅니다.
이 행정부는 과학이 자기 생각과 어긋나는 말을 하니까 '워크(woke)'하다고 여깁니다. 이런 예산 삭감 중 상당수는 정치적 동기가 명백했고, 예를 들면 다양성, 젠더, 백신에 관한 연구를 콕 집어 겨냥했습니다.
AI 문제가 아니라, 진보 쪽 대의에서 예산을 빼서 보수 쪽 대의에 주는 문제입니다.
안타깝지만 전적으로 관련이 있습니다. 초기의 취소 물결은 그런 주제들을 겨냥했지만, 이들이 지금 시도하는 더 구조적인 일은 NSF가 해 온 인적 자본 육성 대신 AI 모델용 도구 개발에 예산을 집중하는 것입니다.
아뇨, AI와도 관련이 있습니다. 트럼프 일당은 앞으로 학계에 연방 보조금을 주는 일이 없기를 바랍니다. 대신 정부가 xAI 같은 곳에 직접 수표를 끊어 주면, 그들이 우리 연구를 전부 대신해 줄 거고, 주주들만이 아니라 우리 이익을 대변해 줄 게 확실하다는 거죠.
AI가 없었더라도 그는 똑같은 일을 할 다른 핑계를 찾았을 겁니다.
진짜 이유는 일론 머스크가 보수 쪽 거액 기부자인 반면 학계는 트럼프에 공공연히 반대하기 때문입니다. 적에게서 빼앗아 친구에게 주는 것, 그게 그 사람이 일하는 방식입니다.
"누구의 소유도 아니며 모두가 함께 쓰는 무형의 자원"이라고 하셨는데... 이 "주인 없는" 무형의 자원을 남들과 나누려 하면 전 세계 경찰이 달려들어 괴롭히고, 심하면 감옥에 보낼 수도 있습니다(Anna's Archive를 보세요).
그러니 "누구의 소유도 아니다"라는 말이 꽤 무거운 짐을 지고 있는 셈이고, 그게 이 글 전체의 토대이기도 합니다.