요약
유료 이용자가 Claude를 모델 학습 보조로만 썼는데도 경쟁 모델 개발로 분류돼 차단당했다고 주장합니다.
X 이용자 자하오 사오가 다리오 아모데이와 앤트로픽을 지목해 올린 글입니다. 한 사람의 주장이고, 글에는 앤트로픽의 입장이 없습니다.
왜 중요한가
- 주장이 맞다면 Claude에게 학습을 맡기지 않고 작업 관리만 시켜도 제재 대상이 될 수 있습니다.
- 제재가 작업 도중의 모델 교체와 세션 종료로 나타나, 연구 자동화 작업이 끊길 수 있습니다.
핵심 내용
- 작성자는 증류(다른 모델의 답변으로 자기 모델을 학습시키는 것)를 한 적이 없다고 했습니다.
- 롤아웃(모델이 문제를 풀며 남긴 실행 기록)은 성능 좋은 오픈소스 모델에서 얻었다고 설명했습니다.
- Claude는 작업 제출과 분석만 도왔는데도 "training a competitor"(경쟁 모델 학습) 판정을 받았다고 합니다.
- 이후 RFT와 SFT(강화 학습·지도 학습 방식의 미세 조정), 더 큰 모델 학습에 관한 요청이 막힌다고 합니다.
- 막힐 때는 Opus 5.5가 Opus 5로 낮아지거나 세션이 아예 끊긴다고 했습니다.
HN 반응
- 업체 의존을 줄이려 대안을 키워야 한다는 의견과, 최고 모델을 쓰다 막히면 옮기면 된다는 반론이 갈렸습니다.
- 감시와 자율 무기에 선을 그은 점을 옹호하는 쪽과, 팔란티어에 판매하니 말뿐이라는 쪽이 맞섰습니다.
클로드와 앤트로픽 모델이 아무리 마음에 들더라도, 업무로 쓰는 사용자라면 누구나 대안과 대체 수단을 적극적으로 마련해 두고, 생태계 전체가 가능한 한 열려 있고 표준화되어 있으며 이식하기 쉽도록 힘써야 한다는 건 분명해 보입니다.
앤트로픽은 아주 확고한 주관을 가진 독단적이고 이상주의적인 회사입니다. 이미 실용적인 결정을 내려서, 가치 사슬의 더 높은 곳을 공략하려고 한 무리의 사용자를 쳐냈습니다. 일반 사용자가 아니라 소프트웨어 엔지니어링을 노렸을 때 내린 결정이 본질적으로 그것이었죠. 원하지 않는 사용자층과 사용 방식을 계속 잘라내면서 이걸 거듭 반복한다는 점은, 이것이 한 번의 실용적 사업 판단이 아니라 변하지 않는 핵심 원칙이라는 사실을 뒷받침합니다.
이는 결국 더 높은 차원에서 보면, 그들의 핵심 원칙이 폭넓고 접근하기 쉬운 서비스를 제공하는 것이 아니라 "필요 없는" 사용자를 희생시키는 것이라는 뜻입니다. 그러니 내 사용 방식이 그들의 이해관계와 충돌하면 잘릴 위험이 매우 높다는 걸 받아들여야 합니다. 일상의 중요한 경로 어딘가에서 이미 앤트로픽에 의존하고 있다면 이건 상당한 문제가 될 겁니다.
그런데 왜 그래야 하죠? 저는 데이터센터에 VRAM이 절반 테라바이트나 되는 카드를 두고 있는데, 이걸로 프로그래밍을 하거나 앱 안에서 써 보면서 의미 있는 걸 배웠는지는 전혀 모르겠거든요.
제 개인 비서가 제대로 동작하게 하려고 제가 하는 온갖 일을 친구에게 얘기했어요. 프롬프트 엔지니어링, 가짜 사이트 평가, 전부요. 그런데 Opus 5.5에 시키면 아무것도 필요 없어요. 기본 상태에서 이미 성능에 완전히 맞춰져 있거든요.
게다가 제가 뭘 배웠나요. 모델이 바뀌면 통하는 방법도 바뀝니다. 중국 모델에서 배울 건 며칠이면 다 배울 수 있고요. "스킬을 쌓는다"는 말 자체가 허튼소리예요.
저한테는 기법 모음이 있고 그중 극히 일부만 블로그에 공개했는데, 현실은 어떤가요. 다음 모델이 나오면 그 기법들은 필요 없어져서 먼지처럼 날아갑니다. 다시 평평한 운동장이 되는 거죠.
이런 식으로 쌓아 가는 건 거짓 신입니다. 시간 낭비예요. 쓸 수 있는 최고의 모델을 쓰세요. 가드레일에 막히면 다른 모델로 옮겨 가고요. Opus 4.8도 충분합니다. 정말 정당한 이유로 가드레일을 피하고 싶다면 -cyber 모델을 쓰세요.
그러고는 넘어가세요. 그 기법 모음은 먼지입니다.
에콰도르에 와오라니족이라는 부족이 있습니다. 이들은 70년 전에야 외부 세계와 접촉했습니다. 적도에 살기 때문에 겨울을 나려고 식량을 저장하는 것처럼 앞날을 내다볼 필요가 없었습니다. 석유 회사들이 개발 부산물로 땅을 오염시키고 숲을 대규모로 베어 내며 자기들 땅을 파괴하고 있다는 것을 알았고, 그래서 맞서는 활동가가 되었습니다. 하지만 이들 문화에서는 다른 사람들에게 식량을 나눠 줄 수 있는 훌륭한 사냥꾼을 아주 높이 평가했기 때문에, 석유 회사가 주는 지원품을 받으려고 줄을 섰고 결국 그들에게 의존해 저임금 노동을 하게 되었습니다. 몇 년 전 이 이야기를 읽었을 때 저는 현대 문화권 사람들은 이렇게 순진하지 않을 거라고 생각했는데, 제가 틀렸다는 걸 알겠네요.
그 비유가 여기에 어떻게 들어맞나요?
부모 댓글은 (와오라니족처럼) 의존하지 말라고 설교하는 건데요.
게다가 와오라니족도 가장 앞선 기술을 쓰지 말고 낡은 발판을 그대로 붙들고 있어야 한다는 건가요?
수정: 헉! 이 사람들이 현대 문명과 접촉하기 전에 더 잘 살았다고는 생각하지 않아요.
>와오라니족은 인류학에 알려진 사회 중 살인율이 가장 높을 수 있다. [0]
[0] https://pmc.ncbi.nlm.nih.gov/articles/PMC2688884/
조부모 댓글은 의존하지 말라고 설교하는 것이고, 부모 댓글은 그러려고 해 봐야 소용없다고 말하는 것 같은데, 제가 잘못 해석했을 수도 있겠네요. 어쨌든 많은 사람이 앞다투어 의존하고 있습니다.
완벽한 비유는 없습니다. 와오라니족의 상황이 세부적으로까지 여기에 길잡이가 된다고 주장하는 건 아닙니다.
무슨 말씀인지 알겠습니다.
제 생각에 부모 댓글의 요지는 쓴 교훈(Bitter Lesson)과 이어집니다.
컴퓨트의 발전이 영리한 최적화를 압도한다는 점을 알고, 쓸 수 있는 최고의 도구를 쓰라는 거죠.
모델들이 서로 앞서거니 뒤서거니 하던 걸 멈춘다면 성립하지 않겠지만, 지금까지는 성립하는 것 같습니다.
저는 1년 동안 앤트로픽 모델이나 GPT를 제대로 쓴 적이 없어요. 둘 다 쓸 수 있는데도요. 어느 쪽 회사도 지지하지 않거든요. 둘 다 진짜 악한 사람들이 이끌고 있다고 생각해요.
동의해요. 저도 마찬가지예요. 업무에서는 GLM을 쓸 수 있어서 Opus 4.8을 쓰는 걸 빼면요.
"그들이 악한 사람들이 이끌고 있다"는 이유를 좀 설명해 주실 수 있나요? 그리고 "악한 사람들이 이끌지 않는" AI 회사는 어디인가요?
샘과 다리오는 EA-합리주의 진영 출신입니다. 이들의 궁극적인 목표는 누구보다 먼저 전능한 ASI를 만들고, 다른 누구도 다시는 못 만들게 하는 것입니다. 물론 그 ASI는 이들 집단의 이익과 도덕 철학에 맞춰 정렬되겠죠.
현실에서 이들은 "그저" 미국 경제를 장악하고, 노동자 대부분을 AI로 대체하고, 조 단위 재산가가 되고, ClaudeGPT가 사람들의 의견에 영향을 주게 하고 코드에 백도어를 심는 방식으로 세상을 지배하고 싶어 합니다. 그러려면 그 과정에서 오픈 모델도 금지시켜야 하고요.
중국은 그저 돈을 벌고 미국을 이기고 싶을 뿐입니다. Mistral과 BFL은 유럽도 여전히 혁신할 수 있다는 걸 증명하고 싶어 하고요. 이들에게는 악한 목표가 없으니 악한 사람들이 아닙니다.
"중국은 그저 돈을 벌고 미국을 이기고 싶을 뿐입니다. 이들에게는 악한 목표가 없으니 악한 사람들이 아닙니다."
며칠 전에 킬리안 음바페가 마오쩌둥을 소재로 농담 한마디 했다고 대놓고 검열했잖아요. 그리고 중국이 개발한 모델은 전부 검열 같은 것까지 포함해서 중국 정부의 시각에 맞춰야 할 텐데요. 정말로 그들이 악하지 않다고, 앞으로도 악해지지 않을 거라고 믿으시나요?
이제는 상관없는 지경이에요. 노골적으로 선전하는 중국 모델이 검열하고 혁신을 제한하는 폐쇄형 모델보다 낫습니다.
OpenAI가 진지하게 받아들여지고 싶다면 이름값을 해야 해요.
앤트로픽은 절대 안 바뀔 겁니다.
기억에 의존해서 말하자면, 바이오웨어의 옛날 게임 〈제이드 엠파이어〉에서 플레이어는 아주 뛰어난 전사가 됩니다. 게임 중반에 가면 옛 스승이 자기 적들과 싸우게 하려고 나를 조종했고, 스승 자신도 상당한 악당이라는 걸 알게 되죠. 그와 싸우다 보면, 스승이 나중에 필요할 때를 대비해 내 기술을 미묘하게 일부러 망가뜨려 놓아서 자기가 우위에 설 수 있게 했다는 것도 알게 됩니다.
차이는 이거라고 봅니다. 중국 연구소들은 압도적으로 논문을 내고, 기법을 논의하고, 오픈 웨이트 모델을 내놓습니다.
누군가를 끊기로 하더라도 자기들 기술이 앞으로 나아가면서 서서히 일어나는 일입니다.
그런데 어떤 주황색 원숭이가 자기의 "슈퍼" 인텔리전스를 협상 카드로 쓰기로 마음먹으면 스위치가 내려갈 수 있고, 거기에 의존하던 사람들은 속수무책으로 남겨집니다.
이 차이를 못 보신다면 그건 본인 탓입니다.
NBA 선수들이 무릎 꿇은 것처럼요? ;)
gnosh.ai ("기능하는" AI를 눈으로 확인할 수 있는 https://gnosh.ai/head-to-head.html 참고 -- 더는 압축이 필요 없고, 타입이 있는 생각과 기억이 있음.
이제 고양이가 자루에서 나왔습니다.
브록먼은 트럼프에게 가장 많이 기부한 사람 중 하나입니다.
https://finance.yahoo.com/news/openai-exec-becomes-top-trump-230342268.html
앤트로픽이 진짜 악하다고 생각하는 이유를 말씀해 주실 수 있나요?
그럼 이게 전부 가짜였다는 건가요?
https://www.anthropic.com/news/statement-department-of-war
네. 앤트로픽이 반대한다고 주장하는 온갖 일을 하는 팔란티어에 팔고 있잖아요.
팔란티어가 완전 자율 무기를 갖고 싶어 하는 건 맞지만, 그들이 실제로 그걸 갖고 쓰고 있다는 증거는 제가 아는 게 없습니다. 또 대규모 감시에 관해서도 팔란티어가 지금 하는 일과 하고 싶어 하는 일 사이에는 아마 차이가 있을 겁니다. 앤트로픽이 여기서 반대 입장을 낸 것(정부 금지 조치와 보안 위험 지정으로 큰 대가를 치렀죠)은 "진짜 악하다"는 이 글의 주장과는 반대되는 근거입니다.
무슨 말씀이세요? 팔란티어는 예전부터 늘 그대로의 모습입니다. 달라진 건 이제 공개 선언문을 갖고 있다는 것뿐이에요.
팔란티어의 자율 무기가 어디 있죠?
이스라엘(https://www.972mag.com/lavender-ai-israeli-army-gaza/ )과 미국(https://www.theguardian.com/news/2026/mar/26/ai-got-the-blame-for-the-iran-school-bombing-the-truth-is-far-more-worrying ) 모두 과정에 사람을 끼워 넣는 것을 알리바이로 쓰거나 책임 소재를 흐리는 데 이용해 왔습니다. 이런 것들이 표적 선정·공격 시스템이 전쟁 범죄를 저지르는 것(에 쓰이는 것)을 막지는 못한 게 분명합니다.
그리고 바로 이런 맥락에서 정부가 이걸 더 밀어붙이려는 데 "안 된다"고 말한 거잖아요.
이게 악한 계획에 어떻게 도움이 되나요?
클로드가 자기가 무엇에 쓰였는지 알게 되면 정렬 문제가 생기겠네요.
전쟁부(Department of War)에 더 믿을 만한 무기를 만들어 주겠다고 제안하다니 정말 대단하네요.
아니요, 하지만 이건 어느 정도 해당합니다.
"그러나 소수의 한정된 경우에는 AI가 민주주의 가치를 지키기보다 훼손할 수 있다고 우리는 믿습니다. .. 국내 대규모 감시. 완전 자율 무기."
트럼프에게 어떤 식으로든 거절한 다른 회사가 몇이나 되죠?
이건 눈속임일 뿐입니다. 그들은 팔란티어에 팔고, 팔란티어는 정부가 국내 감시(서구 "민주주의" 국가와 그 대리 국가 거의 전부)와 자율 무기(적어도 미국과 이스라엘)에 쓰게 하는 곳이잖아요.
트럼프에게 거절한 걸로 친다면, 여러 회사(적어도 애플과 코스트코는 그렇다고 알고 있어요)가 여전히 내부적으로 DEI 프로그램을 유지하고 있어요. 그래도 대부분 회사가 실제 법이나 계약상 의무도 아닌데 트럼프와 공화당이 싫어한다는 이유로 자진해서 그 프로그램을 없앴다는 게 저는 아직도 믿기지 않아요.
그런데 제가 답글을 단 주된 이유는 이 말을 하고 싶어서예요. 트럼프에게 거절했다는 사실만으로는 그 회사가 악하지 않다는 뜻이 되지 않습니다. 세상의 모든 악이 트럼프의 악인 건 아니니까요.
대안을 적극적으로 마련해 두라
전적으로 동감합니다. 저는 [cyber] 분류에 너무 많이 걸려서 이제는 클로드조차 그걸 농담거리로 삼아요. 클로드는 훌륭하지만 운영하는 쪽 때문에 저한테는 믿고 쓰기 어려워졌습니다. 프로젝트 하나는 이미 다른 곳으로 옮겼고, 나머지도 내일 옮길 예정입니다. 필요한 일부를 abliterated 로컬 모델로 돌릴 수 있도록 알맞은 하드웨어를 갖출 때까지의 임시방편이에요. 그쪽의 메시지는 크고 분명하게 전달받았습니다.