요약
오픈AI가 AI로 찾은 PHP 치명적 취약점에 공동 대응하고, 이를 본뜬 공개 전 대응 절차를 제안했습니다.
오픈AI가 지난 두 달 동안 PHP 메인테이너(프로젝트를 관리하는 개발자), 보안 업체들과 함께 치명적 취약점 두 건에 대응한 과정을 공개했습니다. 보안 연구 업체 캘리프가 Patch the Planet 활동 중 GPT-5.6 Sol로 결함을 찾았고, 위즈도 두 취약점을 따로 찾아 보고했습니다.
왜 중요한가
- 웹사이트에 널리 쓰이는 PHP의 결함이라, 오픈AI는 최근 손꼽히는 파급력의 보안 문제로 봤습니다.
- 같은 AI 능력이 공격 도구도 빠르게 만들 수 있어, 공격자보다 먼저 찾은 시간을 방어 준비에 쓰자는 제안입니다.
- 오픈AI는 비슷한 발견이 몇 달 안에 급증할 것으로 보고, 한 번으로 끝나지 않는 반복 가능한 절차를 만들려 합니다.
핵심 내용
- 대응 절차는 수정 검증, 영향받는 조직의 사전 준비, 정부 협력, 제품별 업데이트, 공개 후 배포 지원의 다섯 단계입니다.
- 수정 단계에서는 최신 모델로 패치 우회 방법과 변종 취약점을 찾는 적대적 테스트(공격자 입장에서 뚫어 보는 시험)를 합니다.
- 누구에게 미리 알릴지는 메인테이너가 정하고, 참여자는 역할에 따라 침해 흔적 로그부터 실제 공격 코드까지 받습니다.
- 보안 인력이 부족한 필수 서비스 조직에 10억 달러 규모의 Daybreak 이용을 지원하고, 메인테이너 전원에게 Codex for OSS 구독을 줍니다.
- 공개 시점, 정부의 긴급 패치, 지원이 끝난 옛 버전 백포트(수정을 옛 버전에 옮겨 적용하는 일) 등에 대해 의견을 구했습니다.
HN 반응
- 공격에도 쓰일 모델을 팔면서 방어까지 맡는 건 이해충돌이라는 비판에, 취약점은 원래 있었고 AI는 찾아냈을 뿐이라는 반론이 맞섰습니다.
- 수정이 PHP 8.2 이상에만 나와, 아직 많이 쓰이는 7.x·5.6용 백포트야말로 AI가 할 일이라는 지적이 나왔습니다.
"전 세계적 대응 조율"의 첫 문장이 "수정을 실제로 쓰이게 하려면 예전 릴리스에 맞게 바꿔야 할 수도 있다"인데... 아마 "지원되는 릴리스만"이라는 뜻이겠죠. 수정이 8.2까지만 소급되는데, 8.2는 올해 말까지 보안 지원을 받지만 8.1과 8.0에는 아무것도 없고, PHP 사이트 중에는 7.x는 물론 5.6을 쓰는 곳도 여전히 많으니까요.
보안 지원이 끝난 버전까지 PHP 팀이 패치를 내줄 거라고 기대하지는 않습니다. 하지만 지원은 끝났어도 여전히 널리 쓰이는 릴리스에 맞게 패치를 다시 작업하는 일이야말로 AI가 특히 잘 맞는 작업 같습니다. 훨씬 오래된 사이트를 운영하는 사람들이 수정을 받으려고 PHP까지 업그레이드하는 대신 그냥 PHP를 패치할 수 있다면 좋았을 겁니다.
7.x 버전은 수리 씨 덕분에 패치가 나왔습니다. 공식 지원 버전 패치와 거의 같은 속도였어요.
OpenAI는 마치 이번 일을 AI가 다 해낸 것처럼 포장하려는 듯한데, Calif가 한 말( https://calif.io/php2shell/ )을 보면 사실과 다릅니다.
사기꾼 양반이 IPO 앞두고 또 바람 잡네요.
덕분에 "Ski-bi dibby dib yo da dub dub"가 귓가에서 맴돌아요. 고맙네요.
OpenAI는 글을 시작하자마자 Calif가 GPT 5.6 Sol을 썼다고 말하고 있잖아요. 누구나 쓸 수 있는 모델인데요. 물론 운전대를 잡은 사람이 "버그를 전부 찾아내는" 것 이상의 일을 했겠지만, OpenAI는 어디서도 그렇지 않다는 식으로 말하지 않아요.
Calif가 누구인지, 뭘 하는 곳인지 저는 모르는데 링크도 없으니, 이 글만 읽었다면 "AI가 이 일을 다 했구나" 하는 인상을 분명히 받았을 겁니다.
요즘은 AI 없이 일하는 사람이 없고, 대부분 같은 모델을 쓸 수 있는데도 사람마다 하는 일과 이루는 성과가 다르죠. 묘한 시대예요.
"요즘은 AI 없이 일하는 사람이 없다"
저는 아직 그렇게 합니다. 제가 마지막 사람일지도 모르겠네요.
정말요? 고급 자동완성 같은 것도 안 쓰고, LLM이랑 결정 사항을 가끔 의논하는 일도 없어요?
네, emacs와 man 페이지뿐입니다. 문서가 필요하면 가끔 구글 검색을 하고요.
구글 AI 개요(AI Overview)도 꺼 두셨나요? 아니면 찾는 문서에 대해 그게 뭐라고 하는지 한 번도 안 읽으세요?
영구적으로 끌 수 있으면 좋겠어요. 예전에 거기 나온 틀린 정보를 실수로 읽은 적도 있습니다. 보통은 그냥 훑고 지나가려고 해요.
이 댓글에서는 골대가 어찌나 멀리 옮겨졌는지 지구에서 몇 광년은 떨어져 있네요
bigfishrunning은 "AI 없이 일한다"고 주장했습니다.
거기 쓴 "any(조금이라도)"가 정말 사실이냐고 묻는 건 결코 골대를 옮기는 게 아닙니다.
검색 결과 화면을 흘끗 보는 건 대부분의 사람에게 "AI와 함께 일한다"는 뜻이 아니에요.
뭘 그렇게 놀라시죠? 본인이 무능하게 느껴지나 봐요?
[출처 필요]
순전히 마케팅이에요. 에이전트가 이룬 진짜 기술적 성과와 마케팅용 거창한 선언을 가려내기가 점점 어려워지고 있어요. 지금은 이런 환경에서 길을 찾기가 정말 끔찍해요.
더 나쁜 건 이게 규제 포획(regulatory capture)을 노려 대중에게 겁을 주려는 더 큰 전략의 일부라는 점이에요
역겹고 조작적이에요. 해자(moat)도 없는 주제에, 받아들이세요
오늘은 pAtCh ThE pLaNeT, 내일은 소름 끼치는 지대 추구(rent-seeking)예요
하면 욕먹고 안 해도 욕먹는 거죠. 그럼 취약점 찾는 걸 아예 돕지 않는 편이 낫다는 건가요? 회사 안에 보안에 관심이 있고 그 자체를 위해 일하는 부서가 있을 거라고는 생각 안 하세요?
이런 회사들이 하는 모든 행동을 무슨 더 큰 전략의 일부로 보는 건 좀 음모론적이라고 생각해요.
이건 거짓 이분법이에요. 선택지는 그 밖에도 많아요. 모든 행동을 기록하고, 사용자가 AI 사용에 금전적·형사상 책임을 진다는 경고를 분명히 띄울 수도 있고요. 회사를 예전 로펌이나 투자은행처럼 파트너십으로 전환해서, 제품이 끼친 피해에 경영진이 개인적으로 책임지게 할 수도 있죠. 사이버 공격이 터졌을 때 모든 걸 잃는다면 위험을 지금처럼 경솔하게 다루기 어려울 거예요. 사람이 쓰는 인터넷과 물리적으로 분리된 AI 전용 인터넷을 따로 만들어서, AI는 텍스트 메시지로만 소통하고 모든 도구 실행은 샌드박스 인터넷에서 하게 제한할 수도 있어요.
"전 세계가 우리 도구로 소프트웨어를 패치하게 하자" 말고도 할 수 있는 일을 열다섯 가지는 더 들 수 있어요.
참고로 저는 보안 엔지니어로 일하고, 제 업무에는 취약점을 찾는 일도 포함됩니다.
저는 이 노력이 엉뚱한 곳을 향하고 있다고 생각합니다. 우리는 시스템을 더 탄력적으로(resilient) 만드는 방법을 찾아야 하고, 저런 회사들*이 그쪽에 집중하길 기대합니다. 취약점 연구는 중요하고 코드베이스에서 가능한 한 많은 버그를 없애려고 노력해야 하지만, 소프트웨어 개발 속도가 빨라지는 만큼 새 버그가 생기는 속도도 빨라지고 있습니다.
OAI는 왜 비영리로 다시 안 돌아갔죠?
음모가 어디 있나요. 해자는 없어요. 기술은 쉽게 재현할 수 있고요. 딥시크는 어제 비즈니스 모델 전체를 무너뜨렸잖아요.
딥시크 얘기를 좀 더 자세히 설명해 주실 수 있나요? 미국 정부(USG)의 결정은 알고 있는데, 정확히 무슨 뜻이세요?
음모론이라는 건 이게 더 큰 전략의 일부라고 보는 쪽을 말하는 거예요. 저는 그저 이 회사가 충분히 크고 믿음도 다양한 사람들이 있는 곳이라, 이 일의 직접적인 동기가 규제 포획을 가능하게 하려는 것이 아니었을 가능성이 꽤 높다고 보는 겁니다.
물론 그럴 수도 있죠. 그래서 음모론인 거고요.
이런 식이라고 해 봐요. 회사의 한 부분은 "AI는 무섭다"는 홍보로 분명히 이득을 봐요.
회사의 다른 부분은 대중을 돕고 싶어 하고요.
앞의 부서가 사내 정치에서 뒤의 부서를 뒷받침해 주는 거죠.
이걸 음모라고 보세요? 저한테는 그냥 "좋은 비즈니스"로 보이는데요. 다만 당신이 그리려는 것만큼 깔끔한 그림은 아닌 것 같아요.
마케팅이라고 생각하지는 않지만, 보안이 더 확실해질 때까지 추가 출시를 중단하자는 데 모든 연구소가 곧바로 합의하지 않는다는 사실은, 이 산업에서 이윤 동기가 부적절하며 제거되어야 한다는 걸 보여줍니다. 인류를 위협하면서 주식을 현금화해 샌프란시스코 대저택을 사들일 수는 없습니다.
어렵지 않아요. 미국 기업이 하는 말은 절대 믿지 않는 게 기본 사고방식이어야 하죠.
왜 미국만요?