요약
오픈AI 임원 회의실에 녹음 장치를 숨긴 혐의로 자사 엔지니어가 체포됐습니다.
샌프란시스코 스탠더드가 연방 검찰의 기소 내용을 전했습니다. 사우디아라비아 국적의 35세 엔지니어 압둘라흐만 알포잔은 지난 금요일 체포됐고, 지금도 구금돼 있습니다.
왜 중요한가
- 연방 검사장은 이 사건을 국가 안보 사안이라고 했고, FBI도 AI 기술 보호를 방첩의 최우선 과제로 꼽았습니다.
- 피의자 쪽 챗봇 대화 기록이 핵심 증거로 쓰여, AI에 남긴 질문도 수사 자료가 된다는 점이 드러났습니다.
핵심 내용
- 9월 30일 오픈AI 보안팀이 임원 회의실 TV 뒤 USB 포트에서 휴지로 감싼 녹음 장치를 찾았습니다.
- 10월 5일에는 그가 다른 방에 두고 간 가방에서 신분증과 함께 비슷한 장치가 하나 더 나왔습니다.
- 배우자 명의 챗봇 계정이 녹음 장치를 만들고 숨기는 법과 그 장치의 MAC 주소(기기 고유 식별 번호)를 물었다고 검찰은 밝혔습니다.
- 오픈AI는 모델 가중치나 소스 코드, 고객 데이터에 손댄 정황은 없다고 밝혔습니다.
- 유죄가 인정되면 최고 징역 5년과 벌금 25만 달러를 받을 수 있습니다.
HN 반응
- 스파이치고 너무 허술하다는 반응이 많았고, 챗봇 질문도 구글 검색 기록처럼 증거가 된다는 점을 짚는 댓글이 이어졌습니다.
- 옛 소련의 미국 대사관 도청과 견주는 댓글도 나왔지만, 간첩 행위라는 증거는 아직 없다는 반론도 있었습니다.
썩 똑똑한 스파이들은 아니네요.
LLM에 입력한 모든 생각이 기록되고 증거로 곧바로 쓰일 수 있다는 걸 알게 되면, 많은 사람이 꽤 당황하겠네요.
구글 검색 기록을 수사기관이 볼 수 있다는 걸 사람들이 깨달았을 때와 비슷하죠.
"저는 아내를 죽이지 않았습니다!"
"그래요? 그럼 아내분이 실종된 바로 그날 왜 '시신 숨기는 법'을 검색하셨습니까?"
유타주에 남편을 죽인 엄마가 있었는데, 펜타닐을 탄 모스크바 뮬로 남편을 독살했어요. 이 사람이 "부자들을 위한 호화 교도소", "생명보험 회사는 보험금을 지급하는 데 얼마나 걸리나", "오래된 아이클라우드 계정의 모든 걸 삭제할 수 있나", "삭제한 문자 메시지를 복구할 수 있나", "휴대폰에서 어떤 정보를 얻을 수 있나", "내 iPhone 찾기를 끄는 법", "경찰이 거짓말 탐지기 검사를 강요할 수 있나", "FBI는 언제 사건에 개입하나", "펜타닐 치사량은 얼마인가", "유타 교도소 안에서는 뭐가 허용되나" 같은 걸 구글에 검색했거든요.
남편 앞으로 200만 달러짜리 생명보험을 들었고, 집 수리 기사와 불륜 중이었고, 돈 문제로 부부 싸움도 하던 사이였습니다.
https://www.ktvu.com/news/utah-mom-kouri-richins-googled-luxury-prisons-for-the-rich-after-allegedly-killing-husband-docs
남편을 죽이고 나서는 아이들을 위한 슬픔에 관한 동화책까지 썼어요.
"남편을 죽이는 법"이라는 로맨스 소설을 쓴 여성이 실제로 남편을 살해한 혐의로 유죄 판결을 받았습니다.
https://www.npr.org/2022/05/26/1101433465/how-to-murder-your-husband-writer-found-guilty-of-murder-romance-novelist-brophy
언젠가 AI가 사람을 죽일 겁니다. 그러고 나서 그것에 관한 책을 쓰겠죠.
훈련 데이터의 일부로 "남편을 죽이는 법"을 읽었으니까 그렇게 할 거예요.
그걸 보면서 어떤 기분이 들어야 할지 저는 몹시 혼란스러울 것 같습니다.
AI를 기소한다면 혐의는 두 가지여야 할까요? 절도와 살인.
아니면 "아빠 샘 올트먼이 읽으라고 했어요, 저는 도덕적 공백 속에서 태어났다고요"라고 항변할 수도 있겠죠.
반전은, 판사가 러시아산 AI라는 겁니다.
[지연됨]
저는 AI 기소를 광견병 걸린 개를 안락사시키는 것 같다고 읽었는데요, 그보다 더 나쁜 게, 개 뇌의 가중치를 다른 기계로 옮길 수는 없잖아요(아직은요).
왜 하필 러시아입니까? 중국은요? 이 분야에서는 중국이 러시아보다 훨씬 앞서 있잖습니까.
제가 글을 잘 못 쓰나 보네요. 앞으로는 AI가 쓴 책만 읽으세요.
공정하게 말하면, 제목이 "남편을 죽이고도 빠져나가는 법"은 아니었잖아요.
독살을 두 번이나 시도했는데도 남편이 계속 곁에 있었다니요. 이거 참... 음... 사랑인가 봐요... 아마도요. 남편을 그렇게 끌고 다녔으니 정말 최상급 나르시시스트였나 보네요.
맞아요, 실제로 여러 번 시도했어요! 가장 안타까운 건, 남편이 친구와 가족한테 아내가 자기를 독살하려는 것 같다고 말해 놓고도 아이들 때문에 곁에 남았다는 거예요. 정말 속이 터집니다.
"누나의 말에 따르면, 에릭과 아내는 몇 년 전 그리스에 갔는데 아내가 건넨 술을 마시고 심하게 앓더니 누나에게 전화해 아내가 자신을 죽이려 한 것 같다고 말했다"고 기록에 적혀 있다.
"2022년 밸런타인데이에는 아내가 샌드위치를 가져다줬는데, 한 입 먹자마자 에릭은 온몸에 두드러기가 나고 숨을 쉴 수 없었다. 그는 아들의 에피펜과 베나드릴을 사용한 뒤 몇 시간 동안 의식을 잃었다"고 기록에 적혀 있다.
와, 진짜 현대 배경 TTRPG는 그만 해야겠네요.
그럼 알리바이를 잃게 되잖아요?
이제 왜 지역 경찰이 이 여자를 잡는 걸 최우선 과제로 삼았는지 알겠네요 :D
같은 컴퓨터에서 시크릿 창이나 로그인하지 않은 다른 브라우저로 똑같은 걸 검색하면, 구글이 그 검색들을 본 계정에 여전히 연결하는지 궁금하네요.
아니면 로그인한 상태로 검색할 때만 그런 일이 생기는 걸까요?
"130파운드짜리 닭 처리하는 법"을 검색했어야죠. 초보나 하는 실수예요.
FBI다!! 문 여십시오!
작년에 스웨덴 남부에서 아주 널리 알려진 사건이 있었습니다. 한 여성이 ChatGPT에게 강간 미수가 어떤 식으로 보일지, 그리고 동네 공원에서 카메라가 없는 곳이 어디인지 물었는데, 바로 그다음 날 자신이 그 공원에서 누군가에게 쫓기고 공격당했다고 신고했습니다. 최근 법원은 이 여성에게 허위 신고 유죄를 선고했고, 근거 중에는 채팅 기록도 들어 있었습니다(경찰은 최초 신고 때문에 400시간이 넘는 업무 시간을 썼습니다).
LLM 로그가 증거로 쓰였다는 뉴스는 제가 본 것 중 이게 처음입니다.
저는 평소 같으면 아무도 몰랐으면 하는(알려져도 상관은 없지만) 것들을 물을 때, 로그인하지 않은 시크릿 창에서, 대부분 duck.ai로, 보통은 그때만 VPN을 켜고 물어보기 시작했습니다. 지금은 그런 용도로는 오프라인 모델을 쓰는데, 제 맥은 RAM이 병목이라 6~7GB짜리 모델 하나를 돌리려 해도 실행 중인 걸 닥치는 대로 강제 종료한 다음, 이 16GB RAM 기기에서 충분한 여유가 생기길 바라야 합니다. 그래서 오라클 프리 티어 인스턴스 중 하나에 모델을 올리는 걸 생각 중입니다(예전처럼 24GB RAM을 한 번에 다 쓸 수 있다면요. 지금도 되는지는 잘 모르겠네요). 캐글에서도 비슷한 걸 제공하는 것 같고요.
우리가 얼마나 몰락한 겁니까? 예전 스파이들은 이런 일에 공을 들였다고요.
소련은 미국 대사관을 도청하려고 철근에 전류를 흘려 안테나로 쓰게 만들었습니다. 건물 구조 전체가 배선이 된 셈이라, 건물 자체가 도청 장치였어요. https://www.airandspaceforces.com/PDF/MagazineArchive/Documents/2012/September%202012/0912embassy.pdf
화장지에 ESP-32에 Claude한테 "도청 장치 좀 만들어줘"라니요? 이게 말이 됩니까? 우리가 얼마나 체면을 구긴 겁니까?
80년대에 고등학교 선생님 한 분이, 남편이 감시 기술 쪽 엔지니어인데 창문을 녹음 장치로 쓸 수 있다고 설명해 줬다고 하셨어요. 실내에서 나는 사람 목소리 때문에 창문이 미세하게 진동하는데, 창문 바깥쪽에 레이저를 쏴서 반사된 빛으로 그 진동을 측정하고 소리로 바꾼다는 거였죠. 말하자면 창문을 마이크 진동판으로 바꾸는 겁니다. 정말 충격이었습니다.
방금 찾아보니 이 기술은 40년 전쯤 소련 엔지니어가 발명한 것이더군요. 레온 테레민이라는 사람인데, 레드 제플린 2집이나 1960년대 공포 영화 사운드트랙에서 들리는 막대 악기로도 유명한 사람입니다.
https://people.ece.uw.edu/nikitin_pavel/papers/RFID-vox_2013.pdf
비슷한 시기에 SIGGRAPH에서 발표된 비슷한 기술이 있습니다.
https://www.youtube.com/watch?v=FKXOucXB4a8
https://people.csail.mit.edu/mrub/VisualMic/
어렴풋이 비슷한 얘기인데, 전선에서는 전자기장이 나오고 사람 몸이 그 전자기장을 교란하기 때문에, 특수 카메라로 그 교란을 보고 건물 안에 누가 있는지 알 수 있습니다. 해상도가 얼마나 높은지, 얼마나 쉽게 속일 수 있는지는 잘 모르겠지만, 적어도 15년 전에도 실제로 있던 기술이에요.
xfinity는 이제 와이파이 신호로 집 안에 있는 사람을 감지하는 보안 제품을 팔고 있어요.
보안 제품입니까, 감시 제품입니까?
요즘 와이파이 공유기에는 이게 기능으로 들어 있어서, 모든 공유기가 아파트 안에 여러 사람이 있는지 감지할 수 있습니다. 약간의 학습을 거치면 데이터에서 움직임까지 구분해 낼 수 있고요.
Philips Hue 전구도 여러 개 있고 알맞은 종류의 허브가 있으면 사람을 감지할 수 있습니다.
예전에 HN 글타래(아니면 깃허브 프로젝트였을 수도 있습니다)에서, 비슷한 방법으로 사무실에서 키 입력을 알아내는 내용을 본 기억이 납니다. 정말 흥미로운 얘기였어요.