요약
‘노 킹스’ 계정 정지는 고의든 실수든, 저커버그가 끌 수 있는 구조 자체가 문제입니다.
테크더트의 마이크 매스닉이 쓴 글입니다. 지난 주말 미국 곳곳의 ‘노 킹스’ 시위 도중 주최 측 인스타그램 계정이 약 1시간 정지됐습니다. 트럼프를 지지해 온 저커버그가 손을 쓴 것 아니냐는 의혹이 곧바로 나왔습니다.
왜 중요한가
- 한 회사에 확성기를 맡긴 단체는 가장 중요한 순간에 실수만으로도 목소리를 잃을 수 있습니다.
- 저커버그에게 ‘더 잘하라’고 요구하면 그의 권한만 커지고, 정권이 바뀌면 같은 압력이 반대편을 향한다고 경고합니다.
- 탈중앙 프로토콜(atproto·ActivityPub처럼 한 회사가 통제하지 않는 소통 규약)을 쓰는 일은 취향이 아니라 표현의 자유를 지키는 수단이라고 봅니다.
핵심 내용
- 메타는 10월 17일 ‘Claude 도구’가 프로필과 게시물을 읽는 양이 약 4배로 급증해 봇 트래픽으로 판단했다고 해명했습니다.
- 윌 로빈슨과 팀 체임버스의 조언을 빌려, 남이 끌 수 없는 연락 채널과 정지에 대비한 대응 계획을 미리 갖추라고 권했습니다.
- 하루 수억 건을 심사하는 플랫폼은 1% 미만만 틀려도 오류가 엄청나므로 고의일 가능성은 낮다고 봤습니다.
- 이미 전국에서 벌어지는 시위의 계정 하나를 막으면 관심만 키우므로 정부 개입설은 앞뒤가 맞지 않는다고 했습니다.
- 크리스 머피 상원의원의 메타 조사 추진도 트럼프 계정 정지 뒤 짐 조던이 벌인 조사와 같은 압박이라고 비판했습니다.
HN 반응
- 일부 이용자는 같은 시기 팔레스타인 관련 활동가와 언론인 계정도 지워졌고, 크게 항의해야만 하나씩 복구된다고 지적했습니다.
- Mastodon 같은 개방형 플랫폼으로 가자는 주장에는 봇은 플랫폼만 걸러낼 수 있다는 반론과, 사람이 적어 아무도 오지 않는다는 비꼼이 나왔습니다.
언론에서는 덜 다뤄졌지만, 가자에서 벌어진 전쟁범죄를 이유로 이스라엘군(IDF) 병사들을 추적하고 있는 힌드 재단( https://en.wikipedia.org/wiki/Hind_Rajab_Foundation ) 설립자의 인스타그램 계정도 같은 시점에 차단됐고, 이쪽은 복구되지 않았습니다.
https://www.instagram.com/Aboujahjah/
살해된 팔레스타인 기자들의 계정도 이번에 함께 지워졌습니다. 퓰리처상을 받은 알자지라의 아나스 알샤리프 계정도 포함됐는데, 지금은 되살아난 것 같습니다. https://www.youtube.com/post/Ugkx0kN5mUZDFsw7OgRiY3ElLx9DgjM2_N12
힘없는 쪽만 겨냥한 계정 삭제가 파도처럼 되풀이되고, 아주 크게 소란을 피워야만 계정 하나씩 겨우 복구되는 것 같습니다. 그런 파도가 올 때마다 그 목소리들은 조금씩 깎여 나갑니다. 일종의 전략처럼 느껴집니다.
자유로운 발언과 '달갑지 않은' 관점을 인터넷에서 지워 버리는 일(검열)은 갈수록 넓고 교묘해질 겁니다. 소셜 미디어에 지분을 가진 바로 그 사람들과 동기가 이제는 "AI" 챗봇에까지 끈적한 손을 뻗고 있으니까요.
그래서 어느 정도 특권을 가진 정보 접근층인 우리가 지금 진정으로 열려 있고 분산된 플랫폼(마스토돈 등)을 택하는 게 무엇보다 중요합니다. 사용자를 담장 안 동물원에 가두는 x나 다른 저커 계열 SNS 링크를 계속 올릴 게 아니라요.
… 그럼 봇 트래픽은요? 지금 플랫폼들은 봇에 뒤덮여 있지만, 보아하니 그건 플랫폼이 그렇게 두기로 선택해서일 뿐이잖아요. 진짜로 열린 플랫폼은 봇들의 놀이터가 될 텐데요.
분산형 네트워크의 고전적인 문제입니다. 규모가 충분히 커지면 스팸이 생기고, 그때부터는 걸러 줄 중재자가 필요해집니다. 다만 저는 여기서 AI도 도움이 될 수 있다고 생각합니다. 중앙집중식 중재자 대신 (가급적 자체 호스팅/분산형) AI가 내 네트워크 그래프에서 봇과 스팸을 걸러 주는 거죠.
(지금 플랫폼들은 봇에 뒤덮여 있지만, 보아하니 그건 플랫폼이 그렇게 두기로 선택해서일 뿐이잖아요. 진짜로 열린 플랫폼은 봇들의 놀이터가 될 텐데요.)
두 가지를 전제하고 계신 것 같습니다. 하나는 중앙집중 덕분에 쓸 수 있는 "쉬운" 해결책이 있다는 것이고, 다른 하나는 분산형에는 해결책이 없다는 것입니다.
첫 번째는 전혀 모르는 사람들의 글을 조작 가능한 알고리즘으로 보여 주려는 서비스라면, 중앙집중이든 아니든 꽤 어렵습니다.
두 번째의 반례를 들어 보겠습니다. 피드에 내가 팔로우하는 사람과 그들이 팔로우하는 사람의 글이나 리포스트만, 혹은 거의 그런 글만 뜬다고 해 봅시다. 특정인에 대해서는 뒤쪽(그들이 팔로우하는 사람) 표시를 끌 수도 있고요. 그러면 봇을 팔로우하지 않는 한 봇은 보이지 않습니다. 답글은 읽는 사람이나 원글 작성자 중 한쪽이 답글 작성자를 팔로우할 때 보이게 하고, 기본값은 답글 대상 글의 작성자에게만 보이게 하되 작성자가 자기 팔로워 모두에게 공개하도록 고를 수 있게 합니다.
이러면 봇이 와서 답글을 달 수는 있어도 그걸 보는 사람은 한 명뿐이고, 목록 맨 끝에 "아무 연관 없는 사람"으로 표시됩니다. 게다가 사용자 클라이언트가 원하는 방식의 알고리즘 봇 탐지를 얼마든지 얹을 수도 있습니다.
(게다가 사용자 클라이언트가 원하는 방식의 알고리즘 봇 탐지를 얼마든지 얹을 수도 있습니다.)
봇 트래픽은 대규모로 봐야만 보이는 경우가 있습니다.
클라이언트들이 서로에 대해 아는 것과 플랫폼이 클라이언트들에 대해 아는 것 사이에는 엄청난 비대칭도 있습니다. 봇 탐지는 사실상 플랫폼만 제대로 할 수 있습니다.
그럼 왜 그 규모를 가진 곳들은 봇을 못 잡는 것처럼 보이죠?
플랫폼이 열려 있다면 봇으로 알려졌거나 의심되는 계정의 차단 목록을 우리가 직접 만들 수 있을 겁니다. 비트토렌트용 차단 목록도 만들었고, 광고 차단 목록도 만들어서 관리하고 있잖아요. 소셜 미디어 피드를 우리가 직접 통제할 수 있다면 봇 차단 목록도 만들 겁니다.
맞습니다. 그리고 영지식 속성 기반 증명을 제대로 구현한다면, 시민의 신원에 묶어 두면서도 익명성을 유지할 수 있습니다. 그러면 한 사람에 하나의 목소리만 허용해서 봇과 허위 정보 트래픽을 해결할 수 있습니다.
다만 지금 우리가 겪는 문제의 해법이 대개 그렇듯, 뿌리부터 제대로 풀려야 가능한 얘기입니다. 이 경우에는 신뢰할 수 있는 정부와, 영지식을 보장하고 자유롭고 평등하며 진정한 발언과 토론을 보장하는 투명한 절차가 있어야 합니다.
LLM에게 생각을 맡기지 않는 것도 똑같이 중요합니다. LLM이 절대 데려다주지 않는 결론이 있거든요.
필립 K. 딕의 단편 "Service Call"이 떠오르네요.
https://philipdick.com/mirror/websites/pkdweb/short_stories/Service%20Cll.htm
저는 2021년에 아이다호주 선밸리에서 열린 평화 시위를 레딧에서 조직했는데, 10일도 안 돼 계정이 정지되고 15년 동안 쓴 글과 댓글이 전부 삭제됐습니다. 동시에 심리전 봇 군단이 움직여서, 저를 테러리스트니 미친 사람이니 하며 사람들에게 겁을 주려 했습니다.
그 기간에 저는 FBI의 감시와 괴롭힘도 받았습니다.
이 얘기 일부는 서브스택에 올려 뒀습니다.
https://webdoodle.substack.com
글이 너무 두루뭉술해서 무슨 얘기인지 알 수가 없네요. 그냥 다른 이메일로 레딧 계정을 새로 만들면 안 됩니까? 레딧 계정의 주된 제약은 가입 3개월과 카르마 1000 아닌가요? 그건 아주 쉽게 채울 수 있으니 옛 계정을 되살리겠다고 몇 년씩 기다릴 필요 없이 그냥 새로 만드세요. 레딧 계정은 여러 개 가져도 되고, 같은 글에 중복으로 투표만 하지 않으면 됩니다.
(그냥 다른 이메일로 레딧 계정을 새로 만들면 안 됩니까?)
레딧에서 차단당한 사람으로서 말씀드리면, 그건 약관 위반이고 저는 그 때문에 쿠키를 지워도 살아남는 일종의 핑거프린트로 다시 차단당했습니다.
레딧에서 새 계정을 만드는 건 정말 어렵습니다. 핑거프린팅을 엄청나게 해요.
할 수 있는 최선은 매일 이의 신청을 하는 겁니다. 제 친구는 667일 연속으로 이의 신청을 한 끝에 얼마 전에 계정을 되찾았습니다.
spez도 레딧의 차단/이의 신청 시스템이 얼마나 엉망인지 아주 잘 알고 있습니다. 곧 모드월드에서 연례행사처럼 집단 공격을 받겠죠.
(아주 보수적인 관점을 가졌다)
레딧에서는 그러면 안 되죠. 솔직히 계정이 삭제된 건 오히려 레딧이 선심 쓴 겁니다.
조르다나 커틀러를 소개합니다. 메타의 이스라엘·유대인 디아스포라 담당 공공정책 이사로, 전에는 베냐민 네타냐후 직속 수석 고문이자 주미 이스라엘 대사관 비서실장, 리쿠드당 당 의장을 지냈고, 친팔레스타인 콘텐츠를 억누른 일을 자랑해 온 인물입니다 2.
한마디로 천하에 못된 년이라는 거죠.
그래서 저는 마스토돈에서 시위를 조직했죠. 아무도 안 왔지만, 구독자들은 제가 조직했다는 게 정말 멋지다고 말해 줬어요.
그래도 블루스카이에서 조직하진 않으셨네요. 거기서는 아무도 안 오는 건 똑같은데, 글에서 찾아낸 사소한 잘못 하나로 100명한테 악당 취급까지 당하거든요.
브래드 랜더가 블루스카이에 올린 글이 있는데, 자기를 비롯한 미국계 유대인과 이스라엘인 여럿이 올리브 수확을 돕고 정착민들에 맞서 사실상 인간 방패 노릇을 했다는 내용입니다.
IDF는 미국인들을 억류했지만 그는 공인이라서 풀어 줬습니다. 랍비들은 아직도 억류 중이고요. 참 알 만한 일이죠.
브래드 랜더가 가자 집단학살이 한창일 때 뉴욕시 자금을 이스라엘 무기 회사 엘빗 시스템스에 "자랑스럽게" 투자했던 게 영향을 줬을 수도 있겠죠. 그 정도면 뭔가 따져 볼 만한 일이잖아요.
제 피드만 그런 걸 수도 있지만, 저는 블루스카이에서 그런 집단 공격을 본 적이 없어요.
저도 못 봤습니다. 저는 일반 알고리즘 피드는 하나도 안 쓰고, 팔로우 피드와 관심 있는 기술 주제별 알고리즘 피드만 씁니다. 이런 정보를 보는 데 링크드인이나 트위터가 아니라 블루스카이를 쓰는 이유가 바로 그렇게 설정할 수 있어서입니다.
트위터에서는 인도 유학생을 겨냥한 풋볼 경기장 인종차별 같은 온갖 불쾌한 글이나, 그날그날 '2분 증오'가 떠들어 대는 것에서 벗어날 수가 없습니다. 블루스카이에서는 신호만 오고 잡음은 거의 없어요.
블루스카이는 인용 트윗 현상을 막는 식으로 집단 공격을 막는 도구도 트위터보다 훨씬 잘 갖추고 있습니다. 건강한 방향을 고르기만 하면 전반적으로 훨씬 더 건강한 곳입니다.
"생성형 AI도 가끔은 쓸모가 있을 수 있다"고 한번 말해 보세요. 악마의 기술을 옹호한다며 다들 달려들 테니까요.
블루스카이에도 AI에 우호적인 사람이 많습니다. bsky의 특징은 내가 팔로우하는 사람들만 보인다는 건데, 전부 AI에 반대하는 사람들이라면 그건 본인이 고른 겁니다.
블루스카이는 대체로 좌파 버전의 Truth Social입니다. 다만 정치 콘텐츠로부터 스스로를 격리한 소수의 사람들이 있다는 점만 다르죠.
문제가 꽤 커서 블루스카이가 직접 대응에 나서고 있습니다.
https://bsky.app/profile/safety.bsky.app/post/3mukm26duos2c
놀랍게도 표적 괴롭힘을 다룬 이 게시물의 상위 답글은, 집단 공격의 단골 표적이 된 몇몇 계정으로 분노를 돌리려는 계정들이 쓴 것입니다. 블루스카이 문화에 깊이 박혀 있는 건데, 어쩌다 그렇게 됐는지 모르겠습니다.
저는 피드를 다듬어서 그런 걸 안 보려 했습니다. 그런데 이제는 제가 팔로우하는 기자들이 결국 블루스카이의 집단 공격 캠페인의 표적이 되어 플랫폼을 떠나는 게 문제입니다.
편집: 피해자를 탓하거나 그런 문제는 없다고 말하는 답글이 많습니다. 최근 사례를 하나 들겠습니다. 릭 브루스터가 Wine에서 Paint.NET을 돌리는 개념 증명을 만들었다가 집단 공격이 너무 심해서 글을 지우고 물러났습니다. https://bsky.app/profile/rickbrew.bsky.social/post/3muiv4pheo22g
(어쩌다 그렇게 됐는지 모르겠습니다.)
초기 블루스카이 사용자들은 옛 트위터에서 가장 독했던 사용자들이었던 경향이 있으니, 그리 놀랍지 않습니다.