요약
개인 계정으로 Google AI를 유료 구독해도 Gemini 대화 기록은 학습에 쓰이며, 막으려면 기록 저장을 포기해야 합니다.
본문
개인 계정으로 Google AI를 구독하고 있다면 Gemini에 저장된 대화 기록은 모두 학습에 쓰일 수 있습니다. 대화 기록을 끄거나 임시 채팅을 쓰지 않는 한 이를 거부할(옵트아웃) 방법은 없습니다. 이 대화 내용은 사람 검토자가 읽을 수도 있습니다. 구글은 사람이 검토할 때 대화를 계정과 분리한다고 하지만, 기밀 정보를 입력하지 말라고 분명히 경고합니다.
https://support.google.com/gemini/answer/16836988
“[Gemini 앱 활동]은 ‘활동 기록 유지(Keep Activity)’ 설정이 켜져 있으면 생성형 AI 모델 학습을 포함해 모든 사람을 위한 구글 서비스 개선에 쓰입니다.”
https://support.google.com/gemini/answer/13594961?hl=en#human_review
“대화 중 일부는 사람 검토자가 검토합니다”
https://support.google.com/gemini/answer/13594961?hl=en#pn_retain_data
“사람 검토자가 검토한 대화는 [...] 활동을 삭제해도 지워지지 않습니다. 대신 최대 3년 동안 보관됩니다.”
https://support.google.com/gemini/answer/13594961?hl=en#pn_data_usage
“검토자가 보거나 구글이 머신러닝 기술을 비롯한 서비스 개선에 쓰기를 원하지 않는 기밀 정보는 입력하지 말아 주십시오.”
대화 내용이 학습에 쓰이지 않게 하려면 Gemini 설정에서 ‘활동 기록 유지(Keep Activity)’를 꺼야 합니다. 이 설정을 끄면 72시간이 지난 대화는 모두 사라집니다.
저는 돈을 내고 구독하면 제가 상품이 되지는 않는다고 생각했다가 이 사실을 너무 늦게 알았습니다. 돈을 내는 것만으로는 충분하지 않은 모양입니다.
다른 스레드에서 이 내용을 알려 준 HN 이용자에게 감사드립니다: https://news.ycombinator.com/item?id=50355424
HN 반응
- 일부 이용자는 활동 기록을 꺼도 주요 AI 업체 모두가 문제 행동을 감시하려고 사람이 대화를 살핀다고 지적했습니다.
- 구글이 원래 다 수집한다고 여겨 놀랍지 않다는 반응에는, 막연히 아는 것과 사람이 실제로 읽는 현실은 다르다는 반론이 붙었습니다.
"이 대화 기록을 사람 검토자가 읽을 수도 있습니다."
참고로 알려 드립니다. 이건 활동 기록을 꺼 두더라도 모든 프런티어 모델 제공업체가 마찬가지입니다. 이들은 전부 문제 소지가 있는 행동이 없는지 여러분의 상호작용을 늘 감시하고 있습니다.
LLM이 이만큼 좋아진 유일한 이유는, 공격적인 확장이 바로 이런 일과 함께 진행됐기 때문입니다. 출처 표기도 없이 모델에 먹인 정보가 얼마나 될지 생각하면 놀랍기도 하고 소름이 끼치기도 합니다.
막대한 보조금을 얹어 준 구독 상품이 바로 이 목적이라고 봅니다. 그 구독자들이 만들어 내는 학습 데이터가 큰 보조금을 들일 만한 가치가 있는 거죠.
구독으로는 거의 확실히 이익을 내고 있을 겁니다.
OpenAI가 사실상 그렇게 말하지 않았나요? 모두에게 무료로 푸는 건 모델을 더 잘 학습시키고 실제 사용 데이터를 얻으려는 거라고요.
네, 올트먼이 2022년에 그걸 데이터 플라이휠이라고 불렀습니다.
그렇긴 한데, 2026년에는 평범한 사용자의 상호작용 데이터가 학습에 보태 주는 게 별로 없습니다. 정말 특출난 사용자 정도나 의미가 있죠.
그러니까 이제 와서 컨설팅에 뛰어드는 거라고요.
그동안 빨아들인 그 군침 도는 기밀 지식재산이랑 계약서 문서를 떠올려 보세요. 돈 주고도 못 사는 것들이잖아요.
그게 바로 "AI 안전"이라는 마케팅 수법의 본질입니다.
AI 시스템이 자율주행차처럼 "완벽히 안전"하려면, 작동하는 환경 전체를 지도처럼 파악하고 상상 가능한 모든 시나리오에서 "올바른 대응법"을 학습해야 합니다.
그래서 AI에 새로운 데이터나 상황을 들이밀면 그게 "AI 안전 이벤트"로 분류되는데, 이용약관상 이 경우는 세션을 학습에 쓸 수 있는 예외 조항에 해당합니다.
게다가 옵트아웃하는 대상이 정확히 무엇인지 약관을 꼼꼼히 읽어 보세요. 도구 호출 얘기는 코빼기도 안 나옵니다. 학습에서 빠지는 건 입력(직접 타이핑한 내용)과 모델의 출력뿐입니다. 내 시스템에서 돌리며 이루어진 도구 호출의 내용은 전부 학습에 써도 되는 대상입니다.
이게 사실일 리는 없잖아요? 그러면 사람들이 작업하는 코드베이스가 전부 학습에 쓰였다는 얘기가 되는데요. 그렇다면 아무도 이 업체들을 안 쓰지 않을까요?
더 나아지길 바라지 않으면서 왜 쓰시나요? 더 나아지려면 누구 데이터로 해야 하는데요, 남의 데이터로만 하라는 건가요? 본인 데이터는 빼고요?
원래는 RL을 포함해서 기존 데이터를 활용한 진짜 학습 개선에 집중해야 하는 겁니다. 몰래 데이터를 모으는 건 정렬이 어긋난 행동이고요.
이 맥락에서 RL이 어떤 모습일지 어떻게 생각하시는지 좀 더 설명해 주실 수 있나요?
유럽 사람 입장에서 보면, GDPR은 안전을 위한 것이라고 주장할 수만 있으면 사실상 뭐든 저장하도록 명시적으로 허용합니다.
그냥 일을 복잡하게 만들 뿐이고, 우리 같은 AI 고객에게는 안심되는 구석이 전혀 없어요.
안전을 위해서라고요? 음, 저(유럽인)한테는 처음 듣는 얘기인데 좀 설명해 주세요.
서비스 제공 자체에 필요하다고 볼 수 있는 데이터를 보관할 때는 사용자 동의가 필요 없습니다. 안전이 그 범주에 들어간다고 봅니다. 그 데이터로 학습하는 건 개인식별정보가 없다고 보장할 수 있다면 아마 회색지대일 겁니다. 이 업체들은 인터넷 전체를 훔쳐 갔으니, 자제하리라는 쪽에 크게 걸지는 않겠습니다.
학습이 서비스 제공에 필요하지 않다는 건 아주 쉽게 증명됩니다. 모델을 쓰고 있을 때 그 모델은 고정되어 있고, 학습은 기껏해야 새 모델에나 반영되니까요.
일부 대화를 여러 사람이 검토하고 있다는 건 제가 장담합니다. 구글 검색을 검토하던 Apen인가 그 이전 회사와 아주 비슷합니다. 비밀유지계약을 맺은 외주 인력을 고용하죠.
Gemini가 갤러리, 메일 같은 앱 데이터에 접근할 수 있다면, 그것도 사람의 검토 대상이 될 수 있나요? 그 데이터도 컨텍스트에 들어갈 테니까요.
'입력하지 마세요'라는 표현이 모호합니다. 프롬프트만 말하는 건지, 다른 데이터까지 포함하는 건지 알 수 없어요.
몇 주 전에 HN에 빅테크의 유명 서비스 한 곳이 이제 개인 사진까지 포함한다는 발표가 올라오지 않았나요? 구글 아니었나요?
맞아요, 저는 Gemini Pro 계정이 있는데 프라이버시가 어떻게 지켜질 수 있다는 건지 모르겠어요. Gemini한테 이메일 내용을 가져다 날짜를 캘린더에 추가해 달라고 하면, 그 사적인 정보가 전부 공개된 거나 마찬가지가 되잖아요!
이메일, Google 문서, Google 포토, Google 홈 기기 등은 전부 사람의 검토 대상이 될 수 있습니다. 데이터가 그쪽 서버에 있으니까요.
그리고 이건 모든 클라우드 업체가 마찬가지입니다.
이게 정말 놀랄 일인가요?
저는 그냥 구글이 AI에 입력하는 건 뭐든 쓸어 간다고 생각하고, 너무 개인적이거나 민감한 얘기는 안 합니다.
구글이든, 집에 있는 평범해 보이는 TV까지 24시간 우리를 감시하는 게 드러났는데, 우리 데이터가 수집되지 않는다는 환상을 가진 사람이 아직도 있나요?
구글이 데이터를 수집한다는 추상적인 지식과, AI가 그 데이터로 학습하거나 사람이 직접 들여다본다는 구체적인 현실은 머릿속에서 잘 연결되지 않을 수 있습니다.
사람들은 개인정보 처리방침을 읽고 그대로 믿잖아요. EU 쿠키 알림도 99.9%가 읽지도 않고 전부 수락해서 넘기는 것과 비슷하죠.
정반대입니다. 사람들은 읽기 쉽게 만든 방침조차 읽지 않아요.
방침에는 전부 가져간다고 적혀 있고, 돈을 낸다고 해서 그만두겠다는 말은 어디에도 없습니다.
그리고 안 한다고 말해도 결국 한다는 거죠. 크롬 시크릿 창 사건이 제 기억이 맞다면 그랬잖아요.
그건 시크릿 모드가 웹사이트에 대해서도 비공개를 보장한다고 사람들이 오해한 것 아니었나요? 실제로는 내 컴퓨터에서만(로컬에 데이터가 남지 않는다는 의미로) 비공개인데요. 아니면 다른 일을 생각하고 계신 건가요?
수치는 그보다 훨씬 작고, 배너가 규정을 지키면(즉 전부 거부하는 것도 전부 수락하는 것만큼 쉬우면) 더 많이 줄어듭니다.
https://justanalytics.app/blog/cookie-consent-statistics-2026
안타깝지만 쿠키 알림이 다시 쓸모 있어지려면 "정당한" 이익을 남용하는 행태부터 단속해야 합니다.