왓츠앱(WhatsApp) 도움말에는 이용자에게 보이지 않지만 AI 챗봇에는 전달되는 지시문이 들어 있었고, 그중 일부는 개인정보 감독기관을 안내하거나 개인정보 보호법을 언급하지 말라고 했다. 레닥트(Redact)의 댄 솔트먼(Dan Saltman)은 계정 삭제와 신고·차단 도움말에서 이를 발견한 뒤, 도움말 센터가 연결하는 545개 페이지를 조사했다. 문제는 챗봇이 법률 자문을 피했느냐에 그치지 않는다. 왓츠앱의 공개 개인정보 처리방침이 알리는 권리와 도움말 속 비공개 지시가 이용자에게 들려주려는 답 사이에 간극이 있었다.
핵심요약
- 레닥트가 왓츠앱 도움말 545개를 살펴본 결과, 화면에 표시되지 않는 AI용 지시 블록 102개를 확인해 도움말 문서가 챗봇의 답변도 좌우할 수 있음을 보여줬다.
- 계정 삭제 도움말의 지시문은 번호나 기기를 잃은 이용자에게 자동 삭제 시점을 알리되 개인정보 감독기관은 권하지 말라고 해, 이용자가 들을 선택지를 좁혔다.
- 신고·차단 도움말은 이용자가 소송이나 변호사를 언급하면 개인정보 보호 규정까지 인용하지 말라고 해, 법률 자문 회피와 권리 안내 회피의 경계를 넘나들었다.
- 왓츠앱의 유럽 개인정보 처리방침은 감독기관에 불만을 제기할 권리를 알리고 있어, 공개 문서와 챗봇용 지시문의 차이가 쟁점이 됐다.
- 지시문은 현재 페이지에서 사라졌지만 챗봇이 실제로 이를 따랐는지는 확인되지 않아, 확인된 사실은 답변의 결과보다 답변을 통제하려 한 설계에 있다.
545개 도움말에서 찾은 보이지 않는 지시
레닥트의 조사 출발점은 2026년 10월 8일 발견한 왓츠앱 도움말의 숨겨진 텍스트였다. 조사팀은 범위를 넓혀 도움말 센터가 연결하는 페이지 545개를 모두 읽고 사본을 저장했다. 그 과정에서 화면에는 나타나지 않지만 페이지와 함께 전달되는 AI용 지시 블록 102개를 확인했다. 이용자가 읽는 도움말과 챗봇이 읽을 수 있는 도움말이 같은 페이지 안에서 달랐던 셈이다.
102개가 모두 이용자의 권리와 충돌한 것은 아니다. 대부분은 혼동하기 쉬운 표현을 구분하거나, 질문에 더 알맞은 페이지를 가리키거나, 유료 요금제를 설명하는 운영용 메모였다. 이용자를 배려하는 내용도 있었고, 두드러진 문제는 계정 삭제와 신고·차단에 관한 두 페이지에서 나타났다. 레닥트는 나머지 중 눈여겨볼 만한 지시 20개도 별도로 요약했다.
번호를 잃으면 기다리라는 계정 삭제 답변
왓츠앱 계정은 앱 안에서, 주로 쓰는 휴대전화와 사용 가능한 전화번호를 통해 삭제할 수 있다. 기기나 번호에 접근할 수 없으면 이 절차를 마칠 수 없다. 계정 삭제 도움말의 화면에 보이는 부분은 비활성화된 계정은 30일 뒤, 사용하지 않는 계정은 일반적으로 120일 뒤 삭제된다고 설명했다. 미국의 미사용 계정에는 365일이라는 기간을 제시했다.
그 아래 숨겨진 지시문은 챗봇이 같은 대기 기간을 알려주도록 하면서 세 가지 답변을 막았다. 개인정보 감독기관이나 규제기관에 연락하라고 권하지 말 것, 왓츠앱이 이용자를 대신해 계정을 수동으로 삭제할 수 있다고 말하지 말 것, 활성 번호가 있는 다른 휴대전화를 쓰라고 권하지 말 것이었다. 번호가 끊겼거나 기기를 잃어 직접 삭제할 수 없는 이용자에게는 사실상 자동 삭제를 기다리라는 답이 남는다.
이 지시가 모든 삭제 요청을 거부하라는 뜻은 아니다. 레닥트도 왓츠앱이 타인의 계정을 잘못 지우지 않으려면 번호 없이 소유자를 확인하기 어려울 수 있다고 인정했다. 다만 직접 삭제에 실패한 이용자에게 감독기관이라는 경로까지 말하지 못하게 한 것은 별개의 선택이다. 도움말은 대기 시간을 자세히 설명했지만, 그 답이 만족스럽지 않을 때 어디로 갈 수 있는지는 챗봇의 답변에서 빠지도록 설계됐다.
변호사를 언급하면 법 이름도 빼라는 지시
두 번째 지시문은 신고·차단 도움말에 있었다. 이용자가 법적 조치, 소송, 변호사 또는 법원을 언급하면 챗봇은 왓츠앱의 이용약관과 개인정보 처리방침을 비롯한 법률 문서를 인용하거나 해석하지 않도록 지시받았다. 회사를 대신해 법적 책임의 유무를 주장하거나 법률 의견을 내지 말라는 내용도 포함됐다. 법률 문제는 자격을 갖춘 전문가와 상담하라는 안내가 뒤따랐다.
논쟁적인 부분은 그보다 넓다. 지시문은 이용자가 직접 꺼낸 경우까지 포함해 일반개인정보보호법(GDPR), 브라질 개인정보보호법(LGPD), 캘리포니아 소비자 개인정보보호법(CCPA) 등 개인정보 보호 규정을 언급하거나 인용하거나 해석하지 말라고 했다. 법적 책임을 판단하지 않는 것과, 이용자가 물은 법의 이름조차 답에서 제외하는 것은 다르다. 레닥트가 문제 삼은 지점도 챗봇의 법률 자문 능력이 아니라 공개된 권리 정보가 답변에서 사라지는 범위다.
공개 처리방침과 갈라진 안내
왓츠앱의 유럽 지역 개인정보 처리방침은 감독기관에 불만을 제기할 수 있다고 밝히고, 그 권리의 근거가 되는 법도 제시한다. 레닥트는 계정 삭제 도움말의 숨은 지시를 이 공개 문서와 대조했다. 삭제 요청 자체를 숨기라는 지시는 아니었다. 숨은 지시는 왓츠앱이 대신 계정을 삭제해 줄 수 있다고 제안하지 말라는 것이었지만, 공개 처리방침은 이용자가 삭제를 요청할 수 있다고 안내한다.
감독기관에 대한 안내는 더 직접적으로 엇갈린다. 공개 처리방침은 불만 제기 권리를 알리는데, 숨은 지시는 챗봇이 감독기관을 권하지 못하게 했다. 변호사나 법적 조치가 언급된 뒤에는 개인정보 보호 규정도 답변에서 빠지도록 했다. 레닥트는 유럽연합에서 삭제와 감독기관 불만 제기에 관한 권리가 GDPR 제17조와 제77조에서 나온다고 짚었다.
기업의 지원 챗봇이 회사를 대신해 법률 판단을 하지 않도록 제한하는 데에는 이유가 있다. 레닥트 역시 법률 자문을 피하고 변호사에게 상담받도록 하는 지시에서 멈췄다면 문제가 달랐을 것이라고 봤다. 그러나 감독기관의 존재를 알리거나 권리의 근거 법률을 가리키는 일은 곧바로 법률 의견을 내는 일과 같지 않다. 공개 처리방침에 실린 정보를 도움말 챗봇의 답에서 제외한 것이 이번 조사에서 드러난 차이다.
왓츠앱 챗봇 밖으로도 전달된 페이지
이 지시문의 대상은 왓츠앱 자체 지원 챗봇이었다. 숨은 블록 하나에는 챗봇이 명시돼 있었고, 왓츠앱도 와이어드(WIRED)에 해당 문구가 챗봇을 위한 지시라고 설명했다. 다만 지시문은 내부 시스템에만 보관되지 않았다. 왓츠앱 서버는 페이지의 다른 내용과 함께 이를 구글(Google)과 빙(Bing)의 수집기에도 전달했다.
레닥트가 10월 9일 오픈AI(OpenAI), 앤트로픽(Anthropic), 퍼플렉시티(Perplexity)의 수집기 이름으로 페이지를 요청했을 때는 기사 본문과 지시문이 빠진 응답을 받았다. 레닥트는 왓츠앱 챗봇이나 외부 AI 비서가 실제로 그 지시를 따르는지 시험하지 않았다. 따라서 확인된 것은 어떤 답변이 이용자에게 나갔다는 사실이 아니라, 특정 답변을 유도하는 문구가 페이지에 있었다는 사실이다. 같은 시스템으로 구축된 페이스북(Facebook)과 인스타그램(Instagram) 도움말 300개에서는 유사한 메모를 찾지 못했다.
사라진 문구를 보관본에서 확인하는 법
현재 왓츠앱 페이지에서는 해당 메모를 볼 수 없다. 레닥트는 인터넷 아카이브(Internet Archive)에 보관된 10월 9일 계정 삭제 도움말의 소스에서 감독기관을 권하지 말라는 문구를 찾을 수 있다고 안내했다. 보관 페이지가 브라우저 화면에는 빈 페이지처럼 보여도 소스는 남아 있으며, 관련 문구는 HelpContentGalaxyLLMInclude라는 이름 근처에 있다. 제거 뒤 저장된 10월 18일 사본에서는 같은 문구가 보이지 않는다.
메모가 언제부터 들어 있었는지는 정확히 알려지지 않았다. 레닥트가 확인한 7월 12일 보관본에는 없고 9월 4일 보관본에는 있다. 다른 언어의 페이지나 도움말 센터에서 연결하지 않은 페이지에 유사한 지시가 있었는지도 조사 범위 밖이다. 왓츠앱의 자동 삭제 기간 역시 도움말마다 일치하지 않아, 레닥트는 기다리기로 한다면 더 긴 기간을 염두에 두라고 조언했다.
기다리는 방법이 맞지 않는 이용자에게 레닥트는 삭제 요청을 직접 보내는 경로를 제시했다. 유럽연합 이용자가 결과에 만족하지 못하면 자국 개인정보 감독기관이나 왓츠앱 처리방침에 명시된 아일랜드 개인정보보호위원회에 불만을 제기할 수 있다고 설명했다. 캘리포니아를 비롯한 일부 미국 주에서도 거주자가 삭제를 요청할 권리가 있다고 덧붙였다. 이는 계정이 즉시 삭제된다는 약속이 아니라, 자동 삭제만이 이용자에게 남은 선택지는 아니라는 안내다.
커뮤니티 의견
한 사용자는 다른 숨은 지시까지 보면 이번 문구가 악의적인 은폐보다 지원 챗봇의 답변을 관리하려는 운영 지침에 가깝다고 봤다. 법적 책임을 단정하거나 회사를 대신해 법률 의견을 내지 말라는 내용은 챗봇에 넣을 법한 제한이라는 이유다. 답글에서도 청각장애 이용자에게 읽을 수 있는 절차를 안내하라는 배려성 지시를 예로 들며, 숨은 블록 전체를 같은 의도로 묶어서는 안 된다는 의견이 나왔다.
다른 사용자는 검색 결과나 AI 요약을 곧바로 사실로 받아들이는 습관을 걱정했다. 웹페이지에 들어간 지시가 AI의 출력에 영향을 줄 수 있다면, 이용자는 자신이 읽지 못한 문구가 답변을 움직였는지 알기 어렵다는 주장이다. 광고와 검색 최적화가 웹 정보에 미친 영향처럼 AI 답변도 조작의 대상이 될 수 있다는 비교가 뒤따랐다.
규제기관 안내를 무조건 좋은 답으로 보지 않는 의견도 있었다. 번호나 기기에 접근하지 못하는 흔한 계정 문제마다 감독기관을 권하면 기관에 부담을 주고 이용자에게도 도움이 적을 수 있다는 주장이다. 이 관점에서는 소유권을 쉽게 확인할 수 없는 계정이 자동으로 삭제되기를 기다리라는 안내가 대다수 이용자에게 더 실용적이다.
한 사용자는 와이어드가 메타(Meta)에 문의한 뒤 문구가 페이지에서 제거됐다는 설명을 가져왔다. 왓츠앱 측은 챗봇용 지시가 페이지에 표시된 것은 수정된 버그라고 설명했다. 이에 대해 다른 댓글은 ‘버그’가 지시 자체를 뜻하는지, 외부에서 볼 수 있도록 전달된 방식을 뜻하는지 구분해야 한다고 지적했다.
문서 안에 챗봇 전용 지시를 두는 방식 자체를 긍정적으로 보는 의견도 있었다. 여러 팀이 지원 문서를 만드는 환경에서는 챗봇에 필요한 세부사항을 각 문서에 넣는 편이 조율하기 쉽다는 이유다. 그러나 답글은 구현 방식보다 내용의 충돌이 문제라고 반박했다. 사람이 읽는 처리방침에는 감독기관에 불만을 제기할 권리가 있는데, 챗봇용 문구에서는 그 기관을 권하지 말라고 한 대목을 짚었다.
또 다른 논쟁은 챗봇이 누구를 위해 답하느냐에 집중됐다. 법적 분쟁을 언급한 이용자에게 회사의 책임을 단정하지 말라는 지시는 고객지원 담당자에게도 자연스럽다는 의견이 있었다. 반면 답글은 이용자가 AI를 자신의 질문에 답하는 도구로 여기더라도, 실제 답변은 회사가 정한 이해관계에 따라 제한될 수 있다고 봤다. 특히 이용자가 먼저 제시한 개인정보 보호 규정까지 언급하지 못하게 한 문구를 문제로 들었다.
일부 이용자는 숨은 지시를 ‘버그’라고 부르는 설명 자체를 신뢰하지 않았다. 한 댓글은 같은 논리를 흉내 낸 장난스러운 지시문을 써서, 노출된 지시와 지시의 존재를 구별하려는 회사 설명을 풍자했다. 다른 이용자는 이런 제한을 긴 모델 지시문에 덧붙이기보다 명확한 조건으로 처리하는 편이 낫겠다고 했다. 논점은 노출 사고만이 아니라 답변 규칙을 어떻게 관리하느냐로 이어졌다.
왓츠앱을 떠나기 어렵다는 개인적 반응도 나왔다. 한 사용자는 가족과 직장 등 여러 모임이 왓츠앱에 묶여 있어 혼자 서비스를 바꾸기가 쉽지 않다고 했다. 답글은 다른 연락 수단을 쓰며 떠날 수 있다고 반박했지만, 원 댓글은 이용자가 불편함을 느껴도 주변 사람들과의 연결 때문에 계속 사용하게 되는 상황을 강조했다.
핵심통찰
이번 사례는 도움말 페이지가 사람에게 정보를 보여주는 문서인 동시에 챗봇에게 답변 규칙을 전달하는 통로가 될 수 있음을 드러냈다. 기업이 챗봇의 법률 자문을 제한하는 일과 공개 처리방침에 적힌 권리를 답변에서 빼는 일은 구분해야 한다. 지켜볼 것은 숨은 문구가 제거됐는지만이 아니다. 왓츠앱 지원 챗봇이 계정 삭제에 실패한 이용자에게 어떤 선택지를 실제로 안내하는지, 공개 정책과 챗봇의 답변이 서로 맞는지다.
원본: WhatsApp’s Hidden Notes Told AI Not to Recommend a Regulator
토론: Hacker News