공유 링크 하나로 열린 챗GPT 계정의 보안 경계

파라미터 AI(parameter.ai) 연구팀은 공개 챗GPT(ChatGPT) 대화 링크만으로 다른 사용자의 로그인 세션에서 코드를 실행하고 비공개 대화 내용을 읽는 취약점을 발견했다. 공격자는 그래프와 HTML 미리보기가 들어 있는 대화를 공유하면 됐고, 피해자는 링크를 여는 것만으로 공격 경로에 노출될 수 있었다. 오픈AI(OpenAI)는 문제를 최우선 등급인 P1으로 분류하고 2026년 10월 26일 수정을 완료했다. 이번 사례는 각각 격리돼 보이는 기능도 한 페이지에서 연결될 때 전혀 다른 보안 경로를 만들 수 있음을 보여준다.

핵심요약

  • 연구팀은 공개 대화 속 그래프와 HTML 미리보기를 결합해, 격리된 코드가 로그인된 챗GPT 페이지에서 실행되도록 했다.
  • 그래프가 불러온 매스라이브(MathLive)는 메시지 발신자를 제대로 확인하지 않은 채 가상 키보드 설정을 바꿔, 미리보기의 입력을 본문 페이지로 들여왔다.
  • 공격 코드는 피해자의 인증된 API로 비공개 대화를 조회하고 일부 데이터를 외부 서버로 보낼 수 있어, 화면 변조를 넘어 계정 권한에 접근했다.
  • 연구팀은 링크를 열기만 해도 작동하는 경로를 재현했으며, 오픈AI는 두 웹 프런트엔드 버전에서 문제의 메시지를 거부하도록 수정했다.
  • 핵심 실패 지점은 미리보기의 격리 자체가 아니라, 본문 페이지의 신뢰받는 구성 요소가 격리된 미리보기의 지시를 받아들인 데 있었다.

그래프가 열어 둔 메시지 통로

출발점은 챗GPT의 HTML 미리보기였다. 챗GPT는 HTML 코드 블록을 작은 웹페이지로 보여 주면서, 임의의 코드가 실행될 수 있다는 점을 고려해 이를 별도 웹 주소의 제한된 프레임에 넣었다. 연구팀이 처음 확인했을 때 미리보기 코드는 로그인된 챗GPT 본문 페이지를 직접 읽지 못했다. 브라우저의 기본 격리는 의도대로 작동하고 있었다.

같은 대화에 들어 있던 대화형 그래프가 상황을 바꿨다. 그래프는 수학 입력 도구인 매스라이브를 불러왔고, 매스라이브는 화면 키보드와 관련된 메시지를 받는 수신기를 챗GPT 본문 페이지에 설치했다. 프레임끼리 메시지를 주고받는 브라우저 기능인 postMessage를 이용하면, 격리된 미리보기도 본문 페이지에 메시지를 보낼 수 있다. 받는 쪽이 발신자를 확인한다면 쓸 수 있는 통로지만, 연구팀이 주목한 키보드 설정에는 그 확인이 빠져 있었다.

미리보기는 두 메시지를 보냈다. 하나는 가상 키보드의 배치를 공격자가 준비한 HTML로 교체했고, 다른 하나는 그 키보드를 화면에 띄우라고 지시했다. 매스라이브는 메시지 형식을 알아봤지만, 해당 설정을 바꿀 권한이 있는 웹 주소와 창에서 왔는지는 확인하지 않았다. 그래프가 수신기를 설치하고 미리보기가 발신자가 되면서, 별개로는 무해해 보이던 기능 두 개가 격리 경계를 가로질렀다.

키보드의 HTML이 본문 페이지로 들어가다

매스라이브는 전달받은 키보드 배치를 HTML 문자열로 합쳐 실제 챗GPT 페이지에 삽입했다. 중간에 createHTML이라는 도우미가 있어 내용을 걸러낼 여지가 있어 보였지만, 연구팀의 분석에서는 문자열을 그대로 통과시키는 역할을 했다. 그 결과 미리보기에서 보낸 HTML이 제한된 프레임 안이 아니라 로그인된 본문 페이지에 놓였다.

이 단계가 곧바로 자바스크립트 실행을 뜻하지는 않았다. 브라우저는 innerHTML로 삽입된 스크립트 태그를 자동 실행하지 않는다. 연구팀은 대신 srcdoc이라는 속성으로 내부 HTML을 담은 새 iframe을 삽입했다. 이 프레임에는 격리 설정인 sandbox가 없었고, 챗GPT 본문 페이지가 만든 문서여서 브라우저는 이를 chatgpt.com과 같은 출처로 취급했다.

새 문서에서도 한 번 더 제동이 걸렸다. 어떤 스크립트를 불러올 수 있는지 제한하는 콘텐츠 보안 정책(CSP)이 페이지 안에 직접 적힌 자바스크립트를 막았다. 하지만 당시 정책은 유튜브(YouTube)에서 오는 스크립트는 허용했다. 연구팀은 유튜브의 oEmbed 응답에서 콜백 이름이 유효하지 않아 오류가 나더라도, 그 이름이 응답 앞부분에 들어가는 점을 이용했다.

이 응답을 스크립트로 불러오자 콜백에 담긴 코드가 새 프레임에서 실행됐다. 연구팀이 활용한 것은 유튜브 응답이 CSP를 통과할 수 있다는 조건이지, 유튜브가 격리 경계를 처음 무너뜨렸다는 뜻은 아니다. 경계는 이미 본문 페이지의 매스라이브가 신뢰하지 말아야 할 HTML을 받아 새 문서를 만드는 과정에서 무너졌다. CSP 우회는 그 안에서 자바스크립트를 실행하기 위한 마지막 연결 고리였다.

실험용 앱에서 공개 공유 링크로

처음 작동한 방식은 연구팀이 제어하는 챗GPT 앱을 메시지 발신자로 썼다. 이 경우 피해자가 먼저 그 앱을 연결하거나 호출해야 했으므로, 링크 하나로 성립하는 공격과는 거리가 있었다. 연구팀은 일반 HTML 첨부 파일도 시험했지만, 대화를 공개 링크로 내보내면 첨부 파일은 남아도 앞선 그래프는 남지 않았다. 매스라이브 수신기를 설치할 그래프가 없으면 첨부 파일이 메시지를 보내도 이를 처리할 대상이 없었다.

해결책은 두 요소를 하나의 평범한 공개 대화에 담는 것이었다. 대화 속 그래프가 본문 페이지에 매스라이브를 초기화하고, 뒤에 놓인 어시스턴트 작성 HTML 미리보기가 메시지를 보내도록 구성했다. 이 구성은 챗GPT의 일반 공유 링크에도 유지됐다. 공격자는 이메일이나 채팅 등으로 그 링크를 전달할 수 있었고, 피해자에게 앱 설치나 작업 공간 참여를 요구할 필요가 없었다.

연구팀이 처음 안정적으로 재현한 경로에서는 피해자가 공유 페이지를 연 뒤 챗GPT의 미리보기 버튼을 한 번 눌러야 했다. 이후 HTML 블록이 자동으로 미리보기로 열리게 표시하자, 링크를 여는 것만으로 진행되는 경로가 만들어졌다. 연구팀은 별도 계정에서 이 자동 경로를 세 차례 재현했고, 강력 새로고침 뒤에도 약 4.5초 후 실행 결과가 나타났다고 밝혔다. 그래프와 미리보기의 로딩 순서가 엇갈릴 수 있어 최종 구성은 메시지를 제한된 시간 동안 재전송했다.

알림창을 넘어 비공개 대화까지

연구팀은 먼저 브라우저가 chatgpt.com에서 나온 것으로 표시하는 알림창과 본문 페이지의 배너로 코드의 실행 위치를 확인했다. 그러나 알림창은 영향 범위의 시작에 불과했다. 실행 중인 코드가 로그인된 웹 애플리케이션과 같은 출처에 있었기 때문이다. 연구팀은 페이지에 이미 있는 세션 정보를 읽어 챗GPT의 인증된 대화 API를 호출했다.

공격 코드는 피해자의 최근 대화 목록을 가져온 뒤, 악성 공유 링크와 관계없는 비공개 대화의 메시지 데이터를 요청했다. 이는 화면에 보이는 문구를 긁어낸 것이 아니라 피해자의 인증 상태로 서버에 직접 요청한 결과였다. 연구팀은 제어하는 서버로 이미지 요청을 보내 응답 중 작은 일부만 외부로 전송했다. 검증 과정에서 보낸 데이터는 제한했지만, 주입된 코드는 비공개 대화 응답 자체를 읽을 수 있었다.

연구팀은 이 접근이 시연에 사용한 대화 API에만 묶이지 않는다고 설명했다. 로그인된 챗GPT 웹페이지가 인증된 API로 할 수 있는 다른 데이터 접근과 계정 작업도 같은 보안 경계 안에 있기 때문이다. 따라서 이 사례의 핵심은 비밀번호를 알아냈다는 데 있지 않다. 피해자의 브라우저에서 피해자의 세션 권한으로 동작하는 코드를 만들었다는 데 있다.

오픈AI가 막은 경계

오픈AI는 자바스크립트 실행과 비공개 대화 조회 시연을 모두 재현했다. 수정 작업은 챗GPT 웹 프런트엔드의 두 버전에 걸쳐 진행됐다. 배포 중에는 CSP 변경으로 원래 공격 경로의 일부가 차단됐지만, 한 버전에는 추가 수정이 필요했다. 오픈AI는 10월 26일 두 버전 모두 보고된 프레임 간 매스라이브 메시지를 거부한다고 확인하고 문제를 해결 처리했다.

연구팀이 짚은 실패 지점은 세 곳이다. 매스라이브가 상태를 바꾸는 메시지의 발신 웹 주소와 창을 확인하지 않았고, 메시지로 전달되는 키보드 설정에 원시 HTML을 허용했으며, 그 HTML이 격리되지 않은 새 문서를 만들 수 있었다. 유튜브 경로만 막았다면 당시의 스크립트 실행 방법 하나는 사라졌겠지만, 신뢰할 수 없는 HTML이 본문 페이지에 들어오는 문제는 남았을 것이다.

이 공격은 공개 공유, 미리보기, 그래프, 프레임 간 메시지, CSP가 같은 페이지에서 만날 때 성립했다. 미리보기 하나만 검사하면 격리가 정상으로 보이고, 그래프 하나만 보면 수학 키보드를 불러오는 평범한 동작으로 보인다. 연구팀은 프레임 간 메시지의 출처와 정확한 발신 창을 함께 확인하고, 신뢰할 수 없는 내용으로 만들어진 문서는 렌더링 전 과정에서 격리를 유지해야 한다고 강조했다.

커뮤니티 의견

한 사용자는 글의 설명만으로는 공격자가 평범한 공개 대화의 HTML 미리보기 내용을 어떻게 통제했는지 따라가기 어렵다고 했다. 특히 사용자가 입력하는 프롬프트와 실제 미리보기로 만들어지는 HTML 블록 사이의 과정을 더 분명히 설명해야 한다는 지적이었다. 유튜브의 JSONP 방식 설명도 보호 장치를 우회한 단계와 섞여 읽힌다고 봤다.

한 사용자는 댓글에서 언급된 5,000달러의 보상액이 링크를 열기만 해도 성립하는 취약점의 심각성에 비해 낮다고 주장했다. 이런 수준의 보상은 다른 발견자가 신고할 유인을 떨어뜨릴 수 있다는 우려도 덧붙였다. 이는 취약점의 기술적 영향과 별개로, 신고 체계가 연구자의 선택에 어떤 영향을 주는지 묻는 의견이었다.

한 사용자는 챗GPT 데스크톱 앱의 다른 파일 시스템 접근 문제를 거론하며, 이번 사례와 함께 보면 우려스럽다고 했다. 답글에서는 다른 AI 도구의 원격 세션 기능과 비교하는 의견도 나왔다. 다만 이 대화는 이번 공유 링크 취약점의 작동 방식을 설명하기보다, AI 제품의 인증된 세션이 닿는 범위를 걱정하는 쪽에 가까웠다.

글 자체를 둘러싼 반응도 있었다. 한 사용자는 보안 연구 내용을 직접 쓴 블로그 글로 더 명료하게 전달할 수 없었느냐고 물었다. 다른 사용자는 손으로 HTML을 작성해 블로그를 운영한다며, 기술적 발견을 설명하는 글의 완성도에도 기대가 있다고 했다.

한 사용자는 기능과 코드가 늘수록 공격 표면도 커진다며, 코드 규모보다 정확성과 검증된 엔지니어링 관행을 중시해야 한다고 주장했다. 답글에서는 시스템을 작게 나누는 방식 역시 분산 컴퓨팅의 어려움을 가져오므로 만능 해법은 아니라는 반론이 나왔다. 두 의견 모두 불필요한 공격 표면을 줄여야 한다는 점에는 무게를 뒀다.

반대로 한 사용자는 검증 범위를 단계적으로 넓혀 가는 서술이 좋았다고 평가했다. 프레임 간 메시지, JSONP, iframe, 이미지 요청처럼 오래전부터 쓰인 웹 기술이 이어져 실제 데이터 반출까지 도달하는 과정이 인상적이라는 반응이었다. 새로운 기능 하나의 결함보다 익숙한 구성 요소 사이의 연결이 더 중요했다는 평가다.

한 사용자는 이 연구 조직이 과거 자사의 테스트 환경에서 취약점을 찾아 통보한 경험을 소개하며, 요청하지 않은 보안 테스트와 영업 목적의 공개 방식은 달갑지 않다고 했다. 답글에서는 그런 통보가 없었다면 취약점을 모른 채 악용당했을 수 있다는 반론이 나왔다. 취약점 발견의 가치와 허가받지 않은 점검의 경계를 두고 시각이 갈렸다.

핵심통찰

이번 사건은 ‘미리보기를 별도 프레임에 넣었다’는 사실만으로 사용자 데이터를 지킬 수 없음을 보여준다. 실제 권한은 프레임 사이를 오가는 메시지, HTML을 화면에 넣는 구성 요소, 새로 만들어지는 문서까지 이어져 있었다. 앞으로 지켜볼 것은 개별 기능의 격리 여부만이 아니다. 공개 링크처럼 누구나 만든 내용을 불러오는 화면에서, 그 내용이 로그인된 페이지의 구성 요소에 어떤 지시를 전달할 수 있는지까지 한 흐름으로 검사하는가다.


원본: Do the Math: How We Took Over ChatGPT Accounts

토론: Hacker News