위키백과의 AI 글 정리, 문체를 넘어 출처 검증으로

위키백과(Wikipedia) 편집자들은 AI가 쓴 문장을 찾아 지우는 데서 그치지 않고, 출처를 검증하는 도구와 편집 규칙까지 바꾸고 있다. 2023년 시작된 자원봉사 프로젝트는 처음에는 챗GPT(ChatGPT) 특유의 상투어를 단서로 삼았지만, 이제는 문장 구조와 인용의 정확성까지 살핀다. 영어 위키백과가 대형언어모델(LLM)을 이용한 문서 생성을 금지한 뒤에도 새 문서와 초안에서는 AI 생성물로 의심되는 글이 발견된다. 사람이 쓰는 백과사전을 지키려는 이 작업은 동시에 AI를 어디까지 편집 도구로 받아들일지 묻고 있다.

핵심요약

  • 위키프로젝트 AI 클린업은 2023년 출범해 위키백과 지침을 어기는 AI 생성물을 찾아 제거하고 있으며, 탐지 대상도 상투적인 표현에서 문장 구조와 편집 이력으로 넓어졌다.
  • 실제 자료를 인용하더라도 본문 주장을 뒷받침하지 않는 사례가 흔해, AI 글 정리는 문체 판별보다 출처와 주장 사이의 관계를 확인하는 일이 됐다.
  • 팽그램은 2025년 말 새 문서와 초안의 약 20%, 2026년 초에는 15~16%를 AI 생성물로 표시했지만, 감소 이유는 아직 분명하지 않다.
  • 영어 위키백과는 LLM을 이용한 문서 생성을 금지하면서도 AI 출처 검증기와 붙여넣기 탐지 도구를 검토해, 작성 금지와 검토 보조를 구분하고 있다.
  • AI 검색이 위키백과의 내용을 직접 답변하는 시대에는 출처 표시뿐 아니라 독자가 원문을 찾아 오류를 고치고 편집에 참여할 길을 남기는 일이 중요해진다.

상투어에서 시작된 정리 작업

엘리아 르블뢰(Ellia Lebleu)는 2023년 12월께 다른 편집자들과 디스코드(Discord)에서 이상한 위키백과 문서들을 이야기하다가 공통점을 발견했다. ‘무엇의 증거로 우뚝 선다’거나 ‘풍부한 문화유산’처럼 비슷한 표현이 반복됐고, 백과사전 항목에는 어색한 결론이나 ‘왜 중요한가’ 절이 붙어 있었다. 당시 챗GPT가 자주 내놓던 글의 모양과 닮았지만, 위키백과 문서의 관례와는 거리가 멀었다. 르블뢰는 더 많은 편집자가 대응할 수 있도록 공식 프로젝트를 만들기로 했다.

그렇게 출범한 위키프로젝트 AI 클린업(WikiProject AI Cleanup)은 지침을 어기는 AI 생성물을 찾아 제거하는 자원봉사 활동이다. 르블뢰는 프랑스 렌 대학교의 인리아(Inria) 센터에서 AI 박사과정을 밟고 있으며, 프로젝트 창립 구성원으로 참여했다. 초기에는 반복되는 문구만으로도 의심스러운 글을 골라내기 쉬웠다. 그러나 글을 생성하는 모델의 표현이 달라지면서 편집자들이 살펴야 할 단서도 바뀌었다.

문장보다 편집 패턴을 본다

르블뢰에 따르면 2025년 무렵 AI 글의 흔적은 눈에 띄는 상투어보다 글 전체의 구조에 남기 시작했다. 세 가지 요소를 나란히 배열하거나 부정형 문장을 대칭적으로 놓는 식의 표현이 그 예다. 이런 특징 하나만으로 AI가 썼다고 판단하지는 않는다. 여러 특징이 한 글에 겹쳐 나타날 때 비로소 의심할 근거가 된다는 설명이다.

편집자들은 완성된 문서뿐 아니라 작성자의 활동 방식도 살핀다. 한 사람이 수천 단어짜리 문서 다섯 편을 5분 만에 올렸다면, 문체와 별개로 작성 과정을 확인할 이유가 있다. 이는 AI 문장에만 통하는 표지를 찾기보다, 글이 만들어진 속도와 패턴을 함께 보겠다는 접근이다. 표현이 사람의 글과 비슷해질수록 개별 문장을 떼어 판별하는 방식만으로는 대응하기 어려워진다.

진짜 자료를 잘못 읽은 인용

르블뢰가 특히 우려하는 것은 가짜이거나 독자를 오도하는 인용이다. AI가 존재하지 않는 자료를 지어내는 일도 있지만, 외부 자료를 찾아 답변에 반영하는 검색 증강 생성(RAG)이 쓰이면서 그런 사례는 이전보다 드물어졌다고 설명했다. 대신 실제로 존재하는 출처를 가져온 뒤 그 내용을 잘못 서술하는 일이 더 흔하다는 것이다. 링크가 있다는 사실과 그 링크가 본문을 뒷받침한다는 사실은 다르다.

위키백과에서 이 차이는 중요하다. 문장 끝에 자료가 달려 있으면 독자는 내용이 확인됐다고 받아들이기 쉽지만, 인용된 자료가 엉뚱한 주장을 뒷받침하는 듯 쓰일 수 있다. 르블뢰는 본문 주장을 실제로 지지하지 않는 AI 인용이 매우 흔하다고 말했다. 따라서 정리 작업은 문장을 지우는 데 그치지 않고, 각 주장과 그 옆에 놓인 출처를 다시 맞춰 보는 일로 이어진다.

새 문서와 초안에 남은 수치

르블뢰는 AI 탐지 업체 팽그램(Pangram)과 함께 위키백과에 들어오는 AI 생성물의 비율을 추정하고 있다. 그는 챗GPT 등장 이전의 위키백과 글을 대상으로 이 도구를 시험했을 때 잘못 AI 글로 표시한 사례가 없었다고 설명했다. 그 결과를 바탕으로 탐지 수치를 보수적인 하한선으로 보고 있다. 다만 이 시험 결과가 이후의 모든 글에서 탐지 오류가 없다는 뜻은 아니다.

팽그램은 2025년 말 새 문서와 초안 가운데 약 20%를 AI 생성물로 표시했다. 2026년 초에는 그 비율이 15~16%로 내려갔다. 르블뢰는 이 하락을 곧바로 규칙의 성과로 해석하지 않았다. 최근 정책이 영향을 줬을 수도 있지만, 모델이 더 정교해져 탐지 도구가 변화를 따라가지 못했을 가능성도 남아 있기 때문이다.

AI를 막는 데 AI를 쓰는 편집자들

한 위키백과 편집자는 문서의 출처를 훑고 인용 자료가 본문 주장과 맞는지 확인하는 AI 출처 검증기를 만들었다. 르블뢰는 이 도구 역시 AI 모델이므로 매번 올바른 판단을 보장할 수는 없다고 말했다. 그럼에도 대량의 문서에서 뚜렷한 문제를 먼저 걸러내는 출발점으로는 쓸 만하다는 평가다. 사람의 검토를 없애기보다 확인할 대상을 추리는 역할에 가깝다.

위키미디어 재단(Wikimedia Foundation)은 일부 AI 챗봇에서 직접 붙여 넣은 문장을 표시하는 페이스트 체크(Paste Check)도 개발하고 있다. 르블뢰는 클로드(Claude)가 위키백과 정책을 이유로 문서 작성을 거절하는 경우도 봤다고 전했다. 주요 AI 기업들이 이런 응답을 적용하면 상용 모델을 쓰는 초보 편집자의 무분별한 제출을 줄이는 데 도움이 될 수 있다. 다만 제한을 바꿀 수 있는 공개 가중치 모델이 있어, 모델 차원의 거절만으로 문제를 끝낼 수는 없다고 봤다.

작성 금지와 사람의 백과사전

영어 위키백과는 최근 편집자가 LLM으로 문서를 생성하는 것을 금지했다. 르블뢰에 따르면 AI 생성물의 대부분은 초보 편집자가 제출하기 때문에, 편집자 환영 메시지와 도움말, 안내 문구에도 이 규칙을 눈에 띄게 알리고 있다. 현재 보이는 제출 비율의 하락이 정책 때문인지, 초보자가 규칙을 익힌 결과인지, 아니면 탐지가 어려워진 탓인지는 아직 판단하기 이르다는 설명이다. 금지 규칙과 검토 보조 도구가 함께 운영되는 이유도 여기 있다.

규칙이 만들어질 당시의 이유는 당면한 편집 부담이었다. AI 글이 밀려들었지만 이를 가려낼 도구는 충분하지 않았고, 우선 유입을 멈출 필요가 있었다고 르블뢰는 회고했다. 이후 논의는 ‘사람이 쓴 백과사전’이라는 위키백과의 정체성으로 넓어졌다. AI 학습에도 사람이 쓴 글의 집합은 가치가 있지만, 더 폭넓은 정보를 원하는 독자를 위해 별도의 AI 보조 선택지를 둘 수 있는지도 앞으로의 질문으로 남아 있다.

AI 답변 뒤에 가려진 편집 창

르블뢰가 제기한 또 다른 문제는 검색 이용자가 위키백과 자체를 방문하지 않을 수 있다는 점이다. 구글(Google)의 AI 오버뷰(AI Overviews)가 위키백과를 인용하더라도, 이용자는 AI 답변만 보고 지나갈 수 있다. 그러면 그 문서가 계속 고쳐지는 글이며 자신도 편집에 참여할 수 있다는 사실을 알아차리기 어렵다. 위키백과의 내용이 널리 쓰이는 것과 새 기여자가 찾아오는 것은 별개의 문제다.

위키미디어 재단은 AI 답변에서 인용된 문서의 상태를 더 잘 보여줄 출처 표시 체계를 마련하고 있다. 마지막 편집 시점, 문서의 충실도, 편집자가 표시한 문제 등을 독자에게 전하고 참여를 권하는 방식이 거론된다. 르블뢰는 독자가 AI 답변의 오류를 발견했을 때 새 자료를 덧붙여 편집을 요청하는 미래도 그렸다. AI가 위키백과를 대신 읽어주는 창에 머무를지, 사람을 다시 편집 과정으로 데려오는 통로가 될지가 관건이다.

커뮤니티 의견

한 사용자는 AI 글을 정리하는 편집자들의 수고를 높이 평가하며, 다른 게임 위키의 개발자 글이 떠오른다고 했다. 정보와 소프트웨어가 넘쳐날수록 쓸 만한 결과물이 잡음 속에 묻히는 문제를 함께 느꼈다는 반응이다. 위키백과의 정리 작업을 개별 문서의 품질을 넘어, 공동으로 만든 자료를 찾기 쉽게 유지하는 일로 본 셈이다.

직접 AI 생성물로 보이는 내용을 고치려 했다는 사용자는 반대 경험을 전했다. 형식이 깨지고 내용이 혼란스러우며 링크도 잘못 걸린 글을 수정했는데, 위키백과의 자동화된 봇이 곧바로 자신의 편집을 되돌려 포기했다는 것이다. 답글에서는 클루봇(ClueBot)도 실수할 수 있으며, 잘못 되돌려진 편집은 다시 복원할 수 있다고 설명했다. AI 글을 막는 자동화가 정당한 수정까지 방해하지 않도록 해야 한다는 문제의식이 드러난다.

한 사용자는 위키백과가 사람의 기여를 강하게 보호하면서도 AI의 역할을 완전히 부정하지 않는 점을 높이 평가했다. AI를 정리 대상에서 정리 도구로 받아들이는 태도가 단순한 찬반보다 현실적이라는 취지다. 이는 본문 작성은 제한하되 출처 확인 같은 보조 업무에는 AI를 써볼 수 있다는 르블뢰의 설명과 맞닿는다.

학교 관련 위키백과 프로그램에 참여한 편집자가 가치가 적은 AI 글을 대거 추가한 사례를 봤다는 사용자도 있었다. 답글은 대학 수업의 위키백과 편집을 돕는 독립 비영리단체 위키에듀(WikiEdu)가 학생들에게 글 생성 대신 자료 찾기에 AI를 활용하도록 교육하고 있다고 설명했다. 이 관점에서는 AI 사용 여부만큼이나 기여자가 주제와 출처를 직접 확인하도록 돕는 과정이 중요하다.

다른 사용자는 AI 기업이 위키백과의 정리 작업에 비용을 낼지 궁금해했다. 사람이 검토한 글의 품질이 좋아지면 AI 학습 자료의 질도 높아진다는 이유에서다. 이어진 답글에서는 AI가 위키백과 내용을 간접적으로 활용하면서도 이용자를 원문으로 보내지 않는 듯하다는 우려가 나왔다. 누가 자료를 유지하고 누가 그 가치를 가져가는지에 대한 질문이다.

AI 글을 치우기 전에 편향된 인간 편집자도 살펴야 한다는 반론도 나왔다. 일부 답글은 시사·분쟁 관련 문서의 중립성과 편집자 행태를 문제 삼았다. 댓글에서 제기된 개별 사례를 떠나, 사람의 글이라는 사실만으로 정확성이나 중립성이 확보되지는 않는다는 지적이다. AI 생성물 정리와 기존 편집 품질 관리를 별개로 둘 수 없다는 시각이다.

한 사용자는 이 작업이 역설적으로 AI가 위키백과 편집자처럼 보이도록 학습하는 데 도움을 줄 수 있다고 봤다. 어떤 글이 걸러지고 어떤 글이 남는지가 반복해서 드러나면, 생성 모델이 그 기준에 적응할 여지가 있다는 주장이다. 문체상의 흔적이 희미해질수록 출처 확인과 편집 과정 검토가 중요해진다는 본문의 흐름을 다른 각도에서 짚은 의견이다.

자신이 만든 사이트의 위키백과 문서가 삭제됐다는 사용자는 백과사전의 기록이 생각만큼 영구적이지 않다고 말했다. 해당 문서를 만든 계정이 대량 문서 생성 문제로 금지된 뒤 삭제 논의가 열렸고, 문서를 지지하는 사람이 나서지 않아 결국 사라졌다는 경험이다. AI 글 정리는 불량한 기여를 걷어내지만, 그 과정에서 남길 만한 정보까지 놓치지 않도록 사람의 참여가 필요하다는 사례로 읽힌다.

핵심통찰

위키백과의 AI 정리 작업은 ‘AI처럼 쓰인 문장’을 찾는 단계에서 ‘누가 어떤 근거로 이 주장을 남겼는가’를 확인하는 단계로 옮겨가고 있다. 탐지 비율이 내려간 이유조차 아직 갈리지 않는 만큼, 앞으로 볼 것은 탐지기의 적발 숫자만이 아니다. 출처 검증 도구가 사람의 수정을 돕는지, 초보 편집자에게 규칙이 제대로 전달되는지, AI 답변을 읽은 이용자가 원문으로 돌아와 오류를 고칠 수 있는지가 더 중요하다. 사람이 쓴다는 정체성은 사람의 검토와 참여가 계속 이어질 때 지켜진다.


원본: Inside Wikipedia’s Cleanup Effort Against AI Text

토론: Hacker News