LLM 문체가 글쓰기의 생각까지 바꿀 때

마틴 파울러(Martin Fowler)는 글쓰기를 LLM에 넘기면 문체뿐 아니라 생각을 정리하는 과정까지 잃을 수 있다고 경고했다. 그는 글을 읽다가 LLM이 쓴 듯한 느낌이 들면, 실제 작성 주체를 확인하기도 전에 읽을 마음이 사라진다고 말한다. 문제는 특정 표현을 찾아 AI 사용 여부를 판정하는 데 있지 않다. 독자가 글에서 사람의 생각을 따라갈 수 있는지, 글쓴이는 자기 문장을 만드는 일을 계속하고 있는지가 더 중요하다는 주장이다.

핵심요약

  • 파울러는 LLM 문체가 독자에게 거부감을 줄 수 있으며, AI 작성 여부를 판정하는 도구로는 이미 떠난 독자의 관심을 되찾기 어렵다고 말한다.
  • 그는 LLM에 초안을 맡기면 사람이 고쳐도 특유의 문체가 남기 쉬워, 문장 자체는 글쓴이가 써야 한다고 권한다.
  • 글쓰기는 생각을 명료하게 만드는 연습이므로, 문장 작성을 위임하면 이해하는 과정까지 위임할 수 있다는 것이 그의 우려다.
  • 파울러는 질병으로 글쓰기가 어려운 사람이나 번역이 필요한 동료에게 LLM이 중요한 도구가 될 수 있다는 예외도 인정한다.
  • 토론 참여자들은 밋밋한 문체뿐 아니라 검증 없는 고객지원 답변과 읽히지 않는 보고서 같은 사용 방식도 문제로 짚었다.

읽다가 멈추게 되는 글

파울러는 어떤 글을 읽다 보면 LLM이 쓴 결과물 같다는 느낌이 점점 강해진다고 한다. 무엇이 그런 인상을 만드는지 정확히 정의하기는 어렵지만, 그 순간부터 계속 읽고 싶은 마음이 줄어들고 때로는 거부감까지 든다는 것이다. 그는 이를 LLM 문체, 곧 문장에 배어 있는 AI 특유의 어조가 일으키는 반응으로 설명한다. 특정 문장부호 하나가 범인이라는 식의 간단한 진단과는 거리를 둔다.

그가 주목하는 것은 글의 출처보다 읽는 사람의 경험이다. 사람이 쓴 글인지 LLM이 만든 글인지 가려 준다는 도구는 있지만, 파울러는 정확도에도 의문을 품고 있다. 더 중요한 문제는 도구를 찾을 만큼 글이 어색하게 느껴졌다면 독자의 관심은 이미 식었다는 점이다. 도구가 나중에 AI가 쓰지 않았다고 판정하더라도, 읽는 동안 느낀 거부감 자체가 사라지지는 않는다.

판별보다 어려운 것은 자신의 감각

파울러는 자신의 감별 능력도 무조건 믿지 않는다. 언어는 계속 바뀌고, 한 세대가 어색하게 여기는 표현을 다른 세대는 자연스럽게 쓸 수 있기 때문이다. 그 역시 일부 업무식 표현에 거부감을 느끼지만, 실제 사람의 입에서 그런 말을 들은 적이 있다고 밝힌다. 낯선 문체를 곧바로 LLM의 흔적으로 취급하면 세대나 지역에 따른 언어 차이까지 잘못 읽을 수 있다.

이 대목에서 그의 주장은 ‘AI 글을 찾아내자’는 요구와 갈라진다. LLM이 썼다는 확증이 없어도 글은 독자를 지치게 할 수 있고, 반대로 거슬리는 표현이 사람에게서 나왔을 수도 있다. 따라서 문체에 대한 불만을 작성 주체를 단죄하는 근거로 쓰기보다, 독자에게 어떤 읽기 경험을 남기는지 살펴야 한다는 이야기다. 파울러가 말하는 ‘불쾌한 골짜기’는 사람의 글과 닮았지만 어딘가 어색해지는 그 지점을 가리킨다.

초안을 맡기면 남는 흔적

파울러가 글쓴이에게 가장 강하게 권하는 것은 LLM에 초안을 쓰게 하지 말라는 것이다. 사람이 뒤에서 문장을 고쳐도 처음 잡힌 LLM 문체를 걷어 내기는 매우 어렵다고 본다. 문장 바꾸기 제안을 받아들이는 일에도 같은 위험이 있다고 말한다. 글의 구조나 개요를 짜는 데 LLM을 쓰는 방식은 가능성을 열어 두지만, 그 경우에도 개요에서 멈추고 실제 문장은 사람이 채워야 한다는 입장이다.

예외가 전혀 없다는 뜻은 아니다. 파울러는 첫 초안을 LLM이 전부 썼다는 사실을 알고도 최종 글에서는 LLM 문체를 느끼지 못한 사례를 소개한다. 다만 그 글을 다듬는 데는 주요 정기간행물의 전문 편집자가 필요했다. 그의 요점은 AI 초안을 사람이 손보는 일이 불가능하다는 선언이 아니라, 자연스러운 글로 만드는 데 예상보다 큰 편집 노력이 들 수 있다는 경고다.

AI를 썼다면 어디에 썼는가

파울러는 자신이 운영하는 사이트에서 AI의 도움을 받아 글을 쓴 사람에게 사용 방식을 밝히도록 한다. 주로 감사의 말에 적게 하는데, 독자에게 과정을 투명하게 알리는 동시에 쓸 만한 활용법을 공유하기 위해서다. ‘AI를 사용했다’는 한마디보다 어떤 단계에서 어떤 도움을 받았는지가 중요하다는 운영 원칙이다. 앞서 구분한 개요, 초안, 문장 수정은 글에 남기는 영향이 서로 다르다.

자신의 글쓰기에서는 AI로 문장을 만들거나 구조를 잡지 않는다고 파울러는 밝힌다. 글을 쓸 때 AI를 이용하는 방식은 검색 도구로 쓰는 것뿐이며, 찾은 정보는 직접 출처에 가서 확인한다. 이번 글에는 AI나 LLM을 어떤 방식으로도 사용하지 않았다고 명시했다. 이 공개는 AI 사용을 일괄적으로 금지하자는 주장보다, 도구가 글의 어느 부분에 관여했는지 독자가 알 수 있어야 한다는 원칙에 가깝다.

문장을 만드는 동안 정리되는 생각

파울러가 권하는 글쓰기 습관은 머릿속으로 하고 싶은 말을 먼저 소리 내듯 떠올리고, 그것을 적은 뒤 다시 고치는 것이다. 꾸준히 글로 소통하고 싶은 사람일수록 직접 문장을 만드는 연습이 중요하다고 말한다. 글쓰기 실력은 반복해서 써야 늘어나는데, 그 과정을 LLM에 맡기면 실력을 쌓을 기회도 줄어든다는 것이다. 매끈한 결과물을 빨리 얻는 일과 스스로 잘 쓰게 되는 일은 같지 않다.

그에게 글쓰기는 생각을 전달하는 수단인 동시에 생각을 완성하는 도구다. 처음에는 주제를 충분히 이해하지 못한 채 글을 시작하더라도, 맞는 말을 찾으며 혼란스러운 부분을 마주하게 된다고 설명한다. 문장이 막히는 순간은 단순히 표현력이 부족하다는 신호가 아니라 생각이 정리되지 않았다는 단서일 수 있다. 파울러가 글쓰기의 위임을 걱정하는 이유는 그 씨름까지 LLM에 넘길 수 있어서다.

그는 언젠가 LLM의 글과 사람의 글을 구분하기 어려워질 가능성도 언급한다. 하지만 그런 발전이 우려를 없애기보다 키울 수 있다고 본다. 글이 충분히 자연스러워져도 글쓴이가 스스로 이해하고 판단하는 과정을 거쳤는지는 별개의 문제이기 때문이다. 파울러에게 중요한 질문은 독자를 속일 만큼 잘 쓸 수 있느냐가 아니라, 쓰는 사람이 글을 통해 무엇을 생각하게 되느냐다.

파킨슨병과 번역이 만드는 예외

파울러는 LLM 문체를 피하라는 원칙이 절대적일 수는 없다고 인정한다. 함께 글을 쓰는 짐 하이스미스(Jim Highsmith)에게 LLM은 파킨슨병으로 인한 글쓰기의 어려움을 넘는 데 필수적인 도구다. 파울러는 오랜 친구의 통찰을 계속 읽을 수 있다면 LLM 문체를 감수하겠다고 말한다. 문체의 순수함보다 글쓴이가 자기 생각을 전할 수 있는 길을 지키는 일이 앞서는 사례다.

번역은 판단이 더 복잡하다. 파울러의 동료 중에는 영어가 모국어가 아니어서 LLM 번역을 소통의 중요한 수단으로 쓰는 사람이 있다. 그는 자신이 잘 모르는 언어를 쓰는 동료와 만나는 데 그 도움이 필요하다는 점을 인정한다. 동시에 매끄럽지만 생기가 부족한 번역문보다 조금 서툴더라도 사람이 직접 쓴 영어를 읽고 싶다는 선호도 밝힌다.

이 두 사례는 ‘AI를 썼는가’만으로 글의 가치를 정하기 어려운 이유를 보여 준다. 질병 때문에 표현하기 어려웠던 생각이 전달될 수도 있고, 언어 장벽 때문에 닿지 못했던 독자를 만날 수도 있다. 반면 매끄럽게 바뀐 문장 속에서 글쓴이 고유의 어조가 희미해질 수도 있다. 파울러의 기준은 도구 사용 자체보다, 그 사용이 사람의 생각을 드러내는 데 보탬이 되는가에 놓여 있다.

사람이 읽을 글과 절차를 통과할 글

파울러는 형식적인 서한이나 아무도 읽지 않을 것 같은 보고서라면 LLM에 문장을 맡길 만하다고 말한다. 이런 글은 한 사람이 다른 사람에게 생각을 전하려는 글과 목적이 다르다. 글에 의견을 보탠 마이클 나이가드(Michael Nygard)는 형식적 서한이 사람보다는 절차와 소통하는 경우에 가깝다고 설명했다. 봉투를 여는 사람이 있더라도 그때는 절차의 한 부분으로 일할 수 있다는 뜻이다.

파울러는 앞으로 많은 문서를 사람 대신 LLM이 읽을 수도 있다고 내다본다. 그런 문서의 독자라면 그가 느끼는 문체의 어색함에 같은 방식으로 반응하지 않을 것이다. 그러나 사람과 소통하려는 글은 다르다고 그는 강조한다. 읽는 이가 글을 따라가며 글쓴이의 판단과 생각을 만날 수 있어야 하므로, 자신의 목소리가 문장에 남아야 한다는 것이다.

커뮤니티 의견

한 사용자는 AI 활용에 적극 찬성하면서도 최근 읽을거리가 서로 비슷하고 장황해졌다고 했다. 흥미로운 글을 열었다가 중간에 그만 읽는 일이 잦아졌다는 경험도 전했다. 이에 대한 답글에서는 창작이나 사람 사이의 소통보다 사무적인 글쓰기와 코드가 AI의 주요 사용처라는 반론이 나왔다.

다른 사용자는 생산성을 높이는 AI에는 찬성하면서도 창작을 자동화하는 일에는 반대한다고 했다. 이 의견은 AI 사용을 찬반으로만 나누지 않고, 무엇을 대신하게 하는지를 구분한다. 글을 빨리 작성하는 이점과 예술을 만드는 행위의 가치는 따로 판단해야 한다는 주장이다.

한 사용자는 LLM이 쓴 듯한 글은 어디로 향하는지 알기 어렵고, 정보 밀도가 낮아 끝까지 읽기 힘들다고 했다. AI가 작성한 조사 결과도 유용한 부분은 있지만 읽는 과정은 고되다는 경험을 덧붙였다. 답글에서는 자연스러운 대화에 있는 뜻밖의 전개가 생성 문장에는 부족할 수 있다는 해석이 나왔다.

또 다른 사용자는 독자가 글을 읽을 때 글쓴이의 생각과 동기를 짐작하며 다음 말을 이해한다고 주장했다. LLM 문장에서는 그 짐작이 미묘하게 어긋나는 일이 반복돼 피로감을 준다는 설명이다. 이는 어색한 단어 몇 개보다 글 전체에서 느껴지는 대화 상대의 부재에 주목한 의견이다.

한 사용자는 LLM을 글의 비평가로 쓰되, 제안한 표현은 한 단어도 가져오지 않는 편이 낫다고 했다. 단어를 대신 골라 주지 말고 문제점만 지적하도록 요청하면 자기 문체를 지키는 데 도움이 된다는 것이다. 답글에서는 문체 평가보다 사실관계와 주장 점검에만 AI를 쓰자는 더 신중한 견해도 나왔다.

고객지원에서 겪은 문제를 전한 사용자도 있었다. 그는 이미 확인한 오래됐거나 존재하지 않는 설정 경로가 공식 지원 답변에 그대로 등장해, 검증하지 않은 LLM 출력을 받았다고 판단했다. 답글에서는 문제 해결보다 감정을 이해하는 척하는 자동 응답이 오히려 불쾌하다는 지적이 이어졌다.

한 사용자는 한 문장마다 문단을 나누는 글이 생각 사이의 연결을 끊는다고 했다. 독자가 흩어진 문장을 스스로 이어 붙여야 해 읽기를 포기하게 된다는 설명이다. 이 의견은 LLM 문체를 특정 어휘가 아니라 글의 구성과 흐름에서 체감한다는 사례다.

다른 사용자는 파울러가 글쓰기를 생각을 정리하는 도구로 본 대목이 중요하다고 했다. 그는 파울러가 바로 다음에 질병으로 글쓰기의 도움을 받아야 하는 사례를 든 점도 긍정적으로 봤다. 직접 써야 얻는 사고의 이점과 도구가 있어야 비로소 쓸 수 있는 사람의 필요를 함께 살펴야 한다는 취지다.

핵심통찰

이 논쟁의 핵심은 AI 문장을 얼마나 정확히 알아볼 수 있느냐가 아니다. 독자에게는 글에서 사람의 생각을 따라갈 수 있는지가, 글쓴이에게는 문장을 만들며 자기 생각을 다듬을 기회가 남는지가 중요하다. 다만 도움을 받아야 글을 전할 수 있는 사람까지 같은 기준으로 묶어서는 안 된다. 앞으로 지켜볼 것은 AI 사용 여부라는 표시 하나보다 초안 작성, 번역, 사실 확인 중 무엇을 맡겼고 그 결과를 누가 책임 있게 살폈는가다.


원본: bliki: LLM Voice

토론: Hacker News