AI에게 글을 맡기면 생각도 맡기게 될까

에리히 그뤼네발트(Erich Grunewald)는 생각을 전달하는 글이라면 AI에게 초안 작성을 맡기지 말아야 한다고 주장했다. 글을 쓰는 동안 논리의 빈틈을 발견하고 생각을 고치는데, 완성된 AI 문장을 검토하는 것만으로는 그 과정을 대신하기 어렵다는 이유다. 그는 AI 글쓰기가 미묘한 오류를 감추고 독자의 신뢰까지 해칠 수 있다고 본다. 다만 조사·분석·퇴고를 돕는 AI까지 거부하지는 않는다. 어디까지가 도움이고 어디부터가 글쓰기를 넘기는 일인지가 이 논쟁의 핵심이다.

핵심 요약

  • 그뤼네발트는 주장이나 분석을 담은 글의 본문을 AI에 맡기면, 글을 쓰며 생각을 점검하는 과정이 빠진다고 본다.
  • 그는 클로드(Claude)가 쓴 AI 칩 밀수 소개문을 분석해, 그럴듯한 표현 안에 모호한 인과관계와 빠진 조건이 숨어 있다고 지적한다.
  • 필자는 AI가 쓴 글을 밝히지 않고 남에게 건네면 독자가 기대하는 작성자의 판단과 노력을 오해하게 만든다고 주장한다.
  • 반면 자료 검색, 아이디어 발상, 초안 비평, 사람이 판단하는 문장 수정에는 AI를 쓸 수 있다고 구분한다.
  • 토론에서는 AI 초안의 검토 비용을 우려하는 경험담과 AI가 오히려 표현을 찾고 글을 더 많이 쓰게 돕는다는 반론이 함께 나왔다.

AI 도움과 AI 대필 사이

그뤼네발트가 반대하는 대상은 블로그 글, 연구 보고서, 메모, 사려 깊은 이메일처럼 생각이나 주장을 전하려는 글의 본문을 AI가 쓰는 일이다. 사람이 자세한 불릿을 건네거나 생각을 말로 풀어 입력하고, 나온 결과를 다시 편집하더라도 그의 판단은 크게 달라지지 않는다. AI가 문장을 대신 만드는 순간 작성자가 직접 문장을 고르며 생각을 정리할 기회를 놓치기 쉽다고 보기 때문이다.

그렇다고 모든 AI 사용을 반대하지는 않는다. 그는 음성 전사, 데이터 분석, 정보 검색, 아이디어 발상, 초안에 대한 의견을 유용한 보조 작업으로 꼽는다. 문장을 더 분명하고 간결하게 고치는 일도 사람이 수정 사항을 하나씩 받아들이거나 거절한다면 괜찮다고 본다. 글을 빨리 쓸 수 있다는 AI의 장점도 인정하지만, 현재와 가까운 미래의 모델에서는 그 대가가 더 크다는 게 그의 주장이다.

문장을 쓰다가 드러나는 논리의 구멍

그뤼네발트에게 글쓰기는 이미 완성된 생각을 보기 좋게 옮기는 단계가 아니다. 자료와 주장을 문장과 문단으로 연결하다 보면 근거가 부족한 곳, 서로 맞지 않는 주장, 처음보다 좁혀야 하는 결론이 드러난다. 연구에서 중요한 질문에 대해 정확한 판단을 세우려면 바로 이 과정을 거쳐야 한다는 설명이다. AI가 개요를 매끄러운 글로 바꿔 주면 작성자는 개요 자체가 잘못됐을 가능성을 지나칠 수 있다.

그는 폴 그레이엄(Paul Graham)의 글과 클라라 콜리어(Clara Collier)의 발언을 이 대목에서 인용한다. 콜리어는 개요의 두 항목을 잇는 문장이 어색할 때, 표현 문제가 아니라 애초에 두 항목을 나란히 놓은 판단이 틀렸음을 깨닫기도 한다고 설명한다. 패트릭 매켄지(Patrick McKenzie) 역시 긴 글을 직접 문단으로 풀어 쓰면 주장에 맞서는 증거나 미흡한 조사가 눈에 들어온다고 말한다. 그뤼네발트의 결론은 글 전체의 근거와 연결 관계를 누군가는 머릿속에 담고 있어야 하며, AI 대필은 그 일을 피하기 쉽게 만든다는 것이다.

AI 칩 밀수 문단의 그럴듯한 빈틈

그뤼네발트는 자신이 익숙한 AI 칩 밀수를 소재로 클로드 페이블 5(Claude Fable 5)에 짧은 소개 문단을 써 달라고 했다. 결과물은 미국의 대중국 AI 칩 수출 제한부터 밀수 경로와 단속 자원 문제까지 한 번에 훑었다. 얼핏 읽으면 무난한 설명이지만, 필자는 거의 모든 문장에 다시 따져야 할 선택이 들어 있다고 지적한다. 잘못된 숫자 하나보다 더 눈에 띄기 어려운 문제는 사실처럼 들리는 표현이 정작 무엇을 뜻하는지 불분명하다는 점이다.

예컨대 클로드는 수출통제(특정 물품의 해외 반출을 제한하는 제도)의 효과가 집행에 달렸다고 썼다. 그뤼네발트는 이 말이 당연한 소리이거나 구체적 정보가 없는 문장이라고 본다. AI 칩이 작아 밀수하기 좋다는 설명에도 이의를 제기한다. 그의 설명으로는 실제 거래에서 흔히 문제가 되는 것은 크기가 작은 칩 자체보다 AI 서버이며, 물건을 숨기기보다 다른 품목으로 표시해 운송하는 방식이 중요하다.

규모와 단속 역량을 다룬 문장도 같은 문제를 보인다. 클로드는 밀수 추정치가 연간 수만 개에서 10만 개 이상까지 다양하다고 썼지만, 그뤼네발트는 낮은 추정치가 거의 틀렸을 것으로 보고 어느 해의 규모인지도 밝혀야 한다고 지적한다. 미국 산업안보국(Bureau of Industry and Security, BIS)의 예산과 인력이 부족하다는 대목에서는 확인 가능한 수치를 제시하는 대신 ‘더 작은 문제에 어울리는 수준’이라는 표현을 썼다. 그는 이런 문장들이 읽는 사람에게 결론에 도달한 느낌은 주지만, 판단에 필요한 기준은 남기지 않는다고 비판한다.

읽으며 고치는 일과 직접 쓰는 일

그뤼네발트는 전문가가 AI 문장을 읽고 동의했으니 그 글이 온전히 전문가의 판단을 담았다는 주장에도 반대한다. 남이 쓴 문장을 읽을 때는 뜻이 대강 맞으면 넘어가기 쉽지만, 처음부터 쓸 때는 단어 하나를 고르기 위해 자신이 정확히 무엇을 아는지 따져야 한다는 것이다. 그는 철학자 에릭 슈비츠게벨(Eric Schwitzgebel)의 논의를 빌려, 전문가의 미세한 어휘 선택에도 분야에 대한 감각이 반영된다고 설명한다. 비슷해 보이는 AI 표현을 수락하는 것과 스스로 그 표현에 도달하는 것은 같은 작업이 아니다.

더 까다로운 점은 AI의 모호함이 꽤 설득력 있게 보인다는 데 있다. 그뤼네발트는 자신이 AI 칩 밀수를 잘 알지 못했다면 앞서 든 문제 대부분을 발견하기 어려웠을 것이라고 말한다. 회의록을 동료에게 공유할 요약문으로 바꿀 때도 클로드에 자세한 지시와 예시를 주었지만, 미묘한 오류와 모호한 표현이 남았다고 덧붙인다. AI가 쓴 글을 꼼꼼히 검토하려면 결국 작성 주제와 독자를 모두 이해한 사람이 상당한 노력을 들여야 한다는 얘기다.

독자가 기대하는 작성자의 판단

그뤼네발트는 글을 공개하거나 남에게 보내는 일을 작성자와 독자 사이의 약속으로 본다. 독자는 시간을 들여 읽는 대신, 작성자가 생각을 정리하고 그 사람만이 전할 수 있는 정보나 관점을 담았으리라 기대한다. 그런데 AI가 본문을 썼다는 사실을 밝히지 않으면 글의 문장이 누구의 판단을 얼마나 반영하는지 알기 어렵다. 필자가 AI 작성 여부를 알게 됐을 때 글과 작성자에 대한 신뢰가 떨어진다고 말하는 이유다.

그는 이런 글을 표시 없이 보내는 일을 충분히 다듬지 않은 초안을 그 사실을 숨긴 채 건네는 것에 비유한다. AI를 사용했다고 명확히 밝히면 독자는 그 정보를 바탕으로 글의 무게를 스스로 판단할 수 있다. 다만 표시가 독자의 오해를 줄여 주더라도, 글을 직접 쓰며 생각을 검증하지 못했다는 문제까지 없애지는 못한다. 따라서 그의 반대는 AI 사용을 숨기는 태도와 AI에 실질적인 글 전체를 맡기는 방식 양쪽을 향한다.

번역·정형 이메일·정책 메모의 예외

그뤼네발트는 AI가 만든 일부 내용을 출처를 밝혀 글에 넣는 것은 대체로 괜찮다고 본다. 충분히 조사하기 어려운 사안을 다룰 때 클로드가 이렇게 답했다고 적으면, 독자가 그 주장에 어느 정도 무게를 둘지 선택할 수 있다. 짧고 반복적인 업무용 이메일처럼 주로 일정이나 절차를 조율하는 글도 AI 초안을 가볍게 손봐 쓰는 예외로 든다. 핵심은 그 글이 깊은 생각을 전하려는 것인지, 독자가 작성자에게 어떤 판단을 기대하는지다.

영어 쓰기가 어려운 비원어민에 대해서도 그는 AI가 처음부터 영어 문장을 쓰게 하기보다, 모국어로 쓴 글을 번역하는 편이 낫다고 본다. 번역에서도 AI 사용을 밝히는 편이 좋다는 입장이다. AI 정책 메모처럼 빨리 써야 할 이유가 큰 경우에도 정확하고 사려 깊은 분석을 줄여서는 안 된다고 말한다. AI 초안을 매우 꼼꼼히 검토하고 크게 고치면 예외가 될 수 있지만, 그렇게 하면 처음부터 직접 쓰는 것보다 쉽거나 빠를지 의문이라는 것이다.

커뮤니티 의견

한 사용자는 지난 2주 동안 AI가 만든 업무 문서를 여러 사람과 함께 검토하고 고친 경험을 들며, 처음부터 사람이 썼다면 더 빠르고 좋은 결과가 나왔을 것이라고 했다. 문장을 직접 만드는 일과 이미 나온 문장을 손보는 일의 차이가 크다는 주장이다. 답글에서는 사람이든 AI든 더 자연스러운 표현을 제안했다면 받아들이지 않을 이유가 없다는 반론도 나왔다.

다른 사용자는 AI에는 자신이 읽을 자료를 정리하게 하되, 남에게 읽힐 글은 맡기지 말자고 제안했다. 연구 요약이나 회의록 정리는 활용할 수 있지만, 타인에게 전달할 글은 작성자가 책임져야 한다는 구분이다. 이에 대해 자신이 읽을 수 있는 결과라면 다른 사람도 읽을 수 있다며, 중요한 차이는 사용 사실을 알리는 데 있지 않느냐는 답글이 달렸다.

한 사용자는 여러 사람이 함께 쓴 백서를 AI로 요약했다가 원래 주장의 미묘한 차이가 사라져 다시 읽고 고치는 데 많은 시간을 썼다고 했다. 답글에서는 AI가 ‘일부’나 ‘대부분’ 같은 범위 표현, 부정문과 논리 관계를 잘못 다루는 사례를 짚었다. 또 다른 답글은 AI를 쓰면 작성자가 편집자가 되는데, 편집은 결코 쉬운 일이 아니라고 지적했다.

초안을 AI에 맡기기보다 자신이 쓴 글을 비평해 달라고 하자는 의견도 나왔다. 이 사용자는 AI의 조언 중 무엇을 반영할지는 사람이 결정해야 하며, AI가 글 전체를 다시 쓰면 대개 손을 너무 많이 댄다고 봤다. 반대로 AI의 비평은 실제 판단이라기보다 비평처럼 보이는 문장일 뿐이라는 답글도 있었다.

코드 작성에도 같은 우려를 적용하는 의견이 있었다. 코드를 쓰는 과정 역시 생각하는 과정이고, 나중에 코드를 읽는 사람이 AI의 미묘한 오류를 감당할 수 있다는 것이다. 반론은 코드는 실행해 동작을 확인할 수 있지만, 글이 독자에게 생각을 정확히 전하는지는 같은 방식으로 판정하기 어렵다고 구분했다.

한 사용자는 AI가 짧은 입력에 없던 말을 덧붙여 본뜻을 묻히게 하므로 차라리 입력문을 그대로 공개하는 편이 낫다고 했다. 이어진 답글은 생각나는 대로 길게 적은 뒤 AI에게 모호한 곳을 질문하게 하고, 초안을 받아 대부분 다시 쓰는 작업 방식을 소개했다. 이 사용자는 업무나 개인적인 용무에는 그렇게 하되, 친구나 동료에게 보내는 편지는 AI로 만들지 않는다고 했다.

AI는 자신을 더 깊이 생각하게 만드는 데 쓰자는 원칙도 제시됐다. 다른 사용자는 AI와 대화하며 오히려 글을 더 자주 쓰게 됐다고 말했다. 먼저 자신의 생각과 대안을 충분히 적고, AI의 답을 비판하고 추가로 조사한 다음 직접 글을 쓰는 식이므로, 관건은 결과물을 수동적으로 받아들이지 않는 태도라는 설명이다.

글쓰기 금지론이 지나치게 넓다는 반론도 나왔다. 한 사용자는 말하려는 생각은 분명해도 맞는 표현이 떠오르지 않을 때 AI가 여러 문장을 제안해 기술 보고서 작성에 도움이 됐다고 했다. 문장 하나하나를 세심하게 고르면 AI가 먼저 제안한 표현이 많아도 자신의 글이라고 느낀다는 주장이다. 다만 답글에서는 첫 문장에 갇힌 사고를 깨는 데 도움이 된다는 공감과, 그 글의 목소리가 정말 작성자 자신의 것인지 의심한다는 반응이 갈렸다.

핵심 통찰

이 논쟁의 기준은 글에 AI 문장이 몇 개 들어갔느냐보다 작성자가 어떤 판단을 직접 했느냐다. AI가 낯선 표현을 제안하고 초안의 약점을 짚어 주는 일은 생각을 넓힐 수 있다. 반면 근거의 무게와 문장 사이의 관계까지 매끄러운 초안에 맡기면, 오류를 찾는 책임만 사람에게 돌아올 수 있다. 앞으로 지켜볼 것은 AI 글의 자연스러움뿐 아니라, 작성자가 그 문장을 왜 택했는지 설명할 수 있는지와 독자에게 AI의 역할을 얼마나 분명히 알리는지다.


원본: Why I Think You Should Almost Never Use AI to Write Anything Substantive

토론: Hacker News