AI가 코드를 써도 코딩은 끝나지 않았다

AI가 코드를 빠르게 만드는 것과 소프트웨어 개발을 끝내는 것은 다른 문제다. 개발자 알렉스 에베를뢰프(Alex Ewerlöf)는 ‘코딩은 해결됐다’는 주장에 맞서, 생성된 코드를 이해하고 운영 중의 실패를 책임지는 일은 여전히 사람의 몫이라고 주장했다. 그는 AI 코딩 도구를 직접 만들고 써온 경험을 바탕으로 AI의 효용도 인정한다. 글을 둘러싼 해커 뉴스(Hacker News) 토론에서는 코드 검토보다 폭넓은 자동 테스트가 중요하다는 반론부터, AI가 개발자의 판단력을 약화할 수 있다는 우려까지 맞붙었다.

핵심 요약

  • 에베를뢰프는 AI가 코드 작성 비용을 낮췄어도 유지보수·보안·신뢰성의 부담까지 없애지는 못했다고 주장한다.
  • 그는 AI의 코드 생성 능력이 컴파일러와 테스트의 피드백에 크게 기대고 있어, 결과를 이해하고 책임질 사람이 필요하다고 본다.
  • 번역·요약·시제품 제작에는 AI가 유용하지만, 위험이 크거나 기존 코드가 더 저렴하고 정확한 작업에는 신중해야 한다고 제안한다.
  • 글은 코드 생산량보다 서비스 품질과 장애 대응 능력으로 AI 도입의 성과를 따져야 한다고 강조한다.
  • 토론에서는 AI로 테스트 범위를 넓혀 신뢰성을 높일 수 있다는 반론과, 사람의 검토 속도가 생성 속도를 따라가지 못한다는 우려가 함께 나왔다.

코드가 빨라져도 운영은 남는다

에베를뢰프가 먼저 구분하는 것은 코드를 ‘만드는 비용’과 소프트웨어를 ‘운영하는 비용’이다. 그는 AI 덕분에 코드 생성은 훨씬 저렴해졌지만, 유지보수·신뢰성·보안·확장성 같은 비기능 요구사항(NFR·기능 외에 시스템이 충족해야 할 품질 조건)이 비용의 큰 부분을 차지한다고 말한다. 무엇을 해야 하는지 정하는 기능 요구사항조차 아직 완전히 해결되지 않았다는 게 그의 판단이다. 코드가 그럴듯하게 보인다는 이유만으로 제품이 준비됐다고 여겨서는 안 된다는 뜻이다.

그는 코드를 꼼꼼히 읽지 않아도 감수할 만한 영역으로 개인용 소프트웨어, 개념증명(POC·실현 가능성을 확인하는 시제품), 한 번 쓰고 버릴 자동화를 든다. 반대로 의료·자동차·발전소·제조 현장처럼 오류가 돈이나 생명, 법적 문제로 이어질 수 있다면 허용할 수 있는 위험의 폭이 좁다. 인터넷에 연결된 AI 에이전트(목표를 받아 도구를 사용하며 작업하는 AI)의 영향 범위도 통제해야 한다고 덧붙인다. 그의 핵심 질문은 AI가 코드를 쓸 수 있느냐가 아니라, 그 결과가 잘못됐을 때 누가 설명하고 바로잡을 수 있느냐다.

컴파일과 테스트가 떠받치는 생성 능력

필자는 코딩이 논리의 제약을 받는 작업이라고 설명한다. 문법이 틀리면 컴파일러가 막고, 문법을 통과해도 실행 중에 오류가 날 수 있다. 대규모 언어 모델(LLM)이 코드를 잘 쓰는 듯 보이는 데에는 오류를 다시 입력하고 고쳐 쓰게 하는 반복 과정이 있다. 그는 이 과정이 강력한 도구이면서도, 모델 자체가 모든 논리적 문제를 해결했다는 증거는 아니라고 본다.

그 반복 과정을 감싸는 프로그램을 하네스(harness·모델에 도구와 검사 절차를 연결하는 실행 틀)라고 한다. 하네스는 테스트와 승인 단계를 붙여 결과를 개선하지만, 요구가 모호하거나 지시가 충돌할 때 무엇이 맞는지 결정하는 일까지 없애지는 못한다. 에베를뢰프는 입력이 커지고 문맥 창을 더 많이 쓸수록 정확도가 떨어질 수 있다고 지적한다. 더 비싼 모델이 그 가격 차이만큼 생산성을 높이리라는 보장도 없다는 주장이다.

AI가 잘하는 일과 피해야 할 일

그렇다고 필자는 AI를 코딩에서 빼자고 주장하지 않는다. 언어 번역, 프로그래밍 언어 간 변환, 명세나 JSON·YAML을 코드로 옮기는 작업을 유용한 사례로 꼽는다. 긴 글의 요약, 비정형 데이터에서 정보 추출, 이미지 속 객체 탐지처럼 입력을 정리하거나 분류하는 일도 제시한다. 개인용 도구와 시제품 제작 역시 실패를 감당할 수 있다면 AI의 속도가 빛나는 영역이다.

반면 법적 책임이 걸린 작업을 AI가 알아서 처리할 것이라 기대하거나, 개인정보와 지식재산을 무심코 넘기는 방식에는 반대한다. 모든 문제에 AI를 붙이는 접근도 경계한다. 접근 권한과 작업 범위를 먼저 좁히는 데 드는 비용이 자동화의 이득보다 클 수 있어서다. 정규표현식이나 SQL, 간단한 함수가 더 빠르고 저렴하게 답을 낼 수 있다면 그것을 쓰라고 권한다.

코드를 읽지 않아도 될 날까지

에베를뢰프는 AI가 만든 코드를 아예 읽지 않아도 되는 단계까지는 적어도 두 차례의 큰 도약이 필요하다고 본다. 그가 꼽은 조건은 실행 중에 제대로 배우는 능력과 추상적으로 사고하는 능력이다. 스킬 파일이나 메모리를 붙이는 현재의 방법은 유용하지만, 그 자체가 실시간 학습은 아니라는 설명이다. 그는 큰 문맥 창의 명목상 크기와 실제로 유용하게 쓸 수 있는 범위도 구별해야 한다고 주장한다.

이 대목은 도구 의존이 개발자의 실력을 깎을 수 있다는 경고로 이어진다. 조금만 생각이 필요한 일에도 AI를 찾고, 결과를 읽지 않은 채 받아들이면 도구의 품질을 판단할 기준마저 약해질 수 있다는 것이다. 필자는 AI를 거부해서가 아니라 AI가 만든 결과를 책임질 만큼 신뢰하기 어렵기 때문에 코드를 읽는다고 말한다. 컴파일러처럼 결과가 결정적으로 재현되는 도구와 LLM을 같은 수준으로 믿을 수는 없다는 입장이다.

명세는 완성본이 아니다

그는 ‘자연어가 새로운 프로그래밍 언어’라는 주장에도 이의를 제기한다. 실제 소프트웨어의 요구사항은 처음부터 빠짐없이 적기 어렵고, 문제를 풀어 가면서 무엇을 만들어야 하는지도 바뀐다. 자연어 지시는 서로 모순되거나 여러 뜻으로 읽힐 수 있으며, 그런 충돌을 확인하는 데에는 비용이 든다. 그래서 코드 작성은 미리 확정한 명세를 받아 적는 일보다 문제를 이해하고 선택지를 시험하는 과정에 가깝다고 설명한다.

필자에게 코드는 생각과 실험 끝에 남는 결과물이다. 좋은 개발자는 해결책을 바로 입력하기보다 먼저 어떤 문제가 왜 중요한지 묻는다고 그는 말한다. 따라서 생성된 코드의 줄 수나 기능 수, 변경 요청의 개수만으로 진전을 재서는 안 된다. 서비스 이용자가 실제로 겪는 품질과, 투입한 토큰 비용에 비해 얻은 가치를 봐야 한다는 것이다.

같은 입력, 다른 결과와 책임의 자리

글은 개발 중 AI를 쓰는 경우와 운영 중인 제품의 일부로 AI를 넣는 경우도 나눠 살핀다. 개발 과정에서는 사람의 요청이 모델과 하네스, 테스트를 거치며 수정되지만 각 단계마다 오해가 생길 수 있다. 운영 과정에서는 같은 조건을 넣었을 때 정해진 결과를 내는 일반 코드와 달리 AI 출력에 변동성이 남는다고 설명한다. 그는 한 사례를 잘 처리한 모델이 다음에도 같은 수준으로 작동하리라 기대하기 어렵다고 본다.

이 차이는 관리자의 책임 문제로 이어진다. 에베를뢰프는 사람에게 업무를 맡기는 것과 AI에 맡기는 것을 똑같이 볼 수 없다고 주장한다. 그가 제시한 담당 책임의 세 요소는 문제와 시스템에 관한 지식, 결정을 내릴 권한, 실패했을 때 대응할 책임이다. AI가 코드를 작성했더라도 이를 배포한 사람이 동작을 이해하고 장애에 대응할 수 있어야 한다는 논리다.

그는 쇼피파이(Shopify)의 최고경영자 토비 뤼트케(Toby Lutke)가 AI 사용을 독려한 뒤 AI 생성 결과를 두고 ‘슬롭 수류탄’이라는 표현을 쓴 사례를 언급한다. 여기서 슬롭은 성의 없이 대량으로 만들어진 AI 결과물을 낮잡아 부르는 말이다. 필자가 보기에 AI에게 설명을 요구하는 것과 담당자가 시스템을 실제로 이해하는 것은 다르다. 생성 속도를 올리기 전에 검토와 장애 대응에 쓸 시간을 확보해야 한다는 주장이다.

복제 비용이 낮아진 뒤의 가격

에베를뢰프는 AI가 소프트웨어의 경제성을 바꿨다는 점도 인정한다. 품질이 조금 낮더라도 훨씬 빠르고 저렴하게 만들 수 있다면, 위험이 낮은 작업에서는 사람이 모든 코드를 직접 작성하는 편이 비경제적일 수 있다. 다만 제품을 직접 만들어 갖는 비용에는 생성 이후의 수정과 운영도 포함된다. 그는 이런 총소유비용(TCO·도입부터 운영·유지까지 드는 비용)을 보고 판단하라고 권한다.

그의 관점에서 서비스형 소프트웨어(SaaS) 업체가 팔 수 있는 가치는 단순히 기능을 구현한 코드만이 아니다. 고장이 났을 때 연락할 곳이 있고, 여러 고객을 상대로 품질과 서비스 수준 협약(SLA·제공자가 약속하는 서비스 기준)을 유지하는 능력도 가치다. 반대로 AI가 값싸게 비슷한 제품을 만들 수 있다면 높은 가격에는 그에 걸맞은 품질이 따라야 한다. 그는 업체가 가격을 낮추거나, 숙련된 인력이 품질과 책임을 높이는 쪽에 집중해야 한다고 본다.

AI를 쓰되 손을 놓지 않는 개발자

마지막으로 필자는 AI가 개발자의 기준을 높인다고 말한다. AI와 비슷한 수준의 결과만 낸다면 경쟁하기 어려우므로, 개발자는 도구를 실험하면서 자신이 어떤 문제를 더 잘 해결할 수 있는지 확인해야 한다는 것이다. 동시에 지금의 발전 속도가 앞으로도 그대로 이어질 것이라고 가정하지 말라고 경고한다. AI를 유행으로 치부하는 태도와 AI가 모든 일을 해결했다고 여기는 태도 모두 피하자는 제안이다.

그 자신도 때로는 AI에 일을 맡기고, 때로는 직접 코드를 고치거나 디버깅한다고 설명한다. 위험이 낮은 개인 프로젝트에서는 손을 떼고 맡길 수 있지만, 작업을 이해하는 능력까지 넘기지는 않겠다는 기준이다. AI가 만든 결과가 적절한지 판단하려면 느린 속도로 직접 해본 경험도 필요하다는 것이다. ‘코딩은 해결됐다’는 선언보다 어떤 코드에 얼마만큼의 검증이 필요한지 따지는 일이 그에게는 더 중요하다.

커뮤니티 의견

한 사용자는 코드를 읽는다고 해서 동작을 이해하는 것은 아니라고 반박했다. LLM에 실행 경로를 조사하고 퍼징(다양한 입력으로 오류를 찾는 시험)과 속성 테스트를 만들게 하면 사람이 손으로 확인할 수 없는 경우까지 살필 수 있다는 주장이다. 충분한 자원과 시간을 들인다면 의료나 금융 같은 분야의 소프트웨어도 코드를 한 줄씩 읽지 않고 더 신뢰성 있게 만들 수 있다고 봤다.

다른 사용자는 AI가 부주의한 개발자의 생산량까지 늘려 제품 품질을 더 빨리 떨어뜨릴 수 있다고 했다. 생성되는 코드가 너무 많아 사람이 현실적으로 모두 검토하기 어렵고, AI가 만든 코드를 다시 AI가 검토하는 방식도 걱정스럽다는 것이다. 그는 자신도 AI를 매일 쓰지만, 좋은 결과에는 여전히 개발자의 역량과 성실함이 필요하다고 강조했다.

AI의 발전 속도를 근거로 글의 판단이 곧 낡을 것이라는 의견도 나왔다. 한 사용자는 최신 모델에 큰 작업을 맡겨 결과를 읽어보면 이전 모델과의 차이가 뚜렷하다며, 코딩이 아직 해결되지 않았더라도 곧 그 단계에 이를 것이라고 예상했다. 답글에서는 문법 작성과 자료 조사가 쉬워졌어도 개발자가 하던 판단의 상당 부분은 남아 있다는 반론이 붙었다.

책임을 둘러싼 글의 전제에는 법적 반론이 제기됐다. 한 사용자는 통제하지 못한 부분이 있더라도 위험한 물건을 판매하거나 동물이 피해를 내게 한 사람에게 책임을 물을 수 있다고 지적했다. AI가 예측하기 어렵다는 사실이 AI를 사용해 배포한 주체의 책임을 없애지는 않는다는 취지다.

한 사용자는 필자가 기업용 소프트웨어의 평범한 업무를 과소평가한다고 봤다. 항공기나 발전소를 다루지 않는 소프트웨어에는 단순한 요구사항과 임시방편으로 만든 시스템도 많으며, LLM이 그 일을 더 잘할 수도 있다는 주장이다. 이에 다른 사용자들은 기존 소프트웨어가 별문제 없이 돌아간다는 전제와 기업 시스템을 단순하다고 보는 시각에 의문을 제기했다.

개발 경력이 짧다고 밝힌 사용자는 AI의 코딩 능력을 인정하면서도, 매번 깊이 생각하지 않아도 되는 선택지가 생기는 점을 고민했다. 직접 구현하면 더 오래 걸리지만 문제를 이해하는 깊이가 달라지고, 그 뒤 AI로 검토할 때 결과에도 자신감을 가질 수 있다는 것이다. 답글에서는 에이전트의 속도를 활용하면서 필요할 때 개입할 만큼의 맥락을 유지하는 능력이 중요해졌다는 의견이 나왔다.

클로드 코드(Claude Code)의 실행 문제를 거론한 사용자도 있었다. 앤트로픽(Anthropic)의 도구를 실행했는데 번(Bun)의 도움말이 뜨거나 설치한 프로그램이 사라진 경험을 들어, ‘코딩이 해결됐다’는 선언을 꼬집었다. 답글은 그런 오류가 당혹스럽더라도 LLM 전반의 코딩 능력을 부정하는 근거는 아니라고 선을 그었다.

작은 변경과 큰 설계를 구분하는 의견도 나왔다. 한 사용자는 원하는 수정이 명확한 국소 작업은 LLM에 맡길 수 있지만, 제품 전체에서 누구를 위해 무엇을 만들지는 계속 판단해야 한다고 설명했다. AI가 기본값을 대신 정해줄 수는 있어도, 사용자가 그 선택을 알아차리지 못하면 규모가 커진 뒤 검토할 결정도 함께 늘어난다는 주장이다.

살펴볼 점

이 논쟁의 초점은 AI가 코드를 쓸 수 있느냐에서, 빨라진 생성 속도에 맞춰 검증과 책임의 방식을 어떻게 바꿀 것이냐로 옮겨간다. 글은 코드를 이해해야 책임질 수 있다고 강조하고, 토론은 코드를 읽는 것만으로는 부족하니 AI를 이용해 시험 범위를 넓히자고 맞선다. 두 입장을 가르는 기준은 위험의 크기다. 작은 도구에서는 속도가 우선일 수 있지만, 장애의 대가가 큰 서비스에서는 누가 설계상의 선택을 알고 실패를 고칠 수 있는지까지 확인해야 한다. 앞으로 주목할 것은 생성 코드의 양보다 검증에 드는 비용과 실제 서비스 품질이다.


원본: Coding is NOT solved

토론: Hacker News