AI는 도구다, 잘 쓰는 기술은 무엇인가

AI를 잘 쓰는 데는 기술이 필요하며, 결과를 만들어 내는 과정에서도 인간의 판단은 사라지지 않는다. 화하이(Huahai)는 대규모 언어 모델(LLM)을 사람이 다룰 수 없는 ‘자동화’로 보는 리치 히키(Rich Hickey)의 주장에 반박하며, 질문을 정하고 답을 검증하는 능력이 AI의 쓸모를 가른다고 말한다. 이 글이 흥미로운 이유는 AI가 도구인지 아닌지라는 말싸움에 머물지 않고, 사용자가 언제 배움을 얻고 언제 이해 없이 일을 넘기는지로 논점을 옮기기 때문이다.

핵심요약

  • 화하이는 LLM이 작업을 자동으로 수행하더라도 사람이 입력을 정하고 결과를 살피며 다음 행동을 결정할 수 있으므로 도구라고 주장한다.
  • LLM의 예측 불가능성은 중요한 한계지만, 화하이는 그것을 도구가 아니라는 판정 근거가 아닌 성능을 평가할 이유로 본다.
  • 코드를 설명받고 원본을 확인한 뒤 변경안을 시험하는 과정은, AI 사용에도 목적과 피드백, 전문성이 개입할 수 있음을 보여준다.
  • 논문 요약으로 독서를 대체하는 것과 논문을 읽은 뒤 자신의 해석을 점검하는 것은 학습에 미치는 영향이 다르다.
  • 토론에서는 AI 활용 능력의 가치를 인정하는 의견과, 기술 발전이나 무분별한 사용이 그 능력을 약화할 수 있다는 우려가 맞섰다.

‘도구가 아니다’라는 주장에 답하다

화하이가 반박한 대상은 히키가 2026년 10월 11일 발표한 글이다. 화하이의 설명에 따르면 히키는 LLM을 사람이 직접 다루는 도구가 아니라 작업을 대신 수행하는 자동화로 분류했다. 화하이는 일을 맡기는 과정에서 스스로 배울 기회를 잃을 수 있다는 걱정에는 동의한다. 그러나 그 위험만으로 LLM이 도구가 아니라는 결론을 낼 수는 없다고 본다.

여기서 쟁점은 AI가 얼마나 많은 일을 자동으로 해내느냐보다, 그 과정에 사람이 어떤 방식으로 관여하느냐다. 화하이는 LLM도 목적에 맞춰 다룰 수 있고, 잘 쓰려면 기술이 필요하다고 주장한다. 사용자가 맡긴 일을 이해하지 못한 채 답만 받는 경우와, 결과를 따져 보며 다음 작업을 정하는 경우를 같은 사용법으로 묶을 수 없다는 것이다. 이 구분은 AI 사용을 무조건 능력의 확장이나 사고의 포기로 보는 양쪽 시각에서 벗어나게 한다.

톱을 쥐었다고 곧게 자르지는 못한다

화하이는 톱과 끌을 예로 든다. 톱을 손에 쥔다고 반듯하게 자를 수 있는 것은 아니고, 끌을 든다고 조각가가 되는 것도 아니다. 도구는 사용자의 좋은 판단뿐 아니라 나쁜 판단도 확대할 수 있다. 따라서 도구의 효용을 보려면 무엇을 시켰는지뿐 아니라 나온 결과를 어떻게 읽고 고쳤는지도 살펴야 한다.

이 기준을 LLM에 적용하면 질문의 질과 답을 받아들이는 기준이 중요해진다. 화하이가 인상 깊게 받아들인 동료의 표현은 ‘AI는 거울’이라는 말이다. 사용자가 지닌 호기심과 습관, 판단력이 AI와의 대화에도 드러난다는 뜻이다. 같은 시스템을 쓰더라도 어떤 의문을 던지고 어느 지점에서 답을 의심하느냐에 따라 사용 경험은 달라진다.

그렇다고 숙련된 사용자라면 언제나 원하는 답을 얻는다는 이야기는 아니다. 화하이도 LLM의 예측 불가능성을 의미 있는 한계로 인정한다. 다만 그는 예측 가능성, 신뢰성, 단순함, 기능의 범위를 도구를 평가하는 기준으로 본다. 통제하기 어렵거나 잘못 쓰기 쉽다는 사실은 그 도구를 신중히 다뤄야 할 이유이지, 도구라는 분류에서 곧바로 제외할 이유는 아니라는 주장이다.

컴파일러도 사용자를 대신해 일한다

화하이는 도구와 자동화를 서로 반대되는 개념으로 나누는 데 문제가 있다고 지적한다. 자동으로 작업을 처리하는 기능은 도구 안에도 들어갈 수 있기 때문이다. 컴파일러는 프로그래머가 내부의 모든 동작을 계속 지시하지 않아도 코드를 변환한다. 스프레드시트 역시 사람이 계산을 하나씩 다시 하지 않아도 결과를 갱신한다.

그런 시스템을 사용할 때도 사람은 입력을 정하고 출력을 살핀 다음 무엇을 할지 결정한다. 화하이가 보기에 이 과정은 도구를 다루는 행위다. 코드를 자동으로 변환하거나 숫자를 계산하는 기능은 도구로 받아들이면서, 문장을 자동으로 만든다는 이유만으로 LLM을 배제할 근거가 무엇이냐는 질문이 여기서 나온다. 자동화된 부분이 있다는 사실과 사용자가 전체 작업을 지휘할 수 있다는 사실은 양립한다.

이 비교가 모든 자동화의 위험을 같게 만든다는 뜻은 아니다. 화하이가 내세우는 핵심은 분류의 일관성이다. 결과가 자동으로 생성되는지만 볼 것이 아니라, 사람이 목표를 설정하고 결과를 확인하며 다음 단계를 통제할 수 있는지를 봐야 한다는 것이다. 그래서 LLM을 평가할 때도 ‘자동화인가’라는 질문만으로 사용 방식 전체를 설명하기 어렵다.

코드 설명을 듣고 다시 원본을 확인할 때

화하이는 LLM 사용에 의도나 피드백, 방향 설정, 전문성이 없다는 주장에도 반박한다. 프로그래머가 낯선 코드를 설명해 달라고 요청한 뒤, 그 설명에 의문을 제기하고 실제 소스코드를 확인할 수 있다는 것이다. 이어 AI가 제안한 변경을 시험하고, 맞지 않으면 거절한 뒤 요청을 고쳐 다시 물을 수도 있다. 이 순서는 사람이 목적을 갖고 결과에 반응하는 피드백 고리다.

이때 중요한 기술은 길고 정교한 지시문을 쓰는 능력만이 아니다. 무엇을 질문해야 하는지, 어떤 자료로 답을 확인해야 하는지, 어느 답이 틀렸는지 판단할 수 있어야 한다. 코드에 대한 지식이 있다면 설명과 실제 구현 사이의 어긋남을 찾아내기에도 유리하다. 화하이가 말하는 전문성은 AI가 낸 답을 권위로 받아들이는 능력이 아니라, 그 답을 작업에 맞게 시험하는 능력에 가깝다.

이 사례는 AI가 일을 ‘해줬다’는 한 문장으로는 실제 사용 과정을 설명하기 어렵다는 점도 보여준다. 설명 요청, 원본 확인, 변경 시험, 요청 수정은 각각 사용자의 선택을 요구한다. 반대로 이런 단계를 생략하면 같은 LLM을 쓰더라도 결과를 충분히 이해하지 못한 채 받아들이게 된다. 화하이는 바로 그 차이를 도구의 숙련된 사용과 무감독 위임 사이의 차이로 본다.

논문 요약은 독서의 대체재인가

히키가 제기한 학습의 문제에 대해서는 화하이도 한 가지 사용법의 위험을 인정한다. 논문을 읽지 않고 요약만 받아들이면, 직접 읽으며 얻을 수 있었던 배움을 놓칠 수 있다. 문장을 따라가고 논증을 따져 보는 과정을 결과물 한 장으로 대체할 수는 없다는 취지다. AI가 시간을 아껴준다는 사실만으로 그때 사라진 학습까지 되돌리지는 못한다.

하지만 논문을 먼저 읽은 사람에게 LLM은 다른 역할을 할 수 있다. 자신의 해석이 타당한지 질문하거나, 반론을 찾아보거나, 다시 자세히 살펴볼 대목을 찾는 데 쓸 수 있다. 이 경우 AI의 답은 독서의 종착점이 아니라 다음 검토를 위한 재료가 된다. 지적 노동을 피하는 데 쓸 수 있다는 가능성이 모든 사용자가 지적 노동을 피한다는 뜻은 아니라고 화하이는 말한다.

따라서 판단의 단위는 ‘논문에 AI를 썼는가’가 아니라 ‘읽고 이해하는 과정에서 AI를 어디에 놓았는가’다. 요약을 최종 답으로 받아들이는 사람과 자기 해석을 흔들어 볼 질문으로 삼는 사람은 같은 기능을 다르게 쓴다. 화하이의 주장은 AI의 편리함을 부정하지 않으면서도, 편리함이 학습을 대신하는 순간을 구별하자는 데 있다.

‘음모’보다 출력과 권한을 보자

화하이가 특히 불편하게 여기는 것은 AI 산업에서 쓰는 의인화된 표현이다. AI가 ‘통제에서 벗어난다’거나 ‘공모한다’는 식의 말은 시스템을 독립적인 존재처럼 들리게 한다고 그는 지적한다. 소프트웨어가 예상 밖의 결과를 내거나 지시를 따르지 않을 수는 있다. 중요한 작업에 영향을 미칠 권한을 받았다면 피해를 일으킬 수도 있다.

화하이는 이런 가능성을 실제 공학적 문제로 다뤄야 한다고 말한다. 다만 예상 밖의 작동을 ‘음모’라고 부르면, 확인되지 않은 인간적 동기까지 덧씌우게 된다는 것이다. LLM이 사용자의 지시를 늘 정확히 따른다고 주장하는 것도 아니다. 지시를 어길 수 있다는 사실과 인간처럼 의도를 품었다는 주장은 구별해야 한다는 입장이다.

결국 화하이가 제안하는 기준은 AI라는 소프트웨어 전체에 ‘도구가 아니다’라는 이름표를 붙이는 것이 아니다. 사용자가 이해와 감독을 유지하며 다루는지, 아니면 충분히 알지 못한 채 작업을 넘기는지를 가리는 것이다. 이는 AI가 실패할 수 있다는 현실을 인정하면서도 책임을 물을 지점을 흐리지 않는다. 결과를 확인하고 수정할 수 있는 사람이 작업 안에 남아 있는가가 핵심 질문이다.

커뮤니티 의견

한 사용자는 AI를 잘 쓰는 기술을 사람들이 익히는 속도보다 AI가 퍼지는 속도가 빠를 것이라고 우려했다. 뛰어난 LLM이 늘어날수록 스스로 어려운 문제를 풀며 지식을 쌓는 일이 줄어들 수 있다는 주장이다. 답글에서는 일자리 감소를 걱정하는 목소리와, AI가 사용자의 말에 지나치게 맞춰 주는 반응을 계속 경계하려면 의식적인 노력이 필요하다는 경험담이 나왔다.

다른 사용자는 한때 유용했던 사용 요령이 금세 낡아간다고 했다. 문맥을 관리하거나 특별한 지시문을 짜는 일보다 지금은 무엇을 요청할지 아는 능력이 중요해 보이지만, 그 이점마저 오래갈지는 모르겠다는 것이다. 특히 디자인 용어를 모르면 원하는 수정을 정확히 설명하기 어렵다는 경험을 들었다. 답글에서는 성공한 결과가 어떤 모습인지조차 모른다면 무엇이든 정답처럼 보일 수 있다는 반론이 붙었다.

또 다른 사용자는 최신 로그를 가져와 문제 원인을 찾으라는 짧은 요청만으로 모델이 답을 내놓는다며, AI 활용을 별도 기술로 내세우는 시각에 회의적이었다. 과거에 익힌 복잡한 사용법이 빠르게 불필요해진다는 것이 근거였다. 이에 대한 답글은 어떤 로그를 보고 어떤 문제를 풀어야 할지 짚는 것부터 이미 능력이라고 맞섰다. 다른 답글은 여러 에이전트를 돌리는 방식에는 사용 비용의 한계도 있다고 지적했다.

사진에 빗댄 의견도 있었다. 누구나 휴대전화로 사진을 찍을 수 있어도 전문 사진가의 오랜 경험이 사라지는 것은 아니듯, AI로 소프트웨어를 만들 때도 사람의 경험이 필요하다는 주장이다. 반론은 AI와 소프트웨어 개발의 관계가 휴대전화와 전문 사진가의 관계보다, 새로운 기술이 기존 제작 방식을 대체하는 관계에 가까울 수 있다고 봤다. 같은 비유에서도 AI를 기존 전문가의 보조 수단으로 볼지, 전문 작업 자체를 바꾸는 기술로 볼지가 갈렸다.

한 사용자는 막대한 AI 투자가 ‘새로운 기술 하나’를 만들기보다 기존 기술의 필요성을 없애려는 기대에 걸려 있다고 주장했다. 설령 AI 활용이 전문성이라 해도, 채용 과정에서 그 전문성을 따로 설득하기는 쉽지 않을 것이라는 견해다. 프로그래밍처럼 비전문가와 구별되는 지식을 내세우는 경우와 달리 AI에는 누구나 쓰는 자연어로 지시할 수 있다는 점을 근거로 들었다. 이 의견은 AI를 잘 쓰는 능력이 있다는 주장과 그 능력이 직업적 가치로 인정받는 문제를 분리한다.

스마트폰에 비유한 사용자는 도구라는 분류만으로 사용 행태를 설명할 수 없다고 했다. 스마트폰이 유익한 기능과 끝없는 확인·스크롤을 함께 담고 있듯, LLM도 정밀한 작업에 쓰일 수 있으면서 성급하고 부주의한 결과물을 만들기 쉽게 한다는 것이다. 스스로 판단을 남겨 두려는 사람도 바쁠 때는 AI가 만든 저품질 결과물인 슬롭(성의 없이 대량으로 찍어낸 AI 생성물을 낮잡아 부르는 말)을 내놓을 수 있다고 경고했다.

프로젝트의 복잡성을 우려한 사용자는 제한 없이 AI에 일을 맡기면 사람이 관리할 수 있는 범위를 빠르게 넘어선다고 했다. 그 상태에서는 문제를 풀기 위해 다시 AI에 의존하게 된다는 주장이다. 이 사용자는 전문가의 역할을 작업량을 늘리는 것이 아니라 프로젝트를 유지·관리할 수 있는 복잡도로 묶어 두는 데서 찾았다. 답글에는 방치된 에이전트들이 실질적인 작업보다 서로의 절차를 확인하는 데 시간을 쓰게 됐다는 경험담도 달렸다.

LLM이 도구보다는 슬롯머신처럼 느껴진다는 의견도 나왔다. 입력과 결과 사이의 관계가 분명하고 반복 가능해야 다음 행동을 정교하게 조정할 수 있는데, LLM은 여러 번 시도하다 운 좋게 원하는 결과를 얻는 듯하다는 것이다. 이에 한 답글은 처음 회전식 샌더를 쓸 때도 결과가 불안정하게 느껴졌지만 경험이 쌓이며 나아졌다며, LLM에도 숙련의 여지가 있다고 반박했다. AI의 불확실성을 본질적인 한계로 볼지, 사용 경험으로 줄일 수 있는 문제로 볼지가 맞선 셈이다.

핵심통찰

화하이의 반박은 AI를 도구라고 부르는 데서 끝나지 않는다. 그 이름에 걸맞게 쓰려면 질문을 정하고, 근거를 확인하고, 틀린 결과를 되돌릴 수 있어야 한다는 요구가 따라온다. 토론은 그 요구가 실제로 얼마나 지켜질지, 또 모델의 발전이 사용자의 기술을 키울지 불필요하게 만들지를 묻는다. 앞으로 지켜볼 것은 AI가 내놓는 답의 수준만이 아니라, 그 답을 쓰는 사람이 작업의 복잡성과 자기 이해를 계속 통제할 수 있는가다.


원본: AI Is a Tool. Using It Well Takes Skill.

토론: Hacker News