영업팀 대리가 AI 창에 “납기 지연 안내 메일 써 줘”라고 적었다고 해 보겠습니다. 몇 초 만에 메일이 나오지만 어느 회사에나 보낼 수 있는 인사말과 사과문입니다. 몇 개를 늦게 보내는지, 언제로 늦어지는지, 거래처가 무엇을 걱정할지는 한 줄도 없습니다. 대리는 결국 절반을 고쳐 쓰고 “AI는 아직 멀었다”고 생각합니다. 문제는 AI가 아니라 지시에 있는 경우가 많습니다. 새로 온 직원에게 일을 맡길 때처럼 AI에게도 업무 지시서를 써 주는 법을 연구와 공식 문서를 바탕으로 정리했습니다.

짧은 지시가 일반론을 부르는 이유

AI는 회사 사정을 모릅니다. 거래처와 몇 년째 거래하는지, 지난달에 무슨 일이 있었는지, 팀장이 어떤 말투를 싫어하는지 모르는 상태에서 “메일 써 줘”를 받으면 가장 무난한 평균값을 내놓습니다. 사람에게 같은 쪽지를 건네도 결과는 비슷할 것입니다.

구글은 2024년 7월 29일 워크스페이스용 제미나이 활용 팁을 소개하며, 시범 사용자 프로그램에서 가장 성공적이었던 지시문은 “평균 21단어 안팎”이었고 사람들이 처음 쓰는 지시문은 그보다 훨씬 짧았다고 밝혔습니다. 영어 21단어는 한국어로 두세 문장쯤 되는 길이입니다. 길게 쓸수록 좋다는 뜻이 아니라, 한 줄 요청에는 AI가 일하는 데 필요한 정보가 거의 담기지 않는다는 뜻입니다.

앤트로픽의 공식 프롬프트 문서는 AI를 “회사의 규범과 업무 방식을 모르는 뛰어난 신입 직원”처럼 대하라고 권합니다. 그리고 간단한 시험법을 제안합니다. 쓴 지시문을 이 일을 잘 모르는 동료에게 보여 주고 그대로 해 보라고 했을 때 동료가 헷갈려 한다면 AI도 헷갈린다는 것입니다. 이 시험은 사내에서 바로 써먹을 수 있습니다.

좋은 지시문의 네 요소: 역할·할 일·배경·형식

구글은 같은 글에서 지시문에 담을 네 가지로 AI가 맡을 역할, 해 줄 일, 배경 정보, 결과물의 형태를 꼽았습니다. 오픈AI의 개발자 문서도 지시문을 정체성(역할과 목표), 지침, 예시, 맥락으로 나눠 쓰라고 안내합니다. 이름은 조금씩 달라도 말하는 내용은 같습니다. 회사에서 업무 지시서를 쓸 때 담는 것과도 같습니다.

요소 빠지면 생기는 일 담을 내용
역할 누구의 말투인지 모르는 글이 나옴 누구의 입장에서 쓰는지 (영업 대리, 경리 담당자 등)
할 일 엉뚱한 범위의 결과물 동사로 분명하게 (메일 작성, 표로 정리, 세 가지 안 비교)
배경 어디에나 맞는 일반론 숫자, 날짜, 상대방, 지난 경위, 이 결과물을 누가 어디에 쓰는지
형식 길이와 구성이 매번 다름 분량, 순서, 표·문단 여부, 빼야 할 표현

앞의 납기 지연 메일을 네 요소로 다시 쓰면 이렇습니다.

당신은 포장재 제조업체의 영업팀 대리입니다.
거래처 구매 담당자에게 보낼 납기 지연 안내 메일을 써 주세요.

배경: 11월 14일 납품 예정이던 포장 박스 2만 개가 원지 수급 문제로 11월 17일로 늦어집니다.
이 거래처와는 5년째 거래 중이고, 지난달에도 하루 늦은 적이 있습니다.
담당자는 이 소식을 받고 자기 회사 생산 계획을 다시 짜야 합니다.
5,000개는 예정대로 14일에 먼저 보낼 수 있습니다.

형식: 제목 한 줄, 본문 8줄 이내. 새 납기와 선납 가능 수량을 첫 문단에 쓰고,
사과는 한 번만 합니다. "최선을 다하겠습니다" 같은 빈말은 빼 주세요.

여기서 가장 중요한 줄은 “담당자는 이 소식을 받고 생산 계획을 다시 짜야 합니다”입니다. 이 한 문장 덕분에 AI는 사과보다 새 일정과 대안을 앞에 둬야 한다는 것을 압니다. 배경에는 사실뿐 아니라 받는 사람의 사정과 결과물의 쓰임새를 함께 적는 것이 좋습니다.

좋은 지시문의 네 요소: 역할·할 일·배경·형식 관련 장면
AI 생성 이미지

효과가 없거나 줄어든 요령들

인터넷에는 “AI에게 팁을 주겠다고 하면 더 잘한다”, “협박하면 성능이 오른다”, “단계별로 생각하라고 쓰면 정확해진다” 같은 요령이 돌아다닙니다. 미국 와튼스쿨 생성형 AI 연구소가 2025년 세 차례에 걸쳐 이런 요령을 직접 실험했습니다.

2025년 8월 1일 발표한 세 번째 보고서는 팁과 협박을 다뤘습니다. GPT-4o, 제미나이 2.0 플래시 등 다섯 개 모델에 박사급 객관식 문제 198개(GPQA Diamond)와 공학 문제 100개(MMLU-Pro)를 문제마다 25번씩 풀게 했습니다. 결론은 “AI 모델을 협박하거나 팁을 주는 것은 성능에 의미 있는 영향을 주지 않는다”였습니다. 오히려 지시문을 이메일 형식으로 감싼 경우 제미나이 두 모델이 문제 대신 이메일 내용에 반응하며 점수가 크게 떨어졌습니다.

같은 해 3월 첫 번째 보고서는 공손함을 시험했는데, 공손하게 물으면 어떤 때는 성능이 오르고 어떤 때는 내려갔습니다. 6월의 두 번째 보고서는 “단계별로 생각하라”는 지시를 다뤘습니다. 스스로 추론하는 최신 모델에서는 정확도 향상이 “미미하거나 없었고”, 답을 내는 데 드는 시간과 비용만 크게 늘었습니다.

눈여겨볼 대목은 따로 있습니다. 세 번째 보고서에서 전체 평균은 거의 그대로였지만, 문제 하나하나를 보면 같은 지시 변화로 정답률이 최대 36%포인트 오르거나 35%포인트 떨어지기도 했습니다. 연구진은 어떤 지시 방식이 특정 문제에 도움이 될지 미리 알기 어렵다고 적었습니다. 요령을 외우기보다 분명하게 쓰고, 우리 회사 실제 업무로 결과를 확인하는 편이 낫다는 뜻입니다.

이유를 말하고, 예시를 보여 주세요

규칙만 나열하면 AI는 규칙의 글자만 따릅니다. 앤트로픽 문서에는 이런 예가 있습니다. “말줄임표를 절대 쓰지 마”보다 “이 답변은 음성 낭독기가 읽기 때문에, 낭독기가 읽지 못하는 말줄임표는 쓰지 마”가 낫다는 것입니다. 이유를 알면 AI가 비슷한 다른 경우에도 스스로 맞춰 갑니다. 거래처 메일이라면 “구매 담당자가 윗선에 그대로 전달할 수 있게 써 줘”라는 한 줄이 “격식 있게 써 줘”보다 많은 것을 알려 줍니다.

말로 설명하기 어려운 말투나 양식은 예시가 가장 빠릅니다. 앤트로픽은 예시를 출력 형식과 말투를 잡는 가장 믿을 만한 방법으로 꼽으며 3~5개를 넣으라고 권합니다. 지난달에 팀장이 칭찬한 견적 회신 메일 세 통을 붙여 넣고 “이런 말투로”라고 쓰는 식입니다. 단, 예시가 모두 비슷하면 AI가 엉뚱한 공통점까지 따라 하므로 상황이 조금씩 다른 것을 고릅니다.

반대로 예외 규칙을 끝없이 덧붙이는 것은 좋지 않습니다. 앤트로픽은 2025년 9월 29일 엔지니어링 블로그에서 생길 수 있는 모든 경우를 규칙으로 늘어놓는 것을 ’빨래 목록’이라 부르며, 그보다 대표적이고 서로 다른 예시 몇 개를 고르라고 권했습니다. 같은 글은 지시문이 지나치게 세세한 조건문이 되는 것도, 구체적인 신호가 없는 막연한 당부가 되는 것도 실패라고 봤습니다. 사람에게 주는 업무 매뉴얼과 같습니다. 원칙과 이유, 좋은 사례 몇 개가 조항 50개보다 잘 통합니다.

한 번에 하나씩, 대화로 다듬기

여러 일을 한 지시문에 몰아넣으면 하나씩 빠집니다. “회의록 요약하고, 할 일 뽑고, 참석자에게 보낼 메일도 써 줘”보다 요약부터 받아 확인하고 할 일을 뽑게 한 뒤 메일을 쓰게 하는 편이 낫습니다. 구글의 지시문 안내서도 관련된 일이 여러 개면 지시를 나눠 주고, 글자 수나 원하는 안의 개수 같은 제약을 함께 주라고 권합니다.

첫 답이 마음에 들지 않으면 처음부터 다시 쓰기보다 무엇이 틀렸는지 말해 주는 것이 빠릅니다. “두 번째 문단이 너무 사과조야. 대안을 먼저 써 줘”처럼 고칠 곳을 짚어 주면 됩니다. 와튼스쿨의 이선 몰릭 교수는 2023년 11월 글에서 “대부분의 사람에게는 지금 대화식 접근으로 충분하다”고 썼습니다. 처음부터 완벽한 지시문을 쓰려 애쓰기보다 사람에게 일을 시키듯 주고받으며 다듬으면 된다는 뜻입니다.

한 번에 하나씩, 대화로 다듬기 관련 장면
AI 생성 이미지

자주 쓰는 지시문은 회사 자산으로

매주 반복되는 일이라면 이야기가 달라집니다. 몰릭 교수는 같은 글에서 잘 작동하는 구조화된 지시문은 다른 사람에게 넘겨도 비슷한 결과를 낸다고 했습니다. 거래처 클레임 회신, 주간 보고 요약, 견적 비교표처럼 팀에서 매주 하는 일은 잘 다듬은 지시문 하나가 신입 교육 자료 역할까지 합니다. 몇 사람의 노하우가 공유 폴더 하나에 쌓이는 셈입니다.

지시문을 모을 때는 문장만 저장하지 말고 다음 내용을 함께 적어 둡니다.

항목 예시
업무 이름 납기 지연 안내 메일
담당자 영업팀 김 대리 (고칠 때 연락할 사람)
지시문 본문 역할·할 일·배경·형식, 바꿔 넣을 칸은 [대괄호]
함께 넣는 자료 출하 일정표, 지난 메일 예시 3통
점검용 사례 결과를 비교해 볼 실제 사례 3건과 잘된 답
마지막 확인일 2026년 11월, 사용 중인 AI 모델 이름

점검용 사례와 확인일을 적는 이유가 있습니다. AI 모델은 몇 달마다 바뀌고, 같은 지시문도 새 모델에서는 다르게 움직일 수 있습니다. 오픈AI 개발자 문서도 운영 중인 지시문은 모델 버전을 고정하고, 지시문의 동작을 재는 테스트를 만들어 바꿀 때마다 확인하라고 권합니다. 회사에서는 거창한 테스트 대신 실제 사례 세 건을 넣어 예전처럼 쓸 만한 답이 나오는지 보는 것으로 충분합니다.

지시문에 넣는 자료에도 선이 필요합니다. 거래처 단가, 고객 개인정보, 직원 인사 정보를 어디까지 넣어도 되는지는 회사가 정해 둬야 합니다. 기준을 만드는 법은 사내 AI 사용 규칙 만드는 법에 정리했습니다.

보내기 전 30초 점검표

지시문을 보내기 전에 아래 일곱 가지를 확인해 보세요. 다 갖출 필요는 없지만 세 개 이상 비어 있다면 일반론이 돌아올 가능성이 큽니다.

  1. 역할: 누구의 입장에서 쓰는 글인지 적었는가
  2. 할 일: 원하는 결과물이 동사 하나로 분명한가 (작성, 요약, 비교, 표로 정리)
  3. 숫자와 날짜: 수량, 금액, 기한 같은 사실을 넣었는가
  4. 쓰임새: 결과물을 누가 받아 어디에 쓰는지 적었는가
  5. 형식: 분량, 순서, 표인지 문단인지 정했는가
  6. 예시: 원하는 말투나 양식이 있다면 실제 예시를 붙였는가
  7. 동료 시험: 이 일을 모르는 동료가 이 지시문만 보고 할 수 있는가

결과물을 받은 뒤에는 숫자와 고유명사를 원래 자료와 맞춰 보는 확인이 따로 필요합니다. AI가 그럴듯하게 틀리는 경우를 잡는 순서는 AI 환각 줄이는 법에 있습니다.

지시문을 잘 쓰는 팀이 AI를 잘 씁니다

AI 활용의 차이는 어떤 도구를 쓰느냐보다 일을 얼마나 분명하게 맡기느냐에서 생기는 경우가 많습니다. 역할과 할 일, 배경, 형식을 적고, 이유를 말하고, 좋은 예시를 보여 주는 것은 사람에게 일을 잘 맡기는 방법과 다르지 않습니다. 그래서 지시문을 잘 쓰는 팀은 대개 업무 매뉴얼도 잘 씁니다. 반복되는 일의 지시문부터 하나씩 모아 두면 그것이 곧 팀의 AI 활용 수준이 됩니다.

직원들이 자기 업무로 지시문을 직접 써 보고 고치는 실습형 교육이 필요하다면 AI 교육·컨설팅에서 진행 방식을 볼 수 있습니다.

참고한 자료