AI는 사이트 신뢰성 엔지니어(SRE·서비스 장애를 예방하고 복구하는 엔지니어)를 대체하기보다, 장애에 대응하는 능력을 서서히 약화시킬 수 있다. 관측 가능성 도구를 만드는 시그노즈(SigNoz)의 필자 엘리자베스(Elizabeth)는 익숙한 장애를 AI가 처리할수록 사람이 처음 보는 장애에 대응할 기회도 줄어든다고 지적한다. 이 글이 주목하는 것은 일자리의 존속 여부보다, 자동화가 실패한 순간에 남아 있는 사람이 충분한 경험을 갖추고 있느냐는 문제다.
핵심요약
- 필자는 AI가 일상적인 장애 대응을 맡을수록 SRE가 드문 고난도 장애에 대비할 실전 경험을 잃을 수 있다고 주장한다.
- 1983년의 자동화 연구는 기계가 평소 작업을 처리할수록 사람이 예외 상황에 개입해야 하는 부담은 커지고 연습 기회는 줄어든다는 틀을 제시한다.
- 의료·항공 분야의 사례는 AI와 자동화의 편의가 작업자의 독자적인 판단 능력을 약화시킬 수 있다는 경고로 쓰인다.
- 필자는 이미 익힌 기술이 무뎌지는 ‘숙련 저하’뿐 아니라 신입이 그 기술을 처음부터 익히지 못하는 문제를 함께 짚는다.
- 해법으로는 사람이 직접 해결하는 연습 기회를 남기고, AI의 결론을 승인하는 데 그치지 않고 문제를 함께 분석하는 방식을 제안한다.
자동화가 사람에게 남기는 가장 어려운 일
필자는 SRE의 미래를 두고 엇갈리는 두 전망에서 출발한다. AI가 코드를 더 많이 작성할수록 시스템을 지키는 SRE가 중요해진다는 주장과, AI가 SRE까지 대체한다는 주장이다. 하지만 어느 쪽도 당장 장애를 처리해야 하는 엔지니어에게는 충분한 답이 되지 않는다고 본다. 대신 필자는 AI가 장애 대응의 95%를 처리한다고 가정할 때, 사람이 남은 5%를 해결하는 능력은 어떻게 되는지 묻는다.
이 질문을 설명하는 틀은 인지심리학자 리잔 베인브리지(Lisanne Bainbridge)가 1983년에 발표한 「자동화의 역설」(Ironies of Automation)이다. 필자가 소개한 이 연구의 핵심은 자동화가 늘수록 평소에는 사람의 개입이 줄지만, 자동화가 실패한 드문 순간에는 사람의 판단이 더욱 중요해진다는 것이다. 문제는 바로 그 판단을 연습할 기회도 자동화가 함께 가져간다는 데 있다. 작업자에게 남는 일은 오래 지켜보다가 익숙하지 않은 위기에서 즉시 행동하는 것이다.
필자는 산업 자동화가 반복적인 육체노동을 맡았던 것처럼 AI가 반복적인 인지 작업을 맡는다고 본다. 패턴 찾기와 초기 분류, 알려진 문제의 해결은 기계로 넘어가고 사람에게는 복잡하고 모호한 예외가 남는다. 그런데 이런 예외를 해결하는 깊은 이해는 쉬운 문제부터 거듭 다뤄 보며 쌓인다. 효율을 높이는 과정이 정작 어려운 문제를 풀 기반을 깎을 수 있다는 것이 글의 출발점이다.
알림 정리부터 자동 복구까지
SRE 업무에서 이미 자동화되거나 AI의 도움을 많이 받는 영역은 넓다. 필자는 알림을 묶어 소음을 줄이는 일, 알려진 문제에 대응하는 절차인 런북(runbook)을 실행하는 일, 로그의 패턴과 이상 징후를 찾는 일을 꼽는다. 과거 장애 기록을 토대로 초기 원인을 제안하거나, 중단된 실행 단위를 재시작하고 과부하가 걸린 서비스를 확장하는 작업도 여기에 포함한다. 반복해서 겪은 장애일수록 대응 절차를 기계에 맡기기 쉬운 셈이다.
다음 단계로 거론되는 일은 한층 복잡하다. 지표·로그·트레이스(요청이 시스템을 거친 경로 기록)를 함께 분석하고, 일부만 이해된 장애의 원인을 자율적으로 추적하는 것이다. 사용자에게 영향이 나타나기 전에 장애를 예측하거나, 변경 작업의 위험을 평가해 문제가 생기면 자동으로 되돌리는 방안도 필자가 제시한 가까운 목표에 들어간다. AI의 역할이 알림을 정리하는 수준에서 장애의 원인과 대응을 판단하는 쪽으로 넓어지는 흐름이다.
세 단계 장애 대응에 생기는 빈틈
필자가 소개한 페이저듀티(PagerDuty)의 구분은 이 변화를 세 단계로 보여 준다. 첫 단계는 원인과 해결책이 알려져 있어 완전히 자동화할 수 있는 장애다. 두 번째는 일부만 파악된 문제로, AI가 권고안을 내고 사람이 확인한다. 세 번째는 처음 겪거나 여러 문제가 연쇄적으로 번지는 장애로, 사람이 대응을 주도하고 AI는 판단에 필요한 맥락을 보탠다.
이 구분은 사람이 가장 어려운 일을 맡는다는 점에서 합리적으로 보인다. 필자는 그러나 SRE가 세 번째 단계에서만 직접 움직인다면 그 일을 처리할 직감은 어디서 얻느냐고 묻는다. 시스템을 이해하는 감각은 여러 차례 장애에 대응하고, 반복되는 징후와 실제 원인을 대조하며 형성된다. 앞선 두 단계를 통째로 건너뛴 채 처음 보는 장애에서만 뛰어난 판단을 기대하기는 어렵다는 주장이다.
여기서 중요한 차이는 AI가 얼마나 많은 일을 처리하느냐만이 아니다. 사람이 그 과정을 얼마나 볼 수 있고, 어떤 판단을 직접 해보느냐다. 알려진 장애의 대응 기록을 검토하는 일과 AI가 내놓은 최종 결론만 확인하는 일은 서로 다른 경험을 남긴다. 필자의 문제 제기는 자동화의 범위를 정할 때 처리 속도뿐 아니라 숙련이 형성되는 경로도 함께 살펴야 한다는 쪽으로 이어진다.
성과가 좋아 보일 때 무뎌지는 감각
필자는 숙련 저하를 설명하기 위해 다른 분야의 사례를 가져온다. 글에서 소개한 최근 의료 연구에서는 용종 발견에 AI의 도움을 받은 내시경 의사들의 AI 없는 상태에서의 발견율이 AI 사용 기간 이후 28%에서 22%로 떨어졌다. 필자는 항공 분야에서도 자동조종에 크게 의존하는 장거리 조종사의 상황 인식과 수동 비행 능력이 저하되는 문제가 연구됐다고 전한다. 그 대응으로 미국 연방항공청이 수동 비행 시간을 요구한다고 설명한다.
SRE에게는 이런 변화가 눈에 띄는 실패보다 작은 업무 습관의 변화로 먼저 나타날 수 있다. AI가 로그를 요약하니 원본 로그를 덜 읽고, 원인 후보를 제시하니 스스로 가설을 세우는 일이 줄어든다. AI가 서비스 간 의존 관계를 그려 주면 시스템 구조를 머릿속에 직접 구성할 필요도 적어진다. 하나씩 보면 생산성 향상이지만, 필자는 이런 변화가 겹치면 예상 밖 장애에서 필요한 이해가 약해진다고 본다.
더 까다로운 점은 능력이 줄고 있다는 사실을 알아차리기 어렵다는 것이다. 도구를 쓰면 일이 수월해지고 눈에 보이는 결과도 좋아져 자신의 역량을 실제보다 높게 평가할 수 있다는 인지 연구를 필자는 언급한다. 필자 자신도 AI가 가끔 찾는 도구에서 가장 먼저 찾는 도구로 바뀌었으며, 사고를 직접 해야 하는 순간이 줄어드는 것을 느낀다고 썼다. 평소 지표가 양호할수록 새로운 유형의 장애가 닥치기 전에는 이 차이가 드러나지 않을 수 있다.
잃어버린 기술보다 익히지 못한 기술
필자는 이미 갖춘 능력이 약해지는 ‘숙련 저하’에서 한 걸음 더 나아가 ‘미숙련 고착’(never-skilling·기술을 처음부터 익힐 기회를 얻지 못하는 현상)을 제기한다. 숙련 저하는 과거에 직접 해본 사람이 겪는 문제다. 반면 처음부터 AI가 장애 대응의 대부분을 처리하는 환경에 들어온 신입 SRE는 기초 감각을 만들 경험 자체가 부족할 수 있다. 같은 자동화라도 경력에 따라 남기는 문제가 다르다는 뜻이다.
이대로라면 현장의 학습 경로에도 틈이 생긴다. 숙련된 사람은 부족해진 감각을 메우려고 AI에 더 기대고, 신입은 직접 해보지 못해 처음부터 AI에 의존한다는 것이 필자가 그린 악순환이다. 장애가 해결됐다는 결과만으로는 누가 어떤 판단을 익혔는지 알기 어렵다. 필자의 우려는 개인의 게으름보다 실전 경험을 쌓도록 설계되지 않은 업무 방식에 가깝다.
사람이 직접 풀고 AI와 함께 따지는 방식
필자가 제안하는 첫 번째 대응은 의도적으로 비효율을 감수하는 것이다. AI가 처리할 수 있는 장애 중 일부를 사람이 직접 해결하는 연습 기회로 남겨두자는 뜻이다. 당장의 복구 속도는 느려질 수 있지만, 드문 고난도 장애에 대비해 판단 능력을 유지하는 장기 투자로 본다. 필자는 이를 자동조종이 가능해도 조종사에게 수동 비행 연습이 필요한 이유와 연결한다.
두 번째는 사람이 AI의 권고를 승인만 하는 위치에 머물지 않도록 설계하는 것이다. 최종 버튼을 누르는 일과 증거를 살피고 가설을 검토하며 문제를 함께 푸는 일은 다르다. 필자는 전자가 수동적인 감시에 가까워 주의력이 약해질 수 있지만, 후자는 사람의 사고를 계속 작동시킨다고 본다. 따라서 AI 도구를 배제하는 대신 사람이 어떤 단계에서 능동적으로 개입할지를 정해야 한다는 주장이다.
이 고민은 SRE에만 한정되지 않는다. 필자는 AI가 코드 작성과 변경 요청 검토, 디버깅을 더 많이 맡을수록 소프트웨어 엔지니어링 전반에서 같은 질문이 생긴다고 말한다. 시그노즈는 지표·트레이스·로그를 다루는 오픈소스 관측 가능성(observability·시스템 상태를 데이터로 파악하는 능력) 플랫폼을 만든다. 필자는 자사 제품에 먼저 사람이 통제하는 AI 보조 기능을 넣고, 신뢰가 쌓인 뒤 명확한 제한 속에서 자율성을 높이겠다는 방향을 밝혔다.
시그노즈는 관측 데이터를 직접 다루는 위치도 장점으로 내세운다. 필자는 다른 AI SRE 제품 다수가 관측 도구의 API를 통해 제한된 정보를 받아보는 것과 달리, 자사는 데이터 계층에 있어 더 풍부한 맥락을 AI에 제공할 수 있다고 주장한다. 그 주장이 가리키는 제품 방향 역시 완전한 대체보다 사람이 중요한 운영 결정을 내릴 수 있도록 돕는 쪽이다. 다만 앞서 제기한 숙련 문제에 답하려면, 더 많은 정보를 AI에 넣는 것과 별개로 사람이 사고할 자리를 제품 안에 어떻게 남길지가 중요해진다.
커뮤니티 의견
한 사용자는 수동 비행 연습을 남겨두는 항공업계가 좋은 참고 사례라고 했다. 시스템이 복잡해지고 자동화가 맡는 일이 늘어도 사람이 실수하지 않도록 하는 방법을 고민해 왔기 때문이다. 답글에서는 모든 소프트웨어 서비스가 항공기처럼 극도로 낮은 실패 가능성을 목표로 할 필요는 없다는 반론이 나왔다. 높은 신뢰성을 유지하는 데는 비용이 들며, 일부 서비스에는 계획된 점검이나 일시적인 중단을 허용할 수 있다는 주장이다.
한 사용자는 여러 기술 영역을 직접 다루는 스타트업에서 AI 에이전트(여러 작업을 이어서 수행하는 AI)가 문제 해결 속도를 크게 높였다고 말했다. 읽기 전용 접근 권한을 주면 클라우드 환경과 로그 등을 조사해 자신보다 훨씬 빠르게 원인을 찾고 보고서까지 작성한다는 경험이다. 그는 AI가 때로 틀린 말을 한다는 점을 인정하면서도, 자신의 기술이 무뎌지는 느낌은 실제라고 했다. 답글에서는 사라지는 기술 대신 AI의 결과를 검토하고 잘못된 답을 찾아내는 새로운 능력이 중요해진다는 의견이 나왔다.
SRE의 핵심은 데이터 흐름과 병목, 애플리케이션 구조, 서비스의 한계와 복구 방법을 이해하는 데 있다는 주장도 나왔다. 이 사용자는 AI가 만들어낸 애플리케이션에서는 그런 이해가 빠질 수 있다고 우려했다. 반론을 단 사용자는 여러 장치가 연결된 시스템을 만드는 과정에서도 각 장치의 능력과 통신 방식을 이해해야 한다고 설명했다. AI가 이해를 없애기보다 이해해야 할 대상을 더 높은 수준으로 옮긴다는 시각이다.
테라폼(Terraform) 같은 기존 자동화 도구를 떠올리는 의견도 있었다. 한 사용자는 인프라를 손으로 설정하는 기술을 지키기보다 AI로 장애를 더 빨리 발견·복구하고 예방하는 데 집중하자고 주장했다. 답글에서는 사내에서 승인된 모듈만 호출해 본 SRE가 그 아래의 설정을 이해하지 못하는 사례를 들며 반박했다. 도구를 능숙하게 쓰는 것과 도구가 대신 처리한 내용을 이해하는 것은 다르다는 지적이다.
항공 분야의 경험을 다시 꺼낸 사용자는 자동화가 조종사에게 실제 위기를 겪을 가능성을 낮추는 동시에, 위기를 처리할 준비도 약하게 만들 수 있다는 논의를 소개했다. 또 다른 사용자는 실제 업무에서 AI가 단순한 신호 대조는 빠르게 처리하지만 SRE처럼 일하게 만들려면 회사의 맥락을 연결하는 작업이 많이 필요하다고 했다. 이들은 각각 연습 기회의 감소와 현장 정보의 중요성을 강조한다. AI의 성능만으로 운영 역량 전체를 설명하기 어렵다는 관점이다.
엔지니어의 역할 자체가 달라진다는 의견도 나왔다. 한 사용자는 목표와 피드백을 바탕으로 적절한 때에 질문을 던지고, 주의를 기울일 곳을 정하는 기술 책임자에 가까운 역할이 중요해진다고 봤다. 답글에서는 그런 질문 능력이 원래도 엔지니어링의 중요한 부분이었다고 덧붙였다. 이 관점에서는 손으로 수행하는 일이 줄어들더라도 무엇을 확인하고 어디에 집중할지 판단하는 능력은 남는다.
핵심통찰
이 논쟁은 AI를 쓰느냐 마느냐보다, 장애가 끝난 뒤 사람에게 무엇이 남느냐에 관한 것이다. 빠른 복구와 숙련 유지가 언제나 같은 방향으로 움직이지는 않는다. 알려진 장애를 자동화하더라도 SRE가 원본 데이터에서 징후를 읽고, AI의 제안에 앞서 가설을 세우며, 판단이 어긋난 이유를 확인할 기회를 남겨야 한다. 특히 신입이 그런 과정을 실제로 익힐 수 있는지가 중요하다. 앞으로 지켜볼 것은 AI가 처리한 장애의 비율만이 아니라, 새로운 장애가 왔을 때 사람이 여전히 시스템을 이해하고 대응할 수 있는지다.
원본: AI Isn’t Replacing SREs. It’s Deskilling Them.
토론: Hacker News