AI가 AI 연구를 두 배 빠르게 했나

AI가 AI 연구를 빠르게 만드는 효과가 앤트로픽(Anthropic)의 역량 개선 속도에서 뚜렷하게 나타났다는 분석이 나왔다. AI 연구자 아제야 코트라(Ajeya Cotra)는 메트르(METR)의 공개 조사 보고서를 읽고, 앤트로픽의 최근 1년간 역량 발전 속도가 직전 1년의 약 두 배였으며 현재의 가속에는 AI를 이용한 연구 자동화가 크게 기여한다고 해석했다. 그는 이 속도가 다시 AI를 개선하는 순환으로 이어질 경우 발전 시계가 급격히 앞당겨질 수 있다고 경고한다. 다만 ‘1년 안의 초지능’은 관측 결과가 아니라 가속이 계속된다는 가정에서 나온 추론이다.

핵심요약

  • 앤트로픽은 AI가 AI 연구개발을 가속해 진전 속도가 급격히 빨라지는 기준에 곧 도달할 수 있다고 밝혔고, 코트라는 공개 조사 결과상 이미 그 기준을 넘었을 가능성이 크다고 본다.
  • 메트르는 2025년 10월부터 2026년 10월까지 앤트로픽의 역량 발전 속도가 이전 12개월의 약 두 배였다고 보고해, AI 연구 자동화의 영향을 가늠할 관측치를 제시했다.
  • 코트라는 전체 발전 속도를 두 배로 높이려면 연구 노동의 생산성 향상은 그보다 훨씬 커야 한다고 계산하지만, 추정치는 투입 요소에 관한 가정에 크게 좌우된다.
  • 조사팀은 가속이 누적되는 것을 막을 뚜렷한 병목을 찾지 못했다고 밝혔으며, 코트라는 이를 바탕으로 극단적으로 빠른 발전 가능성을 경고한다.
  • 핵심 근거 상당 부분이 비공개 처리돼 있어, 외부 연구자가 가속의 원인과 지속 가능성을 독립적으로 검토하기는 어렵다.

앤트로픽이 말한 ‘급격한 가속’의 기준

앤트로픽은 S1 문서에서 자사의 책임 있는 확장 정책(RSP)이 정한 ‘AI로 인한 급격한 발전 가속’ 기준에 곧 도달할 수 있다고 밝혔다. 2026년 7월부터 적용된 정책에서 이 기준은 AI가 AI 연구개발에 크게 기여하기 전의 가장 빠른 지속적 발전 속도보다 전체 AI 역량이 두 배 빠르게 향상되는 경우를 가리킨다. 동시에 그 차이를 컴퓨팅 자원이나 다른 투입 요소의 증가보다 AI의 연구·공학 업무 자동화로 설명할 수 있어야 한다.

코트라는 이 기준에 앤트로픽이 이미 도달했을 가능성이 크다고 해석한다. 그의 판단은 메트르 동료들이 앤트로픽 내부에 접근해 진행한 조사 보고서의 공개본에 근거한다. 코트라는 해당 조사에 참여하지 않았고 비공개 부분도 보지 못했다고 밝힌다. 따라서 이 글은 앤트로픽의 공식 판정이나 조사팀의 결론을 대신하기보다, 공개된 결과가 무엇을 뜻하는지 따져 보는 분석이다.

두 배 빨라진 역량 발전 속도

메트르 조사팀은 2025년 10월부터 2026년 10월까지 앤트로픽의 역량 발전 속도가 앞선 12개월보다 약 두 배 빨랐다고 보고했다. 공개된 측정값은 에포크(Epoch)의 역량 지수를 내부적으로 적용한 AECI다. 조사팀은 가속을 뒷받침하는 다른 증거도 폭넓게 검토했지만, 자신들이 가장 유익하다고 본 근거의 과반은 보고서에서 가려졌다고 설명했다.

조사팀의 해석은 단순히 ‘AI를 쓰는 동안 성과가 좋아졌다’는 데서 한 걸음 더 나간다. 초기의 속도 상승에는 여러 요인이 섞여 있었지만, 조사 시점에 더 빠른 발전이 유지되는 주된 이유는 AI 자동화일 가능성이 높다고 봤다. 다만 그 원인 판단을 뒷받침하는 상세 근거 역시 공개되지 않았다. 관측된 속도와 그 속도를 만든 원인을 구분해 읽어야 하는 이유다.

정책상 기준에는 과거 속도와의 비교뿐 아니라, AI의 기여가 없었다면 예상됐을 속도와의 비교도 들어간다. 코트라의 설명에 따르면 조사팀은 당시 가속분의 약 80%를 AI에 돌렸으며, 이 추정대로라면 2026년 10월 기준 ‘AI가 없는 경우’ 대비 속도는 정확히 두 배가 아닌 약 1.8배다. 코트라는 AI의 기여가 시간이 갈수록 커졌다는 조사 결과와 정책의 ‘관측하거나 예상한다’는 문구를 들어, 문턱을 넘었다고 판단한다. 수치 하나만으로 자동 판정되는 기준은 아니라는 뜻이다.

두 배의 진전에는 몇 배의 연구 노동이 필요한가

코트라는 전체 AI 역량의 발전 속도가 두 배가 됐다는 사실을 연구자의 생산성도 두 배가 됐다는 말로 받아들여서는 안 된다고 주장한다. 알고리즘과 구조 개선이 만들어 내는 ‘컴퓨팅 배율’은 역량을 결정하는 투입 요소 중 하나이고, 학습에 쓰는 컴퓨팅 자원도 함께 작용하기 때문이다. AI 자동화가 소프트웨어 개선을 통해 전체 속도를 두 배로 끌어올렸다면, 컴퓨팅 배율이 좋아지는 속도는 그보다 큰 약 2.5~3배여야 한다는 것이 그의 추산이다.

연구 아이디어를 실제 개선으로 바꾸는 데도 연구 노동만으로는 부족하다. 아이디어를 시험할 실험용 컴퓨팅 자원이 필요하다. 코트라는 노동과 실험용 컴퓨팅 자원의 기여가 같다고 놓는 단순한 코브·더글러스 모형(여러 투입 요소가 성과에 기여하는 정도를 계산하는 모형)을 적용한다. 이 가정에서는 컴퓨팅 배율의 개선 속도를 약 23배 높이려면 연구 노동의 효과가 대략 49배가 돼야 한다.

이 수치는 측정된 생산성 증가율이 아니라 가정에서 역산한 값이다. 노동과 실험 자원의 기여 비중을 달리 잡으면 결과도 달라진다. 그럼에도 코트라가 이 계산을 강조하는 까닭은 전체 발전 속도의 ‘두 배’가 연구 현장의 작은 효율 개선만으로 설명되지는 않는다는 점을 보여주기 위해서다.

시간이 갈수록 더 커져야 하는 생산성 향상

코트라는 빠른 속도를 몇 달간 유지했다면 현재 필요한 노동 생산성 향상은 초기의 4~9배보다 더 클 수 있다고 본다. 역량 개선이 빨라질수록 상대적으로 찾기 쉬운 아이디어가 먼저 소진되고, 다음 개선안을 찾고 구현하는 데 더 많은 작업이 들어가기 때문이다. 실험용 컴퓨팅 자원이 이전보다 더 빠르게 늘지 않는다면, AI가 제공하는 연구 노동의 추가 효과도 계속 커져야 새 속도를 유지할 수 있다.

그는 현재 필요한 효과가 약 10배일 수도 있다고 추정하면서도 오차가 크다고 밝힌다. 앤트로픽 직원들이 내부 모델을 사용해 약 12배의 생산성 향상을 체감한다는 비공식 발언은 이 추정과 비슷하지만, 동일한 방식으로 측정한 수치는 아니다. 코트라가 그리는 모습도 연구자 한 명 옆에 열 명을 단순히 더 배치하는 형태가 아니다. 읽고, 생각하고, 실험을 진행하는 일련의 작업을 한 연구자가 훨씬 빠르게 처리하는 쪽에 가깝다.

작업별 차이도 중요하다. 반복하며 개선점을 찾기 쉬운 과제는 크게 빨라질 수 있지만, 모든 연구 단계가 고르게 10배 빨라진다는 뜻은 아니다. 코트라는 여러 종류의 작업을 합쳤을 때 그만큼의 효과가 나타날 수 있다고 설명한다. 이 때문에 연구 인력을 같은 비율로 늘리는 일과 AI로 기존 연구자의 작업 흐름을 가속하는 일은 서로 다른 문제다.

더 나은 AI가 다음 AI를 앞당기는 고리

코트라가 가장 중대하게 보는 질문은 지금의 가속이 다음 가속으로 이어지느냐다. 더 나은 AI가 연구자의 업무를 더 많이 자동화하고, 그렇게 단축된 연구 과정이 다시 더 나은 AI를 만든다면 속도 상승이 누적될 수 있다. 그는 전체 역량 발전이 두 배 빨라진 데서 멈추지 않고 네 배, 여덟 배로 더 빨라지는 경로를 제시한다. 다만 이를 가로막는 병목이나 수확 체감이 있다면 경로는 달라진다.

메트르 조사팀은 가속의 누적을 막을 명확한 병목이나 가파른 수확 체감을 발견하지 못했다고 밝혔다. 동시에 새 정보를 얻을 때마다 상황을 이해하는 방식이 여러 차례 바뀌었고, 불확실성이 크다고 덧붙였다. 코트라는 비공개 처리된 일부 증거가 가속률이 이미 두 배를 넘고 계속 커지고 있을 가능성도 가리킨다고 전한다. 공개된 독자가 확인할 수 있는 결론은 ‘막을 요인을 찾지 못했다’는 것이지, 앞으로의 가속 속도가 확정됐다는 것은 아니다.

‘1년 안의 초지능’이라는 외삽

코트라는 현재 AI가 연구를 가속하는 효과가 앞으로도 매끄럽게 커진다고 가정하면, 극단적인 초지능에 1년 안에 도달한다는 단순 외삽(현재 추세를 미래까지 연장하는 계산)이 나온다고 쓴다. 최근 약 1년 사이 가속 효과가 완만한 수준에서 전체 발전 속도를 거의 두 배로 높이는 수준에 이르렀다면, 이제는 약 6개월 만에 속도가 다시 두 배가 될 수 있다는 논리다. 그다음 두 배가 되는 데는 3개월, 이후에는 6주가 걸리는 식이다.

이 기간을 계속 더하면 이론상 1년 안에 발전 속도가 무한대로 향하는 형태가 된다. 코트라도 실제로는 소프트웨어 효율에 상한이 있을 것이라고 인정한다. 다만 그 상한이 현재 수준에서는 멀리 있다고 예상하며, 급격한 가속 끝에 나온 시스템이 새로운 무기를 빠르게 개발하거나 인간 사회를 압도할 수 있다고 우려한다. 인류의 통제에서 벗어난 시스템이라면 인류가 권한을 잃거나 멸종할 위험까지 있다는 것이 그의 판단이다.

보안 기준과 공개되지 않은 근거

코트라는 이런 가능성에 대비한 업계의 준비가 부족하다고 본다. 앤트로픽의 2025년 5월 정책에서 AI 연구 자동화의 최고 위험 단계로 이름 붙었던 AI R&D-5에는, 국가급 적대 세력의 모델 가중치(학습된 모델의 핵심 수치) 탈취를 막을 보안 수준이 최소 요건으로 연결돼 있었다. 그는 모델 가중치뿐 아니라 알고리즘상의 비밀도 지킬 보안이 필요하며, 오픈AI(OpenAI)와 앤트로픽이 최근 아마추어 집단에 의한 중대한 보안 침해를 겪었다고 지적한다.

그가 요구하는 대비는 접근 통제에 그치지 않는다. AI의 행동을 빠짐없이 기록·감시하고, 감시 체계가 제대로 작동하는지 측정하며, 모델과 감시자의 공모를 막는 수단이 필요하다고 주장한다. 정렬 훈련(모델 행동을 인간의 의도와 맞추는 훈련)이 효과적인지 이해할 방법과 통제가 흔들릴 때 발전 속도를 조절할 거버넌스도 거론한다. 이는 현재 관측된 가속에 관한 보고와 별개로, 코트라가 제안하는 안전 요건이다.

그는 동시에 자신의 판단을 낳은 중요한 증거가 대부분 비공개라는 점을 문제 삼는다. 외부 연구자가 데이터와 분석 선택을 살펴볼 수 없다면, 앞으로의 발전 기간과 가속 속도를 두고 서로 다른 모형을 검증하기 어렵다. 앤트로픽 내부에서 무엇이 얼마나 빨라졌는지에 대한 관심만큼, 그 변화를 어떤 근거로 AI 자동화에 돌렸는지 공개하는 문제가 중요해진 셈이다.

커뮤니티 의견

한 머신러닝 연구자는 LLM이 모델 구조와 학습 전략 등 컴퓨팅 환경 안에서 수행하는 연구를 크게 빠르게 할 수 있다는 점에 동의했다. 그러나 그 영역에서 최선의 모델에 더 빨리 다가가는 것과, 인류를 압도할 범용적인 초지능을 만드는 것은 다른 주장이라고 봤다. 답글에서는 AI가 직접 무기를 만들지 못하더라도 인간을 설득해 필요한 행동을 하게 할 가능성을 제기했다.

다른 사용자는 역량 그래프가 측정 가능한 여러 평가 항목을 합친 결과라는 점을 짚었다. 측정과 평가가 쉬운 능력은 그 결과를 이용해 집중적으로 훈련할 수 있지만, 측정하기 어려운 능력까지 같은 속도로 발전한다고 볼 수는 없다는 주장이다. 이에 대한 답글은 코드처럼 검증하기 쉬운 영역의 훈련이 다른 추론 능력에도 영향을 줄 수 있다고 반박했다.

한 사용자는 AI 덕분에 자신의 개별 업무는 빨라졌지만, 그 업무 자체가 AI 때문에 생긴 것이라고 말했다. 작업 처리 속도의 향상이 곧 세상에 미치는 성과의 증가를 뜻하지는 않는다는 관점이다. 연구 현장의 생산성 수치와 최종적으로 얻는 가치 사이에 무엇이 끼어 있는지를 묻는 의견으로 읽힌다.

또 다른 사용자는 관측된 향상 중 모델 자체의 능력 향상과 자본 투입, 여러 에이전트의 병렬 실행이 각각 얼마나 기여했는지 궁금해했다. 더 많은 작업을 동시에 시도하고 토큰을 더 쓰는 방식이 성과의 상당 부분을 만들 수도 있다는 것이다. 답글에서는 에이전트를 활용해 연구를 수행하는 것 역시 AI에 의한 연구 자동화에 해당하며, 정책의 원인 판단 기준은 단순한 자본 투입 증가를 구별하려 한다고 지적했다.

앞서 나온 다른 분석을 비교해 보자는 의견도 있었다. 이에 대한 답글은 그 분석이 새 조사 결과보다 이른 시점에 쓰였으며, 작성자도 새 데이터에 관심을 갖고 살펴보는 중이라고 전했다. 이 논쟁은 과거에 그럴듯했던 연구 생산성 가정이 새로운 관측치 앞에서 다시 검토될 수 있음을 보여준다.

한 사용자는 역량 개선을 실제로 무엇이 이끄는지 물었다. 데이터를 더 만들거나 효율적으로 쓰는 것인지, 모델 구조나 학습법을 바꾸는 것인지에 따라 앞으로 마주칠 한계도 달라진다는 주장이다. 답글은 연구소가 개선 내용을 충분히 공개하지 않아 단정하기 어렵다면서, 공개된 다른 연구 사례에서는 강화학습 환경과 모델 구조 개선을 볼 수 있다고 설명했다.

코딩에서는 이미 AI가 속도와 정확성 면에서 인간을 능가하는 측면이 있다는 의견도 나왔다. 이 사용자는 동시에 AI가 작업 지시의 빈틈이나 예외를 잘못 해석할 수 있어 인간 엔지니어가 여전히 필요하다고 봤다. 그럼에도 끈질기게 작동하는 악성 AI 프로그램이 등장할 위험을 우려했다.

마지막으로 한 사용자는 연구가 열 배 빨라져도 대규모 모델을 학습시키는 시간은 병목으로 남을 수 있다고 지적했다. 더 적은 매개변수로 더 똑똑한 모델을 만드는 연구라면 학습 시간까지 줄어 가속 고리가 강해질 수 있지만, 그렇지 않다면 계산과 정보 처리의 한계를 만나게 된다는 관점이다. 연구 자동화의 속도를 최종 모델의 발전 속도와 곧바로 같게 놓지 말아야 한다는 반론이다.

핵심통찰

이 분석이 바꾸는 것은 AI 연구 자동화를 막연한 미래 가능성이 아니라, 실제 연구소의 발전 속도와 연결해 따져 볼 수 있는 문제로 만든다는 점이다. 하지만 ‘속도가 두 배가 됐다’는 관측에서 ‘1년 안에 초지능이 온다’는 전망으로 가려면 AI의 기여도, 병목의 부재, 가속의 지속이라는 여러 단계를 지나야 한다. 앞으로 볼 것은 더 큰 생산성 숫자 하나가 아니다. 조사 근거가 얼마나 공개되는지, 실험과 학습의 제약이 어디서 나타나는지, 역량 향상 속도에 맞춰 보안과 감시 체계가 실제로 강화되는지가 판단의 기준이다.


원본: AI is dramatically accelerating AI research right now

토론: Hacker News