와이콤비네이터(Y Combinator) 최고경영자 개리 탄(Garry Tan)은 미국의 소규모 개방형 가중치(학습된 모델의 가중치를 외부에서 활용할 수 있도록 공개하는 방식) AI 연구소도 최첨단 모델을 증류할 수 있어야 한다고 주장했다. 증류(다른 모델을 반복 호출해 나온 결과를 새 모델의 학습에 활용하는 기법)를 단속하자는 요구가 나오는 가운데, 오히려 후발 연구소의 접근을 넓히자는 제안이다. 그의 발언은 모델 기업의 이용 제한과 고객이 경쟁 제품을 개발할 자유, 그리고 차세대 모델 개발에 필요한 투자 유인을 한꺼번에 논쟁의 중심으로 끌어왔다.
핵심 요약
- 개리 탄은 증류를 막기보다 미국의 소규모 개방형 가중치 연구소가 최첨단 모델을 학습에 활용할 수 있어야 개방형 선택지가 늘어난다고 주장했다.
- 앤트로픽(Anthropic)은 중국 연구소들이 신원을 숨기고 훔친 접근 자격까지 이용했다고 주장하지만, 탄은 그런 부정한 접근까지 허용하자는 입장은 아니다.
- 탄은 최첨단 모델 기업이 고객의 API 이용 결과를 지나치게 통제한다고 보며, 광범위한 자료로 훈련한 AI에 대한 접근을 공공재의 관점에서도 다뤄야 한다고 말했다.
- 그는 최첨단 연구소의 사업성을 인정하면서도 한 비공개 기업에 자본과 연구 인력, AI 역량이 집중되는 상황을 더 큰 위험으로 꼽았다.
- 토론에서는 유료 모델을 이용한 경쟁 제품 개발을 허용할지, 그 경우 기존 연구소의 데이터 투자비를 어떻게 회수할지가 맞섰다.
중국 연구소 논란에서 나온 미국의 증류 주장
이번 논쟁의 출발점은 중국 AI 연구소들이 최첨단 모델의 능력을 학습에 활용하는 방식이다. 앤트로픽은 중국 연구소들의 ‘불법적인 증류 공격’을 주장하는 두 번째 보고서를 내고, 이들이 신원을 숨겨 허락 없이 증류했다고 밝혔다. 보고서에는 부정행위와 훔친 접근 자격이 사용됐다는 주장도 담겼다. 앤트로픽 최고경영자 다리오 아모데이(Dario Amodei)는 앞서 미국 규제 당국에 증류 단속을 촉구한 바 있다.
개리 탄은 같은 논란을 두고 다른 방향을 제시했다. 그는 CNBC 인터뷰에서 규제 당국이라면 “아무것도 하지 않겠다”고 말한 뒤, 미국에도 증류를 허용하는 체제가 필요할 수 있다고 했다. 중국 연구소의 활동을 이유로 증류라는 학습 방법 자체를 막아서는 안 된다는 취지다. 최첨단 모델을 만든 기업이 허용 범위를 정해야 한다는 주장과는 출발점부터 다르다.
탄은 이후 테크크런치(TechCrunch)에 자신이 염두에 둔 대상을 더 구체적으로 설명했다. 미국의 소규모 개방형 가중치 AI 연구소가 미국 최첨단 연구소의 모델을 학습에 활용해, 중국산이 아닌 개방형 모델의 선택지도 늘어나길 바란다는 것이다. 여기서 중요한 것은 모델을 누가 처음 개발했느냐만이 아니라, 그 성능을 토대로 누가 다음 모델을 만들 수 있느냐다. 스타트업 육성 기관의 수장이 후발 연구소의 학습 기회를 공개적으로 요구한 이유도 여기에 있다.
통상적인 학습 기법과 부정한 접근의 경계
증류는 기존 모델에 많은 질문을 던지고, 그 응답을 살펴 새 모델을 훈련하는 방법이다. 답만 받아 적는 것이 아니라 기존 모델이 어떻게 작동하고 추론하는지 학습하려는 과정이기도 하다. AI 연구소들이 새 모델을 만들 때 통상적으로 사용하는 기법이며, 증류라는 행위가 곧 부정행위를 뜻하지는 않는다. 따라서 이 논쟁에서는 학습 기법 자체와 모델에 접속한 수단을 나눠 봐야 한다.
앤트로픽이 중국 연구소들에 제기한 의혹에는 바로 그 접속 수단이 포함돼 있다. 허락을 피해 신원을 감추고, 훔친 자격 증명까지 이용했다는 것이 앤트로픽의 주장이다. 탄은 미국 연구소에도 훔친 계정이나 자격 증명으로 모델을 쓰게 하자고 말하지 않았다. 그가 원하는 것은 정당한 경로로 모델에 접속한 연구소가 얻은 결과를 새 모델의 학습에 활용할 자유다.
이 구분에 따라 규제의 대상도 달라진다. 신원을 속이거나 남의 접근 자격을 쓰는 행위를 막는 것과, 정상적으로 접속한 고객이 경쟁 모델을 만들지 못하도록 하는 것은 같은 조치가 아니다. 전자는 모델에 들어오는 방법의 문제이고, 후자는 들어온 뒤 얻은 정보를 어디까지 쓸 수 있느냐는 문제다. 탄의 발언은 중국 연구소에 관한 의혹을 계기로, 그 두 문제를 한꺼번에 증류 단속으로 묶어서는 안 된다는 논쟁을 불러왔다.
유료 API의 답변을 누가 통제하나
탄의 첫 번째 논거는 모델 기업과 고객 사이의 권한에 관한 것이다. 그는 비공개 가중치(모델의 학습된 가중치를 외부에 공개하지 않는 방식) 모델의 API(프로그램에서 모델 서비스를 호출하는 접속 방식)를 이용한 고객이 받은 정보를 기업이 계속 통제하는 데 문제를 제기했다. 고객이 값을 치르고 모델을 호출했더라도, 그 결과로 경쟁 기술을 만들면 안 된다는 제한을 받아들여야 하느냐는 질문이다. 탄이 말하는 증류의 자유는 이 질문과 맞닿아 있다.
그는 특히 널리 접근할 수 있는 자료로 훈련한 AI 역량을 제한적인 서비스 약관 뒤에만 묶어 두는 데 반대했다. 테크크런치에는 이런 AI에 대한 접근을 공공재에 더 가까운 것으로 다룰 수 있도록 정부가 역할을 해야 한다고 말했다. 이는 정부가 모든 접근을 허용해야 한다는 말보다, 기업의 약관이 이용 범위를 어디까지 정할 수 있는지 다시 따져 보자는 주장에 가깝다. 정상적인 API 이용과 경쟁 모델 개발 사이에 기업이 그은 선이 논쟁의 대상이 된 셈이다.
이 관점에서는 모델을 이용하는 고객도 단순한 최종 소비자에 그치지 않는다. 받은 답변을 새 제품이나 새 모델의 재료로 삼을 수 있는 개발자이자 잠재적 경쟁자다. 최첨단 연구소에는 그런 활용이 자사 모델의 가치를 다른 기업으로 옮기는 일로 보일 수 있다. 반면 후발 연구소에는 이미 제공된 서비스에 정당하게 접근해 얻은 결과를 학습에 쓰는 일이다. 어느 쪽의 판단을 우선하느냐에 따라 개방형 모델이 성장할 수 있는 폭도 달라진다.
학습 자료에는 허락을 구했는가
탄의 두 번째 논거는 최첨단 모델 기업들이 처음 경쟁력을 쌓은 방식에서 나온다. 그는 이들이 방대한 인간의 지식을 모아 모델을 훈련하면서 저작물의 권리자에게 일일이 허락을 구하지 않았다고 지적했다. 실제로 허락 없이 수집한 저작권 자료가 모델 학습에 들어간 문제는 이들 기업을 둘러싼 논쟁의 한 부분이다. 그런 기업이 이제는 고객에게 자사 모델의 결과를 후속 학습에 쓰지 말라고 요구하는 것이 일관된 태도냐는 것이다.
탄의 문제 제기는 저작물 이용과 API 이용이 똑같은 행위라는 뜻은 아니다. 두 경우 모두 다른 이가 만든 결과를 바탕으로 새 기술을 개발하면서, 허락을 누구에게 어느 단계에서 받아야 하는지가 쟁점이라는 뜻이다. 최첨단 연구소가 인간의 지식을 폭넓게 이용할 수 있었다면, 후발 연구소에도 기존 모델의 성과를 학습에 활용할 여지를 줘야 한다는 논리다. 그의 주장에서는 모델 기업이 기술의 수혜자인 동시에 다음 이용자를 제한하는 주체가 된다.
하지만 이 논리만으로 개발 비용의 문제가 사라지지는 않는다. 최첨단 연구소가 확보한 자료와 모델의 성능을 후발 기업이 곧바로 학습에 활용할 수 있다면, 먼저 투자한 기업은 무엇으로 그 비용을 회수할지 따져야 한다. 반대로 투자비 회수를 이유로 경쟁 모델 개발을 폭넓게 금지하면, 개방형 연구소가 최첨단 모델의 성과에 접근할 길은 좁아진다. 허락의 기준을 둘러싼 탄의 비판이 강하게 들리는 만큼, 투자와 재사용을 함께 가능하게 할 기준도 논쟁의 핵심으로 남는다.
탄이 경계한 한 기업의 독주
탄은 최첨단 모델 연구소의 역할을 부정하지 않았다. 그는 이 기업들이 최첨단 기술을 발전시키고 있으며, 앞으로도 자금을 조달하고 지속 가능한 사업을 운영할 수 있어야 한다고 CNBC에 말했다. 동시에 개방형 가중치 모델은 사람들에게 자유와 접근성을 제공해야 한다고 강조했다. 최첨단 모델의 개발을 멈추게 하자는 것이 아니라, 그 성과를 활용할 다른 경로도 있어야 한다는 입장이다.
탄이 그린 최악의 상황은 여러 모델이 경쟁하는 시장이 아니다. 가장 많은 자본과 뛰어난 연구 인력을 확보한 한 비공개 기업이 앞서 나간 뒤, 막대한 AI 역량까지 독점하는 모습이다. 그는 이런 한 기업 중심의 구도를 AI의 진짜 암울한 시나리오로 꼽았다. 미국 소규모 연구소의 증류를 허용하자는 제안은 그 집중을 막을 개방형 선택지를 키우려는 방안이다.
결국 그의 제안은 최첨단 연구소와 개방형 연구소를 양자택일하자는 주장과는 다르다. 먼저 개발하는 기업이 계속 투자할 수 있으면서도, 후발 연구소가 모델의 능력을 학습해 새로운 선택지를 내놓을 수 있어야 한다는 것이다. 다만 그 균형은 부정한 접근을 금지하는 일만으로 완성되지 않는다. 정상적인 고객에게 어디까지 활용을 허용할지, 경쟁을 허용한 뒤에도 새 모델을 만들 유인이 남을지가 함께 결정돼야 한다.
커뮤니티 의견
한 사용자는 최첨단 모델이 수많은 저작권 자료와 공유된 지식에 기대 만들어졌으므로, 모델 기업이 결과물의 이용을 제한할 도덕적 권리를 주장하기 어렵다고 했다. 그는 기존 기업이 증류를 ‘불법 공격’으로 부르는 이유도 자사의 시장 지위와 사업 모델이 위협받기 때문이라고 봤다. 답글에서는 값을 치른 토큰을 왜 원하는 용도로 쓸 수 없느냐는 질문이 나왔다.
다른 사용자는 앤트로픽이 증류를 질서 있게 관리하려는 것은 이해할 수 있지만, 이를 불법으로 만들자고 요구하는 것은 설득력이 약하다고 했다. 이 의견에 달린 답글은 탄의 발언에도 와이콤비네이터의 이해관계가 있다고 지적했다. 소속 스타트업들이 최첨단 모델 이용료를 계속 내는 것보다 성능 좋은 개방형 모델의 혜택을 보는 편이 유리하다는 해석이다.
모델 자체의 사업성을 의심하는 의견도 있었다. 한 사용자는 개방형 모델의 성능이 올라가면 경쟁력의 중심이 모델에서 이를 활용하는 소프트웨어로 옮겨갈 것이라고 내다봤다. 답글에서는 추론 서비스가 보조금에 기대고 있다는 전제를 반박했고, 모델과 소프트웨어, 컴퓨팅 자원을 함께 갖춘 기업의 강점도 무시할 수 없다는 지적이 나왔다.
한 사용자는 최첨단 연구소들이 증류와 규제 압박을 이유로 모델 공개를 줄일 수 있다고 우려했다. 그는 이 기업들이 이후 지식 노동까지 직접 차지하면 와이콤비네이터가 육성하는 스타트업의 설 자리가 좁아질 것이라고 봤다. 탄이 경계한 AI 역량의 집중을 스타트업의 생존 문제로 풀어낸 의견이다.
사회의 기여를 앞세운 주장도 나왔다. 한 사용자는 지식재산권과 디지털을 포함한 여러 공유 자원이 AI 개발에 투입됐으므로, 그 기술을 더 폭넓게 이용할 수 있어야 한다고 말했다. 적어도 법으로 증류를 막아 기술의 확산을 차단해서는 안 된다는 입장이다.
반면 한 사용자는 연구소가 자료를 확보하고 만드는 데 큰 비용을 들이는데, 그 가치가 곧바로 개방형 모델에 복제된다면 다음 투자를 누가 감당할지 물었다. 그는 앤트로픽의 저작권 관련 합의와 데이터 제작 비용을 들어, 모델 기업의 투자 유인을 단순한 욕심으로만 볼 수 없다고 주장했다. 답글에서는 저작권 문제로 치른 합의금을 정상적인 사업 비용처럼 취급해서는 안 된다는 반박이 나왔다.
경쟁을 허용해야 한다는 사용자도 있었다. 그는 작은 미국 기업들이 효율적인 개방형 모델을 만들 수 있도록 증류를 허용하고, 유료 토큰 구매자의 경쟁 제품 개발을 막는 행위는 반경쟁적 관점에서 다퉈야 한다고 주장했다. 이 의견은 증류를 학습 기법뿐 아니라 시장에 새 경쟁자가 들어올 수 있는 조건으로 봤다.
또 다른 사용자는 기존 도구를 사용해 경쟁 도구를 만드는 일에 증류를 비유했다. 이에 대한 답글은 모델 서비스의 이용 약관에 다른 모델의 훈련을 금지하는 조항이 있을 수 있고, 고객이 가입할 때 그 조건에 동의한다는 점을 짚었다. 기술적으로 무엇을 할 수 있는지와 계약상 무엇을 하기로 했는지가 별개의 쟁점임을 보여주는 논쟁이다.
핵심 통찰
탄의 제안은 부정한 접속을 막는 일과 정상적인 고객의 학습을 제한하는 일을 구분하라고 요구한다. 후발 연구소가 최첨단 모델의 결과를 활용할 수 있다면 개방형 선택지는 늘어나지만, 먼저 자료와 모델에 투자하는 기업의 유인도 유지돼야 한다. 관건은 훔친 자격 증명 같은 접근 수법을 금지하면서 유료 API 이용자의 경쟁까지 일률적으로 막지 않을 기준이다. 그 선을 어디에 긋느냐가 AI 역량이 소수 기업에 집중될지, 더 많은 연구소로 퍼질지를 좌우한다.
원본: Y Combinator’s Garry Tan wants US open-weight AI labs to ‘distill’ frontier models, too | TechCrunch
토론: Hacker News