엠버-1, 같은 답에 추론 토큰은 더 적게

파이어웍스 AI(Fireworks AI)는 키미 K3(Kimi K3)의 답변 품질을 유지하면서 생성 토큰을 약 40% 줄인 특화 모델 엠버-1(Ember-1)을 공개했다. 추론 모델이 답을 내기 전에 길게 생성하는 사고 과정이 코딩 에이전트의 비용을 키운다는 문제에서 출발했다. 회사는 벤치마크뿐 아니라 고객사의 실제 트래픽과 사내 개발 업무에서도 품질을 유지했다고 밝혔다. 다만 토큰 절감이 모든 작업에서 같은 비용 절감으로 이어지는지, 어떤 능력이 달라졌는지는 도입 전에 따져볼 대목이다.

핵심 요약

  • 엠버-1은 키미 K3를 추가 학습해 불필요한 추론을 줄인 모델로, 파이어웍스 AI는 답변 품질을 유지하면서 생성 토큰을 약 40% 절약했다고 밝혔다.
  • 파이어웍스 AI는 학습 실험 50회 이상과 평가 200회 이상을 거쳤으며, 고객 데이터는 학습에 쓰지 않았다고 밝혔다.
  • 7개 벤치마크와 고객사 2곳의 실제 트래픽에서는 추론을 35~50% 줄여도 정확도를 유지할 수 있다는 결과가 나왔다.
  • 고객사 2곳의 코딩 업무 A/B 테스트에서는 작업당 토큰이 약 35% 줄었고, 한 고객사는 이후 엠버-1을 실제 서비스에 사용하기 시작했다.
  • 연구 프리뷰로 공개된 엠버-1은 토큰 수뿐 아니라 작업당 비용과 개별 업무의 품질을 함께 살펴야 가치를 판단할 수 있다.

키미 K3의 긴 추론을 줄인 모델

파이어웍스 리서치(Fireworks Research)가 만든 엠버-1의 출발점은 키미 K3의 코딩 능력을 더 낮은 비용에 쓰고 싶다는 사용자 요구였다. 키미 K3는 긴 추론 과정 때문에 자동화된 코딩 작업을 대규모로 돌릴 때 비용이 커졌다. 추론 강도를 낮게 설정하는 방법도 시험했지만, 파이어웍스 AI는 이 경우 품질 손실이 지나치게 컸다고 설명한다. 답을 만드는 데 필요한 사고는 남기고 나머지를 줄이려면 설정을 바꾸는 데 그치지 않고 모델을 학습해야 한다는 결론이었다.

회사는 엠버-1을 만들면서 50회가 넘는 학습 실험과 200회가 넘는 평가를 진행했고, 추론을 짧게 만들면서 정확도를 유지하기 위한 학습 알고리즘도 개발했다고 밝혔다. 학습은 GPU를 직접 준비하거나 관리할 필요가 없는 자사의 서버리스 트레이닝(Serverless Training)에서 수행했다. 아이디어가 생기면 실험을 시작하고 실제 사용량만큼 비용을 낼 수 있어 연구에서 출시까지 걸리는 시간과 비용을 줄였다는 설명이다. 학습에는 자체 데이터를 사용했으며 고객 데이터는 사용하지 않았다고 회사는 명시했다.

에이전트가 같은 사고를 다시 읽는 비용

추론 모델은 최종 답변보다 내부 추론에 더 많은 토큰을 쓸 수 있다. 파이어웍스 AI에 따르면 키미 K3 같은 모델은 생성 토큰의 대부분, 때로는 90% 이상을 내부 추론에 사용한다. 한 번의 요청에서도 비용이 되지만, 여러 차례 모델을 호출하는 에이전트 작업에서는 앞선 추론이 다음 호출의 입력에 다시 포함된다. 초기 단계의 긴 추론을 뒤따르는 호출마다 읽고 다시 비용을 지불하는 구조다.

회사 설명대로라면 대화를 주고받는 횟수가 늘수록 전체 문맥 처리량은 대략 그 횟수의 제곱에 비례해 커진다. 따라서 같은 길이의 사고 과정이라도 첫 호출에서 발생했는지, 여러 단계의 에이전트 작업 초반에 발생했는지에 따라 비용 부담이 달라진다. 파이어웍스 AI는 키미 K3가 생성하는 추론 가운데 과제 해결에 필요하지 않은 부분을 덜어낼 수 있다는 실험 결과를 엠버-1의 근거로 제시했다. 목표는 답변 자체를 줄이는 것이 아니라 답에 이르는 과정을 간결하게 만드는 데 있다.

자기 점검은 남기고 반복은 덜어내기

긴 추론이 모두 낭비라는 뜻은 아니다. 모델이 자신의 가정을 다시 살피거나, 새로 받은 피드백에 반응하거나, 결과를 앞선 결정과 연결해 오류를 바로잡는 과정은 유용할 수 있다. 파이어웍스 AI는 이런 자기 점검 능력을 보존하되 성과 없이 같은 생각을 반복하는 구간을 줄이려 했다고 설명한다. 적게 생각하도록 일괄 지시하는 방식과 다른 지점이다.

이를 위해 수학, 코딩, 지시 따르기, 대화, 검색, 도구 사용, 소프트웨어 공학을 아우르는 학습 과제를 구성했다. 한 번에 끝나는 문제뿐 아니라 여러 단계에 걸쳐 관찰을 받아들이고 행동을 수정해야 하는 상호작용도 포함했다. 모델이 내린 결정과 그 결과를 과제 피드백으로 연결해, 실제로 도움이 되는 재검토를 배우게 하려는 접근이다. 회사는 7개 벤치마크와 고객사 2곳의 실제 트래픽에서 키미 K3의 추론을 35~50% 줄이면서 정확도를 유지했고, 실패한 시도에서도 토큰을 오래 소모하는 경향이 줄었다고 밝혔다.

임상 사례 500건과 비용·품질 경계선

파이어웍스 AI는 먼저 업계 전문가가 만든 실제 과제를 대상으로 공개 모델, 비공개 모델, 특화 모델을 비교하는 특화 지능 지수(Specialized Intelligence Index·SII)에 엠버-1을 올렸다. 그중 도크시미티(Doximity)의 베드사이드 벤치(Bedside Bench)는 의사가 검증한 임상 사례 500건으로 이뤄졌으며, 10개 전문 범주를 다룬다. 회사는 이 평가에서 엠버-1이 GPT-5.6 솔(Sol), GPT-6 아스트라(Astra), 클로드 오퍼스 5(Claude Opus 5)를 포함한 모델들과 비교해 작업당 비용과 품질의 파레토 경계(한쪽을 개선하려면 다른 쪽을 희생해야 하는 최선의 선택지 집합)를 새로 형성했다고 주장했다. 이는 품질 점수 하나만이 아니라 그 결과를 얻는 데 드는 비용을 함께 본 주장이다.

다른 업계 벤치마크에서도 파이어웍스 AI는 통과율과 비용을 나란히 비교했다. 비용 계산에는 키미 K3의 공개 API 가격인 100만 토큰당 캐시되지 않은 입력 3달러, 캐시된 입력 0.30달러, 출력 15달러를 적용했다. 비교 대상은 추론 강도를 낮음·높음·최대로 둔 키미 K3와 엠버-1이었다. 회사는 시험 표본이 50개를 넘는 모든 벤치마크에서 엠버-1이 파레토 경계 위나 그 근처에 있으며, 훨씬 낮은 비용으로 키미 K3 최대 추론 설정과 비슷한 품질을 냈다고 설명했다.

같은 비교에서 파이어웍스 AI는 엠버-1이 키미 K3의 낮은 추론 설정보다 품질과 비용의 조합에서 우위에 있다고 평가했다. GPT-6 아스트라, 클로드 오퍼스 5, GLM 5.3까지 포함한 분석에서도 비용 대비 품질에서 앞선 선택지 가운데 하나였다는 주장이다. 이 결과가 겨냥하는 비교 대상은 단순히 ‘추론을 많이 하는 키미 K3’만이 아니다. 추론 설정을 낮춰 비용을 아끼는 기존 방법보다, 효율적으로 추론하도록 학습한 별도 모델이 낫다는 것이 회사의 핵심 주장이다.

고객 트래픽에서 확인한 작업당 토큰

파이어웍스 AI는 벤치마크만으로는 실제 제품에서 모델이 버틸지 알기 어렵다고 보고 고객사 2곳의 운영 중인 코딩 작업에서 A/B 테스트를 진행했다. 두 고객사 모두 엠버-1을 썼을 때 비슷한 품질을 유지하면서 작업당 토큰이 약 35% 줄었다고 회사는 밝혔다. 작업 완료 여부, 성공 점수, 실패율 등 후속 제품 지표도 대부분 유지되거나 개선되는 방향으로 움직였다는 설명이다. 토큰을 적게 쓰는 결과가 실제 업무의 성과 저하로 이어지지 않는지 확인하려는 시험이었다.

테스트 뒤 한 고객사는 엠버-1을 실제 서비스에 사용하기 시작했으며, 기본 모델을 완전히 대체할 수 있도록 적용 범위를 넓힐 계획이다. 이는 벤치마크 점수보다 한 단계 실무에 가까운 결과지만, 회사가 공개한 고객 검증의 범위는 코딩 작업을 수행한 두 곳이다. 엠버-1의 가치를 판단하려면 절약한 토큰 수와 함께 각 제품에서 중요하게 보는 완료율과 실패 양상을 살펴야 한다. 파이어웍스 AI가 고객 트래픽을 별도로 강조한 이유도 여기에 있다.

개발자가 눈치채지 못한 사내 전환

고객에게 공개하기 전 파이어웍스 AI는 자체 추론 서비스가 처리하는 사내 코딩 업무에 엠버-1을 투입했다. 개발자들은 일상적인 코딩과 실제 과제를 대상으로 한 테스트를 이어 갔고, 회사에 따르면 모델이 바뀐 사실을 알아차리지 못했다. 그동안 사용한 토큰은 상당히 줄었다는 것이 파이어웍스 AI의 설명이다. ‘같은 답에 더 적은 토큰’이라는 목표에서는 업무 흐름을 방해하지 않은 전환 자체가 중요한 내부 검증 결과다.

엠버-1은 기본 키미 K3와 나란히 서버리스 서비스의 연구 프리뷰(정식 제공에 앞서 시험해 보는 공개 단계)로 제공된다. 파이어웍스 AI는 새 연구 모델을 개발자가 서버리스 환경에서 2주간 사용하게 하고, 커뮤니티 수요에 따라 상시 제공 여부를 결정할 계획이다. 회사는 추론 토큰이 비용의 큰 부분을 차지하는 에이전트 코딩 등의 작업에서 비슷한 품질을 대략 절반의 토큰 비용으로 제공한다고 내세운다. 기업이 자체 데이터로 용도에 맞는 엠버-1을 만들 수 있도록 학습 지원도 시작했다.

커뮤니티 의견

한 사용자는 이 발표를 작은 모델을 특정 업무에 맞게 학습하기 쉬워진 흐름과 연결했다. 자신은 영어 요청을 배시(Bash) 명령어로 바꾸는 로컬 CPU 모델을 만들려고 학습 예시 14만 건 이상을 생성하고, 쿠웬 3(Qwen 3) 0.6B 모델을 이틀에 걸쳐 학습시켰다고 했다. 답글에서는 그렇게 만든 데이터가 기존 모델의 능력을 작은 모델로 옮기는 증류(큰 모델의 출력으로 작은 모델을 학습하는 방식)에 해당하는지, 여러 소형 모델을 업무별로 골라 쓰면 더 빠르고 저렴해질지에 관심이 모였다.

다른 사용자는 파이어웍스 AI가 모델 연구팀을 운영한다는 사실이 반갑지만, 동시에 API 제공자로서 고객 데이터가 어떻게 취급되는지 다시 살피게 된다고 했다. 이전에는 오픈 모델을 배포하고 연산 자원을 판매하는 회사로 이해했는데, 자체 모델을 학습한다면 데이터 사용 조건이 더 중요해진다는 우려다. 답글에서는 이용약관과 이번 발표의 고객 데이터 미사용 설명을 확인해 보라는 반응이 나왔다.

키미 K3 자체의 가격 경쟁력을 문제 삼는 의견도 있었다. 한 사용자는 자신의 내부 시험에서 GPT-5.6 솔이 키미 K3보다 품질이 좋고 비용도 낮았다며 두 모델의 가격을 비교했다. 다른 사용자는 공개 가중치 모델인 GLM 5.3도 키미 K3와 비슷한 성능에 더 낮은 비용으로 쓸 수 있다고 주장했다. 엠버-1의 효율 개선을 평가할 때 원래 모델의 가격과 대안 모델까지 함께 봐야 한다는 관점이다.

공개 모델을 바탕으로 만든 결과물을 어디까지 다시 공개해야 하느냐는 논쟁도 이어졌다. 한 사용자는 키미 모델의 가중치를 공개한 문샷 AI(Moonshot AI)의 성과를 활용하면서 엠버-1의 가중치는 공개하지 않는 태도를 비판했다. 반론은 키미 K3 자체가 자유·오픈소스 소프트웨어는 아니며, 상업적 추론 제공자가 사용하려면 별도 계약을 맺도록 한 라이선스 조항이 있다는 점을 들었다.

공개 생태계의 발전 가능성을 비교하는 의견도 있었다. 한 사용자는 이런 후속 학습이 축적되면 공개 모델이 빠르게 발전할 수 있지 않겠느냐고 물었다. 답글에서는 그 성과를 다시 공개하는 기여가 계속돼야 가능한 일이라는 조건이 제시됐다. 반대로 비공개 모델 개발사가 공개된 성과를 가져가면서 되돌려주는 것은 없을 수 있다는 우려도 나왔다.

비슷한 효율 개선을 다른 모델에 적용한 사례를 언급한 사용자도 있었다. 그는 커뮤니티에서 쿠웬 27B 등을 대상으로 같은 방향의 작업이 인기를 얻고 있다고 소개했다. 이어진 답글은 벤치마크 점수가 지나치게 좋아 보인다며 복잡한 코딩이나 연구 같은 실제 사용에서도 좋은지 물었다. 엠버-1 역시 점수와 실무 경험을 함께 확인해야 한다는 질문으로 읽힌다.

파이어웍스 AI가 왜 직접 모델 연구에 비용을 쓰는지 묻는 의견도 나왔다. 한 사용자는 추론 서비스를 제공하는 회사라면 여러 클라우드의 용량을 활용하고 운영 비용을 낮추는 역할에 집중할 것이라 예상했다고 했다. 답글에서는 기존 추론 모델을 추가 학습해 같은 결과를 더 적은 토큰으로 내게 만드는 방식이 반복 가능하다면 분명한 사업 가치가 있다고 봤다. 다만 이를 꾸준히 해낼 수 있는지는 아직 지켜봐야 한다는 반응이었다.

마지막으로 토큰 절감과 실제 청구액을 구분해야 한다는 의견이 있었다. 한 사용자는 엠버-1의 토큰당 가격이 더 높다면 절반의 토큰을 써도 관심을 가질 이유가 적다고 주장했다. 답글에서는 연료 가격만이 아니라 주행 거리도 봐야 하듯 작업당 사용량을 계산해야 한다고 반박했고, 가격이 두 배라는 전제 자체를 묻는 반응도 나왔다. 다른 사용자는 토큰을 줄이는 과정에서 특정 언어나 업무의 능력이 떨어졌는지까지 보여 달라고 요구했다.

핵심 통찰

엠버-1은 추론 모델의 경쟁 기준을 ‘얼마나 오래 생각하느냐’에서 ‘한 작업을 마치는 데 얼마를 쓰느냐’로 옮긴 사례다. 특히 이전 사고 과정을 거듭 읽는 에이전트 작업에서는 불필요한 추론을 줄이는 효과가 한 번의 답변보다 클 수 있다. 다만 선택의 기준은 절약한 토큰 비율만으로 끝나지 않는다. 실제 토큰당 가격을 반영한 작업당 비용, 오래 이어지는 작업의 성공률, 특정 분야에서 달라지는 능력을 함께 확인해야 엠버-1이 각 업무에 맞는지 판단할 수 있다.


원본: Introducing Ember-1

토론: Hacker News