케이트(Kate)는 전압을 순간적으로 흔들어 채굴용 CMP 170HX 8GB 카드의 하드웨어 제한을 풀고, 이를 사실상 A100 80GB처럼 작동시켰다. 엔비디아(NVIDIA)의 GA100 칩에서 퓨즈 값을 읽는 과정을 교란한 뒤 새 퓨즈를 기록해 메모리와 연산 장치의 잠금을 해제한 것이다. 일부 카드에서는 정품 A100보다 높은 연산 성능도 확인했다. 이번 작업은 제품 등급을 나누는 하드웨어 설정이 어떻게 보호되는지, 그 보호가 무너지면 어디까지 바뀔 수 있는지를 보여준다.
핵심요약
- 케이트는 GA100 칩에 전압 오류를 주입해 채굴용 카드에서 막혀 있던 퓨즈 기록 기능을 열고, CMP 170HX 8GB를 사실상 A100 80GB로 바꿨다.
- 이 카드의 8GB 제한은 물리적으로 탑재된 메모리 용량과 다를 수 있으며, 케이트가 살펴본 8GB 카드 10장 중 9장에는 정상 작동하는 80GB가 있었다.
- 새 퓨즈 기록은 고장 난 부품의 제한을 유지하면서 제품 구분을 위해 꺼 둔 부품을 되살릴 수 있어, 카드별 상태를 확인하는 과정이 중요하다.
- 잠금 해제 후 사용 가능한 연산 장치는 기본 70개에서 카드에 따라 120개 이상으로 늘었고, 케이트는 정품 A100 대비 약 1.2배의 성능을 보고했다.
- PCIe 4세대와 NVLink도 활성화할 수 있지만, 실제 사용에는 퓨즈 변경 외에 카드 기판이나 호스트 쪽의 추가 작업이 필요하다.
8GB 카드 안에 남아 있던 80GB
GA100은 엔비디아가 A100을 비롯한 여러 제품에 사용한 칩이다. 케이트가 다룬 CMP 170HX는 이 칩을 쓴 채굴용 카드로, 8GB 제품이더라도 기판에는 약 80GB의 HBM(칩과 함께 패키징된 고대역폭 메모리)이 실려 있을 수 있다. 10GB 제품의 경우 약 40GB가 실린 구성이 중심이며, 두 모델을 같은 조건으로 취급해서는 안 된다. 이번 작업은 특히 8GB 제품에 실제로 남아 있는 메모리와 연산 자원을 온전히 쓰는 데 초점을 맞췄다.
케이트는 개조한 카드 두 장이 각각 81,920MiB의 메모리를 표시하고, 두 카드 사이에서 NVLink 연결을 인식하는 모습을 공개했다. 한 카드의 검사 결과에는 연산 단위 124개와 80GB를 넘는 메모리가 잡혔다. 다만 GA100을 만드는 단계에서 모든 부품이 정상 작동하는 것은 아니므로, 잠금 해제 뒤 얻는 구성은 칩마다 달라진다. 케이트가 살펴본 CMP 170HX 8GB 카드 10장 중 한 장은 정상 사용 가능한 메모리가 64GB였고, 나머지 아홉 장은 80GB였다.
제품 등급을 정하는 퓨즈 기록
엔비디아는 e퓨즈(칩 내부에서 한 번 기록하면 되돌리기 어려운 전기적 설정값)로 결함 부위를 제외하고 제품별 기능을 구분한다. GA100의 퓨즈 제어기에는 1만6,384개의 e퓨즈가 있으며, 읽어 들인 값은 칩 각 부분의 동작을 정하는 설정값으로 전달된다. 케이트가 주목한 것은 퓨즈를 더 기록할수록 접근 권한이 줄어드는 구조가 아니라, 어떤 경우에는 제한을 풀 수 있는 구조였다. 일반 퓨즈는 한 번 기록한 값을 사실상 되돌릴 수 없지만, 모든 설정이 같은 방식으로 처리되지는 않는다.
핵심은 케이트가 ‘퓨즈리스 퓨즈’라고 설명한 FF 영역이다. 이 영역에서는 32비트짜리 기록을 순서대로 해석해 최종 설정값을 만들고, 같은 위치를 가리키는 새 기록이 뒤에 붙으면 앞선 기록보다 우선한다. 따라서 이미 기록된 퓨즈를 지우지 않고도 새 행을 덧붙여 기능 비활성화 값을 바꿀 수 있다. 반면 보안과 밀접한 제어 퓨즈는 별도 영역에 있어, FF 기록을 추가하는 방식만으로는 그 값이 바뀌지 않는다.
고장 부위는 남기고 인위적 제한만 해제
제품별로 꺼 둔 부품을 되살리는 과정에는 플로어스위핑(칩의 특정 기능 블록을 사용하지 못하게 막는 처리)이 걸려 있다. 케이트는 메모리 파티션을 가리는 ‘비활성화’ 설정과 실제 결함을 나타내는 설정을 구분했다. 한 8GB 카드에서는 12개 메모리 파티션 가운데 네 개가 가려져 있었지만, 결함 표시가 붙은 것은 그중 두 개였다. FF에 새 값을 기록해 추가로 가려진 두 개의 제한을 없애자, 이전에는 레지스터 읽기와 쓰기에 응답하지 않던 파티션이 다시 반응했다.
부품이 반응한다고 해서 응용 프로그램이 곧바로 전체 메모리를 쓸 수 있는 것은 아니다. 기본 메모리 구성 역시 사용 범위를 좁혀 놓기 때문에, 케이트는 기존 소프트웨어 잠금 해제 방식에서 쓰던 드라이버 설정도 수정했다. 결함 표시가 없는 부품에 맞춰 설정을 넓힌 결과 카드가 사실상 A100 80GB로 작동했다. 이 구분은 중요하다. 새 퓨즈 기록은 정상 부품에 걸린 제품별 제한을 풀 수 있지만, 고장 난 메모리나 연산 장치를 정상으로 바꾸지는 못한다.
퓨즈 기록을 막는 보호 장치
FF 영역에 새 값을 쓰려면 먼저 생산 카드의 퓨즈 기록 제한을 넘어야 한다. 케이트에 따르면 GA100의 ‘보안 퓨즈 기록 기능’ 설정이 켜진 상태에서는 일부 현장 기록용 영역에만 쓸 수 있고, 기능 잠금 해제에 필요한 FF 영역에는 기록할 수 없다. 이전 연구로 호스트에서 퓨즈 제어기 관련 레지스터에 접근할 길은 열렸지만, 그것만으로 FF 기록이 가능해지지는 않았다. 케이트는 보호 설정을 해제한 상태를 만들기 위해 전압 오류 주입을 택했다.
전압 오류 주입은 칩에 공급되는 전압을 짧은 순간 낮춰 예상과 다른 동작을 유도하는 기법이다. 케이트는 카드의 전압 조정 회로로 가는 신호를 가로채 별도 제어 보드가 만든 파형으로 바꿨다. 이를 위해 카드 기판에 전압 감지선과 신호선을 연결하고 작은 저항 하나를 제거했다. 전압을 떨어뜨리는 시점과 파형이 카드마다 달라, 한 번의 시도로 원하는 상태가 나오리라고 기대하기는 어렵다.
재시작을 반복해 찾아낸 세 번의 전압 펄스
케이트의 장치는 카드 전원을 다시 넣을 때 전압 상승을 감지하고, 정해진 순간에 전압을 흔든 뒤 부팅 결과를 확인한다. 호스트를 절전 상태로 보냈다가 깨우는 방식으로 이 과정을 반복했으며, 설명한 설정에서는 원하는 상태에 이르기까지 카드별로 1시간에서 48시간이 걸렸다. 실패한 시도 중에는 퓨즈 제어기의 설정값 대부분이 0으로 읽히고 GPU의 다른 부분까지 동작하지 않는 경우도 있었다. 전압 파형과 결과가 칩마다 다르다는 점 역시 반복 실험을 어렵게 만들었다.
성공의 단서는 제어 퓨즈에서 나온 설정값만 0으로 읽히고 다른 퓨즈 값은 유지되는 상태였다. 처음에는 이 상태에서도 퓨즈 기록 허용 값이 0이어서 더 진행할 수 없었다. 하지만 케이트가 제어 퓨즈를 다시 읽는 명령을 실행하자 기록 허용 값은 정상값으로 돌아온 반면, 소프트웨어로 설정을 덮어쓰지 못하게 하는 제한은 풀린 채 남았다. 그 틈에 보안 퓨즈 기록 제한을 해제하고 카드별 결함 상태에 맞는 FF 값을 기록할 수 있었다.
메모리·연산 성능과 NVLink의 조건
케이트는 80GB가 정상인 카드에서 전체 메모리에 데이터를 썼다가 다시 읽는 검사와 실제 작업 부하를 실행했다. 연산 장치인 SM(데이터 처리를 맡는 GPU 내부 단위)은 CMP 170HX의 기본 70개에서 정상 상태에 따라 120개 이상으로 늘었다. 케이트가 보고한 성능은 소프트웨어만으로 잠금을 푼 170HX보다 약 1.7배, 생산형 A100보다 약 1.2배 높았다. 생산형 A100이 108개 SM을 쓰는 데 비해, 이 방식은 해당 칩에서 정상 작동하는 SM을 더 많이 활성화할 수 있기 때문이다.
PCIe도 관련 FF 제한을 풀면 3세대와 4세대 연결을 사용할 수 있으며, 케이트는 추가 기판 개조를 결합해 PCIe 4세대 x16에 도달했다고 설명했다. NVLink는 퓨즈 설정만 바꿔서는 작동하지 않았다. CMP 170HX 기판에 빠진 부품 때문에 브리지의 기준 클록이 켜지지 않아 기판 연결을 수정해야 했고, 펌웨어 쪽 검사도 우회해야 했다. 케이트는 이런 변경을 거친 NVLink 동작을 확인했지만, 잠금 해제 가능 항목으로 언급한 영상 처리 기능과 MIG는 직접 시험하지 않았다.
커뮤니티 의견
한 사용자는 80GB의 HBM을 카드에 실어 놓고 대부분을 끈 채 판매했다는 점이 놀랍다고 했다. 이에 대한 답글에서는 그 메모리가 실제로 불량 판정을 받아 비활성화된 것일 수도 있다고 물었다. 제품 등급을 나누기 위한 제한과 결함 때문에 필요한 제한을 구별해야 한다는 문제 제기다.
다른 사용자는 반복 실험 때 호스트 전체를 절전 상태로 보내는 대신, 별도 전원을 쓰는 PCIe 라이저로 대상 카드만 껐다 켤 수 없느냐고 제안했다. 그렇게 하면 호스트는 계속 실행하면서 카드만 다시 시작할 수 있어 시도 속도를 높일 수 있다는 의견이다. 케이트가 사용한 절전·복귀 방식에서 실험 시간을 줄일 여지가 있다는 지적이다.
소프트웨어 방식으로 CMP 170HX의 80GB를 열려고 시도 중인 한 사용자는 퓨즈를 직접 기록하는 방식이 더 위험해 보여 망설여진다고 했다. 그는 이번 작업의 대상이 자신이 살펴보던 10GB가 아니라 8GB 모델이라는 점에도 주목했다. 답글에서는 10GB 모델의 80GB가 정말 확인된 것인지, 앞쪽 40GB가 중복 표시된 것은 아닌지 의문을 제기했다.
한 사용자는 A100으로 쓰기에는 제조 결함이 너무 많아 채굴용 카드로 분류됐을 가능성을 들었다. 답글들은 같은 제조 공정의 칩을 결함 정도에 따라 다른 제품으로 나누는 일이 흔하다면서도, 꺼 둔 부분이 실제로 고장 났는지는 카드별 검사로 알아볼 수 있다고 봤다. 잠금 해제 결과가 곧 모든 비활성화 부품의 정상 작동을 뜻하지는 않는다는 관점이다.
여러 장을 사서 로컬 AI용 GPU 묶음을 만드는 것이 지금도 경제적인지 묻는 의견도 나왔다. 질문자는 불량 메모리, 잠금 해제의 안정성, 카드별 SM 수 차이를 수율과 함께 따져야 한다고 했다. 답글에서는 이미 64GB와 PCIe 2세대까지 여는 방식이 알려져 있었고, 현재 가격에도 그런 기대가 반영돼 있다는 의견이 나왔다.
퓨즈 설계 자체를 두고는 반론이 이어졌다. 한 사용자는 퓨즈를 더 기록해 기능을 여는 구조가 반드시 잘못된 것은 아니며, 기존에 정상 작동하던 기능을 퓨즈 기록 때문에 잃지 않게 하는 장점이 있다고 주장했다. 다른 사용자는 불량 부품까지 활성화하면 오히려 카드가 불안정해질 수 있고, 판매사가 제품 등급을 지키려는 관점과도 충돌한다고 지적했다.
이 정도의 칩 내부 구조를 외부 연구자들이 파악했다는 사실에 놀란다는 의견도 있었다. 답글은 여러 해에 걸친 공개 역공학과 연구 성과가 쌓였고, 최근 진전 속도가 빨라졌다고 설명했다. 잠금 해제에 성공했을 때 카드 가치가 올라가는 만큼 연구에 경제적 동기도 있다는 해석이 뒤따랐다.
정상 작동하는 기능을 판매상의 이유로 막는 행위가 부당하다는 비판도 나왔다. 반론은 적은 수의 칩 설계로 여러 제품을 만들고 결함 있는 부분을 제외하는 방식이 제조 비용과 위험을 낮춘다고 설명했다. 모든 CMP 170HX가 잠금을 푼 뒤에도 완전한 A100처럼 작동하는 것은 아니며, 제품 구분을 없앤다고 저가 제품이 그대로 유지되는 것도 아니라는 주장이다.
핵심통찰
이번 작업이 바꾼 것은 단순히 채굴용 카드의 메모리 표시 숫자가 아니다. 케이트는 퓨즈를 읽는 순간의 오류를 이용해 제품 등급을 정하는 영구 설정까지 새로 기록했고, 정상 부품에 걸린 제한과 실제 결함을 분리해 다뤘다. 반면 성과는 카드마다 남아 있는 메모리와 SM, 긴 실험 시간, 기판 개조에 좌우된다. 앞으로는 잠금 해제 성공 사례의 수보다 각 카드의 전체 메모리 검사와 실제 작업 안정성, 그리고 이런 퓨즈 설계가 보안 기능에 미치는 영향을 지켜봐야 한다.
원본: Using voltage glitching to unleash the A100 in my mining card
토론: Hacker News