Seorang peneliti hardware berhasil mengubah kartu mining Nvidia CMP 170HX seharga sekitar 2.500 dolar AS menjadi akselerator setara A100 80GB yang bernilai sekitar 20.000 dolar AS, dengan cara memanipulasi tegangan listrik kartu tersebut. Teknik ini dikenal sebagai voltage glitching, atau injeksi gangguan tegangan. π Hardware Busters
Kartu yang sebenarnya sudah A100
CMP 170HX dibuat Nvidia pada 2021 untuk penambang Ethereum, memakai die GA100 yang sama dengan yang menggerakkan A100. Namun kartu ini dibatasi keras di pabrik: hanya 8GB memori yang bisa dipakai, 70 streaming multiprocessor (SM), PCIe Gen1, dan tanpa NVLink. π Hardware Busters
Peneliti yang menulis dengan nama Kate menemukan bahwa kartu 8GB itu sebenarnya membawa sekitar 80GB memori HBM di dalam paketnya, dan versi 10GB membawa sekitar 40GB. Memori itu sudah terpasang dan terhubung, tetapi disembunyikan di balik pengaturan fuse. Dalam sampel sepuluh kartu 8GB miliknya, sembilan kartu memiliki 80GB yang utuh.
Cara kerja glitch
Nvidia memakai eFuse untuk mengontrol hasil produksi dan segmentasi produk, dan fuse controller pada GA100 menyimpan 16.384 fuse. Sebagian besar adalah "fuseless fuse" yang dibaca ulang berurutan saat boot, sehingga menulis baris baru dapat menghapus pembatasan dari baris lama. Normalnya, controller menolak membakar baris-baris tersebut.
Kate melewati pemeriksaan itu dengan papan kecil berbasis mikrokontroler STM32G4 yang disambungkan ke jalur PWMVID kartu, sinyal yang dipakai GPU untuk memberi tahu regulator tegangan berapa tegangan yang harus diberikan. Setelah melepas satu resistor kecil, papan itu memberi waveform sendiri ke regulator MP2888B, sehingga VRM kartu menghasilkan penurunan tegangan yang diatur waktunya secara presisi saat fuse controller sedang booting. π Hardware Busters
Dengan memutar PC host melalui mode tidur S3, ia mendapatkan power-up baru setiap beberapa detik. Sebuah kartu biasanya terbuka setelah satu hingga 48 jam glitching.
Lebih cepat dari A100 asli
Setiap A100 retail dikirim dengan 108 dari 128 SM pada die yang diaktifkan. Kate melaporkan die CMP yang dibuka biasanya memiliki 120 hingga 126 SM yang berfungsi, dan dengan semuanya diaktifkan, hasilnya bergerak jauh:
- CMP 170HX dengan software unlock: 50,1 TFLOPS FP16
- A100 retail: 72,5 TFLOPS FP16
- CMP 170HX hasil fuse glitch: 85,9 TFLOPS FP16, sekitar 1,18 kali A100 dan 1,7 kali software unlock
Angka-angka itu berasal dari benchmark OpenCL ProjectPhysX, dan menurut Kate, software inferensi seperti vLLM berjalan di seluruh 80GB memori. PCIe Gen4 x16 juga kembali dengan modifikasi kapasitor tambahan, dan NVLink berfungsi setelah kata penonaktifnya dihapus. ECC, MIG, dan decoder video seharusnya juga terbuka, tetapi masih belum teruji. π Hardware Busters
Masalah keamanan di baliknya
Dalam desain yang sehat, membakar fuse seharusnya hanya membuat chip semakin restriktif, karena fuse tidak bisa dilepas dengan murah. Pada GA100, membakar fuse tambahan justru memberi akses lebih banyak. Kate mengatakan ia sudah melaporkan masalah ini ke tim keamanan produk Nvidia sebelum mempublikasikannya, dan baru mempublikasikannya setelah peneliti lain menemukan celah yang sama secara independen. π Hardware Busters
Teknik ini bukan plug-and-play. Ia membutuhkan kabel enamel pada titik uji, resistor yang dilepas, waveform spesifik untuk tiap die, dan hingga dua hari glitching per kartu. Satu dari sepuluh kartu Kate ternyata hanya memiliki 64GB memori yang sehat. Modifikasi semacam ini juga berisiko menyebabkan kerusakan permanen pada hardware.
Fakta Kunci
- Teknik: voltage glitching pada fuse controller die GA100, memakai papan STM32G4 pada jalur PWMVID.
- Hasil: kartu mining CMP 170HX 8GB (sekitar 2.500 dolar AS) menjadi akselerator 80GB setara A100 (sekitar 20.000 dolar AS).
- Kinerja: 85,9 TFLOPS FP16, sekitar 1,18 kali A100 retail (72,5 TFLOPS), dengan 120–126 SM aktif berbanding 108 pada A100 retail.
- Sembilan dari sepuluh kartu sampel memiliki 80GB memori utuh; satu kartu hanya 64GB.
- Peneliti melaporkan celah ini ke Nvidia sebelum publikasi; peneliti lain menemukan celah yang sama secara independen.