Brezplačen skok zmogljivosti za AI: Novo orodje odklepa potencial grafičnih kartic Nvidia

Programer z vzdevkom Zagitta je že pred časom predstavil orodje za odklepanje grafičnih kartic Nvidia, ki znatno poveča zmogljivost jeder Tensor pri opravilih umetne inteligence, vendar deluje le v Linuxu. Nedavno pa je programer z vzdevkom physicsdolphin izdal rešitev v obliki predgonilnika UEFI, ki prinaša podporo tudi za Windows.

Program je napisan v jeziku Rust in deluje v posebnem okolju UEFI DXE, še preden se naloži uradni gonilnik. V tem koraku izvede več posegov v vgrajeno programsko opremo, od čiščenja SEC2 in priprave FWSEC do zagona GSP-RM ter končnega vpisa in preverjanja ukazov. Odklepanje poteka s preglasitvijo registrov z USB-ključka ob vsakem zagonu. Ker je treba pri tem izklopiti funkcijo Secure Boot, nekatere igre z zaščito proti goljufanju morda ne bodo delovale.

Različica 2.1.6 je že preizkušena in potrjena za celotno serijo RTX 3000. Za seriji RTX 2000 in RTX 4000 se potrditve uporabnikov še zbirajo. Lastniki kartic RTX 2000 morajo predhodno zagnati skript za način GSP in nato znova zagnati sistem.

Uporabniki poročajo o občutnem povečanju hitrosti pri delu z modeli umetne inteligence. Pri obremenitvah FP16 in FP32 so izboljšave običajno med 50 in 80 odstotki, povečanje zmogljivosti pa je opazno tudi pri formatu BF16. Uporabnik grafične kartice RTX 4070 Ti Super je z orodjem več kot podvojil zmogljivost: pri FP16 s 57 na skoraj 151 TFLOPS, pri BF16 pa s 57,5 na 127 TFLOPS. V razvoju je tudi podpora za serijo GTX 16xx, ki vsebuje ločena jedra za celoštevilske operacije.