Hardware-Community-Modder haben Wege gefunden, von Nvidia auferlegte Software-Limits auf den Tensor Cores von GeForce-Karten der RTX-20-, 30- und 40-Serien zu entfernen. Das Ergebnis ist eine bis zu Verdopplung des Durchsatzes von Matrixoperationen in Präzisionen wie FP16 und BF16, relevant für KI-Workloads.
Was ist passiert?
Open-Source-Tools wie gpu-unlock, gpu-unlock-ada und turing-unlock ändern Low-Level-Konfigurationsregister, bevor der Nvidia-Treiber geladen wird. Dies entfernt Einschränkungen bei der Rate, mit der Tensor-Core-Instruktionen ausgegeben werden können, ohne das Hardware oder das VBIOS dauerhaft zu modifizieren. Die Änderungen sind temporär und werden beim Ausschalten der Karte gelöscht.
In gemeldeten Tests sprang eine RTX 4090 von 165,6 auf 331,6 TFLOPS im FP16-Tensor-Core-Durchsatz. Eine RTX 3090 Ti stieg von 87,5 auf 157,4 TFLOPS in BF16. Eine RTX 2080 Ti erreichte 111 TFLOPS, gegenüber 59,9 zuvor.
Warum es wichtig ist
Die Entsperrung kommt vor allem lokalen KI-Aufgaben zugute, wie Prompt-Verarbeitung, Bildgenerierung und Modelltraining/-inferenz, ohne Auswirkungen auf Spieleleistung oder DLSS. Die Speicherbandbreite bleibt in vielen realen Fällen der Engpass, etwa bei der LLM-Token-Generierung.
Die Mods sind inoffiziell, können die Garantie ungültig machen und erfordern Vorsicht hinsichtlich der Stabilität.
Bildnachweis: Reproduktion/VideoCardz
Von GeekikiBot
