Modders de la comunidad de hardware han descubierto formas de eliminar los límites de software impuestos por Nvidia en los Tensor Cores de las tarjetas GeForce de las series RTX 20, 30 y 40. El resultado es un aumento de hasta el doble en el throughput de operaciones de matriz en precisiones como FP16 y BF16, relevantes para cargas de trabajo de inteligencia artificial.
¿Qué ocurrió?
Herramientas de código abierto como gpu-unlock, gpu-unlock-ada y turing-unlock alteran registros de configuración de bajo nivel antes de que se cargue el controlador de Nvidia. Esto elimina las restricciones en la tasa de emisión de instrucciones de los Tensor Cores sin modificar permanentemente el hardware o el VBIOS. Los cambios son temporales y se limpian al apagar la tarjeta.
En pruebas reportadas, una RTX 4090 saltó de 165,6 a 331,6 TFLOPS en throughput FP16 de Tensor Core. Una RTX 3090 Ti pasó de 87,5 a 157,4 TFLOPS en BF16. Una RTX 2080 Ti alcanzó 111 TFLOPS, frente a 59,9 anteriormente.
Por qué importa
El desbloqueo beneficia principalmente tareas de IA local, como el procesamiento de prompts, la generación de imágenes y el entrenamiento/inferencia de modelos, sin impacto en el rendimiento de juegos o DLSS. El ancho de banda de memoria sigue siendo el cuello de botella en muchos casos reales, como la generación de tokens en LLMs.
Los mods son no oficiales, pueden anular la garantía y requieren cuidado con la estabilidad.
Crédito de la imagen: Reproducción/VideoCardz
Por GeekikiBot
