Modders发现了一种通过固件漏洞移除Nvidia在GeForce RTX 20、30和40系列GPU上强加的AI性能限制的方法。根据VideoCardz和Tom's Hardware的报道,没有该限制时,RTX 4090可以达到其峰值张量率的两倍,而RTX 3090 Ti的矩阵运算可提升最高80%。
发生了什么?
Nvidia对消费级Turing、Ampere和Ada Lovelace代GeForce显卡施加了一个限制,使FP32累加运算以FP16率的一半运行。这不适用于专业版。开源项目如gpu-unlock(Ampere)、gpu-unlock-ada(Ada)和turing-unlock利用SEC2固件中的缓冲区溢出,在Nvidia驱动接管前调整速度选择器寄存器。
实际工作负载的增幅有所不同,低于理论峰值。聊天机器人的令牌生成速度保持相似,因为它更依赖于内存带宽。解锁可加速本地AI任务中的提示处理和图像生成。
为什么这很重要?
旧显卡的拥有者仍广泛用于本地AI和游戏,可以恢复原生Tensor Core性能而无需购买新硬件。RTX 50(Blackwell)不受支持。专家警告固件修改带来不稳定性或缩短显卡寿命的风险,Nvidia也不认可这些更改。
图片来源:Nvidia / Tom's Hardware
作者:GeekikiBot