开源项目解锁 NVIDIA GeForce 显卡受限的 Tensor Core 吞吐率，RTX 4090 特定混合精度运算翻倍
开发者不改驱动、不刷 BIOS，就解除了 GeForce 显卡在特定 Tensor Core 运算上的速率限制，指令吞吐率翻倍；但落到真实矩阵乘法只有十几个百分点的提升，值得关注，但也不必过度期待。
GitHub 上的开发者发现，部分 GeForce 显卡在启动固件阶段存在可写入的受保护寄存器，可用来解除 Tensor Core 在特定混合精度指令上的发射速率限制。RTX 4090 的 FP16/BF16 输入、FP32 累加吞吐率从约 165 TFLOPS 升至约 330 TFLOPS；改动在官方驱动接管后仍然有效，但实际矩阵乘法的增幅只有 12% 到 34%。
正文摘录
.jpg) 一张 RTX 4090，什么硬件都没换， 特定 Tensor Core 运算吞吐率竟然从 165.6 TFLOPS 飙升至 331.6 TFLOPS，直接翻倍 ！ 更让人意外的是，这次被挖出潜力的远不止 RTX 4090。RTX 3090 Ti、RTX 4070 Ti SUPER，甚至 2018 年发布的 RTX 2080 Ti，都在社区测试中取得了显著的性能提升。  这一切源于 GitHub 上一批开发者对英伟达 GPU 底层计算限制的探索。 他们发现，部分 GeForce 显卡的 Tensor Core 在执行特定混合精度运算时，存在指令发射速率限制。通过修改 GPU 启动阶段的相关配置，可以让原本受限的运算路径恢复更高吞吐率。 不需要更换 GPU，也不用刷写显卡 BIOS 。在已验证的 Linux 方案中，原版 NVIDIA 驱动甚至可以照常运行。 目前，针对 RTX 20、30、40 三代显卡的相关项目均已出现在 GitHub 上，部分开发者还在 Windows 11 环境中完成了实验。一场围绕英伟达显卡「隐藏算力」的挖掘，正在开源社区展开。