RTX 4090 解锁 Tensor Core 算力接近翻倍,二手 3090 Ti 价格已超 2600 美元
继前文介绍 RTX 30 系列通过开源方案解锁隐藏 AI 算力之后,社区开发者把同一思路扩展到了 Ada Lovelace 架构。GitHub 项目 gpu-unlock-ada 针对 RTX 4090 的 AD102 芯片,通过 Linux 内核模块在英伟达官方驱动加载之前修改 GPU 速度选择参数,解除部分 Tensor Core 运算限制。整个过程不需要刷写修改版显卡 BIOS,也不需要替换或破解官方驱动。
项目地址:github.com/JustAResearcher/gpu-unlock-ada
根据项目公布的数据,RTX 4090 在 FP16 累加 FP32 测试中的吞吐量从 165.6 TFLOPS 提升至 331.6 TFLOPS,BF16 则从 165.5 TFLOPS 提升至 330.6 TFLOPS,均接近两倍。
https://teaikeji.com/data/attachment/forum/rehost/wr02.jpg
不过实际收益要看具体工作负载。cuBLAS 矩阵运算测试中,FP16 提升约 12% 至 34%,BF16 部分测试提升 16% 至 20%,并非所有任务都能获得同等幅度的加速。
https://teaikeji.com/data/attachment/forum/rehost/wr03.jpg
除 RTX 4090 外,开发者还在一张 RTX 4070 Ti SUPER 上完成了实验性验证,其 FP16、BF16 指令吞吐量同样接近翻倍。RTX 4060 Ti 16GB 也被列入实验性支持范围,但验证程度仍有限。
相关方案主要面向 Linux 环境,Windows 端有针对特定主板和显卡的独立实验移植,尚不具备普遍适用性。
https://teaikeji.com/data/attachment/forum/rehost/wr04.jpg
对于本地 AI 生图和大模型应用而言,提示词处理、部分矩阵乘法等计算密集型环节有望受益。但实际生成速度还受显存带宽、模型量化方式及算子实现等因素限制,不能简单理解为出图速度或 Token 生成速度翻倍。
算力解锁也波及了老款显卡的二手市场。随着 RTX 30 系列在本地大模型推理和 AI 绘图中的价值被重新挖掘,WCCFTech 报道称:RTX 3090 24GB 此前约 1000 美元的二手价已突破 2000 美元,RTX 3090 Ti 更是飙涨到 2650 美元(约 17676 元人民币)。
https://teaikeji.com/data/attachment/forum/rehost/wr05.jpg
对于原本打算买二手显卡的游戏玩家,这无疑是预算压力。换个角度看,手里有点闲钱的读者,是不是也可以考虑加入这场炒作?
资料来源:GitHub gpu-unlock-ada 项目、WCCFTech。
页:
[1]