arXiv · NLP· Dezhou Shen·· 8 小时前AI 评分26
RTX 2080 Ti 显存解锁实测：从零预训练吞吐量提升
Unlocking Turing Tensor Cores: A Measured Throughput Account of From-Scratch Pre-training on a Single 22G RTX 2080 Ti
AI 导读
turing-unlock 解锁 RTX 2080 Ti 驱动层 FP16 矩阵乘法限制，cuBLAS 吞吐量升至 91.4 TFLOPS。 实测 75.7M 参数模型稳态吞吐量提升 11.8%（6,480 至 7,246 tok/s），耗时减少 9.0%。 解锁效果随模型矩阵尺寸单调增加，不改变最终模型质量指标。
来源：arXiv · NLP · arxiv.org