近日，一位开发者在社交平台公布了一项引人注目的技术突破：通过自主研发的优化方案，让英伟达2016年发布的Tesla P100（16GB显存）计算卡在运行350亿参数大模型时性能显著提升，预填速度提高88%，解码速度提升30%。这一成果为老旧显卡的再利用开辟了新路径。
Tesla P100基于Pascal架构，尽管配备16GB显存，但受限于架构设计，在运行现代大模型时算力利用率长期处于低位。开发者通过深度改造GitHub开源项目ik-llama.cpp，为Pascal和Volta架构量身定制计算内核，成功激活了显卡的潜在算力。测试数据显示，在运行35B参数的MoE（混合专家）模型时，优化后的P100性能提升效果显著。
MoE架构的特殊性为此次优化提供了基础条件。该架构在推理过程中仅激活部分专家网络，配合量化压缩技术进一步缩小模型体积，使得单张P100的显存容量足以容纳完整模型。这种"按需调用"的计算模式，有效规避了老旧显卡的显存瓶颈问题。
兼容性方面，该优化方案不仅适用于P100，还支持P40、V100等更早型号的英伟达计算卡。更值得关注的是，方案允许不同架构的显卡混合部署在同一系统中，通过协同计算提升整体性能。这种设计为老旧硬件的集群化利用提供了可能。
目前该技术尚未推出标准化安装包，用户需从GitHub获取源码自行编译。P100作为被动散热设备，装机时需额外解决散热问题，建议通过优化机箱风道或加装水冷装置确保稳定运行。在海外二手市场，P100价格已跌至较低水平，对于具备硬件改造能力的用户而言，这提供了一种低成本运行大模型的可行方案。
