网友250元捡漏9卡矿机！54GB显存能跑70B模型

近日一位Reddit网友发帖分享自己的捡漏经历，他在俄罗斯二手交易平台Avito上，以约3000卢布（约250元人民币）的价格购入了一台搭载9张显卡的退役矿机，利用其54GB的总显存成功运行了本地AI模型。

这套矿机上安装了9张P106显卡。P106是GTX 1060的挖矿专用版本，单卡配备6GB显存，9张合计可提供54GB显存。

价格方面，卖家最初要价5000卢布（约395元人民币），经过一番讨价还价，买家最终以3000卢布成交，相当于直接砍到六折。

从能力上看，这套系统在8-bit量化下可以运行Qwen3.8-27B等模型，若采用4-bit或5-bit量化，最高可支持70B参数级别的模型。

测试数据显示，在Ollama上运行Qwen3.6-35B-A3B时，token生成速度达到每秒30个以上，而且后续经过优化仍有提升空间。

不过尽管大容量显存非常诱人，但这种架构存在明显的物理瓶颈。简单来说，决定AI推理效率的不仅是显存容量，还有数据传输带宽。

典型的矿机主板使用的是PCIe x1接口，这种狭窄的通道会导致多张显卡在频繁交换数据时出现严重的性能衰减。

目前该用户尚未公布该系统在满载状态下的功耗数据以及长期稳定性表现。