两张RTX2080TI 22G能跑Deepseek R1 70B吗

应该勉强可以

我也想跑，问一下要怎么配啊，主板买哪个，还有听说是不是要买nvlink

哔站有测试，结合我这几天查的资料，1、双卡共44g本身并不能叠加，部署也不是必须要NVlink，有了会提升一点速度。2、但ollama支持双卡，可设置调用两张卡平分显存，70B会占满44g还要再溢出大约5g到内存，最终大约3token/s，有了nvlink会有略好一点，提升到大约3.9token/s。