求助贴，40hx跑deepseek的表现如何_40hx吧

40hx吧关注：2,745贴子：23,246

求助

看其他文章说40hx的tensor貌似不能正常调用，尚且不清楚能否组多卡。v100价格涨幅太大了，故想出40hx组多卡跑deepseek这一奇葩想法

送TA礼物

IP属地:广东

来自Android客户端1楼2025-02-15 21:21回复

40hx跑14b没有p102快，102全在显存里跑，40Hx只能放6g在显存里，2g在内存，太慢没法用，跑32B卡得一B。

IP属地:福建

2楼2025-04-01 08:39

下载贴吧APP
看高清直播、视频！

贴吧热议榜

发表回复

内容:

使用签名档查看全部

发表

保存至快速回贴