求大佬推荐个跑本地大模型的洋垃圾配置【p106吧】

p106吧关注：30,778贴子：297,547

10回复贴，共1页

求大佬推荐个跑本地大模型的洋垃圾配置

查了些资料，跑32B需要64G内存，现在内存太贵所以只能上ddr3的板子，q4量化要32G显存，打算上V100/Mi50。目前不清楚选什么板U性价比高，原来有说2666v3的，但涨了不少。还有就是单卡650W电源能带动吗。求大佬指教。因为是学生练习机器学习和LLM的机子（显卡还有可能去世），希望除显卡外预算能控制在1k左右。

送TA礼物

IP属地:河北

1楼2025-12-08 19:21回复

价格配置合适的话打算捡个无显卡垃圾主机，没有的话就自己找垃圾装。

IP属地:河北

2楼2025-12-08 19:40

不感兴趣

开通SVIP免广告

v100 32g不便宜

IP属地:广东

来自iPhone客户端3楼2025-12-08 21:40

买api得了，或者租机器，96g 192g内存机器一两块钱一小时

IP属地:广东

来自Android客户端4楼2025-12-09 02:22

收起回复

洋垃圾受限于旧架构本身内存带宽就不够，用来跑模型速度上不去的，至于买新架构那就不叫“洋垃圾”了而且钱比你配新电脑还贵了

来自Android客户端5楼2025-12-09 06:58

收起回复

E5 2686v4
华南x99 cd3
Mi50 or V100
冰蝶 6热管
DDR3ecc 16G*4 1600
任意TLC二手1T
长城非模750W or 矿龙1250w？
杂牌ATX机箱
AX210+天线
请问还有更合适的方案吗？预算不足时会先选16G显存版+16G*2内存（主板预留了pcie*16插槽可双卡），750w是单卡32G的，矿龙是双卡版的。

IP属地:河北

6楼2025-12-09 10:10

收起回复

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

10回复贴，共1页

<返回p106吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴

日	一	二	三	四	五	六

求大佬推荐个跑本地大模型的洋垃圾配置

登录百度账号

扫二维码下载贴吧客户端