p106吧 关注:30,778贴子:297,547
  • 10回复贴,共1

求大佬推荐个跑本地大模型的洋垃圾配置

只看楼主收藏回复

查了些资料,跑32B需要64G内存,现在内存太贵所以只能上ddr3的板子,q4量化要32G显存,打算上V100/Mi50。目前不清楚选什么板U性价比高,原来有说2666v3的,但涨了不少。还有就是单卡650W电源能带动吗。求大佬指教。因为是学生练习机器学习和LLM的机子(显卡还有可能去世),希望除显卡外预算能控制在1k左右。


IP属地:河北1楼2025-12-08 19:21回复
    价格配置合适的话打算捡个无显卡垃圾主机,没有的话就自己找垃圾装。


    IP属地:河北2楼2025-12-08 19:40
    回复
      2025-12-20 17:54:51
      广告
      不感兴趣
      开通SVIP免广告
      v100 32g不便宜


      IP属地:广东来自iPhone客户端3楼2025-12-08 21:40
      回复
        买api得了,或者租机器,96g 192g内存机器一两块钱一小时


        IP属地:广东来自Android客户端4楼2025-12-09 02:22
        收起回复
          洋垃圾受限于旧架构本身内存带宽就不够,用来跑模型速度上不去的,至于买新架构那就不叫“洋垃圾”了而且钱比你配新电脑还贵了


          来自Android客户端5楼2025-12-09 06:58
          收起回复
            E5 2686v4
            华南x99 cd3
            Mi50 or V100
            冰蝶 6热管
            DDR3ecc 16G*4 1600
            任意TLC二手1T
            长城非模750W or 矿龙1250w?
            杂牌ATX机箱
            AX210+天线
            请问还有更合适的方案吗?预算不足时会先选16G显存版+16G*2内存(主板预留了pcie*16插槽可双卡),750w是单卡32G的,矿龙是双卡版的。


            IP属地:河北6楼2025-12-09 10:10
            收起回复