想跑AI模型，装一台算力服务器

家人们，之前一直用的geminiAPI，中转站速度慢动不动爆炸，长期开支也是问题，想组一台算力服务器，跑qwen3omin30B，资金有限，家人们有什么邪修一点的方案，等硬件市场稳定下来

RTX Pro 6000

不感兴趣

开通SVIP免广告

30b和zz有什么区别

国内大模型也有便宜的api啊

5090，96g内存，285k或者9950x？

星座王

点亮12星座印记,去领取

活动截止:2100-01-01

去徽章馆》

现在这个情况，直接用官方的api不香么，比自己搭的便宜，也更快

30b随便一张22g就够跑了

自己撘不比api便宜

那你为啥不用阿里的api

不感兴趣

开通SVIP免广告

单纯想装个算力服务器

有点风险的性价比方案：搞两张4090 48G的涡轮卡，96G跑大部分量化模型够了
风险和成本稍小一点的：两张4080s 32G，这卡现在有风扇版的压起来比4090稳，电源也只要1600就能稳吃（注意留下散热的间距）
如果不想组全塔机箱有预算有限的话就搞张4080s 32G玩玩得了，现在市场价也就1.1w多点，跑30b够了

不差钱上PRO6000+96g以上的内存，省心还快。差钱的话，我见过一个V100+d3的方案，可以去搜一搜，可能有点折腾

不用4万品牌算力机，是很多台5090算力。

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

12回复贴，共1页

<<返回显卡吧

分享到:

日	一	二	三	四	五	六