你专无敌了，本地部署32b的ds?【安徽中医学院吧】_百度贴吧

04月26日漏签0天

安徽中医学院吧关注：101,052贴子：3,190,229

6回复贴，共1页

<返回安徽中医学院吧

你专无敌了，本地部署32b的ds?

只看楼主收藏回复

我看了看自己4060的ollama部署的14b的ds不禁陷入了沉默

送TA礼物

IP属地:安徽

来自Android客户端1楼2025-02-27 16:51回复

搞几个4090或者直接串联几个macmini部署一个非蒸馏的ds对于医院来说成本不高吧

IP属地:安徽

来自Android客户端2楼2025-02-27 16:53

收起回复

这么抠门32b

IP属地:安徽

来自Android客户端3楼2025-03-08 14:49

纯外行，b 的数越多越好还是越少越好

IP属地:安徽

来自Android客户端4楼2025-03-13 10:49

收起回复

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

6回复贴，共1页

<返回安徽中医学院吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴