deepseek吧 关注:136,753贴子:382,810

回复:中成本本地化部署方案成功671b版

只看楼主收藏回复

整5~7台mac方块形状的电脑能上600多b满血版,10万块以内,b站有视频


IP属地:北京来自Android客户端17楼2025-02-14 12:37
收起回复
    不能用模型体积区分满不满血吧


    IP属地:广东来自iPhone客户端18楼2025-02-14 12:56
    回复
      2026-02-07 05:09:02
      广告
      不感兴趣
      开通SVIP免广告
      非杠啊只是讨论下,5万块预算完全不考虑买api吗,应该够用很久的吧。


      IP属地:北京来自iPhone客户端19楼2025-02-14 21:16
      收起回复
        公司用肯定不止一个人同时用吧,考虑并发配置还得翻倍


        IP属地:北京来自Android客户端20楼2025-02-15 11:20
        收起回复
          内网部署需求很大,目前模型记忆上限不够用,一般需求70b能用但是太傻。效果反而没有拆开需求逐段问官方ds效果好。
          满血本地部署看楼主部署后也是勉强能跑,多人用就卡了。
          也许ds再更新一样,有新的模型能进一步降低要求。


          IP属地:广东来自Android客户端21楼2025-02-16 10:33
          回复
            楼主有兴趣在B站出个教程么,我也是这个配置


            IP属地:美国来自Android客户端23楼2025-02-19 02:25
            收起回复
              b站有大神,可以参考一下怎么便宜跑出满血版。【【全球首发】不到2000元价格成功快速运行deepseek r1 -671b完整版 q4 q6 fp8量化,并开源配置单与配置方法,可自行购买复现!】https://www.bilibili.com/video/BV1SPwdevEKP?vd_source=11ed47c03dd9474a904f5714b8e21b1e


              IP属地:四川24楼2025-02-19 02:45
              回复