deepseek吧 关注:135,361贴子:369,747

回复:【攻略】deepseek本地部署/规则限制解除(附A卡6750gre搭建法)

只看楼主收藏回复

谢谢大佬!
问个问题,您说‘32b 4090流畅4060勉强’,32b可是20G啊,我4080卡显存16G,跑得起来吗?


IP属地:北京16楼2025-02-04 00:48
收起回复
    最新版的ollama 可以直接支持6000系以上的显卡了 直接官方下载就行 不用再替换文件了 我的7800xt直接用


    IP属地:湖北17楼2025-02-04 03:53
    收起回复
      2025-12-27 01:28:25
      广告
      不感兴趣
      开通SVIP免广告
      ollama run huihui_ai/deepseek-r1-abliterated:14b我用的这个命令一开始下载速度很快,后来变300kb了这对吗,如果关闭了再想打开的时候怎么办


      IP属地:河北18楼2025-02-04 17:28
      收起回复
        这个模型有点鸡肋啊,虽然绕开了限制,但它是直接吧道德法规全删了,相当于空白,我让它写稍微过分一点的小作文它直接给我歪曲事实了,原版我破了它的防还能写点像样的,这个有点拉垮了


        IP属地:安徽来自iPhone客户端20楼2025-02-04 19:04
        收起回复
          32b解除限制模型的有问题,回答牛头不对马嘴,最开始设定都设定不了


          IP属地:四川来自Android客户端21楼2025-02-04 20:02
          收起回复
            不知道为啥14b,下到八个g以后就变几十k地下了


            IP属地:广东来自Android客户端22楼2025-02-05 01:05
            收起回复
              佬,弄完了之后为啥显卡的占用只有10%啊,显卡是6750xt


              IP属地:江苏24楼2025-02-06 21:15
              收起回复
                兄弟啊,要死了Error: exception done_getting_tensors: wrong number of tensors; expected 292, got 291


                IP属地:湖南25楼2025-02-07 11:04
                回复
                  2025-12-27 01:22:25
                  广告
                  不感兴趣
                  开通SVIP免广告
                  请问 6750gre12g 显存版 适合用哪种? 14b 的吗


                  IP属地:江苏来自Android客户端26楼2025-02-07 11:12
                  回复
                    我是I卡,怎么办


                    IP属地:江西来自Android客户端27楼2025-02-07 11:21
                    收起回复
                      据报道,首例用deepseek传播淫秽文学的楼主已被逮捕


                      IP属地:上海来自Android客户端28楼2025-02-07 11:31
                      回复
                        学习


                        IP属地:广东来自iPhone客户端29楼2025-02-07 11:48
                        回复
                          原版的AMD支持列表


                          IP属地:四川30楼2025-02-07 16:09
                          回复
                            这是咋回事啊大佬看看


                            IP属地:四川来自iPhone客户端31楼2025-02-07 18:17
                            回复
                              2025-12-27 01:16:25
                              广告
                              不感兴趣
                              开通SVIP免广告
                              实测了一下,如果是在校学生,用校园网或者校园vpn,在ollama里下载deepseek模型会快不少


                              IP属地:湖北32楼2025-02-07 22:10
                              收起回复