deepseek吧 关注:135,354贴子:369,724

回复:【攻略】deepseek本地部署/规则限制解除(附A卡6750gre搭建法)

只看楼主收藏回复

请问加载模型时提示这个咋回事


IP属地:河北33楼2025-02-07 22:43
收起回复
    楼主!求助!下载了你发的绕开限制的模型32b的,只能在cmd里用,cherryStudii里识别不出来怎么办


    IP属地:福建来自Android客户端34楼2025-02-08 09:24
    回复
      2025-12-26 23:49:19
      广告
      不感兴趣
      开通SVIP免广告


      IP属地:四川35楼2025-02-08 14:02
      回复
        4090真能勉强运跑0模型吗?那5090d可以正常跑了?


        IP属地:江苏来自Android客户端36楼2025-02-08 15:56
        回复
          官方版本也支持amd啊,为什么要下特别版


          IP属地:福建37楼2025-02-08 16:17
          收起回复
            我是7800xt直接装的官网的ollama,大模型也能用,需要重新装一下吗


            IP属地:山西来自Android客户端38楼2025-02-09 10:17
            回复
              CPU是AMD 7700 GPU是6750GRE 10G版本,运行的32b的deep seek,安装修改后的ollama,并替换rocm后,显卡的专用内存和共享内存利用率各有51%,内存占用率高达98%居高不下,CPU占用率提升到40%左右,请问这个修改版本都是这种情况吗


              IP属地:安徽39楼2025-02-09 10:35
              收起回复
                记录在案。


                IP属地:湖北40楼2025-02-09 11:09
                回复
                  2025-12-26 23:43:19
                  广告
                  不感兴趣
                  开通SVIP免广告
                  破限的聊几句很容易胡言乱语,逻辑与连贯性没有自己写规则破甲的好。而自己写的破甲,在32B偶尔可以用,在70B则是完全不能用。


                  IP属地:重庆41楼2025-02-09 11:12
                  回复
                    感谢分享。


                    IP属地:江苏来自iPhone客户端42楼2025-02-10 15:32
                    回复
                      我也是这个显卡,6750 gre搭的是不是主要吃内存呀,我的cpu和gpu使用都在5%以内


                      IP属地:上海43楼2025-02-11 14:51
                      收起回复
                        大哥为啥huggingface的deepseek模型是好几个safetensors文件,貌似被分割后的,但也不是压缩文件,


                        IP属地:北京44楼2025-02-11 21:45
                        回复
                          大佬牛逼


                          IP属地:四川来自iPhone客户端45楼2025-02-12 09:25
                          回复
                            求大佬帮忙,为何我的7900部署deepseek没法跑显卡,按照楼主分享的方法弄的


                            IP属地:四川来自Android客户端46楼2025-02-13 02:07
                            回复
                              2025-12-26 23:37:19
                              广告
                              不感兴趣
                              开通SVIP免广告
                              同样求助,我用的N卡,显卡不会被占用。跑起来贼慢


                              IP属地:浙江47楼2025-02-13 05:39
                              回复