图拉丁吧 关注:8,062,919贴子:133,341,183
  • 10回复贴,共1

兄弟们,看看用单路E5-2684V4本地跑通义千问QwQ-32B开源模型

只看楼主收藏回复

不习惯用鲁大师,大概配置就是E5-2684V4+华南金牌+128G DDR3+GTX660+淘汰下来的老旧硬盘。
参照网上DeepSeek教程,本地安装Ollama,下载QwQ,安装Chrome插件Page Assist,顺利跑了起来,没有调用GPU,把模型读入内存后就全是CPU的事了。
按说,后续随着各个大模型的不断优化,用上2路或者4路洋垃圾后,用CPU也可以达到勉强能用的水平,本地喂养知识怪兽不是梦截图见楼下。


IP属地:湖南1楼2025-03-10 00:37回复





    IP属地:湖南2楼2025-03-10 00:38
    回复
      2026-01-19 05:41:29
      广告
      不感兴趣
      开通SVIP免广告
      先问一个小问题,思考了3分钟


      IP属地:湖南3楼2025-03-10 00:39
      回复
        问它对图拉丁吧的看法,一本正经地开始瞎扯


        IP属地:湖南4楼2025-03-10 00:41
        回复
          打开联网开关,继续问,它想了5分钟,继续瞎扯


          IP属地:湖南5楼2025-03-10 00:42
          回复
            继续问,这次靠谱了一点,但瞎扯我提供了帖子链接

            不玩了,睡觉


            IP属地:湖南6楼2025-03-10 01:04
            回复
              太慢了吧


              IP属地:湖北来自Android客户端7楼2025-03-16 18:13
              回复
                楼主楼主,内存占用这么少吗,有没有跑过ds的32b,我现在是2696v4,128g的ddr3,卡打算买一张魔改的p40,然后用linux跑


                IP属地:广东来自Android客户端8楼2025-08-31 18:46
                回复