网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
deepseek吧 关注：136,798贴子：384,668

手机部署14b 完美运行无压力

只看楼主收藏回复

现在手机这么强的吗？14b都能完美运行。回答速度比官网还快。
IP属地:山东来自Android客户端1楼2025-11-04 18:24回复
    手机那点内存能跑起来？
    IP属地:山东来自Android客户端3楼2025-11-04 21:15
    收起回复
      2026-02-09 18:02:41
      广告
      不感兴趣
      开通SVIP免广告
      这是什么软件？
      IP属地:浙江4楼2025-11-05 00:10
      回复
        MNN，qwen3 14b，上下文1024能跑，2048就跑不了了。内存只有10G左右能用
        IP属地:广东来自Android客户端6楼2025-11-05 03:00
        收起回复
          在线的，傻孩子
          IP属地:广东来自Android客户端8楼2025-11-05 03:51
          收起回复
            5tokens/s这官网都不止这个速度吧？我感觉官网是一秒钟吐10~20多个字。你是怎么用的比官网快的？
            IP属地:广东来自Android客户端9楼2025-11-05 04:15
            收起回复
              我需要一个指脑子的那个表情包
              IP属地:四川来自Android客户端11楼2025-11-05 07:17
              回复
                官网的是671B的
                IP属地:广东来自Android客户端12楼2025-11-05 09:01
                回复
                  2026-02-09 17:56:41
                  广告
                  不感兴趣
                  开通SVIP免广告
                  官网可不止这点输出速度
                  IP属地:江苏来自Android客户端13楼2025-11-05 09:10
                  回复
                    5 tok/s，官方这么慢？？
                    IP属地:德国来自Android客户端14楼2025-11-05 09:26
                    回复
                      14b和智障没区别
                      IP属地:江苏来自iPhone客户端15楼2025-11-05 10:34
                      收起回复
                        14bq4量化还是qwen，跟官网就不是一个东西，而且跑起来还得吃掉7g以上内存加8w以上功耗，实用意义几乎没有。
                        IP属地:山东来自Android客户端16楼2025-11-05 10:41
                        回复
                          我在自家服务器上的32b都觉得智障。 手机上的14b岂不是浪费时间浪费电。
                          还是直接手机app吧。 有自己服务器的还是api部署吧，一天用不了几块钱，不必浪费时间。
                          IP属地:广东来自Android客户端17楼2025-11-05 10:51
                          回复
                            上下文那么点有内存就能跑
                            IP属地:山东来自Android客户端18楼2025-11-05 10:58
                            回复
                              2026-02-09 17:50:41
                              广告
                              不感兴趣
                              开通SVIP免广告
                              32b都是zz，何况14b……
                              IP属地:江苏来自Android客户端19楼2025-11-05 11:34
                              回复

                                扫二维码下载贴吧客户端

                                下载贴吧APP
                                看高清直播、视频！
                                发表回复
                                发贴请遵守贴吧协议及“七条底线”贴吧投诉
                                内  容:
                                  查看全部
                                发 表
                                保存至快速回贴

                                发布成功
                                去贴吧APP订阅抽奖结果通知
                                扫码进入贴吧APP
                                ···········
                                开奖后第一时间站内信通知
                                ···········
                                中奖结果全员公示