网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
图拉丁吧 关注：8,021,144贴子：132,948,314

回复：4张mi50跑deepseek 70b模型

只看楼主收藏回复

话说，那天试了下deep seek，3000配置竟然给我推10代I3。。。。
IP属地:湖南63楼2025-02-20 10:54
收起回复
    大家都在跑ai主要是干嘛？有受益吗？还是纯玩
    IP属地:安徽64楼2025-02-20 11:22
    收起回复
      2025-12-03 11:47:06
      广告
      不感兴趣
      开通SVIP免广告
      在外网找了一通，只找到一个网站有mi50用的桥的现货，全新要好几百刀，大概长这样
      IP属地:江苏来自Android客户端65楼2025-02-20 23:18
      收起回复
        我单卡跑14b还行，32b直接报错了
        按照B站大佬的说法是用vulkan不如rocm
        IP属地:贵州来自iPhone客户端66楼2025-02-21 16:25
        收起回复
          大佬 有没有试过linux用vllm框架 支持rocm加速
          IP属地:浙江来自Android客户端68楼2025-03-19 17:10
          回复
            本地部署不需要大量训练吗
            IP属地:安徽来自Android客户端69楼2025-03-21 13:09
            收起回复
              这机箱是啥型号，这么能装
              IP属地:广东来自iPhone客户端70楼2025-03-21 14:11
              回复
                多卡拼显存其实就是把模型切片放入多卡里面，只能先跑一部分，然后跑完输出结果给下一张GPU后，由下一张GPU继续跑，然后以此类推。
                IP属地:广东来自Android客户端71楼2025-04-02 13:18
                收起回复
                  2025-12-03 11:41:06
                  广告
                  不感兴趣
                  开通SVIP免广告
                  老哥能来个单子吗？打算学习下。
                  IP属地:河南来自手机贴吧72楼2025-04-05 15:47
                  回复
                    楼主，请问能用rocm吗
                    IP属地:浙江来自Android客户端73楼2025-04-07 08:38
                    收起回复
                      请教老哥,跑32B 和70B 速度分别多少? 我准备搞2个32G的试试 跑70B
                      IP属地:广东74楼2025-04-09 15:37
                      收起回复
                        现在咸鱼上有32g的mi50，四张卡就是128g，加上256g内存，跑个70b q8应该能行吧？
                        IP属地:广东来自Android客户端75楼2025-04-21 02:51
                        回复
                          楼主你好，不刷bios，用mi50的原bios，windows能正确调用吗？我想用核显输出
                          IP属地:广东来自Android客户端76楼2025-04-21 19:30
                          收起回复
                            老哥，看看是不是这个？老贵了，淘宝就两家店有卖
                            现货 AMD Radeon PRO VII 专业显卡 INFINITY FABRIC LINK 桥接器
                            IP属地:江苏来自Android客户端77楼2025-05-17 20:00
                            收起回复
                              2025-12-03 11:35:06
                              广告
                              不感兴趣
                              开通SVIP免广告
                              问下这个主板是什么型号?
                              IP属地:湖北78楼2025-05-31 18:35
                              收起回复

                                扫二维码下载贴吧客户端

                                下载贴吧APP
                                看高清直播、视频！
                                发表回复
                                发贴请遵守贴吧协议及“七条底线”贴吧投诉
                                内  容:
                                  查看全部
                                发 表
                                保存至快速回贴

                                发布成功
                                去贴吧APP订阅抽奖结果通知
                                扫码进入贴吧APP
                                ···········
                                开奖后第一时间站内信通知
                                ···········
                                中奖结果全员公示