deepseek吧 关注:135,617贴子:371,452
  • 38回复贴,共1

从等待到动手:在Mac mini上本地部署DS R1的那些事儿

只看楼主收藏回复

最近,DeepSeek R1真的火得不得了。无论是API还是网页端都频繁出现不可用的情况,每次想用的时候都要祈祷服务器能正常运行。作为一个技术爱好者,看着别人家的大模型呼风唤雨,自己却只能干着急,心里自然有些痒痒。
终于有一天,我决定不再等待DeepSeek的服务器恢复,而是选择自己动手解决问题!毕竟,听说R1是一个开源模型,或许可以在本地部署试试看。
于是,我开始研究如何在Mac mini上运行这个14B的大模型。说实话,刚开始的时候感觉有点懵,因为对于一个非技术人员来说,搭建一个深度学习环境并不是一件简单的事。但幸好,网上有很多教程可以参考,再加上一些耐心和毅力,最终还是成功了!
整个过程大致分为以下几个步骤:
硬件准备:Mac mini的性能其实不错,特别是M2或更高配置的机型,在本地运行R1这样的大模型完全没问题。
环境搭建:安装必要的软件和服务,比如Ollama或者其他支持DeepSeek R1的框架。这个过程涉及到一些命令行操作,但只要按照教程一步步来,还是比较顺利的。
下载与配置:获取DeepSeek R1的模型文件,并进行相应的配置。这里可能需要一定的存储空间和网络带宽,不过Mac mini的SSD速度很快,下载起来也还算快。
测试运行:终于到了最激动人心的时刻!输入第一个问题,等待模型返回结果。看着本地环境中顺利运行的R1,那种成就感真的无法用语言形容。
通过这次实践,我不仅成功避开了DeepSeek服务器不稳定的问题,还学到了很多关于深度学习部署的知识。更重要的是,本地部署让我可以更自由地使用模型,完全不受网络和服务器状态的影响。如果你也对技术动手感兴趣,不妨试试看在自己的设备上运行一些开源的大模型。毕竟,技术的魅力就在于不断地探索与实践!#DeepSeekR1# #本地部署##Macmini#


IP属地:河南来自iPhone客户端1楼2025-01-28 04:04回复
    另外真的想自己本地部署的朋友们,https://ollama.com/ 请其实部署起来挺简单的,跟着操作来就行,对电脑配置的需求也比其他传统ai模型小得多


    IP属地:河南来自iPhone客户端2楼2025-01-28 04:06
    回复
      2025-12-31 18:18:53
      广告
      不感兴趣
      开通SVIP免广告
      感谢大佬,收藏了


      IP属地:山东来自Android客户端3楼2025-01-28 10:11
      收起回复
        配置需求小是什么概念?


        IP属地:江苏来自iPhone客户端5楼2025-01-28 11:10
        收起回复
          根据自己显存/统一内存大小来选择模型便是像macmini m4统一内存16g起步,14b模型需要9g就可以用这个,又或者4060是8g显存,那就只能选8b的模型了,不过加上你自己的内存也就是共享显存也能跑14b或者更大的模型,但是会慢很多很多很多很多,因此不建议


          IP属地:河南来自iPhone客户端6楼2025-01-28 11:19
          收起回复
            真厉害啊,可以可以


            IP属地:湖北7楼2025-01-28 11:24
            回复
              大佬,如果是想模仿知名作者文风的话,部署了本地写出来的质量和非本地的有多大区别啊,还是说区别不大?


              IP属地:天津来自iPhone客户端8楼2025-01-29 11:30
              收起回复
                本地建议运行32b的ablated版,abliterated 版和uncensored 版降智了,不知道是微调还是量化的问题。


                IP属地:江西来自iPhone客户端10楼2025-01-29 17:42
                收起回复
                  2025-12-31 18:12:53
                  广告
                  不感兴趣
                  开通SVIP免广告
                  本地部署的应用场景在哪?我试了写小说完全不行


                  IP属地:江西来自iPhone客户端11楼2025-01-29 17:44
                  收起回复
                    m1 16GB 选择哪个版本呢


                    IP属地:上海12楼2025-02-01 13:23
                    收起回复
                      M4 32G可以跑32b的吗


                      IP属地:广东13楼2025-02-08 10:24
                      收起回复
                        楼主,RTX4050
                        16GB
                        内存512GB
                        配哪种好啊?
                        另外我这个在ollama下载不下来框架,一直转圈圈,是不是要联外网啊?
                        是什么问题?


                        IP属地:江西来自Android客户端14楼2025-02-18 17:42
                        收起回复