claude吧 关注:21,389贴子:128,327
  • 3回复贴,共1

用了一下RWKV本地化AI,GTX 1650Ti运行4G-7

取消只看楼主收藏回复

用了一下RWKV本地化AI,GTX 1650Ti运行4G-7B模型会爆显存,3B模型太傻了都分不清人称,AI无法理解用户输入的“你”表示AI自身。
有好显卡的可以试一下高级模型。



IP属地:湖北来自Android客户端1楼2023-06-06 13:26回复
    开源地址:https://github.com/josStorer/RWKV-Runner
    打不开github的可以从阿里云下载:https://www.aliyundrive.com/s/jurikB2ZWhG


    IP属地:湖北来自Android客户端2楼2023-06-06 13:27
    回复
      2025-07-29 22:06:37
      广告
      不感兴趣
      开通SVIP免广告
      用法,新建一个文件夹,把启动器放进去(因为启动器会直接在它当前的路径放文件,所以把它单独放进一个文件夹里,后面不用了删除,或者再次打包也方便。)。


      IP属地:湖北来自Android客户端3楼2023-06-06 13:29
      回复
        运行启动器后,按提示下载python运行环境以及模型就好了。


        IP属地:湖北来自Android客户端4楼2023-06-06 13:29
        回复