claude吧 关注:21,389贴子:128,325

回复:用了一下RWKV本地化AI,GTX 1650Ti运行4G-7

只看楼主收藏回复

我也去试试


IP属地:上海来自iPhone客户端21楼2023-08-09 09:19
回复
    4090,用的 gpu10g-7b-v1 一直都在胡言乱语 发给它世界观设定框架,动不动擅自扩展,甚至分析的时候设定里的角色设定都会讲错位。。。


    IP属地:上海来自iPhone客户端22楼2023-08-23 17:40
    回复
      2025-07-29 21:55:07
      广告
      不感兴趣
      开通SVIP免广告
      我3050ti,估计体验不会很好。。


      IP属地:上海来自Android客户端23楼2023-09-19 11:36
      回复
        付费的mars还可以 毕竟是70b的模型 感觉文笔有claude 70%水平 但基本只能纯文字 不能搞系统啥的 好的地方是完全没限制


        IP属地:上海来自iPhone客户端26楼2023-10-10 12:26
        收起回复
          怎么说呢,在云端服务器上试过rwkv的中文语料7b和世界语料7b,其中世界7b用的有两个版本,一个是Word的65k,一个是novel的128k;中文语料的那个只有4k,对接酒馆试了一下。
          中文语料的7b,开破限的话回复一直重复,不开破限的话效果一般,一半的概率分不清人物
          世界语料开不开破限都有很大概率乱加设定,分不清人物
          全程用的中文,没有试过英文,总结目前进行角色扮演很不稳定。等rwkv5发展后看看吧


          IP属地:陕西来自Android客户端27楼2023-10-21 14:48
          收起回复
            插个眼,未来可期


            IP属地:北京28楼2023-10-24 09:59
            回复
              看大佬实验过,13b也也就勉强能聊的程度


              IP属地:河南来自Android客户端29楼2023-11-10 23:40
              回复