sillytavern吧 关注:22,156贴子:66,900
  • 20回复贴,共1

萌新求助,搭建本地模型

只看楼主收藏回复

今天第一次接触酒馆,尝试使用webui搭建本地模型。在webui中运行成功可以正常对话,但是无法导入酒馆。网页没有报错只显示无连接。cmd显示模型不在线,有没有自己搭建的大佬指点一下?
图34为本地ai的控制台





IP属地:内蒙古来自Android客户端1楼2025-07-17 22:13回复
    你是接的你电脑上本地部署的模型?


    IP属地:英国来自Android客户端2楼2025-07-17 22:18
    收起回复
      2025-12-06 07:25:21
      广告
      不感兴趣
      开通SVIP免广告
      试着在你填的这个地址后面加上api
      http://127.0.0.1:5000/api


      IP属地:广西3楼2025-07-17 22:33
      收起回复
        你webui右边显示Successfully loaded了吗?我测试是没问题的。




        IP属地:广西4楼2025-07-17 22:58
        收起回复
          对话显示api未连接,直接无法发送信息



          IP属地:内蒙古来自Android客户端5楼2025-07-17 23:05
          收起回复
            5070laptop 16g内存跑自带的角色卡竟然能有30+tps。。。应该算可用吧


            IP属地:内蒙古6楼2025-07-18 00:44
            回复
              我之前用llm studio连过,不过具体步骤忘了。大概过程是先在本地部署的地方生成类似的地址,就例如127.0.0.1.1234这种,然后再回酒馆输入设置的地址。可能具体步骤不一样,仅供参考。


              IP属地:安徽来自Android客户端7楼2025-07-18 10:39
              回复
                接口是/v1


                IP属地:河北来自Android客户端8楼2025-07-18 11:20
                回复