text-generation-webui(oobabooga)
text-generation-webui 生态插件多,适合已经在用该 Web UI 的用户。要对接 MiniTavern,需要启用其 OpenAI 兼容 扩展 / API。
步骤概要
- 按官方说明安装并成功加载模型。
- 在扩展或启动参数中启用 openai 兼容 API(扩展名/开关以当前分支为准)。
- 确认监听
0.0.0.0或允许局域网;默认端口常见为5000或文档所述端口。 - 自测:
http://127.0.0.1:端口/v1/models。 - MiniTavern Base URL:
http://YOUR_PC_IP:端口/v1。