Skip to content

工具总览

MiniTavern 只要对方提供 OpenAI 兼容 的 Chat Completions(或可映射到该协议),就能用「自定义」模型连接接入。下表帮你选工具。

对比

工具上手难度界面拉模型角色扮演向典型 Base URL
Ollama★☆☆托盘 + CLIollama pull通用对话强http://IP:11434/v1
LM Studio★☆☆完整 GUI应用内下载通用http://IP:1234/v1
KoboldCPP★★☆轻量 GUI/CLI自备 GGUFRP 社区常用http://IP:5001/v1
llama.cpp server★★★CLI自备 GGUF可控、轻http://IP:8080/v1
LocalAI★★☆API / 可选 UIYAML / 镜像多后端http://IP:8080/v1
Jan★☆☆桌面 App应用内通用见应用「API」页
text-generation-webui★★★Web UI扩展多插件生态开启 OpenAI 扩展后

怎么选(一句话)

  1. 只想最快跑通:Ollama 或 LM Studio → 30 分钟通关
  2. 更在意角色扮演预设 / 采样器:KoboldCPP
  3. 已有 GGUF、想最少依赖:llama.cpp llama-server
  4. 已在用 Docker / 想统一兼容层:LocalAI
  5. 喜欢一体化桌面助手:Jan
  6. 已有 oobabooga 环境:开 OpenAI 兼容扩展后连 MiniTavern

共同要求

无论选哪款:

  1. 服务监听 局域网0.0.0.0 或「允许局域网设备」),不要只绑 127.0.0.1
  2. 防火墙放行对应端口
  3. 手机填 电脑局域网 IP,Base URL 带 /v1(除非该工具文档另有说明)
  4. 模型名与工具里显示的 id / 名称完全一致

下一步:推荐模型 · 在 MiniTavern 中配置