開啟 API / 局域網(KoboldCPP)
版本界面文案可能不同,請以你安裝的 KoboldCPP 為準;目標是:
- 開啟 OpenAI Compatible / Chat Completions API
- 監聽地址允許局域網(不要只綁 localhost)
- 防火牆放行端口
常見默認
| 項 | 常見值 |
|---|---|
| 端口 | 5001(以啟動參數 / UI 顯示為準) |
| Base URL(給 MiniTavern) | http://YOUR_PC_IP:5001/v1 |
部分版本用啟動參數,例如(示例,請對照當前文檔):
bash
# 示意:開啟遠程訪問與 OpenAI 兼容端點(具體 flag 以官方 README 為準)
koboldcpp --model your.gguf --host 0.0.0.0 --port 5001本機自測
瀏覽器或 curl:
text
http://127.0.0.1:5001/v1/models能看到模型列表再測局域網:
text
http://YOUR_PC_IP:5001/v1/models給 MiniTavern 填寫
| 字段 | 填寫 |
|---|---|
| 模型平臺 | 自定義(OpenAI 兼容) |
| Base URL | http://YOUR_PC_IP:5001/v1 |
| API Key | 通常可留空或任意佔位 |
| 模型名 | 與 /v1/models 返回的 id 一致 |