安裝與連接(LocalAI)
LocalAI 是本地的 OpenAI 兼容 API 網關,可對接多種後端。適合已經熟悉 Docker、或希望「一個兼容層接多種模型」的用戶。
快速啟動(Docker 示例)
具體鏡像名與端口以 官方文檔 為準,示意:
bash
docker run -p 8080:8080 --name local-ai localai/localai:latest首次需按文檔放入或拉取模型;確認本機可訪問:
text
http://127.0.0.1:8080/v1/models局域網
- 容器端口映射到宿主機後,防火牆放行 8080(或你映射的端口)。
- 手機使用:
http://YOUR_PC_IP:8080/v1。 - 若容器只綁定了錯誤網卡,檢查 Docker 端口發佈與宿主機防火牆。
給 MiniTavern
| 字段 | 填寫 |
|---|---|
| 模型平臺 | 自定義(OpenAI 兼容) |
| Base URL | http://YOUR_PC_IP:8080/v1 |
| API Key | 按 LocalAI 是否啟用鑑權填寫 |
| 模型名 | 與 LocalAI 中配置的 model id 一致 |
下一步
在 MiniTavern 中配置 · 工具總覽 · 排錯