Skip to content

安裝與連接(LocalAI) ​

LocalAI 是本地的 OpenAI 兼容 API 網關,可對接多種後端。適合已經熟悉 Docker、或希望「一個兼容層接多種模型」的用戶。

快速啟動(Docker 示例) ​

具體鏡像名與端口以 官方文檔 為準,示意:

bash
docker run -p 8080:8080 --name local-ai localai/localai:latest

首次需按文檔放入或拉取模型;確認本機可訪問:

text
http://127.0.0.1:8080/v1/models

局域網 ​

  • 容器端口映射到宿主機後,防火牆放行 8080(或你映射的端口)。
  • 手機使用:http://YOUR_PC_IP:8080/v1。
  • 若容器只綁定了錯誤網卡,檢查 Docker 端口發佈與宿主機防火牆。

給 MiniTavern ​

字段填寫
模型平臺自定義(OpenAI 兼容)
Base URLhttp://YOUR_PC_IP:8080/v1
API Key按 LocalAI 是否啟用鑑權填寫
模型名與 LocalAI 中配置的 model id 一致

下一步 ​

在 MiniTavern 中配置 · 工具總覽 · 排錯