Skip to content

30 分鐘通關 ​

目標:從零到在 MiniTavern 裡收到本地模型的第一條回覆。

步驟大約用時做什麼
10–5 min選工具:Ollama 或 LM Studio
25–15 min安裝並下載一個小模型
315–20 min開啟局域網 / Local Server
420–25 min查電腦局域網 IP
525–30 min在 MiniTavern 新建連接並測連

Step 1:選工具 ​

完整對比見 工具總覽。下面以 Ollama 為例寫通關步驟;其它工具把「拉模型 / 開服務」換成對應章節即可,第 5 步相同。


Step 2:安裝並拉一個小模型 ​

  1. 按 Ollama 安裝 裝好。
  2. 打開終端,執行(示例模型,體積相對小,適合驗證通路):
bash
ollama pull llama3.2:3b
  1. 確認本機可用:
bash
ollama run llama3.2:3b

能對話後輸入 /bye 退出即可。更多模型選擇見 下載與選擇模型。


Step 3:開啟局域網訪問 ​

按 開啟局域網訪問 設置 OLLAMA_HOST=0.0.0.0,並放行防火牆端口 11434。

完成後,在電腦本機瀏覽器訪問(應有響應,不一定是漂亮網頁):

http://127.0.0.1:11434


Step 4:查電腦局域網 IP ​

  • Windows:Win + R → cmd → 輸入 ipconfig,找「無線局域網適配器」下的 IPv4 地址(形如 192.168.x.x)。
  • macOS:系統設置 → 網絡 → 當前 Wi‑Fi → 詳情裡的 IP;或終端執行 ipconfig getifaddr en0。

記下這個 IP,後面記作 YOUR_PC_IP。


Step 5:在 MiniTavern 裡配置 ​

  1. 打開 App → 設置 → 模型 → 模型連接 → 新建。
  2. 平臺選 自定義 / OpenAI 兼容(以 App 內實際選項名為準)。
  3. 填寫:
字段示例(Ollama)
Base URLhttp://YOUR_PC_IP:11434/v1
API Key可留空或填任意佔位(本地通常不校驗)
模型名llama3.2:3b(與 ollama list 一致)
  1. 保存並 測連;成功後設為默認,導入角色卡開聊。

完整界面說明見 在 MiniTavern 中配置。


失敗了? ​

  • 測連失敗、超時、空白回覆 → 打開 排錯對照表
  • 最常見錯誤:Base URL 寫成了 localhost,或手機與電腦不在同一 Wi‑Fi