30 分鐘通關
目標:從零到在 MiniTavern 裡收到本地模型的第一條回覆。
| 步驟 | 大約用時 | 做什麼 |
|---|---|---|
| 1 | 0–5 min | 選工具:Ollama 或 LM Studio |
| 2 | 5–15 min | 安裝並下載一個小模型 |
| 3 | 15–20 min | 開啟局域網 / Local Server |
| 4 | 20–25 min | 查電腦局域網 IP |
| 5 | 25–30 min | 在 MiniTavern 新建連接並測連 |
Step 1:選工具
完整對比見 工具總覽。下面以 Ollama 為例寫通關步驟;其它工具把「拉模型 / 開服務」換成對應章節即可,第 5 步相同。
Step 2:安裝並拉一個小模型
- 按 Ollama 安裝 裝好。
- 打開終端,執行(示例模型,體積相對小,適合驗證通路):
bash
ollama pull llama3.2:3b- 確認本機可用:
bash
ollama run llama3.2:3b能對話後輸入 /bye 退出即可。更多模型選擇見 下載與選擇模型。
Step 3:開啟局域網訪問
按 開啟局域網訪問 設置 OLLAMA_HOST=0.0.0.0,並放行防火牆端口 11434。
完成後,在電腦本機瀏覽器訪問(應有響應,不一定是漂亮網頁):
http://127.0.0.1:11434
Step 4:查電腦局域網 IP
- Windows:
Win + R→cmd→ 輸入ipconfig,找「無線局域網適配器」下的 IPv4 地址(形如192.168.x.x)。 - macOS:系統設置 → 網絡 → 當前 Wi‑Fi → 詳情裡的 IP;或終端執行
ipconfig getifaddr en0。
記下這個 IP,後面記作 YOUR_PC_IP。
Step 5:在 MiniTavern 裡配置
- 打開 App → 設置 → 模型 → 模型連接 → 新建。
- 平臺選 自定義 / OpenAI 兼容(以 App 內實際選項名為準)。
- 填寫:
| 字段 | 示例(Ollama) |
|---|---|
| Base URL | http://YOUR_PC_IP:11434/v1 |
| API Key | 可留空或填任意佔位(本地通常不校驗) |
| 模型名 | llama3.2:3b(與 ollama list 一致) |
- 保存並 測連;成功後設為默認,導入角色卡開聊。
完整界面說明見 在 MiniTavern 中配置。
失敗了?
- 測連失敗、超時、空白回覆 → 打開 排錯對照表
- 最常見錯誤:Base URL 寫成了
localhost,或手機與電腦不在同一 Wi‑Fi