API/LAN の有効化(KoboldCPP)
バージョンごとに UI 文案が異なることがあります。インストールした KoboldCPP を正とし、目標は:
- OpenAI Compatible/Chat Completions API を有効化
- リスンアドレスが LAN を許可(localhost のみにしない)
- ファイアウォールでポート開放
よくある既定
| 項目 | よくある値 |
|---|---|
| ポート | 5001(起動パラメータ/UI 表示準拠) |
| Base URL(MiniTavern 用) | http://YOUR_PC_IP:5001/v1 |
一部バージョンは起動パラメータ例(示意、現行ドキュメントと照合):
bash
# 示意:リモートアクセスと OpenAI 互換エンドポイント(具体 flag は公式 README 準拠)
koboldcpp --model your.gguf --host 0.0.0.0 --port 5001本機セルフテスト
ブラウザまたは curl:
text
http://127.0.0.1:5001/v1/modelsモデル一覧が見えたら LAN を試す:
text
http://YOUR_PC_IP:5001/v1/modelsMiniTavern への記入
| フィールド | 記入 |
|---|---|
| モデルプラットフォーム | カスタム(OpenAI 互換) |
| Base URL | http://YOUR_PC_IP:5001/v1 |
| API Key | 通常空欄または任意プレースホルダ |
| モデル名 | /v1/models が返す id と一致 |