API / LAN (KoboldCPP)
UI-Texte je Version — Ziel:
- OpenAI Compatible / Chat Completions API an
- Listen für LAN (nicht nur localhost)
- Firewall-Port
Übliche Defaults
| Feld | oft |
|---|---|
| Port | 5001 (Startparameter / UI) |
| Base URL (MiniTavern) | http://YOUR_PC_IP:5001/v1 |
Manche Versionen per Flags (Beispiel — aktuelle README gilt):
bash
# skizze: Remote + OpenAI-kompatibel (Flags laut offizieller README)
koboldcpp --model your.gguf --host 0.0.0.0 --port 5001Lokal testen
Browser oder curl:
text
http://127.0.0.1:5001/v1/modelsDann LAN:
text
http://YOUR_PC_IP:5001/v1/modelsFür MiniTavern
| Feld | Wert |
|---|---|
| Modellplattform | Custom (OpenAI-kompatibel) |
| Base URL | http://YOUR_PC_IP:5001/v1 |
| API Key | meist leer oder Platzhalter |
| Modellname | id aus /v1/models |