Tool-Übersicht

MiniTavern braucht OpenAI-kompatible Chat Completions (oder mappbar) — dann Custom-Modellverbindung. Tabelle zur Auswahl.

Vergleich

Tool	Einstieg	UI	Modell laden	Roleplay	typische Base URL
Ollama	★☆☆	Tray + CLI	ollama pull	stark allgemein	http://IP:11434/v1
LM Studio	★☆☆	volle GUI	In-App-Download	allgemein	http://IP:1234/v1
KoboldCPP	★★☆	leichte GUI/CLI	eigenes GGUF	RP-Community üblich	http://IP:5001/v1
llama.cpp server	★★★	CLI	eigenes GGUF	kontrollierbar, leicht	http://IP:8080/v1
LocalAI	★★☆	API / optional UI	YAML / Image	Multi-Backend	http://IP:8080/v1
Jan	★☆☆	Desktop-App	In-App	allgemein	siehe «API»-Seite
text-generation-webui	★★★	Web UI	viele Extensions	Plugin-Ökosystem	nach OpenAI-Extension

Kurz entscheiden

1. Schnellstmöglich: Ollama oder LM Studio → 30-Minuten-Quickstart
2. RP-Presets / Sampler: KoboldCPP
3. GGUF, minimale Abhängigkeiten: llama.cpp llama-server
4. Docker / eine Kompatibilitätsschicht: LocalAI
5. All-in-one Desktop-Assistent: Jan
6. oobabooga schon da: OpenAI-kompatible Extension, dann MiniTavern

Gemeinsame Anforderungen

Unabhängig vom Tool:

1. Dienst auf LAN (0.0.0.0 oder «Geräte im Netz erlauben»), nicht nur 127.0.0.1
2. Firewall-Port freigeben
3. Auf dem Handy PC-LAN-IP, Base URL mit /v1 (außer Tool-Doku anders)
4. Modellname exakt wie id / Name im Tool

Weiter: Empfohlene Modelle · In MiniTavern konfigurieren