Lokale Modelle
MiniTavern ist ein BYOK-Client: Requests gehen an die von Ihnen konfigurierte Adresse — keine zwingende Cloud-Bindung.
„Lokale Modelle“ heißt: Inference auf Ihrem PC, dann Verbindung mit MiniTavern auf dem Handy über das LAN.
Zwei Linien:
| Typ | Zweck | Einstieg |
|---|---|---|
| Sprachmodelle | Chat, Fortsetzung, Prompt-Übersetzung für Bild | 30-Minuten-Quickstart · Tool-Übersicht |
| Bildmodelle | /imagine, Anhang-Bild, Hintergrund | Bildübersicht |
Ohne GPU und ohne lokale Dienste: zuerst Kostenlose Cloud mit Trial/Free.
MiniTavern führt auf dem Handy keine großen LLMs oder Diffusionsmodelle aus. Der Dienst läuft auf dem PC; die App steuert Charakterkarten, Lorebook, Chat und Bildanfragen.
Sprachmodelle
Auf dem PC LLM-Dienste (Ollama, LM Studio, KoboldCPP …) starten; in der App Custom (OpenAI) wählen.
| Feld | Empfehlung |
|---|---|
| PC | Windows / macOS / Linux; RAM ideal 16 GB+ |
| GPU (optional) | NVIDIA / Apple Silicon schneller; CPU geht auch |
| Netzwerk | Handy und PC im selben Wi‑Fi (kein Gastnetz mit Isolation) |
| Tool | Für wen | Standardport |
|---|---|---|
| Ollama | CLI, Modelle per Befehl | 11434 |
| LM Studio | GUI, Download per Klick | 1234 |
| KoboldCPP | Roleplay-Community | 5001 |
| llama.cpp | GGUF direkt | 8080 |
| LocalAI | Docker / Kompatibilitätsschicht | 8080 |
| Jan · text-generation-webui | weitere GUIs / Plugins | siehe Seiten |
Reihenfolge: Quickstart → Tools → Empfohlene Modelle → In MiniTavern verbinden → bei Problemen Fehlerbehebung.
Bildmodelle
Stable-Diffusion-Dienste auf dem PC; App Einstellungen → Bildgenerierung → Bildverbindung → A1111 oder ComfyUI.
| Backend | Standardport | Tutorial |
|---|---|---|
| A1111 / SD WebUI | 7860 | braucht --api --listen |
| ComfyUI | 8188 (Desktop oft 8000) | braucht --listen |
Übersicht & Hardware: Bildmodelle; Verbindung: App verbinden.
Wichtige Hinweise
- Auf dem Handy die LAN-IP des PCs eintragen — nicht
localhost/127.0.0.1. - Sprach-Base-URL endet meist auf
/v1(z. B.http://192.168.1.8:11434/v1). - A1111:
--apiPflicht; ComfyUI muss aus dem LAN erreichbar sein. - Firewall-Ports freigeben; unauthentifizierte APIs nicht ins öffentliche Internet legen.