Skip to content

30-Minuten-Quickstart ​

Ziel: von null bis zur ersten lokalen Modellantwort in MiniTavern.

Schrittca. ZeitWas
10–5 minTool: Ollama oder LM Studio
25–15 mininstallieren und kleines Modell laden
315–20 minLAN / Local Server öffnen
420–25 minLAN-IP des PCs finden
525–30 minMiniTavern-Verbindung neu + Testen

Step 1: Tool wählen ​

Vergleich: Tool-Übersicht. Unten Ollama als Beispiel; andere Tools «Modell laden / Dienst starten» analog, Step 5 gleich.


Step 2: Installieren und kleines Modell ​

  1. Nach Ollama installieren.
  2. Terminal (Beispiel, relativ klein, für den Pfadtest):
bash
ollama pull llama3.2:3b
  1. Lokal prüfen:
bash
ollama run llama3.2:3b

Nach Dialog /bye beenden. Mehr Auswahl: Modelle laden & wählen.


Step 3: LAN-Zugriff ​

Nach LAN-Zugriff OLLAMA_HOST=0.0.0.0 und Firewall-Port 11434.

Dann am PC im Browser (Antwort reicht, kein schönes UI nötig):

http://127.0.0.1:11434


Step 4: LAN-IP des PCs ​

  • Windows: Win + R → cmd → ipconfig, unter WLAN-Adapter IPv4 (192.168.x.x).
  • macOS: Systemeinstellungen → Netzwerk → aktuelles Wi‑Fi → Details; oder ipconfig getifaddr en0.

IP als YOUR_PC_IP notieren.


Step 5: In MiniTavern ​

  1. App → Einstellungen → Modelle → Modellverbindung → Neu.
  2. Plattform Custom / OpenAI-kompatibel (App-Text gilt).
  3. Ausfüllen:
FeldBeispiel (Ollama)
Base URLhttp://YOUR_PC_IP:11434/v1
API Keyleer oder beliebiger Platzhalter (lokal oft ungeprüft)
Modellnamellama3.2:3b (wie ollama list)
  1. Speichern und Testen; bei Erfolg Standard, Charakterkarte importieren und chatten.

UI: In MiniTavern konfigurieren.


Fehlgeschlagen? ​

  • Timeout, leere Antwort → Fehlerbehebung
  • Häufigster Fehler: Base URL mit localhost, oder Handy und PC nicht im selben Wi‑Fi