text-generation-webui (oobabooga)

text-generation-webui hat viele Plugins — sinnvoll, wenn Sie die Web UI schon nutzen. Für MiniTavern: OpenAI-kompatible Extension / API.

Kurzablauf

1. Nach offizieller Anleitung installieren und Modell laden.
2. Extension oder Startparameter openai-kompatibel (Name/Schalter je Branch).
3. Listen 0.0.0.0 oder LAN; Port oft 5000 oder laut Doku.
4. Test: http://127.0.0.1:Port/v1/models.
5. MiniTavern Base URL: http://YOUR_PC_IP:Port/v1.

Tipps

• Branches und Extensions ändern sich — README Ihres Clones.
• Lieber out-of-the-box: Ollama / LM Studio / KoboldCPP.

Weiter

In MiniTavern konfigurieren · Tool-Übersicht