Installieren & verbinden (LocalAI)

LocalAI ist ein lokales OpenAI-kompatibles Gateway für mehrere Backends. Für Docker-Kenner oder «eine Schicht, viele Modelle».

Schnellstart (Docker-Beispiel)

Image/Port laut offizieller Doku, Skizze:

bash

docker run -p 8080:8080 --name local-ai localai/localai:latest

Modelle laut Doku laden; lokal:

text

http://127.0.0.1:8080/v1/models

LAN

Container-Port auf Host, Firewall 8080 (oder gemappter Port).
Handy: http://YOUR_PC_IP:8080/v1.
Falsches Interface: Docker-Publish und Host-Firewall prüfen.

Für MiniTavern

Feld	Wert
Modellplattform	Custom (OpenAI-kompatibel)
Base URL	`http://YOUR_PC_IP:8080/v1`
API Key	je nach LocalAI-Auth
Modellname	model id in LocalAI

Weiter

In MiniTavern konfigurieren · Tool-Übersicht · Fehlerbehebung