Skip to content

로컬 모델 ​

MiniTavern은 BYOK(직접 키 사용) 클라이언트입니다. 요청은 설정한 주소로 가며, 특정 클라우드에 강제되지 않습니다.
「로컬 모델」은 본인 PC에서 추론 서비스를 돌리고, 폰의 MiniTavern으로 LAN 연결하는 것입니다.

두 갈래:

유형용도입구
언어 모델채팅, 이어쓰기, 이미지 프롬프트 변환30분 퀵스타트 · 도구 개요
이미지 모델/imagine, 첨부 이미지, 배경이미지 개요

GPU가 없고 서비스도 설치하기 싫다면 먼저 무료 클라우드 체험/무료 한도.

MiniTavern은 폰에서 대형 LLM이나 확산 모델을 실행하지 않습니다. 서비스는 PC, App은 캐릭터 카드·월드북·채팅·이미지 요청을 담당합니다.

언어 모델 ​

PC에서 LLM(Ollama, LM Studio, KoboldCPP 등)을 실행하고, App에서는 Custom (OpenAI) 를 선택합니다.

항목권장
PCWindows / macOS / Linux; 메모리 16GB+ 권장
GPU(선택)NVIDIA / Apple Silicon이 더 빠름; CPU만으로도 가능
네트워크폰과 PC를 같은 Wi‑Fi(게스트 격리망 금지)
도구적합한 사람기본 포트
OllamaCLI로 간편, 명령으로 모델 받기11434
LM StudioGUI, 클릭 다운로드1234
KoboldCPP롤플레이 커뮤니티 정석5001
llama.cppGGUF 직접 실행8080
LocalAIDocker / 호환 레이어8080
Jan · text-generation-webui기타 GUI / 플러그인각 페이지

추천 순서: 퀵스타트 → 도구 → 추천 모델 → MiniTavern 설정 → 막히면 문제 해결.

이미지 모델 ​

PC에서 Stable Diffusion 계열 실행. App 설정 → 이미지 생성 → 이미지 연결에서 A1111 또는 ComfyUI.

백엔드기본 포트튜토리얼
A1111 / SD WebUI7860--api --listen 필요
ComfyUI8188(Desktop은 8000 흔함)--listen 필요

개요·하드웨어: 이미지 모델 배포; 연결 입력: App 연결.

중요 안내 ​

  • 폰에는 PC의 LAN IP를 넣으세요. localhost / 127.0.0.1은 불가.
  • 언어 모델 Base URL은 보통 /v1로 끝남(예 http://192.168.1.8:11434/v1).
  • A1111은 --api 필수; ComfyUI는 LAN에서 도달 가능해야 함.
  • 방화벽에서 포트 개방; 인증 없는 API를 공용 인터넷에 노출하지 말 것.