로컬 모델
MiniTavern은 BYOK(직접 키 사용) 클라이언트입니다. 요청은 설정한 주소로 가며, 특정 클라우드에 강제되지 않습니다.
「로컬 모델」은 본인 PC에서 추론 서비스를 돌리고, 폰의 MiniTavern으로 LAN 연결하는 것입니다.
두 갈래:
| 유형 | 용도 | 입구 |
|---|---|---|
| 언어 모델 | 채팅, 이어쓰기, 이미지 프롬프트 변환 | 30분 퀵스타트 · 도구 개요 |
| 이미지 모델 | /imagine, 첨부 이미지, 배경 | 이미지 개요 |
GPU가 없고 서비스도 설치하기 싫다면 먼저 무료 클라우드 체험/무료 한도.
MiniTavern은 폰에서 대형 LLM이나 확산 모델을 실행하지 않습니다. 서비스는 PC, App은 캐릭터 카드·월드북·채팅·이미지 요청을 담당합니다.
언어 모델
PC에서 LLM(Ollama, LM Studio, KoboldCPP 등)을 실행하고, App에서는 Custom (OpenAI) 를 선택합니다.
| 항목 | 권장 |
|---|---|
| PC | Windows / macOS / Linux; 메모리 16GB+ 권장 |
| GPU(선택) | NVIDIA / Apple Silicon이 더 빠름; CPU만으로도 가능 |
| 네트워크 | 폰과 PC를 같은 Wi‑Fi(게스트 격리망 금지) |
| 도구 | 적합한 사람 | 기본 포트 |
|---|---|---|
| Ollama | CLI로 간편, 명령으로 모델 받기 | 11434 |
| LM Studio | GUI, 클릭 다운로드 | 1234 |
| KoboldCPP | 롤플레이 커뮤니티 정석 | 5001 |
| llama.cpp | GGUF 직접 실행 | 8080 |
| LocalAI | Docker / 호환 레이어 | 8080 |
| Jan · text-generation-webui | 기타 GUI / 플러그인 | 각 페이지 |
추천 순서: 퀵스타트 → 도구 → 추천 모델 → MiniTavern 설정 → 막히면 문제 해결.
이미지 모델
PC에서 Stable Diffusion 계열 실행. App 설정 → 이미지 생성 → 이미지 연결에서 A1111 또는 ComfyUI.
| 백엔드 | 기본 포트 | 튜토리얼 |
|---|---|---|
| A1111 / SD WebUI | 7860 | --api --listen 필요 |
| ComfyUI | 8188(Desktop은 8000 흔함) | --listen 필요 |
개요·하드웨어: 이미지 모델 배포; 연결 입력: App 연결.
중요 안내
- 폰에는 PC의 LAN IP를 넣으세요.
localhost/127.0.0.1은 불가. - 언어 모델 Base URL은 보통
/v1로 끝남(예http://192.168.1.8:11434/v1). - A1111은
--api필수; ComfyUI는 LAN에서 도달 가능해야 함. - 방화벽에서 포트 개방; 인증 없는 API를 공용 인터넷에 노출하지 말 것.