도구 개요
MiniTavern은 상대가 OpenAI 호환 Chat Completions(또는 매핑 가능)을 제공하면 「Custom」모델 연결로 붙일 수 있습니다. 아래 표로 도구를 고르세요.
비교
| 도구 | 난이도 | UI | 모델 받기 | 롤플레이 | 전형 Base URL |
|---|---|---|---|---|---|
| Ollama | ★☆☆ | 트레이 + CLI | ollama pull | 일반 대화 강함 | http://IP:11434/v1 |
| LM Studio | ★☆☆ | 풀 GUI | 앱 내 다운로드 | 일반 | http://IP:1234/v1 |
| KoboldCPP | ★★☆ | 경량 GUI/CLI | 자체 GGUF | RP 커뮤니티 정석 | http://IP:5001/v1 |
| llama.cpp server | ★★★ | CLI | 자체 GGUF | 통제·경량 | http://IP:8080/v1 |
| LocalAI | ★★☆ | API / 선택 UI | YAML / 이미지 | 다중 백엔드 | http://IP:8080/v1 |
| Jan | ★☆☆ | 데스크톱 App | 앱 내 | 일반 | 앱 「API」페이지 |
| text-generation-webui | ★★★ | Web UI | 확장 많음 | 플러그인 생태계 | OpenAI 확장 켠 뒤 |
한 줄로 고르기
- 가장 빨리: Ollama 또는 LM Studio → 30분 퀵스타트
- 롤플레이 프리셋 / 샘플러: KoboldCPP
- GGUF 있음, 의존 최소: llama.cpp
llama-server - Docker / 통합 호환 층: LocalAI
- 올인원 데스크톱: Jan
- 이미 oobabooga: OpenAI 호환 확장 후 MiniTavern
공통 요구
어느 도구든:
- 서비스가 LAN 리슨(
0.0.0.0또는 「LAN 기기 허용」),127.0.0.1만 바인딩 금지 - 방화벽 해당 포트 개방
- 폰에 PC LAN IP, Base URL에
/v1(도구 문서가 다르면 제외) - 모델명이 도구에 표시된 id / 이름과 완전 일치
다음: 추천 모델 · MiniTavern 설정