API / LAN(KoboldCPP)
버전 UI 문구는 다를 수 있습니다. 목표는:
- OpenAI Compatible / Chat Completions API 켜기
- LAN 리슨(localhost만 금지)
- 방화벽 포트
흔한 기본
| 항목 | 흔한 값 |
|---|---|
| 포트 | 5001(시작 인자 / UI) |
| Base URL(MiniTavern) | http://YOUR_PC_IP:5001/v1 |
일부 버전은 시작 인자(예, 공식 README 대조):
bash
# 예: 원격 + OpenAI 호환(flag는 공식 README)
koboldcpp --model your.gguf --host 0.0.0.0 --port 5001로컬 자가 테스트
브라우저 또는 curl:
text
http://127.0.0.1:5001/v1/models목록이 보이면 LAN:
text
http://YOUR_PC_IP:5001/v1/modelsMiniTavern 입력
| 필드 | 입력 |
|---|---|
| 모델 플랫폼 | Custom (OpenAI) |
| Base URL | http://YOUR_PC_IP:5001/v1 |
| API Key | 보통 비움 또는 자리 |
| 모델명 | /v1/models의 id |