무검열 API에 SillyTavern 연결
업데이트됨
SillyTavern은 Chat Completion 모드를 통해 모든 OpenAI 호환 서버와 통신합니다. 이 페이지에서는 채워야 할 필드, 긴 역할극에 중요한 설정 및 메시지당 비용을 확인하세요.
핵심 포인트
- 소스를 Custom (OpenAI 호환)으로 설정하고, Text Completion이 아닌 Chat Completion API 유형을 사용하세요.
- 엔드포인트: 아래에 표시된 기본 URL; 모델 ID:
uncensored. - 컨텍스트 크기를 프롬프트와 응답을 합쳐 262,144 토큰 이하로 유지하세요.
- 6,000개의 토큰을 가진 히스토리와 400개의 토큰으로 구성된 응답은 약 $0.0011의 비용이 듭니다.
필요한 것
- SillyTavern이 설치되고 실행 중입니다(최신 릴리스; 아래 메뉴는 현재 레이아웃과 일치합니다).
- 계정에서 발급한 API 키. 회원가입 이메일과 비밀번호로 로그인합니다. 계정 생성 시 $0.50의 체험 크레딧이 제공됩니다.
- 기본 URL
https://dolphinllm.com/v1및 모델 IDuncensored.
4단계로 연결
- 열기 API Connections 패널 (상단 바의 플러그 아이콘).
- 설정 API to Chat Completion그런 다음 Chat Completion Source to Custom (OpenAI-compatible).
- 붙여넣기
https://dolphinllm.com/v1into Custom Endpoint (Base URL) 및 키를 Custom API Key. - 클릭 Connect선택하세요.
uncensoredfrom Available Models또는 Enter a Model ID첫 번째 테스트 메시지가 성공적으로 전송되면 상태가 녹색으로 변경됩니다.
Text Completion을 선택하지 마세요. 이 API는 채팅 형식만 제공합니다 (/v1/chat/completions모델의 자체 채팅 템플릿이 서버에서 적용되므로, 이 연결에 대해 SillyTavern에서 지시어 템플릿을 사용할 필요가 없습니다.
역할극에 중요한 설정
열기 AI Response Configuration (슬라이더 아이콘).
- Context Size (tokens): 최대 262,144까지 가능합니다. 각 메시지마다 캐릭터 카드, 페르소나, 월드 정보 및 가능한 한 많은 채팅 기록이 전송되며, 모두 입력 토큰으로 청구됩니다. 대부분의 채팅에서는 16,000~32,000이 메모리와 비용 측면에서 적절한 균형입니다. 전체 262,144 토큰 컨텍스트의 입력 비용은 메시지당 약 $0.0393이며, 초기 사건을 기억해야 하는 긴 캠페인의 경우 이 값을 높여야 합니다.
- Max Response Length (tokens): 채팅 응답은 300~800 사이입니다. 출력은 1M 토큰당 $0.50으로 비용이 많이 듭니다.
- Streaming: 텍스트는 작성되는 대로 나타나며, 마음에 들지 않는 응답이 완료되기 전에 중지할 수 있습니다.
- Temperature: 창작 글쓰기의 경우 0.7에서 1.0 사이입니다. Top P, frequency penalty, presence penalty 및 정지 문자는 모델에 그대로 전달됩니다.
이 모델은 합법적인 성인용 콘텐츠에 대해 콘텐츠 거부 없이 답변하도록 튜닝되었으므로, 일반적으로 재일브레이크 프롬프트가 거의 필요하지 않습니다. 스타일과 관점을 설정하는 짧은 시스템 프롬프트가 더 잘 작동합니다. 이 API의 유일한 고정 규칙은 캐릭터 카드에 무엇이 있든 상관없이 미성년자가 포함된 성적인 콘텐츠는 금지된다는 것입니다.
확장 프로그램 및 체험 키
일부 SillyTavern 확장 프로그램은 동일한 연결을 통해 자체 요청을 보냅니다. 예를 들어 채팅 요약이나 자동 캐릭터 표정 생성 시 메인 API를 사용하도록 설정된 경우입니다. 체험용 키는 2개의 병렬 요청과 분당 60개의 요청을 허용하므로, 이러한 추가 호출은 메시지 전송과 충돌하여 HTTP 429 오류를 반환할 수 있습니다. concurrency테스트 중에는 이를 비활성화하거나 로컬 모델로 지시하세요. 첫 번째 충전 후 키는 분당 8개의 병렬 요청과 분당 300개의 요청을 허용합니다.
그룹 채팅은 캐릭터 턴당 하나의 요청을 보내므로 1:1 채팅보다 크레딧을 더 빠르게 소모합니다.
세션의 비용
가격은 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50입니다. 카드와 히스토리로 6,000개의 토큰과 400개의 토큰으로 구성된 응답이 있는 메시지의 비용은 다음과 같습니다:
- 입력: 6,000 × $0.15 / 1,000,000 = $0.0009
- 출력: 400 × $0.50 / 1,000,000 = $0.0002
- 총: 메시지당 $0.0011, 약 1,000개 메시지당 $1.10
대화가 32,000 토큰 컨텍스트에 가까워지면 메시지 한 건당 약 $0.005가 발생합니다. $0.50 체험금은 작은 크기 기준으로 약 450개의 메시지를 처리할 수 있습니다. 충전은 $50부터 시작합니다. 가격 책정 페이지.
문제 해결
- 목록에 모델이 없습니다. URL이 다음으로 끝나는지 확인하세요
/v1끝에 슬래시를 붙이지 않고 입력한 후uncensored모델 ID 필드에 수동으로 입력합니다. - 401 유효하지 않은 키. API 키에 공백이 포함되었거나 키가 취소되었습니다. 계정에서 새 키를 생성하세요.
- 402 결제 수단 없음. 잔액이 비었거나 트라이얼이 만료되었습니다. 계정에서 충전하세요.
- 컨텍스트 관련 400 bad_request. 프롬프트와 최대 응답 길이의 합계가 262,144 토큰을 초과합니다. 컨텍스트 크기를 줄이세요.
- 503 서버 과부하. 공유 서버가 잠시 동안 포화 상태입니다. 몇 초 후 다시 시도하거나 재생성하세요. 오류 발생 시 요금이 부과되지 않습니다.
질문과 답변
SillyTavern에서 어떤 API 유형을 선택해야 하나요?
소스가 Custom (OpenAI 호환형)인 채팅 완료. 이 API는 텍스트 완성을 지원하지 않습니다.
SillyTavern에 들어가는 base URL은 무엇입니까?
사용 https://dolphinllm.com/v1 사용자 정의 엔드포인트로 설정하고, uncensored 모델 ID로 설정합니다.
재일브레이크 프롬프트가 필요한가요?
일반적으로 아닙니다. 이 모델은 합법적인 성인용 사용에 대해 콘텐츠 거부 없이 답변하도록 튜닝되었습니다. 스타일용 짧은 시스템 프롬프트면 충분합니다.
컨텍스트는 얼마나 길게 설정할 수 있나요?
프롬프트와 응답의 합계는 최대 262,144 토큰(약 490페이지 분량 텍스트)까지 가능합니다. 전체 기록이 입력으로 청구되므로 컨텍스트가 클수록 메시지당 비용이 더 많이 발생합니다. 전체 윈도우를 채우는 메시지당 입력 비용은 약 $0.0393입니다.
더 많은 가이드
Open WebUI API 엔드포인트: 무검열 LLM 연결Open WebUI를 Dolphin LLM API에 연결: 베이스 URL, 키 및 모델 ID, 관리자 패널 및 Docker 설정, 변경할 설정, 일반적인 오류 및 채팅 비용.
LibreChat에 Dolphin LLM을 사용자 정의 엔드포인트로 추가LibreChat에 Dolphin LLM API 추가: base URL, 키, 모델이 포함된 librechat.yaml 커스텀 엔드포인트, Docker 설정, 사용자별 키, 제목 생성 및 제한.
즉시 접근을 위해 로그인 없이 LLM 사용하기로그인 절차 없이 LLM을 사용하는 방법을 알아보세요. 이메일만으로 Dolphin LLM API에 즉시 액세스하세요. 전화번호나 카드가 필요 없습니다.