Conectar o SillyTavern a uma API sem censura

Atualizado

O SillyTavern se conecta a qualquer servidor compatível com OpenAI por meio do modo Chat Completion. Esta página mostra quais campos preencher, quais configurações são importantes para roleplay longo e quanto custa por mensagem.

Pontos-chave

  • Use o tipo de API Chat Completion com a fonte Custom (compatível com OpenAI), não Text Completion.
  • Endpoint: a URL base mostrada abaixo; ID do modelo: uncensored.
  • Mantenha o tamanho do contexto em ou abaixo de 262.144 tokens, prompt mais resposta.
  • Uma mensagem com 6.000 tokens de histórico e uma resposta de 400 tokens custa cerca de $0,0011.

O que você precisa

  • SillyTavern instalado e em execução (versão recente; os menus abaixo correspondem ao layout atual).
  • Uma chave de API da sua conta. Criar conta com um e-mail e uma senha; $0,50 de crédito de teste são adicionados quando você abre a conta pela primeira vez.
  • A URL base https://dolphinllm.com/v1 e o ID do modelo uncensored.
Página da conta com o prefixo da chave API ativa, a URL base compatível com OpenAI e um comando curl pronto
Conta → API e saldo: sua chave e a URL base, com um exemplo de curl para copiar.

Conecte em quatro etapas

  1. Abra o API Connections painel (o ícone de plug na barra superior).
  2. Definir API to Chat Completion, então Chat Completion Source to Custom (OpenAI-compatible).
  3. Colar https://dolphinllm.com/v1 into Custom Endpoint (Base URL) e sua chave em Custom API Key.
  4. Clique Connect. Escolha uncensored from Available Models, ou digite-o em Enter a Model ID. O status fica verde quando a primeira mensagem de teste é enviada.

Não escolha Text Completion. Esta API serve apenas o formato de chat (/v1/chat/completions); o próprio modelo de chat é aplicado no servidor, então você não precisa de um modelo instrucional no SillyTavern para esta conexão.

Configurações importantes para roleplay

Abrir AI Response Configuration (o ícone de controles deslizantes).

  • Context Size (tokens): até 262.144. Cada mensagem envia o cartão de personagem, a persona, informações do mundo e todo o histórico de chat que couber, e tudo isso é cobrado como entrada. 16.000 a 32.000 é um bom equilíbrio entre memória e custo para a maioria dos chats; um contexto completo de 262.144 tokens custa cerca de $0,0393 por mensagem em entrada. Aumente para campanhas longas onde o modelo precisa lembrar eventos iniciais.
  • Max Response Length (tokens): 300 a 800 para respostas de chat. A saída é a parte mais cara, a $0,50 por 1M de tokens.
  • Streaming: ativado. O texto aparece conforme é escrito, e você pode interromper uma resposta que não goste antes que ela termine.
  • Temperature: 0,7 a 1,0 para escrita criativa. Top P, penalidades de frequência e presença e strings de parada são passados diretamente para o modelo.

O modelo é ajustado para responder sem recusas de conteúdo para uso adulto lícito, então você raramente precisa de prompts de jailbreak. Um prompt de sistema curto que define o estilo e a perspectiva funciona melhor. A única regra fixa nesta API: sem conteúdo sexual envolvendo menores, independentemente do que diga o cartão de personagem.

Extensões e a chave de teste

Algumas extensões do SillyTavern enviam suas próprias solicitações pela mesma conexão, por exemplo, resumos de chat ou expressões automáticas de personagens quando configuradas para usar a API principal. Com uma chave de teste, que permite 2 solicitações paralelas e 60 por minuto, essas chamadas extras podem colidir com sua mensagem e retornar HTTP 429 com o código concurrency. Desative-os enquanto testa, ou aponte-os para um modelo local. Após o primeiro recarga, a chave permite 8 solicitações paralelas e 300 por minuto.

Grupos de chats enviam uma solicitação por rodada de personagem, então eles usam crédito mais rápido do que chats um-para-um.

Quanto custa uma sessão

O preço é $0.15 por 1M de tokens de entrada e $0.50 por 1M de tokens de saída. Uma mensagem com 6.000 tokens de contexto e histórico e uma resposta de 400 tokens custa:

  • Entrada: 6.000 × $0,15 / 1.000.000 = $0,0009
  • Saída: 400 × $0.50 / 1.000.000 = $0,0002
  • Total: $0.0011 por mensagem, cerca de $1.10 por 1,000 mensagens

À medida que o chat se aproxima de um contexto de 32.000 tokens, uma mensagem custa cerca de $0.005. A tentativa de $0.50 cobre aproximadamente 450 mensagens no tamanho menor. Recargas começam em $50; consulte o página de preços.

Solução de problemas

  • Nenhum modelo na lista. Verifique se a URL termina com /v1 sem barra no final, então digite uncensored no campo ID do modelo manualmente.
  • 401 chave_inválida. A chave foi copiada com um espaço ou foi revogada. Crie uma nova na sua conta.
  • 402 sem_crédito. O saldo está vazio ou o período de teste expirou. Adicione saldo na sua conta.
  • 400 bad_request sobre o contexto. Prompt mais o Comprimento Máximo da Resposta está acima de 262.144 tokens. Reduza o Tamanho do Contexto.
  • 503 upstream_ocupado. Os servidores compartilhados estão cheios por um momento. Deslize ou regenere após alguns segundos; você não é cobrado pelo erro.

Perguntas e respostas

Qual tipo de API do SillyTavern devo escolher?

Conclusão de Chat com a origem Custom (compatível com OpenAI). Conclusão de Texto não é suportada por esta API.

Qual URL base vai para o SillyTavern?

Usar https://dolphinllm.com/v1 como o Endpoint Personalizado, e uncensored como o ID do modelo.

Preciso de um prompt de jailbreak?

Normalmente não. O modelo é ajustado para responder sem recusas de conteúdo para uso adulto legal. Um prompt de sistema curto para estilo é suficiente.

Qual é o tamanho máximo do contexto?

Até 262.144 tokens para prompt mais resposta, cerca de 490 páginas de texto. Contextos maiores custam mais por mensagem, porque todo o histórico é cobrado como entrada: uma janela cheia custa cerca de $0,0393 por mensagem.

Mais guias

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.