Connetti SillyTavern a un'API senza censura
Aggiornato

SillyTavern si connette a qualsiasi server compatibile con OpenAI tramite la modalità Chat Completion. Questa pagina mostra quali campi compilare, quali impostazioni sono importanti per il roleplay lungo e quanto costa ogni messaggio.
Punti chiave
- Usa il tipo di API Chat Completion con la sorgente Custom (compatibile con OpenAI), non Text Completion.
- Endpoint: l'URL base mostrato di seguito; ID del modello:
uncensored. - Mantieni la dimensione del contesto a o sotto i 262.144 token, prompt più risposta.
- Un messaggio con 6.000 token di cronologia e una risposta di 400 token costa circa $0.0011.
Di cosa hai bisogno
- SillyTavern installato e in esecuzione (una versione recente; i menu seguenti corrispondono al layout attuale).
- Una chiave API dal tuo account. Registrati con un'email e una password; $0.50 di credito di prova viene aggiunto quando apri l'account per la prima volta.
- L'URL di base
https://dolphinllm.com/v1e l'ID del modellouncensored.

Connetti in quattro passaggi
- Apri il API Connections panel (l'icona della presa nella barra in alto).
- Imposta API to Chat Completion, poi Chat Completion Source to Custom (OpenAI-compatible).
- Incolla
https://dolphinllm.com/v1into Custom Endpoint (Base URL) e la tua chiave in Custom API Key. - Clicca Connect. Scegli
uncensoredfrom Available Models, o digitalo in Enter a Model ID. Lo stato diventa verde quando il primo messaggio di test viene inviato.
Non scegliere Text Completion. Questa API serve solo il formato chat (/v1/chat/completions) ; il modello applica il suo stesso template di chat sul server, quindi non hai bisogno di un template instruct in SillyTavern per questa connessione.
Impostazioni importanti per il roleplay
Apri AI Response Configuration (l'icona degli slider).
- Context Size (tokens): fino a 262,144. Ogni messaggio invia la scheda personaggio, la personalità, le informazioni sul mondo e tutta la cronologia delle chat che riesce a contenere, e tutto viene fatturato come input. 16,000 a 32,000 è un buon equilibrio tra memoria e costo per la maggior parte delle chat; un contesto completo di 262,144 token costa circa $0.0393 per messaggio come input. Aumentalo per campagne lunghe in cui il modello deve ricordare eventi iniziali.
- Max Response Length (tokens): Da 300 a 800 per le risposte di chat. L'output è la parte più costosa a $0.50 per 1M token.
- Streaming: attivo. Il testo appare mentre viene scritto e puoi interrompere una risposta che non ti piace prima che finisca.
- Temperature: 0.7 a 1.0 per la scrittura creativa. Top P, penalità di frequenza e presenza e stringe di stop vengono passati al modello.
Il modello è ottimizzato per rispondere senza rifiuti di contenuto per uso adulto legale, quindi raramente hai bisogno di prompt di jailbreak. Un breve prompt di sistema che imposta lo stile e la prospettiva funziona meglio. L'unica regola fissa su questa API: nessun contenuto sessuale che coinvolga minori, indipendentemente da ciò che dice la character card.
Estensioni e la chiave di prova
Alcune estensioni di SillyTavern inviano le proprie richieste tramite la stessa connessione, ad esempio riepiloghi della chat o espressioni automatiche del personaggio quando sono impostate per utilizzare l'API principale. Con una chiave di prova, che consente 2 richieste parallele e 60 al minuto, queste chiamate extra possono entrare in collisione con il tuo messaggio e restituire HTTP 429 con il codice concurrency. Disattivali mentre testi, oppure puntali a un modello locale. Dopo la prima ricarica, la chiave consente 8 richieste parallele e 300 al minuto.
Le chat di gruppo inviano una richiesta per ogni turno di personaggio, quindi usano il credito più velocemente delle chat uno-a-uno.
Quanto costa una sessione
I prezzi sono $0.15 per 1M token di input e $0.50 per 1M token di output. Un messaggio con 6.000 token di carta e cronologia e una risposta di 400 token costa:
- Input: 6.000 × $0,15 / 1.000.000 = $0,0009
- Output: 400 × $0.50 / 1.000.000 = $0,0002
- Totale: $0.0011 per messaggio, circa $1.10 per 1,000 messaggi
As the chat grows toward a 32,000-token context, a message costs about $0.005. The $0.50 trial covers roughly 450 messages at the smaller size. Top-ups start at $50; see the pagina dei prezzi.
Risoluzione dei problemi
- Nessun modello nella lista. Verifica che l'URL termini con
/v1senza barra finale, poi digitauncensorednel campo ID modello manualmente. - 401 chiave_non_valida. La chiave è stata copiata con uno spazio o è stata revocata. Creane una nuova nel tuo account.
- 402 credito_insufficiente. Il saldo è vuoto o la prova è scaduta. Aggiungi fondi nel tuo account.
- 400 bad_request riguardo al contesto. Prompt più lunghezza massima della risposta supera i 262.144 token. Riduci la dimensione del contesto.
- 503 upstream_occupato. I server condivisi sono temporaneamente pieni. Scorri o rigenera dopo qualche secondo; non ti vengono addebitati costi per l'errore.
Domande e risposte
Quale tipo di API SillyTavern devo scegliere?
Chat Completion con la sorgente Custom (compatibile con OpenAI). La Text Completion non è supportata da questa API.
Quale URL base inserire in SillyTavern?
Usa https://dolphinllm.com/v1 come Endpoint personalizzato, e uncensored come ID del modello.
Serve un prompt di jailbreak?
Di solito no. Il modello è ottimizzato per rispondere senza rifiuti di contenuto per un uso adulto lecito. Un breve prompt di sistema per lo stile è sufficiente.
Qual è la dimensione massima del contesto?
Fino a 262,144 token per prompt più risposta, circa 490 pagine di testo. Contesti più grandi costano di più per messaggio, perché l'intera cronologia viene fatturata come input: una finestra completa costa circa $0.0393 per messaggio.
Altre guide
Apri gli endpoint API di WebUI: connetti un LLM senza censuraConnetti Open WebUI all'API Dolphin LLM: l'URL di base, la chiave e l'ID del modello, il pannello di amministrazione e le configurazioni Docker, le impostazioni da modificare, gli errori comuni e il costo di una chat.
Aggiungi Dolphin LLM a LibreChat come endpoint personalizzatoAggiungi l'API Dolphin LLM a LibreChat: un endpoint personalizzato in librechat.yaml con URL base, chiave e modello, configurazione Docker, chiavi per utente, generazione del titolo e limiti.
Come usare un LLM senza accesso per un accesso immediatoScopri come utilizzare un LLM senza ostacoli di accesso. Ottieni accesso immediato all'API di Dolphin LLM con un semplice indirizzo email. Nessun numero di telefono, nessuna carta di credito necessaria per la prova.