Connectez SillyTavern à une API non censurée

Ce dont vous avez besoin

• SillyTavern installé et en cours d'exécution (une version récente ; les menus ci-dessous correspondent à la mise en page actuelle).
• Une clé API depuis votre compte. S'inscrire avec un e-mail et un mot de passe ; 0,50 $ de crédit d'essai sont ajoutés lorsque vous ouvrez le compte pour la première fois.
• L'URL de base https://dolphinllm.com/v1 et l'ID du modèle uncensored.

Connectez-vous en quatre étapes

1. Ouvrez le API Connections panneau (l'icône de prise dans la barre supérieure).
2. Définir API to Chat Completion, puis Chat Completion Source to Custom (OpenAI-compatible).
3. Coller https://dolphinllm.com/v1 into Custom Endpoint (Base URL) et votre clé dans Custom API Key.
4. Cliquez Connect. Choisissez uncensored from Available Models, ou tapez-le dans Enter a Model ID. Le statut devient vert lorsque le premier message de test passe.

Ne pas choisir Text Completion. Cette API sert uniquement le format chat (/v1/chat/completions); le propre modèle de chat du modèle est appliqué sur le serveur, donc vous n'avez pas besoin d'un modèle instruct dans SillyTavern pour cette connexion.

Paramètres importants pour le jeu de rôle

Ouvrir AI Response Configuration (l'icône curseurs).

• Context Size (tokens): jusqu'à 262 144. Chaque message envoie la carte de personnage, le persona, les informations mondiales et autant d'historique de conversation que possible, et tout cela est facturé en entrée. 16 000 à 32 000 est un bon équilibre entre mémoire et coût pour la plupart des conversations ; un contexte complet de 262 144 tokens coûte environ 0,0393 $ par message en entrée. Augmentez-le pour les longues campagnes où le modèle doit se souvenir des événements précoces.
• Max Response Length (tokens): De 300 à 800 pour les réponses de chat. La sortie est le côté coûteux à 0,50 $ par 1M de tokens.
• Streaming: activé. Le texte apparaît au fur et à mesure de son écriture, et vous pouvez arrêter une réponse qui ne vous convient pas avant sa fin.
• Temperature: 0,7 à 1,0 pour la création littéraire. Top P, pénalités de fréquence et de présence et chaînes d'arrêt sont transmis au modèle.

Le modèle est ajusté pour répondre sans refus de contenu pour un usage adulte légal, donc vous avez rarement besoin d'invites de jailbreak. Une courte invite système qui définit le style et la perspective fonctionne mieux. La règle fixe sur cette API : pas de contenu sexuel impliquant des mineurs, quelle que soit la fiche personnage.

Extensions et la clé d'essai

Certaines extensions SillyTavern envoient leurs propres requêtes via la même connexion, par exemple les résumés de chat ou les expressions de personnage automatiques lorsqu'elles sont configurées pour utiliser l'API principale. Avec une clé d'essai, qui permet 2 requêtes parallèles et 60 par minute, ces appels supplémentaires peuvent entrer en collision avec votre message et retourner HTTP 429 avec le code concurrency. Désactivez-les pendant vos tests, ou pointez-les vers un modèle local. Après le premier rechargement, la clé permet 8 requêtes parallèles et 300 par minute.

Les chats de groupe envoient une requête par tour de personnage, ils utilisent donc le crédit plus rapidement que les chats un à un.

Combien coûte une session

Le tarif est de 0,15 $ par 1M de tokens d'entrée et de 0,50 $ par 1M de tokens de sortie. Un message avec 6 000 tokens de carte et d'historique et une réponse de 400 tokens coûte :

• Entrée : 6 000 × 0,15 $ / 1 000 000 = 0,0009 $
• Sortie : 400 × $0.50 / 1,000,000 = $0.0002
• Total : $0.0011 par message, environ $1.10 pour 1,000 messages

As the chat grows toward a 32,000-token context, a message costs about $0.005. The $0.50 trial covers roughly 450 messages at the smaller size. Top-ups start at $50; see the page des tarifs.

Dépannage

• Aucun modèle dans la liste. Vérifiez que l'URL se termine par /v1 sans barre oblique finale, puis tapez uncensored dans le champ ID du modèle manuellement.
• 401 clé_invalid. La clé a été copiée avec un espace ou a été révoquée. Créez-en une nouvelle dans votre compte.
• 402 pas_de_crédit. Le solde est vide ou l'essai a expiré. Rechargez votre compte.
• 400 bad_request à propos du contexte. Prompt plus longueur maximale de réponse est supérieur à 262 144 tokens. Réduisez la taille du contexte.
• 503 amont_surchargé. Les serveurs partagés sont temporairement pleins. Glissez ou régénérez après quelques secondes ; vous n'êtes pas facturé pour cette erreur.