Conecta SillyTavern a una API sin censura

Lo que necesitas

• SillyTavern instalado y en ejecución (una versión reciente; los menús a continuación coinciden con la disposición actual).
• Una clave API de tu cuenta. Registrarse con un correo electrónico y una contraseña; se añaden $0.50 de crédito de prueba cuando abres la cuenta por primera vez.
• La URL base https://dolphinllm.com/v1 y el ID del modelo uncensored.

Conecta en cuatro pasos

1. Abre el API Connections panel (el icono de enchufe en la barra superior).
2. Establecer API to Chat Completion, luego Chat Completion Source to Custom (OpenAI-compatible).
3. Pegar https://dolphinllm.com/v1 into Custom Endpoint (Base URL) y tu clave en Custom API Key.
4. Haz clic Connect. Elige uncensored from Available Models, o escríbelo en Enter a Model ID. El estado se vuelve verde cuando el primer mensaje de prueba se envía correctamente.

No elijas Finalización de texto. Esta API solo sirve el formato de chat (/v1/chat/completions); la plantilla de chat propia del modelo se aplica en el servidor, por lo que no necesitas una plantilla de instrucción en SillyTavern para esta conexión.

Configuraciones importantes para el roleplay

Abrir AI Response Configuration (el icono de los deslizadores).

• Context Size (tokens): hasta 262,144. Cada mensaje envía la tarjeta de personaje, la personalidad, la información del mundo y tanto historial de chat como quepa, y todo ello se factura como entrada. 16,000 a 32,000 es un buen equilibrio entre memoria y coste para la mayoría de los chats; un contexto completo de 262,144 tokens cuesta aproximadamente $0.0393 por mensaje en entrada. Auméntalo para campañas largas donde el modelo debe recordar eventos tempranos.
• Max Response Length (tokens): 300 a 800 para respuestas de chat. La salida es la parte más costosa a $0.50 por 1M de tokens.
• Streaming: activado. El texto aparece a medida que se escribe, y puedes detener una respuesta que no te guste antes de que termine.
• Temperature: 0.7 a 1.0 para escritura creativa. Top P, penalizaciones de frecuencia y presencia y cadenas de parada se pasan al modelo.

El modelo está ajustado para responder sin rechazos de contenido para uso adulto lícito, por lo que rara vez necesitas prompts de jailbreak. Un prompt de sistema corto que establezca el estilo y la perspectiva funciona mejor. La única regla fija en esta API: no contenido sexual que involucre a menores, independientemente de lo que diga la tarjeta de personaje.

Extensiones y la clave de prueba

Algunas extensiones de SillyTavern envían sus propias solicitudes a través de la misma conexión, por ejemplo, resúmenes de chat o expresiones automáticas de personajes cuando están configuradas para usar la API principal. Con una clave de prueba, que permite 2 solicitudes paralelas y 60 por minuto, estas llamadas adicionales pueden colisionar con tu mensaje y devolver HTTP 429 con el código concurrency. Desactívalos mientras pruebas, o apunta a un modelo local. Después de la primera recarga, la clave permite 8 solicitudes paralelas y 300 por minuto.

Los chats grupales envían una solicitud por turno de personaje, por lo que usan crédito más rápido que los chats uno a uno.

Cuánto cuesta una sesión

La tarifa es de $0.15 por cada 1M de tokens de entrada y $0.50 por cada 1M de tokens de salida. Un mensaje con 6,000 tokens de tarjeta e historial y una respuesta de 400 tokens cuesta:

• Entrada: 6,000 × $0.15 / 1,000,000 = $0.0009
• Salida: 400 × $0.50 / 1,000,000 = $0.0002
• Total: $0.0011 por mensaje, aproximadamente $1.10 por 1,000 mensajes

A medida que el chat crece hacia una ventana de contexto de 32,000 tokens, un mensaje cuesta aproximadamente $0.005. La prueba de $0.50 cubre aproximadamente 450 mensajes en el tamaño más pequeño. Las recargas comienzan en $50; consulta la página de precios.

Solución de problemas

• No hay modelos en la lista. Verifica que la URL termine en /v1 sin barra final, luego escribe uncensored en el campo del ID del modelo a mano.
• 401 clave_no_válida. La clave se copió con un espacio o fue revocada. Crea una nueva en tu cuenta.
• 402 sin_crédito. El saldo está vacío o la prueba expiró. Recarga en tu cuenta.
• 400 bad_request sobre el contexto. Prompt más Longitud Máxima de Respuesta está por encima de 262,144 tokens. Reduce el Tamaño del Contexto.
• 503 upstream_ocupado. Los servidores compartidos están saturados por un momento. Desliza o regenera después de unos segundos; no se te cobrará por el error.