Підключіть SillyTavern до API без цензури

Що вам потрібно

• SillyTavern встановлено та запущено (остання версія; меню нижче відповідають поточному інтерфейсу).
• Ключ API з вашого облікового запису. Зареєструватися за допомогою електронної пошти та пароля; $0.50 пробного кредиту додається при першому відкритті акаунту.
• Базовий URL https://dolphinllm.com/v1 та ідентифікатор моделі uncensored.

Підключення за чотири кроки

1. Відкрийте API Connections панель (значок роз'єму на верхній панелі).
2. Встановіть API to Chat Completion, потім Chat Completion Source to Custom (OpenAI-compatible).
3. Вставити https://dolphinllm.com/v1 into Custom Endpoint (Base URL) та ваш ключ у Custom API Key.
4. Натисніть Connect. Оберіть uncensored from Available Models, або введіть його в Enter a Model ID. Статус стає зеленим, коли перше тестове повідомлення проходить успішно.

Не обирайте Text Completion. Цей API працює лише в форматі чату (/v1/chat/completions); шаблон чату самої моделі застосовується на сервері, тому вам не потрібен інструкційний шаблон у SillyTavern для цього підключення.

Налаштування, важливі для рольової гри

Відкрити AI Response Configuration (значок повзунків).

• Context Size (tokens): до 262,144. Кожне повідомлення надсилає картку персонажа, персону, світову інформацію та стільки історії чату, скільки вміщується, і все це рахується як вхідні дані. 16,000–32,000 — хороший баланс між пам’яттю та вартістю для більшості чатів; повний контекст на 262,144 токенів коштує приблизно $0.0393 за повідомлення у вхідних даних. Збільшуйте його для довгих кампаній, де моделі потрібно пам’ятати раніші події.
• Max Response Length (tokens): 300–800 для чат-відповідей. Вивід є дорогим: $0.50 за 1M токенів.
• Streaming: текст з'являється по мірі написання, і ви можете зупинити відповідь, яка вам не подобається, до її завершення.
• Temperature: 0.7 до 1.0 для творчого письма. Top P, штрафи за частоту та наявність та стоп-рядки передаються безпосередньо моделі.

Модель налаштована на відповіді без відмов у вмісті для законного дорослого використання, тому вам рідко потрібні jailbreak-промпти. Короткий системний промпт, що задає стиль та перспективу, працює краще. Єдине незмінне правило цього API: заборона сексуального контенту із залученням неповнолітніх, незалежно від того, що написано в картці персонажа.

Розширення та пробний ключ

Деякі розширення SillyTavern надсилають власні запити через те саме підключення, наприклад, для підсумків чату або автоматичних виразів персонажів, якщо вони налаштовані на використання основного API. На пробному ключі, який дозволяє 2 паралельні запити та 60 за хвилину, ці додаткові виклики можуть перетинатися з вашим повідомленням і повертати HTTP 429 з кодом concurrency. Вимкніть їх під час тестування або вкажіть на локальну модель. Після першого поповнення ключ дозволяє 8 паралельних запитів і 300 за хвилину.

Групові чати надсилають один запит на кожен хід персонажа, тому кредит у них витрачається швидше, ніж у персональних чатах.

Скільки коштує сесія

Ціна становить $0.15 за 1M входних токенів та $0.50 за 1M вихідних токенів. Повідомлення з 6,000 токенами картки та історії та відповіддю з 400 токенів коштує:

• Вхідні дані: 6,000 × $0.15 / 1,000,000 = $0.0009
• Вивід: 400 × $0.50 / 1,000,000 = $0.0002
• Загальна вартість: $0.0011 за повідомлення, приблизно $1.10 за 1,000 повідомлень

Оскільки чат наближається до контексту в 32 000 токенів, повідомлення коштує близько $0.005. Пробний баланс $0.50 покриває приблизно 450 повідомлень у меншому розмірі. Поповнення починаються з $50; див. сторінка з цінами.

Усунення неполадок

• У списку немає моделей. Переконайтеся, що URL закінчується на /v1 без фінального слеша, потім введіть uncensored вручну в поле ідентифікатора моделі.
• 401 недійсний ключ. Ключ було скопійовано з пробілом або було анульовано. Створіть новий у своєму акаунті.
• 402 недостатньо коштів. Баланс порожній або trial закінчився. Поповніть баланс у своєму акаунті.
• 400 bad_request щодо контексту. Сума довжини запиту та максимальної відповіді перевищує 262 144 токенів. Зменшіть розмір контексту.
• 503 бекенд завантажений. Спільні сервери тимчасово перевантажені. Оновіть або згенеруйте відповідь через кілька секунд; ви не сплачуєте за помилку.