Połącz SillyTavern z API bez cenzury

Czego potrzebujesz

• SillyTavern zainstalowany i uruchomiony (nowsza wersja; menu poniżej odpowiada aktualnemu układowi).
• Klucz API z Twojego konta. Zarejestruj się adres e-mail i hasło; przy pierwszym otwarciu konta dodawane jest 0,50 USD kredytu próbnej.
• Adres bazowy https://dolphinllm.com/v1 i identyfikator modelu uncensored.

Połącz w czterech krokach

1. Otwórz API Connections panel (ikona wtyczki w górnym pasku).
2. Ustaw API to Chat Completion, następnie Chat Completion Source to Custom (OpenAI-compatible).
3. Wklej https://dolphinllm.com/v1 into Custom Endpoint (Base URL) i swój klucz do Custom API Key.
4. Kliknij Connect, który zwraca ten sam pojedynczy model. Wybierz uncensored from Available Models, lub wpisz go do Enter a Model ID, który zwraca ten sam pojedynczy model. Status zmienia się na zielony, gdy pierwsza wiadomość testowa przejdzie pomyślnie.

Nie wybieraj Text Completion. To API obsługuje wyłącznie format czatu (/v1/chat/completions); szablon czatu modelu jest stosowany po stronie serwera, więc nie potrzebujesz szablonu instruktażowego w SillyTavern dla tego połączenia.

Ustawienia istotne dla roleplay

Otwórz AI Response Configuration (ikona suwaków).

• Context Size (tokens): do 262,144. Każda wiadomość wysyła kartę postaci, personę, informacje o świecie i tyle historii czatu, ile się zmieści, a wszystko to jest rozliczane jako dane wejściowe. 16,000 do 32,000 to dobry balans między pamięcią a kosztem dla większości czatów; pełny kontekst 262,144 tokenów kosztuje około $0.0393 na wiadomość w danych wejściowych. Podnieś to dla długich kampanii, w których model musi pamiętać wczesne wydarzenia.
• Max Response Length (tokens): 300 do 800 na odpowiedzi w czacie. Wyjście jest droższe, wyceniane na $0.50 za 1M tokenów.
• Streaming: włączony. Tekst pojawia się w miarę pisania, a możesz przerwać odpowiedź, która Ci się nie podoba, zanim się zakończy.
• Temperature: 0,7 do 1,0 dla twórczego pisania. Top P, kary za częstotliwość i obecność oraz ciągi stop są przekazywane do modelu.

Model jest dostrojony do odpowiadania bez odmów treści dla prawnego użytku dorosłych, więc rzadko potrzebujesz promptów typu jailbreak. Krótki prompt systemowy, który określa styl i perspektywę, działa lepiej. Jedna stała zasada w tym API: brak treści seksualnych z udziałem małoletnich, niezależnie od tego, co mówi karta postaci.

Rozszerzenia i klucz próbny

Niektóre rozszerzenia SillyTavern wysyłają własne żądania przez to samo połączenie, np. podsumowania czatu lub automatyczne ekspresje postaci, gdy są skonfigurowane do korzystania z głównego API. Na kluczu próbującym, który pozwala na 2 równoległe żądania i 60 na minutę, dodatkowe wywołania mogą kolidować z Twoją wiadomością i zwracać HTTP 429 z kodem concurrency, który zwraca ten sam pojedynczy model. Wyłącz je podczas testów lub wskaż je na lokalny model. Po pierwszym doładowaniu klucz pozwala na 8 równoległych żądań i 300 na minutę.

Czaty grupowe wysyłają jedno żądanie na turę postaci, więc zużywają kredyt szybciej niż czaty jeden-do-jeden.

Ile kosztuje sesja

Cena to $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych. Wiadomość z 6,000 tokenami karty i historii oraz odpowiedzią 400-tokenową kosztuje:

• Wejście: 6,000 × $0.15 / 1,000,000 = $0.0009
• Wyjście: 400 × $0.50 / 1,000,000 = $0.0002
• Razem: $0.0011 za wiadomość, około $1.10 za 1,000 wiadomości

As the chat grows toward a 32,000-token context, a message costs about $0.005. The $0.50 trial covers roughly 450 messages at the smaller size. Top-ups start at $50; see the strona z cenami.

Rozwiązywanie problemów

• Brak modeli na liście. Upewnij się, że URL kończy się na /v1 bez końcowego ukośnika, a następnie wpisz uncensored do pola ID modelu ręcznie.
• 401 nieprawidłowy klucz. Klucz został skopiowany ze spacją lub został unieważniony. Utwórz nowy w swoim koncie.
• 402 brak środków. Saldo jest puste lub okres próbny wygasł. Doładuj konto.
• 400 bad_request dotyczący kontekstu. Prompt plus Maksymalna Długość Odpowiedzi przekracza 262 144 tokenów. Zmniejsz Rozmiar Kontekstu.
• 503 serwer źródłowy obciążony. Serwery współdzielone są chwilowo przeciążone. Przewiń lub wygeneruj ponownie po kilku sekundach; błąd nie jest rozliczany.