Sansürsüz bir API'ye bağlan

Güncellendi

SillyTavern, Chat Completion modu aracılığıyla herhangi bir OpenAI uyumlu sunucuyla iletişim kurar. Bu sayfada doldurulması gereken alanlar, uzun rol yapma için hangi ayarların önemli olduğu ve mesaj başına maliyet gösterilmektedir.

Önemli noktalar

  • Kaynak olarak Özel (OpenAI uyumlu) ile API türü Tamamlama ile kullanın, Metin Tamamlama ile değil.
  • Uç nokta: aşağıda gösterilen temel URL; model kimliği: uncensored.
  • Bağlam Boyutunu 262,144 token veya altında tutun, prompt ve yanıt birlikte.
  • 6.000 tokenluk geçmiş ve 400 tokenluk yanıt içeren bir istek yaklaşık $0.0011 tutarındadır.

Sizin ihtiyacınız olanlar

  • SillyTavern yüklü ve çalışıyor (güncel bir sürüm; aşağıdaki menüler mevcut düzenle eşleşir).
  • Hesabınızdan bir API anahtarı. Kaydol bir e-posta ve şifre ile; hesabı ilk açtığınızda $0.50 deneme kredisi eklenir.
  • Base URL https://dolphinllm.com/v1 ve model kimliği uncensored.
Aktif API anahtarı ön eki, OpenAI uyumlu temel URL ve hazır bir cURL komutu içeren hesap sayfası
Hesap → API ve bakiye: anahtarınız ve temel URL, kopyalanabilir bir cURL örneği.

Dört adımda bağlan

  1. Aç API Connections panel (üst çubuktaki fiş simgesi).
  2. Ayarla API to Chat Completion, sonra Chat Completion Source to Custom (OpenAI-compatible).
  3. Yapıştır https://dolphinllm.com/v1 into Custom Endpoint (Base URL) ve anahtarınızı Custom API Key.
  4. Tıkla Connect. Seçin uncensored from Available Models, veya şuna yazın Enter a Model ID. Durum, ilk test mesajı geçtiğinde yeşile döner.

Metin Tamamlama'yı seçmeyin. Bu API yalnızca sohbet formatını sunar (/v1/chat/completions); modelin kendi sohbet şablonu sunucuda uygulanır, bu nedenle bu bağlantı için SillyTavern'da bir talimat şablonuna ihtiyacınız yoktur.

Rol yapma için önemli ayarlar

Aç AI Response Configuration (kaydırma çubuğu simgesi).

  • Context Size (tokens): 262,144'e kadar. Her mesaj karakter kartını, kişiliği, dünya bilgisini ve sığabilecek kadar sohbet geçmişini gönderir ve bunların hepsi girdi olarak faturalandırılır. Çoğu sohbet için bellek ve maliyet arasında iyi bir denge 16,000 ile 32,000 arasındadır; tam 262,144 token'lık bir bağlamın girdi maliyeti mesaj başına yaklaşık $0.0393'tür. Modelin erken olayları hatırlaması gereken uzun kampanyalar için bunu artırın.
  • Max Response Length (tokens): Sohbet yanıtları için 300 ile 800 arasında. Çıktı, 1M token başına $0.50 ile daha pahalı taraftadır.
  • Streaming: açık. Metn yazıldığı gibi görünür ve beğenmediğiniz bir yanıtı tamamlanmadan durdurabilirsiniz.
  • Temperature: Yaratıcı yazım için 0.7 ile 1.0 arasında. Top P, frekans ve varlık ceza puanları ve durma dizeleri modele iletilir.

Model, yasal yetişkin kullanımı için içerik reddi olmadan cevap verecek şekilde ayarlanmıştır; bu nedenle jailbreak istemlerine nadiren ihtiyacınız olur. Tarzı ve perspektifi belirten kısa bir sistem istemi daha iyi çalışır. Bu API'deki tek sabit kural: karakter kartı ne derse desin, reşit olmayanlarla ilgili cinsel içerik olmamalıdır.

Uzantılar ve deneme anahtarı

Bazı SillyTavern uzantıları, ana API'yi kullanacak şekilde ayarlandığında, kendi isteklerini aynı bağlantı üzerinden gönderir; örneğin sohbet özetleri veya otomatik karakter ifadeleri. 2 paralel istek ve dakikada 60 istek izni veren bir deneme anahtarında, bu ek çağrılar mesajınızla çakışabilir ve HTTP 429 hatası ile birlikte concurrency. Test ederken bunları kapatın veya yerel bir modele işaret edin. İlk yüklemeden sonra anahtar 8 paralel istek ve dakikada 300 istek izni verir.

Grup sohbetleri, karakter dönüşü başına bir istek gönderir, bu nedenle birebir sohbetlerden daha hızlı kredi kullanırlar.

Bir oturumun maliyeti nedir

Fiyatlandırma, 1M giriş token'ı başına $0.15 ve 1M çıkış token'ı başına $0.50'dir. Kart ve geçmiş için 6.000 token'lık bir mesaj ve 400 token'lık bir yanıtın maliyeti:

  • Girdi: 6.000 × $0.15 / 1.000.000 = $0.0009
  • Çıktı: 400 × $0.50 / 1.000.000 = $0.0002
  • Toplam: Mesaj başına $0.0011, yaklaşık 1.000 mesaj için $1.10

Sohbet 32,000 token bağlam penceresine yaklaştıkça, bir mesaj yaklaşık $0.005 tutarındadır. $0.50 deneme süresi daha küçük boyutta yaklaşık 450 mesajı karşılar. Yüklemeler $50'den başlar; bakınız fiyatlandırma sayfası.

Sorun Giderme

  • Listede model yok. URL'nin şununla bittiğini kontrol edin /v1 son eğik çizgi olmadan, ardından uncensored model kimliği alanına elle.
  • 401 geçersiz anahtar. Anahtar bir boşlukla kopyalanmış veya iptal edilmiş. Hesabınızda yeni bir tane oluşturun.
  • 402 kredi yok. Bakiye boş veya deneme süresi dolmuş. Hesabınızda yükleme yapın.
  • Bağlam nedeniyle 400 bad_request. Prompt + Maks Yanıt Uzunluğu 262,144 token'ı aşar. Bağlam Boyutunu düşürün.
  • 503 üst hizmet meşgul. Paylaşılan sunucular şu anda dolu. Birkaç saniye sonra kaydırın veya yeniden oluşturmayı deneyin; hata durumunda ücretlendirilmezsiniz.

Sorular ve yanıtlar

Hangi SillyTavern API türünü seçmeliyim?

Kaynak olarak Özel (OpenAI-uyumlu) ile Sohbet Tamamlama. Bu API, Metin Tamamlama'yı desteklemez.

SillyTavern için hangi base URL girilir?

Kullan https://dolphinllm.com/v1 Özel Uç Nokta olarak ve uncensored model kimliği olarak.

Jailbreak istemi kullanmam gerekiyor mu?

Genellikle hayır. Model, yasal yetişkin kullanım için içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır. Stil için kısa bir sistem prompt'u yeterlidir.

Bağlam ne kadar büyük olabilir?

İstem ve yanıt için 262,144 token'a kadar, yaklaşık 490 sayfa metin. Daha büyük bağlamlar mesaj başına daha pahalıya mal olur çünkü tüm geçmiş girdi olarak faturalandırılır: tam bir pencere mesaj başına yaklaşık $0.0393'e mal olur.

Daha fazla kılavuz

Anahtarınız bir form ile bir adım uzaktadır

Bir hesap oluşturun, anahtarı kopyalayın, base URL'i değiştirin. Kurulum bu kadar basit.