Hubungkan ke API tanpa sensor

Diperbarui

SillyTavern terhubung ke server apa pun yang kompatibel dengan OpenAI melalui mode Chat Completion. Halaman ini menunjukkan bidang mana yang harus diisi, pengaturan mana yang penting untuk roleplay panjang, dan berapa biaya per pesan.

Poin kunci

  • Gunakan tipe API Chat Completion dengan sumber Custom (OpenAI-compatible), bukan Text Completion.
  • Endpoint: URL dasar yang ditampilkan di bawah; ID model: uncensored.
  • Jaga Ukuran Konteks pada atau di bawah 262.144 token, prompt ditambah respons.
  • Pesan dengan 6.000 token riwayat dan balasan 400 token biayanya sekitar $0.0011.

Yang Anda butuhkan

  • SillyTavern terpasang dan berjalan (versi terbaru; menu di bawah ini sesuai dengan tata letak saat ini).
  • Kunci API dari akun Anda. Daftar dengan email dan kata sandi; $0.50 kredit percobaan ditambahkan saat Anda pertama kali membuka akun.
  • URL dasar https://dolphinllm.com/v1 dan ID model uncensored.
Halaman akun dengan awalan kunci API yang aktif, URL dasar kompatibel OpenAI, dan perintah curl siap pakai
Akun → API & saldo: kunci Anda dan URL dasar, dengan contoh curl yang bisa disalin.

Hubungkan dalam empat langkah

  1. Buka API Connections panel (ikon steker di bilah atas).
  2. Atur API to Chat Completion, lalu Chat Completion Source to Custom (OpenAI-compatible).
  3. Tempel https://dolphinllm.com/v1 into Custom Endpoint (Base URL) dan kunci Anda ke dalam Custom API Key.
  4. Klik Connect. Pilih uncensored from Available Models, atau ketikkan ke dalam Enter a Model ID. Status berubah menjadi hijau ketika pesan uji pertama berhasil dikirim.

Jangan pilih Penyelesaian Teks. API ini hanya melayani format obrolan (/v1/chat/completions); template obrolan model sendiri diterapkan di server, jadi Anda tidak memerlukan template instruksi di SillyTavern untuk koneksi ini.

Pengaturan yang penting untuk roleplay

Buka AI Response Configuration (ikon penggeser).

  • Context Size (tokens): hingga 262,144. Setiap pesan mengirim kartu karakter, persona, info dunia, dan sebanyak mungkin riwayat obrolan yang muat, dan semuanya ditagih sebagai input. 16,000 hingga 32,000 adalah keseimbangan yang baik antara memori dan biaya untuk sebagian besar obrolan; konteks penuh 262,144-token berharga sekitar $0.0393 per pesan untuk input. Naikkan untuk kampanye panjang di mana model harus mengingat peristiwa awal.
  • Max Response Length (tokens): 300 hingga 800 untuk balasan chat. Output adalah sisi yang lebih mahal dengan harga $0.50 per 1M token.
  • Streaming: aktif. Teks muncul saat ditulis, dan Anda dapat menghentikan balasan yang tidak Anda sukai sebelum selesai.
  • Temperature: 0,7 hingga 1,0 untuk penulisan kreatif. Top P, penalti frekuensi dan kehadiran, serta string henti diteruskan ke model.

Model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, sehingga Anda jarang memerlukan prompt jailbreak. Prompt sistem singkat yang menetapkan gaya dan perspektif bekerja lebih baik. Satu aturan tetap di API ini: tidak ada konten seksual yang melibatkan anak di bawah umur, apa pun yang dikatakan kartu karakter.

Ekstensi dan kunci uji coba

Beberapa ekstensi SillyTavern mengirimkan permintaan mereka sendiri melalui koneksi yang sama, misalnya ringkasan chat atau ekspresi karakter otomatis ketika diatur untuk menggunakan API utama. Pada kunci uji coba yang mengizinkan 2 permintaan paralel dan 60 per menit, panggilan tambahan ini dapat bertabrakan dengan pesan Anda dan mengembalikan HTTP 429 dengan kode concurrency. Matikan sementara saat Anda menguji, atau arahkan ke model lokal. Setelah pengisian awal pertama, kunci tersebut mengizinkan 8 permintaan paralel dan 300 per menit.

Obrolan grup mengirim satu permintaan per putaran karakter, sehingga menggunakan kredit lebih cepat daripada obrolan satu-ke-satu.

Berapa biaya sesi

Harga adalah $0.15 per 1M token input dan $0.50 per 1M token output. Pesan dengan 6.000 token kartu dan riwayat serta balasan 400 token biayanya:

  • Input: 6.000 × $0,15 / 1.000.000 = $0,0009
  • Output: 400 × $0.50 / 1.000.000 = $0,0002
  • Total: $0.0011 per pesan, sekitar $1.10 per 1.000 pesan

Seiring pertumbuhan percakapan menuju konteks 32.000 token, satu pesan memakan biaya sekitar $0.005. Coba senilai $0.50 mencakup sekitar 450 pesan dengan ukuran yang lebih kecil. Top-up dimulai dari $50; lihat halaman harga.

Pemecahan Masalah

  • Tidak ada model dalam daftar. Periksa bahwa URL berakhir dengan /v1 tanpa garis miring di akhir, lalu ketik uncensored ke bidang ID model secara manual.
  • 401 kunci_tidak_valid. Kunci disalin dengan spasi atau telah dicabut. Buat yang baru di akun Anda.
  • 402 tidak_ada_kredit. Saldo kosong atau masa percobaan telah habis. Top up di akun Anda.
  • 400 bad_request tentang konteks. Prompt ditambah Panjang Respons Maks di atas 262.144 token. Turunkan Ukuran Konteks.
  • 503 upstream_sibuk. Server bersama sedang penuh sesaat. Geser atau regenerasi setelah beberapa detik; Anda tidak dikenakan biaya untuk kesalahan tersebut.

Pertanyaan dan jawaban

Jenis API SillyTavern mana yang harus saya pilih?

Chat Completion dengan sumber Custom (kompatibel OpenAI). Text Completion tidak didukung oleh API ini.

URL dasar apa yang dimasukkan ke SillyTavern?

Gunakan https://dolphinllm.com/v1 sebagai Custom Endpoint, dan uncensored sebagai ID model.

Apakah saya perlu prompt jailbreak?

Biasanya tidak. Model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Prompt sistem singkat untuk gaya sudah cukup.

Seberapa besar konteksnya?

Hingga 262,144 token untuk prompt ditambah balasan, sekitar 490 halaman teks. Konteks yang lebih besar berharga lebih mahal per pesan, karena seluruh riwayat ditagih sebagai input: jendela penuh berharga sekitar $0.0393 per pesan.

Lebih banyak panduan

Kunci Anda hanya satu formulir jauhnya

Buat akun, salin kunci, ubah URL dasar. Itulah seluruh proses pengaturannya.