Poin utama
- URL dasar adalah https://api.dolphinllm.com/v1 dan satu-satunya ID model adalah uncensored.
- Tambahkan di bawah Pengaturan Admin, Koneksi, API OpenAI, atau berikan sebagai variabel lingkungan Docker.
- Uji dengan curl terlebih dahulu. Jika curl berhasil, masalah lainnya ada di pengaturan Open WebUI.
- Saldo prabayar uji coba $0,50 cukup untuk ratusan giliran obrolan normal.
Nilai yang Anda butuhkan
Open WebUI hanya membutuhkan tiga hal dari layanan ini. Yang pertama adalah URL dasar, https://api.dolphinllm.com/v1. Yang kedua adalah kunci API dari akun Anda. Yang ketiga adalah ID model, uncensored, yang dibaca oleh Open WebUI dari daftar model secara otomatis setelah koneksi berfungsi.
Dua endpoint yang terlibat. GET /v1/models mengisi dropdown model, dan POST /v1/chat/completions menangani setiap pesan yang Anda kirim. Tidak ada yang lain yang diperlukan untuk obrolan. Ini adalah API teks, sehingga fitur gambar, audio, dan embedding dari Open WebUI tidak memiliki apa pun untuk dihubungkan di sini.
| Bidang di Open WebUI | Nilai |
|---|---|
| URL Dasar API | https://api.dolphinllm.com/v1 |
| Kunci API | Kunci Anda dari halaman kunci API |
| Model | uncensored |
Anda tidak memerlukan kartu untuk mencobanya. Setelah mendaftar, Anda dapat mengklaim saldo prabayar uji coba $0,50 dengan satu klik di halaman kunci. Saldo ini berlaku selama 7 hari.
Tambahkan koneksi di panel admin
Jika Open WebUI sudah berjalan, ini adalah rute tercepat.
- Masuk sebagai admin dan buka Pengaturan Admin, lalu Koneksi.
- Di bagian API OpenAI, klik tombol tambah untuk menambahkan koneksi.
- Tempelkan
https://api.dolphinllm.com/v1sebagai URL dan kunci Anda sebagai nilai kunci. - Gunakan tombol verifikasi di samping bidang. Konfirmasi hijau berarti daftar model telah kembali.
- Simpan, buka obrolan baru, dan pilih
uncensoreddari pemilih model.
Nama menu berubah sedikit antar rilis Open WebUI. Jika Anda tidak dapat menemukan Koneksi, cari di pengaturan untuk "OpenAI". Bidangnya selalu sama: URL, kunci, dan terkadang filter model.
Konfigurasikan dengan variabel lingkungan Docker
Untuk instalasi baru, Anda dapat melewati layar admin dan melewatkan koneksi saat kontainer dimulai. Open WebUI membaca OPENAI_API_BASE_URL dan OPENAI_API_KEY saat startup.
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
-e OPENAI_API_KEY="YOUR_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:mainKemudian buka http://localhost:3000, buat akun pertama (yang menjadi admin) dan model seharusnya sudah terdaftar. Simpan kunci di luar riwayat shell jika mesinnya dibagikan: masukkan ke file env dan gunakan --env-file sebagai gantinya.
Beberapa versi Open WebUI memperlakukan variabel ini hanya sebagai nilai awal. Setelah Anda menyimpan koneksi di UI, nilai yang disimpan menang. Jika Anda mengubah variabel dan tidak ada perubahan, edit koneksi di Pengaturan Admin sebagai gantinya.
Menjalankannya untuk beberapa orang
Open WebUI memiliki akun pengguna sendiri, jadi satu instalasi dapat melayani satu rumah tangga atau tim kecil sementara hanya satu kunci API yang ada di server. Itu nyaman tetapi juga berisiko: setiap pengguna menghabiskan dari saldo yang sama. Putuskan siapa yang mendapat akun, dan periksa X-Balance-USD sesekali, agar bermain peran panjang tidak mengejutkan Anda.
Simpan kunci di variabel lingkungan atau file rahasia, jangan di tangkapan layar atau dokumen bersama. Kunci Anda ada di halaman kunci API; jika Anda curiga bocor, ganti segera di Open WebUI setelah Anda memiliki yang baru. Untuk instalasi publik, letakkan di balik HTTPS dan matikan pendaftaran terbuka agar orang asing tidak dapat membuat akun dan menggunakan saldo Anda.
Satu poin lagi untuk pengaturan bersama: model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Itu adalah fitur untuk fiksi dan penelitian pribadi, dan itu juga berarti Anda menentukan aturan rumah. Prompt sistem pada model bersama adalah tempat termudah untuk menuliskannya. Tidak ada konten seksual yang melibatkan anak di bawah umur yang diizinkan di API, apa pun promptnya.
Penggunaan yang baik untuk pengaturan ini
Orang yang menghubungkan Open WebUI ke endpoint tanpa sensor biasanya menginginkan jendela obrolan bersih tanpa batas chatbot yang dihosting. Penggunaan umum termasuk fiksi panjang dan pembangunan dunia, roleplay dan karakter pendamping untuk dewasa, menyusun materi yang ditolak asisten arus utama, dan bantuan coding atau penulisan biasa. Model yang sama menangani semua ini, sehingga Anda dapat beralih tugas dalam satu obrolan.
Open WebUI membantu dalam beberapa cara spesifik. Prompt tersimpan dan preset model memungkinkan Anda menyimpan karakter atau identitas editor dalam satu klik. Unggahan dokumen dan fitur pencarian web, jika Anda mengaktifkannya, mengirim teks tambahan ke prompt, yang meningkatkan penggunaan token, jadi perhatikan ukuran lampiran Anda. Folder obrolan dan pencarian memudahkan untuk kembali ke proyek panjang.
Yang tidak bisa dilakukan adalah menghasilkan gambar, suara, atau video dari koneksi ini, karena API hanya teks.
Uji endpoint sebelum menyalahkan Open WebUI
Kebanyakan pengaturan gagal berasal dari salah ketik di URL atau kunci yang sudah kedaluwarsa, dan keduanya muncul lebih cepat di terminal. Jalankan dua panggilan ini dari mesin yang menghosting Open WebUI.
curl https://api.dolphinllm.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
curl https://api.dolphinllm.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'Permintaan pertama harus mencantumkan uncensored. Yang kedua harus mengembalikan penyelesaian obrolan normal. Periksa juga header respons: X-Balance-USD menunjukkan sisa akun Anda, yang merupakan cara mudah untuk mengonfirmasi Open WebUI menghabiskan dari kunci yang Anda kira.
Daftar parameter lengkap ada di dokumentasi API.
Pengaturan yang layak diubah untuk obrolan
Prompt sistem dan sampling
Open WebUI memungkinkan Anda mengatur prompt sistem per model atau per obrolan. Karena model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, prompt sistem pendek yang memperbaiki nada, persona, atau format output lebih efektif daripada daftar aturan panjang. Suhu, top_p, stop, seed, dan penalti diteruskan, sehingga slider di Open WebUI memiliki efek.
Panjang konteks
Jendela konteks adalah 100.000 token untuk prompt ditambah penyelesaian. Obrolan panjang memperbesar prompt di setiap giliran, dan Anda membayar untuk seluruh riwayat setiap kali. Jika thread menjadi berat, mulai obrolan baru atau ringkas yang lama.
Permintaan latar belakang
Open WebUI dapat mengirim permintaan tambahan di latar belakang untuk judul dan tag obrolan, menggunakan model yang sama secara default. Pada kunci uji coba, yang memungkinkan 2 permintaan paralel dan 60 per menit, permintaan tersebut dapat menggeser pesan aktual Anda. Matikan pembuatan judul dan tag, atau terima penundaan singkat. Kunci penuh memungkinkan 8 permintaan paralel dan 300 per menit, yang cukup untuk instalasi pribadi atau tim kecil.
Streaming, mode JSON, dan alat
Open WebUI mengirimkan balasan secara streaming secara default, dan API mendukung server-sent events (stream: true), dengan blok penggunaan di akhir aliran. Anda melihat teks muncul token demi token, dan header saldo pada respons akhir mencerminkan apa yang Anda habiskan.
Pemanggilan fungsi juga didukung oleh API: tools, tool_choice, streaming tool_calls, dan hasil dikirim kembali sebagai role: "tool". Sejauh mana Open WebUI mengekspos ini bergantung pada versinya dan pada alat atau fungsi yang Anda instal, jadi uji dengan satu alat kecil sebelum membangun alur kerja di atasnya. Mode JSON (response_format diatur ke json_object) berguna ketika Anda memanggil endpoint yang sama dari skrip di sebelah antarmuka obrolan.
Pola praktis adalah menggunakan Open WebUI untuk orang dan menggunakan kunci yang sama dari skrip untuk pekerjaan batch. Keduanya melalui URL dasar yang sama, jadi satu saldo mencakup semuanya. Ingatlah bahwa batas berlaku per kunci: 8 permintaan paralel pada kunci penuh, dibagi antara UI dan skrip Anda.
Kesalahan umum dan perbaikan
- Tidak ada model yang muncul. URL mungkin tidak memiliki
/v1atau ada salah ketik. Bandingkan karakter per karakter dengan nilai di atas dan hapus garis miring akhir apa pun. - Kesalahan autentikasi. Kunci disalin dengan spasi di awal atau akhir, atau milik akun yang dihapus. Salin lagi dari halaman kunci.
- Pemilih model menampilkan daftar yang salah. Open WebUI juga mengirim permintaan ke koneksi lain yang Anda tambahkan, seperti Ollama lokal. Nonaktifkan koneksi yang tidak Anda gunakan.
- Balasan berhenti muncul di tengah aliran. Proxy terbalik di depan Open WebUI mungkin melakukan buffering server-sent events. Matikan buffering untuk rute itu.
- Saldo menipis. Isi saldo sebelum mencapai nol. Permintaan yang gagal atau ditolak tidak dikenakan biaya, jadi Anda hanya membayar untuk penyelesaian yang dikirim.
Biaya antarmuka obrolan pada API ini
Biaya adalah $0,15 per 1M token input dan $0,50 per 1M token output, dari saldo prabayar. Ambil giliran tipikal dalam obrolan sedang: 4.000 token riwayat masuk dan 500 token keluar. Biaya input adalah 4.000 x $0,15 / 1.000.000 = $0,0006. Biaya output adalah 500 x $0,50 / 1.000.000 = $0,00025. Biaya giliran adalah $0,00085.
Dengan tarif tersebut, kredit uji coba gratis sebesar $0,50 mencakup sekitar 588 giliran, dan isi saldo sebesar $20 mencakup sekitar 23.500 giliran. Lihat halaman harga untuk bonus isi saldo. Jika Anda ingin menggunakan kunci yang sama di luar Open WebUI, misalnya dalam skrip yang tidak memerlukan layar masuk, halaman tentang menggunakan LLM tanpa batasan masuk membahas hal tersebut.
