Open WebUI API Uç Noktaları: Sansürsüz LLM'e Bağlanın

İhtiyacınız olan değerler

Open WebUI'nin bu hizmetten yalnızca üç şeye ihtiyacı vardır. İlki base URL, https://api.dolphinllm.com/v1. İkincisi hesabınızdan bir API anahtarıdır. Üçüncüsü model kimliği, uncensored, bağlantı çalıştığında Open WebUI bunu model listesinden kendisi okur.

İki uç nokta yer alır. GET /v1/models model açılır listesini doldurur ve POST /v1/chat/completions gönderdiğiniz her mesajı taşır. Sohbet için başka hiçbir şeye gerek yoktur. Bu bir metin API'sidir, bu nedenle Open WebUI'nin görsel, ses ve gömme özelliklerinin burada konuşacak bir şeyi yoktur.

Denemek için bir karta ihtiyacınız yoktur. Kayıttan sonra anahtar sayfasında tek tıkla $0,50 deneme kredisi elde edebilirsiniz. Bu 7 gün sürer.

Bağlantıyı yönetici paneline ekleyin

Open WebUI zaten çalışıyorsa, bu en hızlı yoldur.

1. Yönetici olarak giriş yapın ve Yönetici Ayarları ardından Bağlantılar'ı açın.
2. OpenAI API bölümünde, bir bağlantı eklemek için artı düğmesine tıklayın.
3. https://api.dolphinllm.com/v1'yi URL olarak ve anahtarınızı anahtar olarak yapıştırın.
4. Alanların yanındaki doğrula düğmesini kullanın. Yeşil onay, model listesinin döndürüldüğünü gösterir.
5. Kaydedin, yeni bir sohbet açın ve model seçiciden uncensored'i seçin.

Menü adları Open WebUI sürümleri arasında biraz değişir. Bağlantıları bulamazsanız, ayarlar için "OpenAI" arayın. Alanlar her zaman aynıdır: URL, anahtar ve bazen bir model filtresi.

Docker ortam değişkenleri ile kurun

Yeni bir kurulum için yönetici ekranını atlayabilir ve konteyner başladığında bağlantıyı iletebilirsiniz. Open WebUI, başlangıçta OPENAI_API_BASE_URL ve OPENAI_API_KEY'i okur.

Copydocker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Ardından http://localhost:3000 adresine gidin, ilk hesabı oluşturun (yönetici olur) ve model zaten listelenmiş olmalıdır. Makine paylaşıldıysa anahtarı kabuk geçmişinden uzak tutun: onu bir env dosyasına koyun ve bunun yerine --env-file kullanın.

Bazı Open WebUI sürümleri bu değişkenleri yalnızca başlangıç değeri olarak işler. Bir bağlantıyı UI'da kaydettikten sonra, depolanan değer geçerlidir. Değişikliği yaparsanız ve hiçbir şey olmazsa, bunun yerine Yönetici Ayarları'nda bağlantıyı düzenleyin.

Birden fazla kişi için çalıştırma

Open WebUI'nin kendi kullanıcı hesapları vardır, bu nedenle tek bir kurulum bir hane halkına veya küçük bir ekibe hizmet edebilirken sunucuda yalnızca bir API anahtarı bulunur. Bu kullanışlıdır ve aynı zamanda bir risktir: her kullanıcı aynı bakiyeden harcar. Hesap alacak kişiyi belirleyin ve X-Balance-USD'a ara sıra bakın, böylece uzun bir hafta sonu rol yapma sizi şaşırtmaz.

Anahtarı bir ortam değişkeninde veya bir gizli dosyada tutun, ekran görüntüsünde veya paylaşılan bir belgede değil. Anahtarınız API anahtarı sayfası'da bulunur; sızdığından şüphelenirseniz, yeni bir tane edindikten sonra hemen Open WebUI'de değiştirin. Herkese açık bir kurulum için, onu HTTPS'nin arkasına koyun ve açık kayıtları kapatın, böylece yabancılar hesap oluşturamaz ve kredisinizi kullanamaz.

Paylaşılan kurulumlar için bir nokta daha: model, yasal yetişkin kullanımı için içerik reddetmeleri olmadan cevap verecek şekilde ayarlanmıştır. Bu, kurgu ve özel araştırma için bir özelliktir bu aynı zamanda ev kurallarını sizin belirlediğiniz anlamına gelir. Paylaşılan modelde bir sistem istemi, bunları yazmak için en kolay yerdir. API'de istem ne derse desin, reşit olmayanlarla ilgili cinsel içeriklere izin verilmez.

Bu kurulum için iyi kullanım alanları

Open WebUI'yi sansürsüz bir uç noktaya bağlayan kişiler genellikle barındırılan bir sohbet robotunun sınırlamaları olmadan temiz bir sohbet penceresi isterler. Yaygın kullanımlar arasında uzun formatlı kurgu ve dünya oluşturma, yetişkinler için rol yapma ve eş karakterler, ana akım yardımcıların dokunmaktan kaçındığı materyalleri taslak oluşturma ve sıradan kodlama veya yazma yardımı yer alır. Aynı model bunların hepsini yönetir, bu nedenle tek bir sohbet içinde görevler arasında geçiş yapabilirsiniz.

Open WebUI birkaç özel şekilde yardımcı olur. Kaydedilen promptlar ve model ön ayarları, bir karakteri veya editör kişiliğini tek tıkla erişilebilir tutmanızı sağlar. Etkinleştirdiğinizde belge yükleme ve web arama özellikleri, ekstra metni prompta gönderir, bu da token kullanımını artırır, bu nedenle eklediklerinizin boyutuna dikkat edin. Sohbet klasörleri ve arama, uzun bir projeye geri dönmeyi kolaylaştırır.

Yapmayacağı şey, bu bağlantıdan resim, ses veya video oluşturmaktır, çünkü API yalnızca metindir.

Open WebUI'yi suçlamadan önce uç noktayı test edin

Başarısız kurulumların çoğu URL'deki bir yazım hatasından veya eski bir anahtardan kaynaklanır ve ikisi de bir terminalde daha hızlı ortaya çıkar. Open WebUI'yi barındıran makineden bu iki çağrıyı çalıştırın.

Copycurl https://api.dolphinllm.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

curl https://api.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

İlk çağrı uncensored'ı listelemelidir. İkincisi normal bir sohbet tamamlaması döndürmelidir. Yanıt başlıklarını da kontrol edin: X-Balance-USD hesabınızda ne kaldığını gösterir, bu da Open WebUI'nin düşündüğünüz anahtardan harcadığını doğrulamanın kullanışlı bir yoludur.

Tam parametre listesi API belgelerinde yer alır.

Sohbet için değiştirmeye değer ayarlar

Sistem promptu ve örnekleme

Open WebUI, model veya sohbet başına bir sistem promptu ayarlamanıza olanak tanır. Model, yasal yetişkin kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlandığından, tonu, kişiliği veya çıktı formatını sabitleyen kısa bir sistem promptu, uzun bir kural listesinden daha fazlasını yapar. Temperature, top_p, stop, seed ve cezalar geçirilir, bu nedenle Open WebUI'deki kaydırıcılar bir etkiye sahiptir.

Bağlam uzunluğu

Pencere, istem ve tamamlama için 100.000 token içindir. Uzun sohbetler, her adımda istemi büyütür ve her seferinde tüm geçmiş için ödeme yaparsınız. Bir konu ağır hale gelirse, yeni bir sohbet başlatın veya eskisini özetleyin.

Arka plan istekleri

Open WebUI, varsayılan olarak aynı modeli kullanarak sohbet başlıkları ve etiketleri için arka planda ek çağrılar gönderebilir. Bir deneme anahtarında, 2 eşzamanlı istek ve dakikada 60 istek izni verdiğinden, bu çağrılar asıl mesajınızı yer kaplayabilir. Başlık ve etiket oluşturmayı kapatın veya kısa bir gecikme kabul edin. Tam bir anahtar, 8 eşzamanlı istek ve dakikada 300 istek izni verir, bu da kişisel veya küçük bir ekip kurulumu için fazlasıyla yeterlidir.

Akış, JSON modu ve araçlar

Open WebUI varsayılan olarak yanıtları akış olarak gönderir ve API, sunucu tarafından gönderilen olayları (stream: true) destekler, akışın sonunda bir kullanım bloğu ile. Metni token token görürsünüz ve son yanıtın bakiye başlığı ne kadar harcadığınızı yansıtır.

Araç çağırma da API tarafından desteklenir: tools, tool_choice, akışlı tool_calls ve sonuçlar role: "tool" olarak gönderilir. Open WebUI'nin bunu ne kadar açığa çıkardığı sürümüne ve yüklediğiniz araçlara veya işlevlere bağlıdır, bu nedenle bir iş akışı etrafında oluşturmadan önce küçük bir araçla test edin. JSON modu (response_format, json_object olarak ayarlanır), sohbet arayüzünün yanından betiklerden aynı uç noktayı çağırdığınızda kullanışlıdır.

Pratik bir kalıp, Open WebUI'yi insanlar için tutmak ve toplu işler için aynı anahtarı bir betikten kullanmaktır. İkisi de aynı base URL üzerinden geçer, bu nedenle tek bir bakiye her şeyi kapsar. Sınırların anahtar başına geçerli olduğunu unutmayın: tam anahtar için 8 eşzamanlı istek, UI ve betikleriniz arasında paylaşılır.

Yaygın hatalar ve çözümler

• Model görünmüyor. URL muhtemelen /v1 içermiyor veya bir yazım hatası var. Yukarıdaki değerle karakter karakter karşılaştırın ve herhangi bir son eğik çizgiyi kaldırın.
• Kimlik doğrulama hatası. Anahtar, önde veya sonda bir boşlukla yapıştırıldı veya silinmiş bir hesaba ait. Anahtar sayfasından tekrar kopyalayın.
• Model seçici yanlış listeyi gösteriyor. Open WebUI ayrıca eklediğiniz diğer bağlantıları da sorgular, örneğin yerel Ollama. Kullanmadıklarınızı devre dışı bırakın.
• Akış sırasında yanıtlar ortada kesiliyor. Open WebUI'nin önünde bulunan bir ters proxy, sunucu tarafından gönderilen olayları (SSE) arabelleğe alabilir. Bu rota için arabelleğe almayı kapatın.
• Bakiye azalıyor. Sıfıra ulaşmadan önce bakiye yükleyin. Başarısız veya reddedilen istekler ücretlendirilmez, bu nedenle yalnızca teslim edilen tamamlamalar için ödeme yaparsınız.

Bu API'de bir sohbet arayüzünün maliyeti nedir

Fiyatlandırma, ön ödemeli krediden 1M girdi token başına $0,15 ve 1M çıktı token başına $0,50'dir. Orta uzunluktaki bir sohbette tipik bir adım alın: 4.000 token geçmiş girer ve 500 token çıkar. Giriş maliyeti 4.000 x $0,15 / 1.000.000 = $0,0006. Çıktı maliyeti 500 x $0,50 / 1.000.000 = $0,00025. Adım maliyeti $0,00085'tir.

Bu oranda $0,50 deneme yaklaşık 588 adım kapsar ve $20 bakiye yükleme yaklaşık 23.500 adım kapsar. Bakiye yükleme bonusları için fiyatlandırma sayfasına bakın. Anahtarı Open WebUI dışında, örneğin giriş ekranına ihtiyaç duymayan betiklerde kullanmak isterseniz, giriş kısıtlamaları olmadan bir LLM kullanma sayfası bu tarafı kapsar.

Daha fazla kılavuz

• Geliştiriciler için Ücretsiz LLM API'si: Deneme vs. Kullandıkça Öde
• Giriş Kısıtlamaları Olmadan Bir LLM Nasıl Kullanılır