मुख्य बिंदु
- Base URL https://api.dolphinllm.com/v1 है और एकमात्र मॉडल ID uncensored है।
- इसे Admin Settings, Connections, OpenAI API के अंतर्गत जोड़ें, या इसे Docker एनवायरनमेंट वेरिएबल्स के रूप में पास करें।
- पहले curl के साथ टेस्ट करें। यदि curl काम करता है, तो शेष कोई भी समस्या Open WebUI सेटिंग्स में है।
- $0.50 ट्रायल क्रेडिट सैकड़ों सामान्य चैट टर्न्स के लिए पर्याप्त है।
आपको जिन मानों की आवश्यकता है
Open WebUI को इस सेवा से केवल तीन चीजों की आवश्यकता है। पहला बेस URL है, https://api.dolphinllm.com/v1। दूसरा आपके खाते से एक API कुंजी है। तीसरा मॉडल ID है, uncensored, जिसे Open WebUI कनेक्शन काम करने के बाद स्वयं मॉडल सूची से पढ़ता है।
दो एंडपॉइंट शामिल हैं। GET /v1/models मॉडल ड्रॉपडाउन को भरता है, और POST /v1/chat/completions आपका भेजा गया हर संदेश ले जाता है। चैट के लिए कुछ और जरूरत नहीं है। यह एक टेक्स्ट API है, इसलिए Open WebUI की इमेज, ऑडियो और एम्बेडिंग सुविधाओं के यहाँ बात करने के लिए कुछ नहीं है।
| Open WebUI में फ़ील्ड | मान |
|---|---|
| API बेस URL | https://api.dolphinllm.com/v1 |
| API कुंजी | अपनी कुंजी API कुंजी पृष्ठ से प्राप्त करें |
| मॉडल | uncensored |
परीक्षण करने के लिए आपको कार्ड की आवश्यकता नहीं है। साइन-अप करने के बाद, आप कुंजी पृष्ठ पर एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट प्राप्त कर सकते हैं। यह 7 दिनों तक मान्य रहता है।
कनेक्शन को एडमिन पैनल में जोड़ें
यदि Open WebUI पहले से चल रहा है, तो यह सबसे तेज़ तरीका है।
- एडमिन के रूप में साइन इन करें और Admin Settings पर जाएं, फिर Connections खोलें।
- OpenAI API सेक्शन में, कनेक्शन जोड़ने के लिए प्लस बटन पर क्लिक करें।
- URL के रूप में
https://api.dolphinllm.com/v1पेस्ट करें और कुंजी के रूप में अपनी कुंजी डालें। - फ़ील्ड्स के बगल में वेरिफ़ाई बटन का उपयोग करें। एक हरा पुष्टी संदेश मॉडल सूची के लौटने का संकेत है।
- सेव करें, एक नई चैट खोलें और मॉडल सलेक्टर से
uncensoredचुनें।
Open WebUI के विभिन्न रिलीज़ में मेनू नामों में थोड़ा बदलाव आ सकता है। यदि आपको Connections नहीं मिल रहा है, तो सेटिंग्स में "OpenAI" खोजें। फ़ील्ड्स हमेशा समान होते हैं: URL, कुंजी और कभी-कभी मॉडल फ़िल्टर।
Docker एन्वायरिमेंट वेरिएबल्स के साथ सेटअप करें
एक नई इंस्टॉलेशन के लिए, आप एडमिन स्क्रीन को छोड़ सकते हैं और कंटेनर शुरू होने पर कनेक्शन पास कर सकते हैं। Open WebUI स्टार्टअप पर OPENAI_API_BASE_URL और OPENAI_API_KEY पढ़ता है।
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
-e OPENAI_API_KEY="YOUR_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:mainफिर http://localhost:3000 पर ब्राउज़ करें, पहला अकाउंट बनाएं (जो एडमिन बन जाता है) और मॉडल पहले से ही सूचीबद्ध होना चाहिए। यदि मशीन शेयर्ड है, तो कुंजी को शेल हिस्ट्री से बाहर रखें: इसे एक env फ़ाइल में डालें और --env-file का उपयोग करें।
कुछ Open WebUI संस्करण इन वेरिएबल्स को केवल प्रारंभिक मान मानते हैं। एक बार जब आपने UI में कनेक्शन सेव कर लिया है, तो स्टोर्ड वैल्यू प्राथमिकता प्राप्त करती है। यदि आप वेरिएबल बदलते हैं और कुछ नहीं होता, तो एडमिन सेटिंग्स में कनेक्शन को एडिट करें।
कई लोगों के लिए चलाना
Open WebUI के अपने यूजर अकाउंट्स हैं, इसलिए एक इंस्टॉलेशन एक परिवार या छोटी टीम को सर्व कर सकता है जबकि सर्वर पर केवल एक API कुंजी होती है। यह सुविधाजनक है और एक जोखिम भी है: हर यूजर एक ही बैलेंस से खर्च करता है। तय करें कि किसको अकाउंट मिलेगा, और X-Balance-USD को कभी-कभी चेक करें, ताकि लंबे वीकेंड की रोलप्ले आपको हैरान न करे।
कुंजी को एन्वायरिमेंट वेरिएबल या सीक्रेट्स फ़ाइल में रखें, स्क्रीनशॉट या शेयर्ड डॉक्यूमेंट में कभी न रखें। आपकी कुंजी API कुंजी पृष्ठ पर रहती है; यदि आपको लगता है कि वह लीक हो गई है, तो नई कुंजी मिलने पर उसे Open WebUI में तुरंत बदल दें। पब्लिक इंस्टॉलेशन के लिए, इसे HTTPS के पीछे रखें और ओपन साइन-अप बंद कर दें ताकि स्ट्रेंजर्स अकाउंट न बना सकें और आपका क्रेडिट न इस्तेमाल कर सकें।
शेयर्ड सेटअप के लिए एक और बिंदु: मॉडल को लॉफुल एडल्ट उपयोग के लिए बिना कंटेंट रिफ्यूजल के जवाब देने के लिए ट्यून्ड किया गया है। यह फिक्शन और प्राइवेट रिसर्च के लिए एक फीचर है, और इसका मतलब यह भी है कि आप हाउस रूल्स तय करते हैं। शेयर्ड मॉडल पर सिस्टम प्रॉम्प्ट उन्हें लिखने का सबसे आसान तरीका है। API पर, चाहे प्रॉम्प्ट कुछ भी हो, नाबालिगों से जुड़ा कोई भी सेक्सुअल कंटेंट अनुमत नहीं है।
इस सेटअप के लिए अच्छे उपयोग
जो लोग Open WebUI को एक uncensored एंडपॉइंट से जोड़ते हैं, वे आमतौर पर होस्टेड चैटबॉट की सीमाओं के बिना एक क्लीन चैट विंडो चाहते हैं। सामान्य उपयोग में लॉन्ग-फॉर्म फिक्शन और वर्ल्डबिल्डिंग, एडल्ट्स के लिए रोलप्ले और कंपैनियन कैरेक्टर्स, ऐसी सामग्री का ड्राफ़्ट तैयार करना जिसे मुख्यधारा के असिस्टेंट छूने से इनकार करते हैं, और साधारण कोडिंग या लेखन सहायता शामिल है। वही मॉडल इन सभी को संभालता है, इसलिए आप एक ही चैट में टास्क बदल सकते हैं।
Open WebUI कुछ विशिष्ट तरीकों से मदद करता है। सेव्ड प्रॉम्प्ट्स और मॉडल प्रीसेट्स आपको एक कैरेक्टर या एडिटर पर्सोना को एक क्लिक की दूरी पर रखने देते हैं। डॉक्यूमेंट अपलोड और वेब सर्च फीचर्स, जहाँ आप उन्हें सक्षम करते हैं, अतिरिक्त टेक्स्ट को प्रॉम्प्ट में भेजते हैं, जिससे टोकन उपयोग बढ़ता है, इसलिए अपने अटैचमेंट के आकार पर नज़र रखें। चैट फोल्डर्स और सर्च से लंबे प्रोजेक्ट्स पर वापस आना आसान हो जाता है।
यह इस कनेक्शन से इमेज, आवाज़ या वीडियो जनरेट नहीं करेगा, क्योंकि API केवल टेक्स्ट के लिए है।
Open WebUI को दोष देने से पहले एंडपॉइंट का परीक्षण करें
अधिकतर विफल सेटअप URL में टाइपो या एक पुरानी कुंजी के कारण होते हैं, और दोनों टर्मिनल में तेज़ी से दिखाई देते हैं। Open WebUI होस्ट करने वाली मशीन से ये दो कॉल चलाएँ।
curl https://api.dolphinllm.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
curl https://api.dolphinllm.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'पहली कॉल uncensored सूचीबद्ध करनी चाहिए। दूसरी कॉल को सामान्य चैट कम्प्लीशन लौटाना चाहिए। प्रतिक्रिया हेडर भी जाँचें: X-Balance-USD आपके खाते में शेष राशि दिखाता है, जो इसकी पुष्टि करने का एक सुविधाजनक तरीका है कि Open WebUI उसी कुंजी से खर्च कर रहा है जिसके बारे में आप सोच रहे हैं।
पैरामीटर की पूरी सूची API दस्तावेज़ में है।
चैट के लिए बदलने योग्य सेटिंग्स
सिस्टम प्रॉम्प्ट और सैंपलिंग
Open WebUI आपको प्रत्येक मॉडल या प्रत्येक चैट के लिए सिस्टम प्रॉम्प्ट सेट करने की अनुमति देता है। चूँकि मॉडल कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड है, एक छोटा सिस्टम प्रॉम्प्ट जो टोन, पर्सोना या आउटपुट फॉर्मेट को फिक्स करता है, नियमों की एक लंबी सूची से अधिक प्रभावी होता है। टेम्परेचर, top_p, stop, सीड और पेनल्टी पास-थ्रू होते हैं, इसलिए Open WebUI में स्लाइडर का प्रभाव होता है।
कॉन्टेक्स्ट लंबाई
प्रॉम्प्ट और पूर्णता के लिए विंडो 100,000 टोकन की है। लंबी चैटें हर टर्न पर प्रॉम्प्ट को बढ़ाती हैं, और आपको हर बार पूरी हिस्ट्री के लिए भुगतान करना पड़ता है। यदि थ्रेड भारी हो जाता है, तो एक नई चैट शुरू करें या पुरानी को सारांशित करें।
बैकग्राउंड अनुरोध
Open WebUI चैट शीर्षकों और टैग्स के लिए बैकग्राउंड में अतिरिक्त अनुरोध भेज सकता है, डिफ़ॉल्ट रूप से उसी मॉडल का उपयोग करके। ट्रायल कुंजी पर, जो 2 समानांतर अनुरोध और प्रति मिनट 60 की अनुमति देती है, ये अनुरोध आपके वास्तविक संदेश को प्रभावित कर सकते हैं। शीर्षक और टैग जनरेशन बंद करें, या छोटी देरी स्वीकार करें। फुल कुंजी पर 8 समानांतर अनुरोध और प्रति मिनट 300 की अनुमति होती है, जो एक व्यक्तिगत या छोटी टीम के इंस्टॉलेशन के लिए पर्याप्त है।
स्ट्रीमिंग, JSON मोड और टूल्स
Open WebUI डिफ़ॉल्ट रूप से प्रतिक्रियाओं को स्ट्रीम करता है, और API सर्वर-सेंट इवेंट्स (stream: true) का समर्थन करता है, जिसके अंत में एक उपयोग ब्लॉक होता है। आप टेक्स्ट को टोकन-दर-टोकन प्रकट होते हुए देखते हैं, और अंतिम प्रतिक्रिया पर बैलेंस हेडर दर्शाता है कि आपने क्या खर्च किया।
API में टूल कॉलिंग का समर्थन भी है: tools, tool_choice, स्ट्रीमिंग tool_calls, और परिणाम role: "tool" के रूप में वापस भेजे जाते हैं। Open WebUI इसकी सुविधाएँ कितनी प्रकट करता है, यह इसके संस्करण और आप जो टूल या फ़ंक्शन इंस्टॉल करते हैं, उस पर निर्भर करता है, इसलिए किसी छोटे टूल के साथ परीक्षण करें और उसके आसपास वर्कफ़्लो बनाएं। JSON मोड (response_format को json_object पर सेट करें) तब उपयोगी होता है जब आप चैट UI के बगल में स्क्रिप्ट्स से उसी एंडपॉइंट को कॉल करते हैं।
एक व्यावहारिक पैटर्न लोगों के लिए Open WebUI रखना और बैच वर्क के लिए एक ही कुंजी को स्क्रिप्ट से उपयोग करना है। दोनों एक ही बेस URL से गुजरते हैं, इसलिए एक बैलेंस सब कुछ कवर करता है। बस यह याद रखें कि सीमाएँ प्रति कुंजी लागू होती हैं: एक पूर्ण कुंजी पर 8 समानांतर अनुरोध, UI और आपकी स्क्रिप्ट्स के बीच साझा।
सामान्य त्रुटियाँ और समाधान
- कोई मॉडल नहीं दिख रहा है। URL में शायद
/v1नहीं है या उसमें टाइपो है। इसे ऊपर दिए गए मान से अक्षर-दर-अक्षर तुलना करें और कोई भी ट्रेलिंग स्लैश हटा दें। - प्रमाणीकरण त्रुटि। कुंजी पेस्ट करते समय उसमें अग्र या पश्च में अतिरिक्त स्पेस था, या यह एक डिलीटेड खाते से संबंधित है। इसे कुंजी पेज से फिर से कॉपी करें।
- मॉडल चयनकर्ता गलत सूची दिखा रहा है। Open WebUI उन अन्य कनेक्शन को भी क्वेरी करता है जिन्हें आपने जोड़ा है, जैसे कि स्थानीय Ollama। जिन्हें आप उपयोग नहीं करते, उन्हें अक्षम करें।
- स्ट्रीमिंग के बीच में जवाब आना बंद हो जाते हैं। Open WebUI के सामने एक रिवर्स प्रॉक्सी सर्वर-सेंट इवेंट्स को बफर कर सकता है। उस रूट के लिए बफरिंग बंद करें।
- बैलेंस कम हो रहा है। शून्य होने से पहले टॉप-अप करें। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता, इसलिए आप केवल उन कम्प्लीशन के लिए भुगतान करते हैं जो डिलीवर किए गए हैं।
इस API पर एक चैट UI की लागत
मूल्य निर्धारण प्रीपेड क्रेडिट से 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 है। एक मध्यम-लंबाई चैट में एक सामान्य टर्न लें: 4,000 टोकन इतिहास इनपुट के रूप में और 500 टोकन आउटपुट के रूप में। इनपुट लागत 4,000 x $0.15 / 1,000,000 = $0.0006 है। आउटपुट लागत 500 x $0.50 / 1,000,000 = $0.00025 है। टर्न की लागत $0.00085 है।
उस दर पर, $0.50 का ट्रायल लगभग 588 टर्न्स कवर करता है, और $20 का टॉप-अप लगभग 23,500 कवर करता है। टॉप-अप बोनस के लिए मूल्य निर्धारण पेज देखें। यदि आप Open WebUI के बाहर उसी कुंजी का उपयोग करना चाहते हैं, उदाहरण के लिए उन स्क्रिप्ट्स में जिनकी लॉगिन स्क्रीन की कभी आवश्यकता नहीं होती, तो लॉगिन प्रतिबंधों के बिना LLM का उपयोग पेज उस पहलू को कवर करता है।
