एक बिना सेंसर API से कनेक्ट करें

आपको क्या चाहिए

• SillyTavern इंस्टॉल और चलाया गया (एक हालिया रिलीज; नीचे दिए गए मेनू वर्तमान लेआउट से मेल खाते हैं).
• आपके खाते से एक API key। साइन अप करें एक ईमेल और पासवर्ड के साथ; जब आप पहली बार खाता खोलते हैं तो $0.50 का ट्रायल क्रेडिट जोड़ा जाता है।
• बेस URL https://dolphinllm.com/v1 और मॉडल ID uncensored.

चार चरणों में कनेक्ट करें

1. खोलें API Connections पैनल (टॉप बार में प्लग आइकन)।
2. सेट करें API to Chat Completion, फिर Chat Completion Source to Custom (OpenAI-compatible).
3. पेस्ट करें https://dolphinllm.com/v1 into Custom Endpoint (Base URL) और अपनी कुंजी Custom API Key.
4. क्लिक करें Connect। चुनें uncensored from Available Models, या इसे टाइप करें Enter a Model ID। स्टेटस तब ग्रीन हो जाता है जब पहला टेस्ट मेसेज पास हो जाता है।

टेक्स्ट कंप्लीशन चुनें नहीं। यह API केवल चैट फॉर्मेट को सर्व करता है (/v1/chat/completions); मॉडल का अपना चैट टेम्पलेट सर्वर पर लागू किया जाता है, इसलिए इस कनेक्शन के लिए SillyTavern में आपको एक instruct टेम्पलेट की आवश्यकता नहीं है।

रोलप्ले के लिए मायने रखने वाले सेटिंग्स

खुला AI Response Configuration (स्लाइडर आइकन).

• Context Size (tokens): 262,144 तक। हर मैसेज में कैरेक्टर कार्ड, पर्सोना, वर्ल्ड इन्फो और जितनी भी चैट हिस्ट्री फिट हो सकती है, भेजी जाती है, और इसका सारा खर्च इनपुट के रूप में बिल किया जाता है। ज्यादातर चैट्स के लिए 16,000 से 32,000 मेमोरी और लागत के बीच एक अच्छा संतुलन है; 262,144 टोकन की पूरी कंटैक्स्ट के लिए हर मैसेज के इनपुट का खर्च लगभग $0.0393 आता है। लंबी कैंपेन के लिए इसे बढ़ाएं जहां मॉडल को शुरुआती इवेंट्स याद रखने हों।
• Max Response Length (tokens): चैट जवाबों के लिए 300 से 800। आउटपुट महंगा होता है, $0.50 प्रति 1M टोकन।
• Streaming: पर। टेक्स्ट लिखे जाने के अनुसार प्रकट होता है, और आप अपनी पसंद न आने वाले जवाब को पूरा होने से पहले ही रोक सकते हैं।
• Temperature: क्रिएटिव राइटिंग के लिए 0.7 से 1.0। टॉप P, फ्रीक्वेंसी और प्रेजेंस पेनाल्टी और स्टॉप स्ट्रिंग्स मॉडल को पास किए जाते हैं।

मॉडल को बिना सेंसर उत्तर देने के लिए ट्यून किया गया है, कानूनी वयस्कों के उपयोग के लिए, इसलिए आपको जेलब्रेक प्रॉम्प्ट की बहुत कम जरूरत होती है। एक छोटा सिस्टम प्रॉम्प्ट जो शैली और दृष्टिकोण निर्धारित करता है, बेहतर काम करता है। इस API पर एकमात्र कड़ा नियम: किशोरों से संबंधित यौन सामग्री नहीं, चाहे कैरेक्टर कार्ड में कुछ भी लिखा हो।

एक्सटेंशन और ट्रायल कुंजी

कुछ SillyTavern एक्सटेंशन उसी कनेक्शन के माध्यम से अपने अनुरोध भेजते हैं, उदाहरण के लिए चैट सारांश या स्वचालित किरदार अभिव्यक्तियाँ जब उन्हें मुख्य API का उपयोग करने के लिए सेट किया जाता है। एक ट्रायल कुंजी पर, जो 2 समानांतर अनुरोधों और 60 प्रति मिनट की अनुमति देती है, ये अतिरिक्त कॉल आपके संदेश से टकरा सकती हैं और HTTP 429 वापस कर सकती हैं कोड के साथ concurrency। टेस्ट करते समय उन्हें बंद रखें, या उन्हें एक लोकल मॉडल की ओर पॉइंट करें। पहली टॉप-अप के बाद कुंजी 8 पैरलल रिक्वेस्ट और मिनट में 300 की अनुमति देती है।

ग्रुप चैट्स प्रति कैरेक्टर टर्न एक अनुरोध भेजती हैं, इसलिए वे वन-टू-वन चैट की तुलना में तेज़ी से क्रेडिट का उपयोग करती हैं।

एक सेशन का खर्च

मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। 6,000 टोकन के कार्ड और इतिहास और 400 टोकन के जवाब वाली एक संदेश की लागत है:

• इनपुट: 6,000 × $0.15 / 1,000,000 = $0.0009
• आउटपुट: 400 × $0.50 / 1,000,000 = $0.0002
• कुल: प्रति संदेश $0.0011, लगभग 1,000 संदेशों के लिए $1.10

जैसे-जैसे चैट 32,000-टोकन कॉन्टेक्स्ट की ओर बढ़ती है, एक संदेश की लागत लगभग $0.005 होती है। $0.50 की ट्रायल छोटे आकार के लगभग 450 संदेशों को कवर करती है। टॉप-अप $50 से शुरू होते हैं; देखें मूल्य निर्धारण पृष्ठ.

समस्या निवारण

• लिस्ट में कोई मॉडल नहीं है। जांचें कि URL में अंत में /v1 बिना किसी ट्रेलिंग स्लैश के, फिर टाइप करें uncensored मॉडल ID फील्ड में मैन्युअल रूप से।
• 401 invalid_key। कुंजी को कॉपी करते समय स्पेस था या उसे रद्द कर दिया गया था। अपने खाते में एक नई बनाएं।
• 402 no_credit। बैलेंस खाली है या ट्रायल समाप्त हो गया है। अपने खाते में टॉप अप करें।
• संदर्भ के बारे में 400 bad_request। प्रॉम्प्ट plus अधिकतम प्रतिक्रिया लंबाई 262,144 टोकन से अधिक है। कम संदर्भ आकार।
• 503 upstream_busy। शेयर्ड सर्वर्स कुछ समय के लिए भरे हुए हैं। कुछ सेकंड बाद स्वाइप करें या रीजनरेट करें; त्रुटि के लिए आपको शुल्क नहीं दिया जाएगा।