เชื่อมต่อ SillyTavern กับ API แบบไม่มีการเซ็นเซอร์

สิ่งที่คุณต้องมี

• ติดตั้ง SillyTavern และทำงานอยู่ (เวอร์ชันล่าสุด; เมนูด้านล่างตรงกับเลย์เอาต์ปัจจุบัน)
• คีย์ API จากบัญชีของคุณ สมัครสมาชิก ด้วยอีเมลและรหัสผ่าน; เครดิตทดลองใช้มูลค่า $0.50 จะถูกเพิ่มเมื่อคุณเปิดบัญชีเป็นครั้งแรก
• URL พื้นฐาน https://dolphinllm.com/v1 และ ID ของโมเดล uncensored.

เชื่อมต่อในสี่ขั้นตอน

1. เปิด API Connections แผงควบคุม (ปลั๊กไอคอนในแถบด้านบน)
2. ตั้งค่า API to Chat Completion, จากนั้น Chat Completion Source to Custom (OpenAI-compatible).
3. วาง https://dolphinllm.com/v1 into Custom Endpoint (Base URL) และคีย์ของคุณลงใน Custom API Key.
4. คลิก Connect. เลือก uncensored from Available Models, หรือพิมพ์ลงใน Enter a Model ID. สถานะจะเปลี่ยนเป็นสีเขียวเมื่อข้อความทดสอบแรกส่งผ่าน

อย่าเลือก Text Completion API นี้ให้บริการเฉพาะรูปแบบแชทเท่านั้น (/v1/chat/completions); เทมเพลตแชทของโมเดลจะถูกนำไปใช้บนเซิร์ฟเวอร์ ดังนั้นคุณจึงไม่จำเป็นต้องใช้เทมเพลตคำสั่งใน SillyTavernสำหรับการเชื่อมต่อนี้

การตั้งค่าที่สำคัญสำหรับ roleplay

เปิด AI Response Configuration (ไอคอนแถบเลื่อน)

• Context Size (tokens): สูงสุดถึงส่วนที่เหลือของขอบเขต 262,144 tokens; max_tokens เป็นตัวเลือก (ไม่มีขีดจำกัดแยกต่างหาก) ส่งข้อความแต่ละครั้งจะส่ง character card, persona, world info และประวัติแชทเท่าที่บรรจุได้ โดยทั้งหมดจะถูกคิดเป็น input ช่วง 16,000 ถึง 32,000 เป็นจุดสมดุลที่ดีระหว่างความจำและต้นทุนสำหรับการสนทนาส่วนใหญ่; บริบทเต็ม 262,144 tokens มีต้นทุน input ประมาณ $0.0393 ต่อข้อความ เพิ่มค่านี้สำหรับแคมเปญยาวๆ ที่โมเดลต้องจำเหตุการณ์ตั้งแต่ต้น
• Max Response Length (tokens): 300 ถึง 800 สำหรับการตอบแชท ส่วนผลลัพธ์เป็นฝั่งที่แพงกว่าที่ $0.50 ต่อ 1M tokens
• Streaming: ข้อความปรากฏขึ้นเมื่อเขียน และคุณสามารถหยุดการตอบกลับที่คุณไม่ชอบก่อนที่จะเสร็จสิ้น
• Temperature: 0.7 ถึง 1.0 สำหรับการเขียนเชิงสร้างสรรค์ Top P, ค่าปรับความถี่และการปรากฏ และสตริงหยุดจะถูกส่งผ่านไปยังโมเดล

โมเดลถูกปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ดังนั้นคุณจึงไม่ค่อยจำเป็นต้องใช้ jailbreak prompts อีกต่อไป ระบบ prompt สั้นๆ ที่กำหนดสไตล์และมุมมองทำงานได้ดีกว่า กฎเดียวที่ตายตัวบน API นี้: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก ไม่ว่าการ์ดตัวละครจะบอกว่าอย่างไร

Extensions และ trial key

ส่วนขยายบางตัวของ SillyTavern ส่งคำขอของตัวเองผ่านการเชื่อมต่อเดียวกัน เช่น สรุปการแชทหรือการแสดงอารมณ์ตัวละครอัตโนมัติเมื่อตั้งค่าให้ใช้ API หลัก บนคีย์ทดลองที่อนุญาตให้ส่งคำขอคู่ขนานได้ 2 คำขอและ 60 คำขอต่อนาที คำขอเพิ่มเติมเหล่านี้อาจชนกับข้อความของคุณและส่ง HTTP 429 พร้อมรหัส concurrency. ปิดการใช้งานขณะทดสอบ หรือชี้ไปที่โมเดลท้องถิ่น หลังจากเติมเงินครั้งแรก คีย์อนุญาตให้ส่งคำขอแบบขนานได้ 8 คำขอและ 300 คำขอต่อนาที

Group chats ส่ง request ต่อการสนทนาของตัวละคร ดังนั้นจึงใช้เครดิตเร็วกว่าการสนทนาแบบหนึ่งต่อหนึ่ง

ต้นทุนของ session

ราคาอยู่ที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens ข้อความที่มี 6,000 tokens ของการ์ดและประวัติ และตอบกลับ 400 tokens มีค่าใช้จ่ายดังนี้:

• Input: 6,000 × $0.15 / 1,000,000 = $0.0009
• ผลลัพธ์: 400 × $0.50 / 1,000,000 = $0.0002
• รวม: $0.0011 ต่อ message ประมาณ $1.10 ต่อ 1,000 messages

เมื่อการสนทนาขยายไปสู่หน้าต่างบริบทขนาด 32,000 tokens ข้อความหนึ่งข้อความจะมีค่าใช้จ่ายประมาณ $0.005 เครดิตทดลองใช้ $0.50 สามารถครอบคลุมข้อความได้ประมาณ 450 ข้อความในขนาดที่เล็กว่า ยอดเติมเริ่มต้นที่ $50; ดู หน้าราคา.

การแก้ปัญหา

• ไม่มีโมเดลในรายการ ตรวจสอบว่า URL ลงท้ายด้วย /v1 โดยไม่มีเครื่องหมายทับท้าย จากนั้นพิมพ์ uncensored ลงในช่องรหัสโมเดลด้วยตนเอง
• 401 invalid_key. คีย์ถูกคัดลอกพร้อมช่องว่าง หรือถูกเพิกถอน สร้างคีย์ใหม่ในบัญชีของคุณ
• 402 ไม่มีเครดิต ยอดเงินว่างเปล่าหรือเครดิตทดลองหมดอายุ กรุณาเติมเงินในบัญชีของคุณ
• 400 bad_request เกี่ยวกับ context Prompt รวมกับความยาวการตอบสูงสุดเกิน 262,144 tokens ลดขนาด Context Size
• 503 upstream_busy. เซิร์ฟเวอร์ร่วมเต็มชั่วคราว ให้เลื่อนหรือสร้างใหม่หลังจากผ่านไปไม่กี่วินาที คุณไม่ถูกเรียกเก็บเงินสำหรับข้อผิดพลาดนี้