เอนด์พอยต์ API ของ Open WebUI: เชื่อมต่อ LLM แบบไม่เซ็นเซอร์

ค่าที่คุณต้องการ

Open WebUI ต้องการเพียงสามสิ่งจากบริการนี้ ประการแรกคือ base URL, https://api.dolphinllm.com/v1 ประการที่สองคือคีย์ API จากบัญชีของคุณ ประการที่สามคือ ID โมเดล, uncensored ซึ่ง Open WebUI จะอ่านจากรายการโมเดลเองเมื่อการเชื่อมต่อทำงานได้

มีเอนด์พอยต์สองจุดที่เกี่ยวข้อง GET /v1/models จะเติมเมนูแบบเลื่อนลงของโมเดล และ POST /v1/chat/completions จะส่งข้อความทั้งหมดที่คุณส่ง ไม่มีสิ่งอื่นใดจำเป็นสำหรับแชท นี่คือ API ข้อความดังนั้นคุณลักษณะรูปภาพ เสียง และการฝังตัวของ Open WebUI จึงไม่มีอะไรให้ทำงานที่นี่

คุณไม่จำเป็นต้องใช้บัตรเพื่อลองใช้งาน หลังจากสมัครสมาชิก คุณสามารถรับเครดิตทดลองใช้ $0.50 ได้เพียงคลิกเดียวที่หน้าคีย์ ใช้ได้ 7 วัน

เพิ่มการเชื่อมต่อในแผงผู้ดูแลระบบ

หาก Open WebUI ทำงานอยู่แล้ว นี่คือวิธีที่เร็วที่สุด

1. เข้าสู่ระบบในฐานะผู้ดูแลระบบและเปิด การตั้งค่าผู้ดูแลระบบ จากนั้น การเชื่อมต่อ
2. ในส่วน API ของ OpenAI คลิกปุ่มบวกเพื่อเพิ่มการเชื่อมต่อ
3. วาง https://api.dolphinllm.com/v1 เป็น URL และใส่คีย์ของคุณในช่องคีย์
4. ใช้ปุ่มตรวจสอบที่อยู่ถัดจากฟิลด์ การยืนยันสีเขียวหมายความว่ารายการโมเดลถูกส่งกลับมา
5. บันทึก เปิดแชทใหม่ และเลือก uncensored จากตัวเลือกโมเดล

ชื่อเมนูเปลี่ยนไปเล็กน้อยระหว่างเวอร์ชันของ Open WebUI หากไม่พบการเชื่อมต่อ ให้ค้นหาในตั้งค่าด้วยคำว่า "OpenAI" ฟิลด์จะเหมือนกันเสมอ: URL, คีย์ และบางครั้งตัวกรองโมเดล

ตั้งค่าด้วยตัวแปรสภาพแวดล้อม Docker

สำหรับการติดตั้งใหม่ คุณสามารถข้ามหน้าจอผู้ดูแลระบบและส่งการเชื่อมต่อเมื่อคอนเทนเนอร์เริ่มต้น Open WebUI จะอ่าน OPENAI_API_BASE_URL และ OPENAI_API_KEY เมื่อเริ่มต้น

Copydocker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

จากนั้นไปที่ http://localhost:3000 สร้างบัญชีแรก (ซึ่งจะเป็นผู้ดูแลระบบ) และโมเดลควรถูกระบุไว้แล้ว เก็บคีย์ออกจากประวัติ shell หากเครื่องเป็นแบบใช้งานร่วมกัน: ใส่ไว้ในไฟล์ env และใช้ --env-file แทน

เวอร์ชัน Open WebUI บางเวอร์ชันถือว่าตัวแปรเหล่านี้เป็นค่าเริ่มต้นเท่านั้น เมื่อคุณบันทึกการเชื่อมต่อใน UI ค่าที่บันทึกไว้จะมีผล หากเปลี่ยนตัวแปรแล้วไม่มีอะไรเกิดขึ้น ให้แก้ไขการเชื่อมต่อใน การตั้งค่าผู้ดูแลระบบ แทน

การใช้งานสำหรับผู้ใช้หลายคน

Open WebUI มีบัญชีผู้ใช้ของตัวเอง ดังนั้นการติดตั้งหนึ่งชุดสามารถให้บริการในครัวเรือนหรือทีมขนาดเล็กได้ โดยที่คีย์ API เพียงคีย์เดียวอยู่บนเซิร์ฟเวอร์ นั่นสะดวกแต่ก็มีความเสี่ยง: ผู้ใช้ทุกคนใช้จ่ายจากยอดเงินเดียวกัน ตัดสินใจว่าใครได้บัญชี และตรวจสอบ X-Balance-USD เป็นระยะ เพื่อให้การสวมบทบาทตลอดสุดสัปดาห์ไม่ทำให้คุณประหลาดใจ

เก็บคีย์ในตัวแปรสภาพแวดล้อมหรือไฟล์ secrets อย่าเก็บในภาพหน้าจอหรือเอกสารที่แชร์ คีย์ของคุณอยู่ที่ หน้าคีย์ API; หากสงสัยว่าคีย์รั่วไหล ให้เปลี่ยนคีย์ใน Open WebUI ทันทีที่คุณมีคีย์ใหม่ สำหรับการติดตั้งที่เข้าถึงจากภายนอก ให้ใส่ไว้หลัง HTTPS และปิดการสมัครสมาชิกแบบเปิด เพื่อให้บุคคลภายนอกไม่สามารถสร้างบัญชีและใช้เครดิตของคุณได้

อีกจุดหนึ่งสำหรับการตั้งค่าแบบแชร์: โมเดลได้รับการปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย นั่นเป็นฟีเจอร์สำหรับนวนิยายและการวิจัยส่วนตัว และหมายความว่าคุณเป็นผู้กำหนดกฎของบ้าน การตั้งค่าระบบพรอมต์บนโมเดลแบบแชร์เป็นจุดที่ง่ายที่สุดในการเขียนกฎเหล่านั้น ไม่อนุญาตให้มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์บน API ไม่ว่าพรอมต์จะระบุอย่างไร

การใช้งานที่ดีสำหรับการตั้งค่านี้

ผู้ที่ เชื่อมต่อ Open WebUI กับเอนด์พอยต์แบบ uncensored มักต้องการหน้าต่างแชทที่สะอาดโดยไม่มีการจำกัดของแชทบอทแบบโฮสต์ การใช้งานทั่วไปรวมถึงนวนิยายแบบยาวและการสร้างโลก การสวมบทบาทและตัวละครคู่สนทนาสำหรับผู้ใหญ่ การร่างเนื้อหาที่ผู้ช่วยแบบดั้งเดิมปฏิเสธที่จะจัดการ และการช่วยเหลือด้านการเขียนหรือการเขียนโค้ดทั่วไป โมเดลเดียวกันรองรับทั้งหมดนี้ ดังนั้นคุณสามารถสลับงานภายในแชทเดียวได้

Open WebUI ช่วยในบางวิธีเฉพาะ การบันทึกพรอมต์และพรีเซ็ตโมเดลช่วยให้คุณเข้าถึงตัวละครหรือบุคลิกของบรรณาธิการได้เพียงคลิกเดียว การอัปโหลดเอกสารและฟีเจอร์การค้นหาเว็บ เมื่อคุณเปิดใช้งาน จะส่งข้อความเพิ่มเติมเข้าไปในพรอมต์ ซึ่งเพิ่มการใช้โทเคน ดังนั้นควรตรวจสอบขนาดของสิ่งที่คุณแนบมา โฟลเดอร์แชทและการค้นหาทำให้การกลับไปยังโปรเจกต์ที่ยาวนานเป็นเรื่องง่าย

สิ่งที่ไม่สามารถทำได้คือสร้างรูปภาพ เสียง หรือวิดีโอจากการเชื่อมต่อนี้ เนื่องจาก API ใช้เฉพาะข้อความ

ทดสอบเอนด์พอยต์ก่อนโทษ Open WebUI

การตั้งค่าที่ล้มเหลวส่วนใหญ่เกิดจากการพิมพ์ URL ผิดหรือคีย์หมดอายุ และทั้งสองอย่างจะปรากฏชัดเจนในเทอร์มินัลมากกว่า ให้เรียกใช้คำสั่งสองคำสั่งนี้จากเครื่องที่โฮสต์ Open WebUI

Copycurl https://api.dolphinllm.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

curl https://api.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

คำสั่งแรกควรแสดง uncensored คำสั่งที่สองควรคืนค่าการสร้างข้อความแชทปกติ ตรวจสอบส่วนหัวของคำตอบด้วย: X-Balance-USD แสดงยอดคงเหลือในบัญชีของคุณ ซึ่งเป็นวิธีที่สะดวกในการยืนยันว่า Open WebUI กำลังใช้คีย์ที่คุณคิดไว้

รายการพารามิเตอร์ทั้งหมดอยู่ใน API docs

การตั้งค่าที่ควรเปลี่ยนสำหรับการแชท

พรอมต์ระบบและการสุ่มตัวอย่าง

Open WebUI ช่วยให้คุณตั้งค่าพรอมต์ระบบสำหรับโมเดลหรือการแชทแต่ละรายการได้ เนื่องจากโมเดลได้รับการปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย พรอมต์ระบบสั้นๆ ที่กำหนดโทน บุคลิกลักษณะ หรือรูปแบบเอาต์พุตจึงมีผลมากกว่าการระบุกฎจำนวนมาก อุณหภูมิ top_p stop seed และค่าปรับจะถูกส่งผ่าน ดังนั้นตัวเลื่อนใน Open WebUI จึงมีผลจริง

ความยาวของบริบท

หน้าต่างบริบทรองรับ 100,000 โทเคนสำหรับพรอมต์รวมกับการตอบกลับ บทสนทนาที่ยาวขึ้นจะทำให้พรอมต์ยาวขึ้นในทุกๆ รอบ และคุณต้องจ่ายสำหรับประวัติทั้งหมดทุกครั้ง หากสายการสนทนาหนักเกินไป ให้เริ่มบทสนทนาใหม่หรือสรุปบทสนทนาเก่า

คำขอพื้นหลัง

Open WebUI สามารถส่งคำขอเพิ่มเติมในพื้นหลังสำหรับชื่อบทสนทนาและแท็ก โดยใช้โมเดลเดียวกันเป็นค่าเริ่มต้น บนคีย์ทดลองซึ่งอนุญาตคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที คำขอเหล่านั้นอาจแย่งโควต้ากับข้อความจริงของคุณได้ ปิดการสร้างชื่อและแท็ก หรือยอมรับความล่าช้าเล็กน้อย คีย์แบบเต็มอนุญาตคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที ซึ่งเพียงพอสำหรับการติดตั้งส่วนบุคคลหรือทีมขนาดเล็ก

สตรีมมิง โหมด JSON และเครื่องมือ

Open WebUI ส่งการตอบกลับแบบสตรีมมิงเป็นค่าเริ่มต้น และ API รองรับเหตุการณ์ที่ส่งจากเซิร์ฟเวอร์ (stream: true) พร้อมบล็อกการใช้งานที่ท้ายสตรีม คุณจะเห็นข้อความปรากฏทีละโทเคน และส่วนหัวยอดคงเหลือในการตอบกลับสุดท้ายจะสะท้อนสิ่งที่คุณใช้ไป

API รองรับ function calling: tools, tool_choice, สตรีมมิง tool_calls, และส่งผลลัพธ์กลับเป็น role: "tool". Open WebUI เปิดใช้งานฟีเจอร์นี้มากน้อยเพียงใดขึ้นอยู่กับเวอร์ชันและเครื่องมือหรือฟังก์ชันที่คุณติดตั้ง ดังนั้นให้ทดสอบกับเครื่องมือขนาดเล็กก่อนสร้าง workflow รอบมัน โหมด JSON (ตั้งค่า response_format เป็น json_object) มีประโยชน์เมื่อเรียกใช้เอนด์พอยต์เดียวกันจากสคริปต์ถัดจาก UI แชท

รูปแบบการใช้งานที่เป็นประโยชน์คือการใช้ Open WebUI สำหรับผู้ใช้ทั่วไป และใช้คีย์เดียวกันจากสคริปต์สำหรับงานแบบแบทช์ ทั้งสองเส้นทางผ่าน base URL เดียวกัน ดังนั้นยอดคงเหลือเพียงยอดเดียวครอบคลุมทุกอย่าง เพียงจำไว้ว่าขีดจำกัดอัตราใช้ต่อคีย์: คำขอพร้อมกัน 8 คำขอบนคีย์แบบเต็ม ซึ่งแชร์ระหว่าง UI และสคริปต์ของคุณ

ข้อผิดพลาดทั่วไปและการแก้ไข

• ไม่แสดงโมเดลเลย URL อาจขาด /v1 หรือมีตัวพิมพ์ผิด เปรียบเทียบทีละตัวอักษรกับค่าด้านบนและลบเครื่องหมายทับท้ายออก
• ข้อผิดพลาดการตรวจสอบสิทธิ์ คีย์ถูกวางพร้อมช่องว่างนำหน้าหรือตามหลัง หรือคีย์นี้เป็นของบัญชีที่ถูกลบ คัดลอกคีย์อีกครั้งจากหน้าคีย์
• ตัวเลือกโมเดลแสดงรายการโมเดลที่ไม่ถูกต้อง Open WebUI ยังสอบถามการเชื่อมต่ออื่นๆ ที่คุณเพิ่ม เช่น Ollama ในเครื่อง ปิดการเชื่อมต่อที่คุณไม่ได้ใช้
• การตอบหยุดปรากฏระหว่างสตรีมมิง รีเวิร์สพร็อกซีที่อยู่หน้า Open WebUI อาจบัฟเฟอร์ server-sent events ให้ปิดการบัฟเฟอร์สำหรับเส้นทางนั้น
• ยอดเงินเหลือน้อย เติมเงินก่อนที่มันจะถึงศูนย์ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน ดังนั้นคุณจ่ายเฉพาะการตอบกลับที่ส่งมอบเท่านั้น

ต้นทุนของ UI การแชทบน API นี้

ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต จากเครดิตแบบเติมเงินล่วงหน้า นำรอบสนทนาทั่วไปในบทสนทนาความยาวปานกลางมาคำนวณ: ประวัติความยาว 4,000 โทเคนเข้า และ 500 โทเคนออก ค่าอินพุตคือ 4,000 x $0.15 / 1,000,000 = $0.0006 ค่าเอาต์พุตคือ 500 x $0.50 / 1,000,000 = $0.00025 รอบสนทนานี้มีค่าใช้จ่าย $0.00085

อัตรานี้ทำให้เครดิตทดลอง $0.50 ครอบคลุมการสนทนาประมาณ 588 รอบ และการเติมเงิน $20 ครอบคลุมประมาณ 23,500 รอบ ดู หน้าราคา เพื่อโบนัสการเติมเงิน หากต้องการใช้คีย์ API เดียวกันนอก Open WebUI เช่น ในสคริปต์ที่ไม่ต้องการหน้าเข้าสู่ระบบ ดู วิธีใช้ LLM โดยไม่มีข้อจำกัดการเข้าสู่ระบบ

คู่มือเพิ่มเติม

• API LLM ฟรีสำหรับนักพัฒนา: เครดิตทดลองใช้ vs จ่ายตามการใช้งาน
• วิธีใช้ LLM โดยไม่มีข้อจำกัดการเข้าสู่ระบบ