ประเด็นสำคัญ
- ผู้ใช้ใหม่สามารถขอเครดิตทดลอง $0.50 ด้วยคลิกเดียว ไม่ต้องใช้บัตรเครดิต ใช้งานได้ 7 วัน
- คำขอทั่วไปของนักพัฒนาที่ส่ง 1,500 โทเคนและรับ 300 โทเคนมีค่าใช้จ่าย $0.000375 ดังนั้นเครดิตทดลองจึงครอบคลุมการเรียกใช้ประมาณ 1,333 ครั้ง
- เครดิตแบบเติมเงินล่วงหน้าไม่หมดอายุ และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน
- คีย์ทดลองอนุญาตคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที; คีย์เต็มอนุญาต 8 และ 300
คำตอบสั้นๆ: ช่วงทดลอง จากนั้นเสียเพียงไม่กี่เซ็นต์ต่อการเรียกใช้
ไม่มีอะไรฟรีตลอดไป สิ่งที่คุณได้รับคือจุดเริ่มต้นฟรีและบิลที่น้อยมากหลังจากนั้น สมัครใช้งานด้วย Google หรืออีเมลและรหัสผ่าน เปิดหน้าคีย์ API แล้วรับเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียว ไม่ต้องใช้บัตร เครดิตนี้มีอายุ 7 วัน และแต่ละคนรับได้หนึ่งครั้ง
หลังจากนั้นคุณจ่ายตามการใช้งานที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens ไม่มีการสมัครสมาชิกและไม่มีขั้นต่ำรายเดือน การเติมเงินขั้นต่ำคือ $20 และเครดิตไม่หมดอายุ ดังนั้นคุณสามารถใช้มันได้ภายในเวลาหนึ่งปีหากโปรเจกต์ของคุณช้า
เครดิตทดลอง $0.50 ใช้ทำอะไรได้บ้าง
ค่าใช้จ่ายต่อคำขอเป็นเรื่องง่าย: โทเคนอินพุตคูณ $0.15 บวกโทเคนเอาต์พุตคูณ $0.50 ทั้งคู่หารด้วย 1,000,000 ตัวอย่างสองรายการแสดงช่วงราคา
| ประเภทคำขอ | โทเคนเข้า/ออก | ต้นทุนต่อคำขอ | เรียกใช้เริ่มต้น $0.50 | เรียกใช้เริ่มต้น $20 |
|---|---|---|---|---|
| Dev loop: พรอมต์สั้น คำตอบสั้น | 1,500 / 300 | $0.000375 | 1,333 | 53,333 |
| ใช้งานหนัก: บริบทที่วางมา คำตอบยาว | 20,000 / 800 | $0.0034 | 147 | 5,882 |
ตรวจสอบแถวแรก: 1,500 x $0.15 / 1,000,000 = $0.000225 และ 300 x $0.50 / 1,000,000 = $0.00015 ผลรวมคือ $0.000375 สำหรับแถวที่สอง โทเคนอินพุต 20,000 ค่า $0.003 และโทเคนเอาต์พุต 800 ค่า $0.0004 รวมเป็น $0.0034
ในทางปฏิบัติ เครดิตทดลองใช้เพียงพอสำหรับการเชื่อมต่อไคลเอนต์ ทดสอบสตรีมมิง ลองใช้การเรียกใช้ฟังก์ชัน และตัดสินใจว่าโมเดลเหมาะกับโปรเจกต์ของคุณหรือไม่
ทำไมฟรีเทียร์จึงยากที่จะนำมาต่อยอดสร้างโปรเจกต์
ฟรีเทียร์มีอยู่เพื่อให้คุณลองใช้ผลิตภัณฑ์ และขีดจำกัดถูกกำหนดโดยมีวัตถุประสงค์นั้นเป็นเป้าหมาย รายละเอียดเปลี่ยนแปลงอยู่บ่อยครั้ง ดังนั้นควรตรวจสอบข้อกำหนดปัจจุบันของผู้ให้บริการแต่ละรายก่อนพึ่งพา โดยทั่วไป นักพัฒนาจะพบปัญหาไม่กี่อย่างเดียวกัน
- ขีดจำกัดอัตราที่ออกแบบมาสำหรับการสาธิต สคริปต์ที่ทำงานได้ที่สิบคำขอ จะใช้งานไม่ได้เมื่อเป็นไม่กี่ร้อยคำขอ
- การเปลี่ยนแปลงขีดจำกัด ขีดจำกัดที่ดูดีในวันนี้อาจถูกจำกัดมากขึ้นในภายหลัง และไปป์ไลน์ของคุณจะเรียนรู้เกี่ยวกับเรื่องนี้จากข้อผิดพลาด
- ตัวกรองเนื้อหา โมเดลที่โฮสต์จำนวนมากปฏิเสธคำขอสำหรับนิยาย บทบาทสมมติ หรือข้อมูลทดสอบที่แปลกใหม่ การถูกปฏิเสธระหว่างทำงานแบทช์คือบั๊กที่คุณไม่สามารถแพตช์ได้
- การจัดการข้อมูลที่ไม่ชัดเจน การให้บริการฟรีบางแห่งใช้พรอมต์เพื่อปรับปรุงโมเดลของพวกเขา อ่านข้อกำหนด
สิ่งเหล่านี้ไม่ได้ทำให้ฟรีเทียร์ไม่ดี สำหรับโปรโตไทป์ในวันหยุดสุดสัปดาห์มันใช้ได้ ปัญหาเริ่มขึ้นเมื่อโปรโตไทป์กลายเป็นบริการ
ยังมีปัญหาการวางแผนด้วย แผนฟรีทำให้คุณคาดการณ์ต้นทุนไม่ได้ เพราะไม่มีราคาที่จะคูณ ด้วยราคาต่อโทเคนคุณสามารถเขียนงบประมาณในบรรทัดเดียวก่อนเขียนโค้ด และนั่นทำให้โปรเจกต์ง่ายขึ้นในการชี้แจงให้ลูกค้าหรือพาร์ตเนอร์ หากการใช้งานของคุณเพิ่มขึ้นสิบเท่า บิลของคุณจะเพิ่มขึ้นประมาณสิบเท่า และไม่มีอะไรอื่นเปลี่ยนแปลง
สิ่งที่ต้องตรวจสอบใน API ก่อนที่จะผูกมัด
ไม่ว่าบริการจะมีค่าใช้จ่ายหรือไม่ ถามคำถามเดียวกันก่อนที่จะเชื่อมต่อเข้ากับโค้ดของคุณ
- โปรโตคอลเป็นมาตรฐานหรือไม่ API นี้เข้ากันได้กับ OpenAI ดังนั้นการเปลี่ยนไปใช้ที่อื่นในภายหลังหมายถึงการเปลี่ยนสองบรรทัด ไม่ใช่การเขียนไคลเอนต์ใหม่
- ขีดจำกัดเป็นตัวเลขเท่าไร? เผยแพร่ไว้ดังนี้: คำขอพร้อมกัน 8 รายการและ 300 รายการต่อนาทีสำหรับคีย์เต็ม, 2 และ 60 สำหรับคีย์ทดลอง, body ขนาด 8 MB, หน้าต่างบริบท 100,000 โทเคน
- เกิดอะไรขึ้นเมื่อการเรียกใช้ล้มเหลว ในบริการนี้ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน
- เกิดอะไรขึ้นกับพรอมต์ของคุณ ที่นี่จะไม่ถูกนำไปใช้ฝึกโมเดล
- โมเดลปฏิเสธกรณีการใช้งานของคุณหรือไม่? ตัวนี้ปรับแต่งเพื่อตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ซึ่งสำคัญสำหรับนิยาย, การสวมบทบาทและข้อมูลทดสอบ ข้อห้ามเด็ดขาดเพียงข้อเดียวคือเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์
- คุณสามารถออกได้หรือไม่ เครดิตเป็นเครดิตแบบเติมเงินล่วงหน้าและไม่หมดอายุ และไม่มีสัญญา
วิธีทำให้การทดลองใช้ยืนยาว
นิสัยเล็กๆ ทำให้เงิน $0.50 คุ้มค่ามาก
- ตั้งค่า
max_tokensขณะทดสอบ เป็นตัวเลือกเสริมใน API นี้ แต่การจำกัดที่ 300 ป้องกันไม่ให้คำตอบที่ยาวเกินควบคุมมีค่าใช้จ่ายมากกว่าที่วางแผนไว้ถึงสิบเท่า ด้านที่แพงกว่าคือ output ที่ $0.50 ต่อ 1M - ทำให้ system prompt สั้น system prompt ขนาด 1,000 โทเคนที่ส่งไปกับทุกคำขอจะเพิ่มค่าใช้จ่าย $0.00015 ต่อคำขอ
- ใช้
seedและอุณหภูมิต่ำ สำหรับการทดสอบที่ซ้ำได้ เพื่อให้คุณไม่ต้องรันคำขอซ้ำเพื่อดูคำตอบที่แตกต่าง - อย่าส่งประวัติทั้งหมดซ้ำ เว้นแต่คุณต้องการมัน หน้าต่างคือ 100,000 โทเคน และทุกโทเคนในนั้นจะถูกเรียกเก็บเป็น input
- ตรวจสอบ
X-Balance-USDในส่วนหัวของคำตอบเพื่อดูว่าแต่ละการทดสอบเสียค่าใช้จ่ายเท่าไหร่จริงๆ
อีกเคล็ดลับหนึ่งคือการบันทึก resp.usage สำหรับทุกคำขอระหว่างการพัฒนา หลังจากทดสอบหนึ่งวัน คุณจะรู้ค่าเฉลี่ยที่แท้จริงของคุณ และสามารถแทนที่ตัวเลขประมาณการในตารางด้านบนด้วยตัวเลขของคุณเอง คนจำนวนมากพบว่าพรอมต์ของพวกเขายาวกว่าที่คาดไว้สองหรือสามเท่า ส่วนใหญ่เป็นเพราะsystem prompt และตัวอย่างที่วางไว้
งบประมาณสำหรับโปรเจกต์เสริม
ตัวเลขช่วยได้เมื่อคุณตัดสินใจว่าโปรเจกต์คุ้มค่าแก่การลงทุนหรือไม่ ลองแอปขนาดเล็กที่ทำ 200 คำขอต่อวัน ด้วยขนาด dev-loop คืออินพุต 1,500 โทเคนและเอาต์พุต 300 โทเคน แต่ละคำขอมีค่าใช้จ่าย $0.000375 ดังนั้นหนึ่งวันมีค่าใช้จ่าย $0.075 และหนึ่งเดือน 30 วันมีค่าใช้จ่าย $2.25 การเติมเงิน $20 จะใช้ได้ประมาณเก้าเดือนในอัตรานี้
ตอนนี้ใช้เครื่องมือที่หนักกว่าซึ่งทำ 50 คำขอต่อวัน พร้อมบริบทที่วางลงไป 20,000 โทเคน และผลลัพธ์ 800 โทเคน แต่ละคำขอมีค่าใช้จ่าย $0.0034 ดังนั้นต่อวันคือ $0.17 และต่อเดือนคือ $5.10 แม้ปริมาณคำขอเพิ่มขึ้นสองเท่า โครงการทั้งสองยังคงมีค่าใช้จ่ายหลักหน่วยดอลลาร์ต่อเดือน
จุดสำคัญคือราคาโทเคนในระดับนี้ทำให้ค่าใช้จ่ายเป็นรายการย่อยเล็กน้อยสำหรับโปรเจกต์เสริมส่วนใหญ่ สิ่งที่เป็นตัวตัดสินความสำเร็จคือโมเดลทำงานได้หรือไม่ และขีดจำกัดรองรับปริมาณการจราจรของคุณได้หรือไม่
คำขอแรกที่คุณสามารถรันได้ทันที
API นี้เข้ากันได้กับ OpenAI ดังนั้น SDK Python มาตรฐานจึงใช้งานได้หลังจากเปลี่ยน base URL และคีย์
from openai import OpenAI
client = OpenAI(
base_url="https://api.dolphinllm.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)ออบเจกต์ usage ให้คุณนับโทเคนพรอมต์และการตอบกลับที่แน่นอน คูณพวกมันด้วยอัตราข้างต้นและคุณจะมีต้นทุนของคำขอนั้น สตรีมมิง โหมด JSON และการเรียกใช้ฟังก์ชันทั้งหมดพร้อมใช้งานเช่นกัน; เอกสารมีตัวอย่างสำหรับแต่ละอย่าง
เมื่อไหร่ควรเปลี่ยนจากการทดลองเป็นการเติมเงิน
ให้เติมเงินเมื่อเครดิตทดลองใช้หมดหรือเมื่อคุณต้องการคำขอพร้อมกันมากกว่า 2 คำขอ คีย์เต็มรูปแบบรองรับคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที การเติมเงินเริ่มต้นที่ $20 ถึง $500 ในจำนวนเต็มใดๆ จำนวนที่มากกว่ามาพร้อมโบนัส: +5% ตั้งแต่ $50, +10% ตั้งแต่ $100 และ +15% ตั้งแต่ $200 การเติมเงิน $50 ให้เครดิต $52.50 และ $200 ให้ $230
คุณสามารถจ่ายด้วยคริปโต (USDT บน TRC20, USDC บน Base) ตัวเลขเต็มมีอยู่ที่ หน้าราคา และคุณสามารถรับคีย์จาก หน้าคีย์
API นี้ไม่ใช่อะไรอะไรอะไร
เพื่อไม่ให้คุณเสียเวลาทั้งเย็นเปล่าๆ: นี่คือบริการเฉพาะข้อความ ไม่มีสร้างภาพ เสียง หรือวิดีโอ ไม่มี embeddings และไม่มี fine-tuning นี่คือโมเดลแบบ open-weight ตัวเดียวที่ให้บริการโดยผู้ให้บริการอิสระ ไม่ใช่ API ทางการของผู้จัดจำหน่ายรายใหญ่ใดๆ และไม่ใช่เราเตอร์ที่ส่งต่อไปยังหลายโมเดล หากโปรเจกต์ของคุณต้องการ embeddings สำหรับการค้นหา คุณจะต้องใช้บริการอื่นสำหรับส่วนนั้น หากต้องการโมเดลแชทที่ปฏิบัติตามคำแนะนำและไม่ปฏิเสธ นี่คือตัวเลือกที่เหมาะสม
หากคุณเพิ่งเข้ามาใช้เว็บไซต์นี้ หน้า การใช้ LLM โดยไม่มีข้อจำกัดในการเข้าสู่ระบบ อธิบายวิธีการสมัครและการทำงานของคีย์โดยละเอียดมากขึ้น
