Dolphin LLM API: محلي، GPU مستأجر أو مستضاف

ما يعنيه الناس بنموذج Dolphin

Dolphin هو اسم سلسلة من الضبط الدقيق المجتمعي لنماذج أساسية مفتوحة الأوزان. تم تصفية بيانات الضبط ليصبح النموذج يتبع التعليمات دون محاضرات أو رفض الطلبات العادية. لأن النموذج الأساسي يتغير بين الإصدارات، لا يوجد مورد Dolphin واحد بنقطة نهاية رسمية واحدة. عندما يطلب شخص ما dolphin llm api، فإنه يعني عادة أي API تخدم نموذجاً غير خاضع للرقابة من ذلك الطراز.

هذا مهم لكيفية تخطيطك. أنت لا تختار علامة تجارية، بل تختار أين تعمل الأوزان ومن يديرها. جودة النموذج تعتمد على النموذج الأساسي والتعديل، والجانب التشغيلي يعتمد على المسار الذي تختاره أدناه.

ملاحظة واحدة حول النطاق: هذه النماذج مضبوطة للاستخدام القانوني للبالغين. لا مزود هنا، ولا معقول في أي مكان، سيخدم محتوى جنسي يتضمن القاصرين. تعامل مع ذلك كحد ثابت في تطبيقك الخاص أيضاً.

المسار 1: تشغيله على جهازك الخاص

أرخص مسار لكل رمز هو نموذج تمتلك بالفعل الأجهزة اللازمة لتشغيله. أدوات مثل Ollama و llama.cpp تنزّل الأوزان المُكمّنة (quantized) وتُعرّض خادمًا محليًا. وكلاهما يمكنه تقديم نقطة نهاية على الطراز OpenAI على localhost، بحيث يبدو كود العميل الخاص بك كما هو الحال مع أي خدمة مستضافة.

التحدي يكمن في الذاكرة. يحتاج النموذج المُكمّن إلى ذاكرة عشوائية (RAM) أو ذاكرة وحدة معالجة الرسومات (VRAM) بحجم ملفه تقريبًا، بالإضافة إلى مساحة للذاكرة المؤقتة للسياق. النماذج الصغيرة تتسع للجهاز المحمول، لكن النماذج الأكبر تحتاج إلى بطاقة رسومات (GPU) ذات ذاكرة كبيرة، وتؤدي الموجّهات الطويلة إلى نمو الذاكرة المؤقتة. إذا لم يتسع النموذج في VRAM، فإنه ينتقل إلى ذاكرة النظام وتنخفض السرعة بشكل حاد.

الحل المحلي مناسب عندما تعمل دون اتصال، أو عندما يجب ألا تغادر البيانات جهازك أبدًا، أو عندما تريد تجربة ضبط دقيق (fine-tunes) مختلفة. وهو غير مناسب لمنتج له مستخدمون، لأن جهازك المحمول يصبح الخادم. لمزيد من التفاصيل حول الجانب المحلي، راجع المقال المنفصل حول كيفية تشغيل نموذج على غرار Dolphin.

المسار 2: استئجار بطاقة رسومات (GPU) وتشغيلها بنفسك

يوفر استئجار GPU بالساعة نماذج أكبر دون شراء أجهزة. تقوم بتثبيت حزمة برمجية مثل vLLM أو خادم llama.cpp، وتحميل الأوزان، وتفتح منفذًا. ثم تملك كل ما يتعلق بذلك.

• إعداد برامج التشغيل، وبرمجيات الخادم، وTLS.
• إضافة المصادقة حتى لا يتمكن الغرباء من استخدام بطاقة الرسومات (GPU) الخاصة بك.
• إعادة التشغيل بعد الأعطال ومراقبة الذاكرة.
• الدفع مقابل ساعات تشغيل الخادم، سواء تم إرسال طلبات أم لا.

هذا النقطة الأخيرة هي المحرك الحقيقي للتكلفة. وحدة معالجة الرسومات التي تبقى خاملة ليلاً لا تزال تُفرض رسومها. المسار يستحق العناء عندما يكون لديك حركة مرور مستمرة وعالية، وشخص مستعد لإدارتها. بالنسبة لمشروع جانبي مع فترات استخدام متقطعة، تدفع معظم الوقت مقابل وقت الخمول. تحقق من أسعار الساعة الحالية على صفحة التسعير الخاصة بمقدم الخدمة، لأنها تتغير.

المسار 3: استدعاء نقطة نهاية متوافقة مع OpenAI مستضافة

تزيل نقطة النهاية المستضافة العمل التشغيلي. ترسل طلبات HTTPS وتدفع مقابل الرموز التي تستخدمها. يقدم هذا الموقع ذلك: واجهة برمجة نصية متوافقة مع OpenAI، لنموذج واحد مفتوح الأوزان، يديره موفّر مستقل ومضبوط للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين. ليكون واضحاً بشأن ما لا يكون عليه: إنه ليس واجهة برمجة التطبيقات الرسمية لأي بائع نماذج، وليس موزّعاً عبر عدة نماذج. معرّف النموذج هو uncensored.

نظرًا لأن واجهة برمجة التطبيقات (API) متوافقة مع OpenAI، فإن أي SDK من OpenAI يعمل بمجرد تغيير إعدادين، وهما عنوان URL الأساسي والمفتاح. إليك استدعاء Python بسيط:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a direct, helpful assistant."},
        {"role": "user", "content": "Explain how a context window works."},
    ],
)
print(resp.choices[0].message.content)

نفس الطلب باستخدام curl:

Copycurl https://api.dolphinllm.com/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

يعمل البث المتدفق (stream: true)، واستدعاء الدوال، ووضع JSON، ومعاملات أخذ العينات المعتادة كما هو الحال في واجهة برمجة التطبيقات الخاصة بـ OpenAI. نافذة السياق هي 100,000 رمز، للموجّه والإكمال. يدرج توثيق واجهة برمجة التطبيقات (API) كل نقطة نهاية ومعامل مدعوم.

مقارنة جنبًا إلى جنب

الصف الذي يحدد معظم الحالات هو اختيار النموذج. إذا كنت بحاجة إلى ضبط Dolphin محدد واحد، فإن المسارين الأولين فقط يمنحانك ذلك. إذا كنت بحاجة إلى نموذج بدون رقابة قادر خلف واجهة برمجة تطبيقات مستقرة ولا تهمك بالضبط أي ضبط هو، فإن المسار المستضاف يوفر لك عمل التشغيل.

تكلفة استدعاء مستضاف

التسعير هو $0.15 لكل مليون رمز مدخل و$0.50 لكل مليون رمز مخرج، تُدفع من الرصيد المسبق الدفع. لا توجد اشتراك، الطلبات الفاشلة أو المرفوضة لا تُفرض رسومها، والرصيد لا ينتهي. تكلفة دورة دردشة نموذجية مع 2,000 رمز مدخل و500 رمز مخرج هي:

• الإدخال: 2,000 × $0.15 / 1,000,000 = $0.0003
• الإخراج: 500 × $0.50 / 1,000,000 = $0.00025
• المجموع: $0.00055 لكل طلب، أو $0.55 لكل 1,000 طلب

شحن الرصيد يكون بمبالغ صحيحة تتراوح بين $20 و$500، مع زيادة بنسبة +5% من $50، و+10% من $100، و+15% من $200. يمكنك الدفع بالعملات المشفرة (USDT على TRC20، USDC على Base). يحتوي صفحة الأسعار على التفاصيل الحالية.

للمقارنة مع GPU تستأجرها، قسّم السعر بالساعة على عدد الطلبات التي يمكنك خدمتها في ساعة واحدة بناءً على حركة المرور الفعلية. في حالة الحجم المنخفض أو المتقطع، يفوز نموذج الرمز عادةً، لأنك لا تدفع مقابل وقت الخمول.

جربه قبل الدفع

يمكن للمستخدمين الجدد المطالبة بـ $0.50 من الرصيد التجريبي بنقرة واحدة على صفحة المفتاح بعد تسجيل الحساب. هذا واحد لكل شخص، صالح لمدة 7 أيام، ولا يحتاج إلى بطاقة. تسجيل الحساب يتم عبر Google أو عبر البريد الإلكتروني وكلمة المرور. بناءً على الأسعار المذكورة أعلاه، يغطي $0.50 حوالي 900 من طلبات المثال (2,000 مدخل، 500 مخرج)، وهو كافٍ لاختبار ما إذا كان أسلوب النموذج يناسب استخدامك. مفاتيح التجربة محدودة بـ 2 طلب متزامن و60 طلب في الدقيقة.

احصل على مفتاحك من صفحة مفتاح API. إذا كنت تريد نموذجًا لا يتطلب تسجيل دخول على الإطلاق، راجع مقال LLM بدون تسجيل دخول، ولإعداد العميل في واجهة أمامية للدردشة، اقرأ عن نقاط نهاية Open WebUI.

المزيد من الأدلة

• كيفية تشغيل نموذج Dolphin LLM: الإعداد المحلي مقابل واجهة برمجة التطبيقات المستضافة
• API للLLM مجاني للمطورين: التجربة مقابل الدفع حسب الاستخدام