أضف Dolphin LLM إلى LibreChat كنقطة نهاية مخصصة

كتلة نقطة النهاية

فتح librechat.yaml في مجلد LibreChat (انسخ librechat.example.yaml إذا لم يكن لديك واحد بعد) وأضف هذا تحت endpoints:

version: 1.2.1
endpoints:
  custom:
    - name: "Dolphin LLM"
      apiKey: "${DOLPHIN_API_KEY}"
      baseURL: "https://dolphinllm.com/v1"
      models:
        default: ["uncensored"]
        fetch: false
      titleConvo: true
      titleModel: "uncensored"
      modelDisplayLabel: "Dolphin LLM"

استخدم version القيمة التي يتوقعها إصدار LibreChat الخاص بك (تظهر في أعلى librechat.example.yaml). fetch: false يحتفظ بالقائمة بنموذج واحد فقط؛ مع fetch: true تسأل LibreChat GET /v1/models، والذي يعيد نفس النموذج الوحيد.

ضع المفتاح في .env

# .env
DOLPHIN_API_KEY=YOUR_KEY

أنشئ المفتاح في حسابك (التسجيل أولاً إذا لم يكن لديك أي مفتاح؛ يتم إضافة رصيد تجريبي بقيمة $0.50 عند فتح الحساب لأول مرة). لا تقم بإدراج .env إلى git.

إذا كان كل مستخدم من تثبيتك يجب أن يدفع من رصيده الخاص، اضبط apiKey: "user_provided" بدلاً من ذلك. تطلب LibreChat من كل مستخدم إدخال مفتاحه في المرة الأولى التي يختار فيها Dolphin LLM، ويقوم بتخزينه له.

Docker: قم بتثبيت الملف وأعد التشغيل

مع إعداد Docker القياسي، يقرأ LibreChat librechat.yaml فقط إذا تم تثبيته داخل حاوية الواجهة البرمجية. أضف ملف تجاوز بجوار docker-compose.yml:

# docker-compose.override.yml
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

docker compose down
docker compose up -d

افتح LibreChat، واختر Dolphin LLM في قائمة نقاط النهاية وابدأ محادثة. إذا لم تظهر نقطة النهاية، فإن سجل حاوية API يوضح السبب، وعادة ما يكون خطأ في مسافات بادئة ملف YAML.

خيارات تستحق المعرفة

• titleConvo يُجري طلباً إضافياً قصيراً واحداً لكل محادثة جديدة لتسميتها. باستخدام مفتاح تجريبي (2 طلب متوازٍ، 60 في الدقيقة)، اضبطه على false إذا رأيت تأخيرات.
• السياق: النموذج يقبل ما يصل إلى 262,144 رمزاً، الطلب بالإضافة إلى الرد. يرسل LibreChat سجل المحادثة مع كل رسالة، لذا فإن السلاسل الطويلة تكلف أكثر لكل خطوة؛ خطوة تملأ النافذة تكلف حوالي $0.0393 في المدخلات.
• المعلمات: يتم تمرير قيم درجة الحرارة (temperature)، وtop_p، والحد الأقصى لعدد الرموز (max tokens)، وكلمات التوقف (stop)، والعقوبات من لوحة معاملات LibreChat. الواجهة البرمجية (API) تدعم النص فقط، لذا لن تعمل عمليات رفع الملفات التي تتطلب الرؤية أو التضمين (embeddings) مع هذه النقطة النهائية.
• الإعدادات المسبقة والوكلاء: يمكنك حفظ موجه النظام (system prompt) كإعداد مسبق. استدعاء الأدوات مدعوم من قبل الواجهة البرمجية (API) (tools, tool_choice)، لذا يمكن لوكلاء LibreChat استخدامه؛ اختبر أداة واحدة قبل الاعتماد عليها.

تثبيت مشترك، رصيد واحد

بمفتاح واحد في .env, كل مستخدم لـ LibreChat ينفق من الرصيد نفسه. أغلق التسجيل المفتوح إذا كان التثبيت عاماً، وتحقق من الرصيد في حسابك أو في X-Balance-USD رأس الاستجابة. تنطبق الحدود لكل مفتاح: بعد الإضافة الأولى، 8 طلبات متوازية و300 في الدقيقة مشتركة بين جميع المستخدمين.

النموذج مُضبط للإجابة دون رفض المحتوى للاستخدام القانوني للبالغين، لذا فإن قواعد المنزل هي لك لتحديدها، على سبيل المثال في موجه النظام المسبق. لا يُسمح أبدًا بالمحتوى الجنسي الذي يتضمن قاصرين في واجهة برمجة التطبيقات.

التكلفة

بمعدل $0.15 لكل 1M رمز إدخال و $0.50 لكل 1M رمز إخراج، تكلف الدورة التي تحتوي على 3,000 رمز من السياق و600 رمز من الإجابة $0.00075. تنفق فريق صغير يرسل 500 من هذه الرسائل يوميًا حوالي $11 شهريًا. انظر صفحة الأسعار للحزم والمكافآت.