استخدم Dolphin LLM في Continue لـ VS Code وJetBrains

تم التحديث

Continue هو مساعد برمجة مفتوح المصدر لـ VS Code وJetBrains. يقبل أي نموذج متوافق مع OpenAI، لذا يمكنك استخدام Dolphin LLM للدردشة والتحرير والشروحات في محرر الكود الخاص بك.

نقاط رئيسية

  • أضف نموذجًا مع المزود openai، النموذج uncensored and apiBase تعيين إلى عنوان URL الأساسي أدناه.
  • منحه أدوار الدردشة والتعديل والتطبيق؛ احتفظ بالإكمال التلقائي على نموذج محلي صغير.
  • تعيين contextLength إلى 262144 بحيث تقوم Continue بقص الطلبات الطويلة بشكل صحيح.
  • لا توجد نقطة نهاية للتضمين، لذا استخدم مزودًا آخر لفهرسة قاعدة البيانات.

أضف النموذج إلى ملف config.yaml

فتح إعدادات Continue (الترس في لوحة Continue) واختر فتح ملف التكوين، أو قم بالتحرير ~/.continue/config.yaml مباشرة. أضف نموذجًا:

name: My config
version: 0.0.1
schema: v1
models:
  - name: Dolphin LLM
    provider: openai
    model: uncensored
    apiBase: https://dolphinllm.com/v1
    apiKey: YOUR_KEY
    roles:
      - chat
      - edit
      - apply
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 2048
      temperature: 0.3

احفظ الملف. يستمر في إعادة التحميل، و Dolphin LLM يظهر في قائمة النموذج في لوحة الدردشة. أنشئ مفتاحك في حسابك؛ إذا لم يكن لديك واحد بعد، التسجيل و $0.50 من رصيد تجريبي يضاف عند فتح الحساب لأول مرة.

صفحة الحساب مع بادئة مفتاح الـ API النشط، عنوان الـ الأساسي المتوافق مع OpenAI، وأمر cURL جاهز
الحساب → الـ API والرصيد: مفتاحك وعنوان الـ الأساسي، مع مثال لأمر cURL يمكن نسخه.

أبعد المفتاح عن الملف

إذا قمت بمشاركة أو مزامنة التكوين الخاص بك، فلا تلصق المفتاح فيه. تقرأ الإصدارات الحديثة من Continue الأسرار من ~/.continue/.env:

# ~/.continue/.env
DOLPHIN_API_KEY=YOUR_KEY

و كتلة النموذج ثم تستخدم apiKey: ${{ secrets.DOLPHIN_API_KEY }}. إذا لم يتمكن إصدارك من حله، فسيبلغ عن مفتاح مفقود؛ الصق المفتاح مباشرة واحتفظ بالملف خاصًا.

ما الأدوار التي يجب تعيينها له

  • chat: أسئلة حول الكود، الشرح، خطط إعادة الهيكلة. نافذة 262,144 رمزاً تحتوي على حوالي 490 صفحة من الكود والنص، لذا يمكن أن تتسع عدة ملفات في سؤال واحد.
  • edit and apply: إعادة صياغة جزء من النص أو تطبيق تغيير مقترح على الملف.
  • autocomplete: غير موصى به. يُطلق إكمال علامة التبويب طلباً تقريباً في كل توقف أثناء الكتابة، مما يزيد التكلفة ويتطلب الانتظار بسبب تأخير الشبكة. نموذج محلي صغير أفضل لذلك.
  • embed: غير متوفر. لا تحتوي هذه الواجهة البرمجية على نقطة نهاية للتضميم (embeddings)، لذا تحتاج فهرسة قاعدة البيانات إلى مزود تضميم منفصل أو محلي.

نصائح للعمل البرمجي

  • استخدم درجة حرارة منخفضة (0.2 إلى 0.4) للكود، ودرجة أعلى فقط للعصف الذهني.
  • أرفق فقط الملفات التي تحتاجها. كل سرف مرفق هو رموز إدخال في كل طلب في تلك المحادثة.
  • ابدأ دردشة جديدة عند التبديل بين المهام، حتى لا يتم إرسال السجل القديم مرة أخرى.
  • Continue يبعث الردود بشكل متدفق؛ تدعم واجهة برمجة التطبيقات التدفق مع استخدام الرموز في النهاية.

التكلفة

طلب نموذجي يحتوي على 8,000 رمز توكن للكود والسؤال وإجابة بـ 1,000 رمز توكن يكلف 8,000 × $0.15 / 1,000,000 + 1,000 × $0.50 / 1,000,000 = $0.0017. يوم مع 100 طلب من هذا النوع هو $0.17، حوالي $5 في الشهر. تغطي التجربة حوالي 290 منها. انظر صفحة الأسعار.

استكشاف الأخطاء وإصلاحها

  • 404 غير موجود. apiBase يجب أن ينتهي بـ /v1; يستمر الإضافة /chat/completions itself.
  • 401 مفتاح غير صالح. تحقق من المفتاح أو اسم السر؛ أعد تشغيل المحرر بعد التغيير .env.
  • 429 التزامن على مفتاح تجريبي. تسمح النسخة التجريبية بـ 2 طلب متوازي. قم بإيقاف تشغيل ميزات Continue الأخرى التي تستدعي نفس النموذج، أو قم بإعادة الشحن لـ 8 طلبات متوازية.

الأسئلة والأجوبة

أي مزود أختار في Continue؟

provider: openai with apiBase تعيين إلى https://dolphinllm.com/v1 و uncensored.

هل يمكنني استخدامه للإكمال التلقائي للنوافذ؟

تعمل، لكنها ليست الخيار الأنسب: الإكمال التلقائي يرسل عدداً كبيراً من الطلبات الصغيرة. استخدم نموذجاً محلياً صغيراً للإكمال التلقائي وDolphin LLM للدردشة والتعديلات.

هل يدعم فهرسة المستودع البرمجي؟

ليس بشكل مستقل. لا تحتوي الـ API على نقطة نهاية للـ embeddings، لذا قم بتكوين نموذج embeddings منفصل.

مزيد من الأدلة

مفتاحك على بعد نموذج واحد

أنشئ حسابًا، وانسخ المفتاح، ثم غيّر عنوان URL الأساسي. هذا هو الإعداد بأكمله.