Utilisez Dolphin LLM dans Continue pour VS Code et JetBrains

Ajoutez le modèle à config.yaml

Ouvrir Continue's settings (the gear in the Continue panel) and choose to open the config file, or edit ~/.continue/config.yaml directement. Ajoutez un modèle :

name: My config
version: 0.0.1
schema: v1
models:
  - name: Dolphin LLM
    provider: openai
    model: uncensored
    apiBase: https://dolphinllm.com/v1
    apiKey: YOUR_KEY
    roles:
      - chat
      - edit
      - apply
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 2048
      temperature: 0.3

Sauvegardez le fichier. Continue le recharge, et Dolphin LLM apparaît dans le menu du modèle du panneau de chat. Créez votre clé dans votre compte ; si vous n'en avez pas encore, s'inscrire et $0.50 de crédit d'essai sont ajoutés lors de la première ouverture du compte.

Conservez la clé hors du fichier

Si vous partagez ou synchronisez votre configuration, ne collez pas la clé dedans. Les versions récentes de Continue lisent les secrets depuis ~/.continue/.env:

# ~/.continue/.env
DOLPHIN_API_KEY=YOUR_KEY

et le bloc de modèle utilise ensuite apiKey: ${{ secrets.DOLPHIN_API_KEY }}. Si votre version ne le résout pas, elle signale une clé manquante ; collez la clé directement et gardez le fichier privé.

Quels rôles lui attribuer

• chat: questions sur le code, explications, plans de refactoring. La fenêtre de 262 144 tokens contient environ 490 pages de code et de texte, donc plusieurs fichiers tiennent dans une seule question.
• edit and apply: réécriture d'une sélection ou application d'une suggestion de modification au fichier.
• autocomplete: non recommandé. La complétion par onglet déclenche une requête à presque chaque pause de frappe, ce qui augmente les coûts et les attentes liées à la latence réseau. Un petit modèle local est préférable pour cela.
• embed: non disponible. Cette API ne dispose pas d'un point de terminaison pour les embeddings, l'indexation du code nécessite donc un fournisseur d'embeddings séparé ou local.

Conseils pour le travail de codage

• Utilisez une température faible (0,2 à 0,4) pour le code, plus élevée uniquement pour le brainstorming.
• Joignez uniquement les fichiers dont vous avez besoin. Chaque ligne jointe représente des tokens d'entrée à chaque demande dans ce chat.
• Commencez un nouveau chat lorsque vous changez de tâche, afin que l'ancien historique ne soit pas renvoyé.
• Continue diffuse les réponses ; l'API prend en charge le streaming avec l'utilisation des tokens à la fin.

Coût

Une requête typique avec 8 000 tokens de code et de question et une réponse de 1 000 tokens coûte 8 000 × $0.15 / 1 000 000 + 1 000 × $0.50 / 1 000 000 = $0.0017. Une journée avec 100 telles requêtes coûte $0.17, soit environ $5 par mois. L'essai en couvre environ 290. Voir la page des tarifs.

Dépannage

• 404 introuvable. apiBase doit se terminer par /v1, Continue ajoute /chat/completions itself.
• 401 clé_invalid. Vérifiez la clé ou le nom du secret ; redémarrez l'éditeur après la modification .env.
• 429 concurrence sur une clé d'essai. L'essai permet 2 requêtes parallèles. Désactivez les autres fonctionnalités Continue qui appellent le même modèle, ou rechargez pour 8 requêtes parallèles.