API LLM gratuite pour les développeurs : essai vs paiement à l'usage

Réponse courte : un essai, puis quelques centimes par appel

Rien n'est gratuit à jamais. Vous obtenez un début gratuit et une petite facture ensuite. Inscrivez-vous avec Google ou e-mail et mot de passe, ouvrez la page de la clé API et réclamez 0,50 $ de crédit d'essai en un clic. Aucune carte n'est nécessaire. Le crédit est valable 7 jours et chaque personne en obtient un.

Ensuite, vous payez à l'usage à 0,15 $ par 1M de tokens d'entrée et 0,50 $ par 1M de tokens de sortie. Pas d'abonnement ni de minimum mensuel. Le rechargement minimum est de 20 $, et le crédit n'expire jamais, donc vous pouvez le dépenser sur un an si votre projet est lent.

Ce que permet le crédit d'essai de 0,50 $

Le coût par requête est simple : tokens d'entrée × 0,15 $, plus tokens de sortie × 0,50 $, le tout divisé par 1 000 000. Deux exemples montrent la fourchette.

Vérifiez la première ligne : 1 500 × 0,15 $ / 1 000 000 = 0,000225 $, et 300 × 0,50 $ / 1 000 000 = 0,00015 $. La somme est de 0,000375 $. Pour la deuxième ligne, 20 000 tokens d'entrée coûtent 0,003 $ et 800 tokens de sortie coûtent 0,0004 $, soit 0,0034 $ au total.

En pratique, l'essai suffit pour brancher un client, tester le streaming, essayer les appels de fonctions et décider si le modèle convient à votre projet.

Pourquoi les offres gratuites sont difficiles à utiliser pour construire un produit

Les offres gratuites existent pour que vous puissiez essayer un produit, et leurs limites sont définies dans cet objectif. Les détails changent souvent, donc vérifiez les conditions actuelles de chaque fournisseur avant de vous y fier. En général, les développeurs rencontrent les mêmes problèmes.

• Limites de débit adaptées à une démo. Un script qui fonctionne à dix requêtes devient inutilisable à quelques centaines.
• Modification des limites. Une limite qui est acceptable aujourd'hui peut être resserrée plus tard, et votre pipeline s'en rend compte via une erreur.
• Filtres de contenu. De nombreux modèles hébergés refusent les requêtes pour la fiction, le jeu de rôle ou des données de test osées. Un refus au milieu d'un traitement par lots est un bug que vous ne pouvez pas corriger.
• Traitement des données peu clair. Certaines offres gratuites utilisent les prompts pour améliorer leurs modèles. Lisez les conditions.

Tout cela ne rend pas les offres gratuites mauvaises. Pour un prototype de week-end, elles sont parfaites. Le problème commence quand le prototype devient un service.

Il y a aussi un problème de planification. Une offre gratuite ne vous permet pas de prévoir le coût, car il n'y a pas de prix à multiplier. Avec un prix par token, vous pouvez écrire le budget sur une ligne avant d'écrire du code, ce qui facilite la défense du projet auprès d'un client ou d'un partenaire. Si votre utilisation augmente dix fois, la facture augmente d'environ dix fois, et rien d'autre ne change.

Ce qu'il faut vérifier dans n'importe quelle API avant de s'engager

Qu'un service coûte de l'argent ou non, posez les mêmes questions avant de l'intégrer à votre code.

1. Le protocole est-il standard ? Cette API est compatible OpenAI, donc changer de fournisseur plus tard ne nécessite que de modifier deux lignes, pas de réécrire un client.
2. Quelles sont les limites en chiffres ? Elles sont publiées ici : 8 requêtes simultanées et 300 par minute sur une clé complète, 2 et 60 sur une clé d'essai, corps de requête de 8 Mo, fenêtre de 100 000 tokens.
3. Que se passe-t-il quand un appel échoue ? Sur ce service, les requêtes échouées ou refusées ne sont pas facturées.
4. Que deviennent vos prompts ? Ils ne sont pas utilisés ici pour l'entraînement.
5. Le modèle refuse-t-il votre cas d'utilisation ? Celui-ci est ajusté pour répondre sans refus de contenu pour un usage adulte légal, ce qui compte pour la fiction, le jeu de rôle et les données de test. La seule limite stricte est le contenu sexuel impliquant des mineurs.
6. Pouvez-vous partir ? Le crédit est prépayé et n'expire jamais, et il n'y a pas de contrat.

Comment faire durer l'essai

De petites habitudes font durer les 0,50 $ longtemps.

1. Définissez max_tokens lors des tests. C’est optionnel sur cette API, mais une limite de 300 tokens empêche une réponse déréglée de coûter dix fois plus que prévu. La sortie est le côté coûteux à 0,50 $ par 1M.
2. Gardez les prompts système courts. Un prompt système de 1 000 tokens envoyé avec chaque appel ajoute 0,00015 $ par requête.
3. Utilisez seed et une température faible pour des tests reproductibles, afin de ne pas relancer un appel juste pour voir une réponse différente.
4. Ne renvoyez pas tout l'historique sauf si vous en avez besoin. La fenêtre est de 100 000 tokens, et chaque token dans celle-ci est facturé en entrée.
5. Surveillez X-Balance-USD dans les en-têtes de réponse pour voir exactement ce que chaque test a coûté.

Une autre astuce consiste à journaliser resp.usage pour chaque appel pendant le développement. Après une journée de tests, vous connaîtrez votre moyenne réelle et pourrez remplacer les estimations des tableaux ci-dessus par vos propres chiffres. Beaucoup constatent que leurs prompts sont deux ou trois fois plus longs que prévu, principalement à cause des prompts système et des exemples collés.

Un budget pour un projet secondaire

Les chiffres aident à décider si un projet vaut la peine d’être financé. Prenons une petite application qui effectue 200 appels par jour avec une taille de boucle de développement de 1 500 tokens en entrée et 300 en sortie. Chaque appel coûte 0,000375 $, soit 0,075 $ par jour et 2,25 $ pour un mois de 30 jours. Un rechargement de 20 $ couvrirait environ neuf mois à ce tarif.

Prenons maintenant un outil plus lourd qui effectue 50 appels par jour avec 20 000 tokens de contexte collé et 800 tokens en sortie. Chaque appel coûte 0,0034 $, soit 0,17 $ par jour et 5,10 $ par mois. Même un doublement du trafic maintient les deux projets dans la fourchette de quelques dollars par mois.

L'idée est que le prix par token à ce niveau fait du coût une ligne mineure pour la plupart des projets secondaires. Ce qui décide du succès est si le modèle fait le travail et si les limites conviennent à votre trafic.

Un premier appel que vous pouvez lancer maintenant

L'API est compatible OpenAI, donc le SDK Python standard fonctionne après avoir changé l'URL de base et la clé.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

L'objet usage vous donne les comptes exacts des tokens de prompt et de complétion. Multipliez-les par les tarifs ci-dessus et vous obtenez le coût de cet appel. Le streaming, le mode JSON et l'appel de fonctions sont également disponibles ; la documentation contient des exemples pour chacun.

Quand passer de l'essai à un rechargement

Passez à une recharge quand l'essai est épuisé ou quand vous avez besoin de plus de 2 requêtes simultanées. Une clé complète permet 8 requêtes simultanées et 300 par minute. Les rechargements vont de 20 $ à 500 $ en tout montant entier. Les plus importants offrent un bonus : +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $. Un rechargement de 50 $ donne 52,50 $ de crédit, et 200 $ donne 230 $.

Vous pouvez payer avec de la crypto (USDT sur TRC20, USDC sur Base). Les chiffres complets sont sur la page de tarification, et vous pouvez récupérer une clé depuis la page des clés.

Ce que cette API n'est pas

Pour vous éviter une soirée perdue : c'est un service textuel uniquement. Pas de génération d'images, d'audio ou de vidéo, pas d'embeddings ni de fine-tuning. C'est un seul modèle à poids ouverts géré par un fournisseur indépendant, pas l'API officielle d'un grand vendeur ni un routeur vers plusieurs. Si votre projet a besoin d'embeddings pour la recherche, vous aurez besoin d'un autre service pour cette partie. S'il a besoin d'un modèle de chat qui suit les instructions et ne refuse pas, celui-ci convient.

Si vous êtes nouveau sur le site, la page sur l'utilisation d'un LLM sans restrictions de connexion explique comment l'inscription et les clés fonctionnent plus en détail.

Plus de guides

• Endpoints de l'API Open WebUI : connectez un LLM sans censure
• Comment utiliser un LLM sans restrictions de connexion