Kostenlose LLM-API für Entwickler: Testguthaben vs. Pay as you go

Kurze Antwort: Ein Testguthaben, dann Cent pro Aufruf

Hier ist nichts für immer kostenlos. Du erhältst einen kostenlosen Start und eine sehr kleine Rechnung danach. Melde dich mit Google oder E-Mail und Passwort an, öffne die API-Schlüssel-Seite und beanspruche $0,50 Testguthaben mit einem Klick. Keine Karte ist erforderlich. Das Guthaben ist 7 Tage gültig und jede Person erhält eines.

Danach zahlst du Pay as you go mit $0,15 pro 1 Mio. Input-Token und $0,50 pro 1 Mio. Output-Token. Es gibt kein Abonnement und kein monatliches Minimum. Die kleinste Aufladung beträgt $20, und das Guthaben verfällt nie, sodass du es über ein Jahr ausgeben kannst, wenn dein Projekt langsam ist.

Was das $0,50-Testguthaben bringt

Die Kosten pro Anfrage sind einfach: Input-Token multipliziert mit $0,15, plus Output-Token multipliziert mit $0,50, beide geteilt durch 1.000.000. Zwei Beispiele zeigen die Spanne.

Prüfe die erste Zeile: 1.500 x $0,15 / 1.000.000 = $0,000225, und 300 x $0,50 / 1.000.000 = $0,00015. Die Summe ist $0,000375. Für die zweite Zeile kosten 20.000 Input-Token $0,003 und 800 Output-Token kosten $0,0004, also insgesamt $0,0034.

In der Praxis reicht das Testguthaben aus, um einen Client anzuschließen, Streaming zu testen, Tool Calls auszuprobieren und zu entscheiden, ob das Modell zu deinem Projekt passt.

Warum Free Tiers schwer zum Entwickeln sind

Kostenlose Stufen existieren, damit du ein Produkt ausprobieren kannst, und ihre Limits sind darauf ausgerichtet. Die Details ändern sich oft, also prüfe die aktuellen Konditionen jedes Anbieters, bevor du dich darauf verlässt. Im Allgemeinen stoßen Entwickler auf die gleichen wenigen Probleme.

• Ratenlimits, die für eine Demo ausgelegt sind. Ein Skript, das bei zehn Anfragen funktioniert, ist bei einigen hundert nicht mehr nutzbar.
• Sich ändernde Limits. Ein Limit, das heute noch passt, kann später verschärft werden, und deine Pipeline erfährt es über einen Fehler.
• Inhaltsfilter. Viele gehostete Modelle lehnen Anfragen für Fiktion, Roleplay oder kantige Testdaten ab. Eine Ablehnung mitten in einem Batch-Job ist ein Fehler, den du nicht patchen kannst.
• Unklare Datenverarbeitung. Einige kostenlose Angebote nutzen Prompts, um ihre Modelle zu verbessern. Lies die Nutzungsbedingungen.

Das macht Free Tiers nicht schlecht. Für ein Wochenend-Prototyp sind sie gut. Das Problem beginnt, wenn der Prototyp zu einem Dienst wird.

Es gibt auch ein Planungsproblem. Eine kostenlose Stufe gibt dir keine Möglichkeit, die Kosten vorherzusagen, da es keinen Preis gibt, den man multiplizieren kann. Bei Preisen pro Token kannst du das Budget in einer Zeile aufschreiben, bevor du Code schreibst, und das macht es leichter, ein Projekt gegenüber einem Kunden oder Partner zu verteidigen. Wenn deine Nutzung sich verzehnfacht, weißt du, dass die Rechnung sich etwa verzehnfacht, und nichts anderes ändert sich.

Was du in jeder API prüfen solltest, bevor du dich entscheidest

Egal, ob ein Dienst Geld kostet oder nicht, stelle dieselben Fragen, bevor du ihn in deinen Code einbindest.

1. Ist das Protokoll standardisiert? Diese API ist OpenAI-kompatibel, sodass das spätere Wechseln nur zwei Zeilen ändert, statt einen Client neu zu schreiben.
2. Was sind die Limits in Zahlen? Hier sind sie veröffentlicht: 8 parallele Anfragen und 300 pro Minute auf einem vollständigen Schlüssel, 2 und 60 auf einem Test-Schlüssel, 8 MB Request-Body, ein 100.000-Token-Fenster.
3. Was passiert, wenn ein Aufruf fehlschlägt? Bei diesem Dienst werden fehlgeschlagene oder abgelehnte Anfragen nicht berechnet.
4. Was passiert mit deinen Prompts? Hier werden sie nicht zum Training verwendet.
5. Lehnt das Modell deinen Anwendungsfall ab? Dieser ist darauf abgestimmt, ohne Inhaltsablehnungen für legale Erwachsenennutzung zu antworten, was für Fiktion, Roleplay und Testdaten wichtig ist. Die einzige harte Grenze sind sexuelle Inhalte mit Minderjährigen.
6. Kannst du gehen? Das Guthaben ist Prepaid und verfällt nie, und es gibt keinen Vertrag.

Wie du das Testguthaben länger nutzen kannst

Kleine Gewohnheiten strecken $0,50 weit.

1. Setze max_tokens während des Tests. Es ist optional in dieser API, aber ein Limit von 300 stoppt eine ausufernde Antwort, bevor sie zehnmal so viel kostet wie geplant. Output ist die teure Seite mit $0,50 pro 1M.
2. Halte System-Prompts kurz. Ein 1.000-Token-System-Prompt, der bei jeder Anfrage gesendet wird, fügt $0,00015 pro Anfrage hinzu.
3. Verwende seed und niedrige Temperatur für wiederholbare Tests, damit du keine Anfrage erneut ausführst, nur um eine andere Antwort zu sehen.
4. Sende keine ganzen Verläufe erneut, es sei denn, du brauchst sie. Das Fenster hat 100.000 Token, und jedes Token darin wird als Input berechnet.
5. Beobachte X-Balance-USD in den Antwort-Headern, um genau zu sehen, was jeder Test gekostet hat.

Ein weiterer Trick ist, resp.usage für jede Anfrage während der Entwicklung zu protokollieren. Nach einem Tag des Tests kennst du deinen echten Durchschnitt und kannst die Schätzungen in den Tabellen oben durch deine eigenen Zahlen ersetzen. Viele Leute stellen fest, dass ihre Prompts zwei- oder dreimal länger sind als angenommen, hauptsächlich wegen System-Prompts und eingefügter Beispiele.

Ein Budget für ein Nebenprojekt

Zahlen helfen bei der Entscheidung, ob sich die Finanzierung eines Projekts lohnt. Nimm eine kleine App, die 200 Aufrufe pro Tag in der Dev-Loop-Größe von 1.500 Input-Token und 300 Output-Token macht. Jeder Aufruf kostet $0,000375, ein Tag kostet also $0,075 und ein 30-Tage-Monat kostet $2,25. Eine Aufladung von $20 würde bei dieser Rate etwa neun Monate reichen.

Nimm nun ein schwereres Tool, das 50 Aufrufe pro Tag mit 20.000 Token eingefügtem Kontext und 800 Token Output macht. Jeder Aufruf kostet $0,0034, also ist ein Tag $0,17 und ein Monat $5,10. Selbst eine Verdopplung des Traffics hält beide Projekte in einstelligen Dollar pro Monat.

Der Punkt ist, dass Preise pro Token auf diesem Niveau die Kosten zu einem kleinen Posten für die meisten Nebenprojekte macht. Was den Erfolg entscheidet, ist, ob das Modell die Aufgabe erfüllt und ob die Limits zu deinem Traffic passen.

Ein erster Aufruf, den du jetzt ausführen kannst

Die API ist OpenAI-kompatibel, sodass das Standard-Python-SDK funktioniert, nachdem du die Base URL und den Schlüssel geändert hast.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

Das usage-Objekt gibt dir genaue Prompt- und Completion-Token-Zahlen. Multipliziere sie mit den oben genannten Raten und du hast die Kosten dieses Aufrufs. Streaming, JSON-Modus und Tool Calling sind ebenfalls verfügbar; die Dokumentation hat Beispiele für jedes.

Wann du vom Testguthaben zu einer Aufladung wechseln solltest

Wechsle, wenn das Testguthaben aufgebraucht ist oder wenn du mehr als 2 parallele Anfragen benötigst. Ein vollständiger Schlüssel erlaubt 8 parallele Anfragen und 300 pro Minute. Aufladungen laufen von $20 bis $500 in beliebigen ganzen Beträgen. Größere kommen mit einem Bonus: +5% ab $50, +10% ab $100 und +15% ab $200. Eine $50-Aufladung gibt $52,50 Guthaben, und $200 gibt $230.

Du kannst mit Mit Krypto (USDT auf TRC20, USDC auf Base) bezahlen. Die vollständigen Zahlen findest du auf der Preisseite, und du kannst einen Schlüssel von der Schlüsselseite holen.

Was diese API nicht ist

Um dir einen verschwendeten Abend zu sparen: Es ist ein textbasiertes Angebot. Es gibt keine Bild-, Audio- oder Video-Generierung, keine Embeddings und kein Fine-Tuning. Es ist ein Open-Weight-Modell, das von einem unabhängigen Anbieter betrieben wird, nicht die offizielle API eines großen Anbieters und kein Router über mehrere. Wenn dein Projekt Embeddings für die Suche benötigt, brauchst du für diesen Teil einen anderen Dienst. Wenn es ein Chat-Modell benötigt, das Anweisungen folgt und nicht ablehnt, passt das.

Wenn du neu auf der Seite bist, erklärt die Seite über die Nutzung eines LLM ohne Login-Einschränkungen, wie Anmeldung und Schlüssel im Detail funktionieren.

Weitere Anleitungen

• Open WebUI API-Endpunkte: Verbinde ein unzensiertes LLM
• So verwendest du ein LLM ohne Login-Einschränkungen