Gratis LLM-API voor ontwikkelaars: proefversie vs. pay-as-you-go

Kort antwoord: een trial, dan centjes per call

Niets hier is voor altijd gratis. Wat je krijgt is een gratis start en een zeer kleine rekening daarna. Meld je aan met Google of met e-mail en wachtwoord, open de API-sleutelpagina en claim $0,50 aan proeftegoed met één klik. Er is geen kaart nodig. Het tegoed is 7 dagen geldig en elke persoon krijgt er één.

Daarna betaal je pay-as-you-go tegen $0,15 per 1M input tokens en $0,50 per 1M output tokens. Er is geen abonnement en geen maandminimum. De kleinste opwaardering is $20, en het tegoed vervalt niet, dus je kunt het gedurende een jaar uitgeven als je project traag is.

Wat de $0,50 proeftegoed oplevert

De kosten per verzoek zijn eenvoudig: input tokens vermenigvuldigd met $0,15, plus output tokens vermenigvuldigd met $0,50, beide gedeeld door 1.000.000. Twee voorbeelden tonen het bereik.

Controleer de eerste rij: 1.500 x $0,15 / 1.000.000 = $0,000225, en 300 x $0,50 / 1.000.000 = $0,00015. De som is $0,000375. Voor de tweede rij kosten 20.000 input tokens $0,003 en 800 output tokens kosten $0,0004, dus $0,0034 in totaal.

In de praktijk is het proeftegoed genoeg om een client aan te sluiten, streaming te testen, tool calls te proberen en te beslissen of het model past bij je project.

Waarom gratis tiers moeilijk om op te bouwen zijn

Gratis tiers bestaan zodat je een product kunt proberen, en hun limieten zijn daarop ingesteld. De details veranderen vaak, dus controleer de huidige voorwaarden van elke aanbieder voordat je erop leunt. Over het algemeen stuiten ontwikkelaars op dezelfde paar problemen.

• Rate caps afgestemd op een demo. Een script dat werkt bij tien verzoeken wordt onbruikbaar bij een paar honderd.
• Veranderende limieten. Een limiet die vandaag nog goed is, kan later worden aangescherpt, en je pipeline leert dit van een foutmelding.
• Content filters. Veel gehoste modellen weigeren verzoeken voor fictie, roleplay of rauwe testdata. Een weigering midden in een batchjob is een bug die je niet kunt patchen.
• Onduidelijke dataverwerking. Sommige gratis aanbiedingen gebruiken prompts om hun modellen te verbeteren. Lees de voorwaarden.

Dit maakt gratis tiers niet slecht. Voor een weekendprototype zijn ze prima. Het probleem begint wanneer het prototype een service wordt.

Er is ook een planningsprobleem. Een gratis tier geeft je geen manier om kosten te voorspellen, omdat er geen prijs is om mee te vermenigvuldigen. Met per-token pricing kun je de begroting op één regel schrijven voordat je code schrijft, en dat maakt een project makkelijker te verdedigen tegen een klant of partner. Als je gebruik tienvoudig groeit, weet je dat de rekening tienvoudig groeit, en er verandert niets anders.

Wat je moet controleren in elke API voordat je je vastlegt

Of een service geld kost of niet, stel dezelfde vragen voordat je hem in je code integreert.

1. Is het protocol standaard? Deze API is OpenAI-compatible, dus overschakelen later betekent twee regels aanpassen, niet een client herschrijven.
2. Wat zijn de limieten in cijfers? Hier zijn ze gepubliceerd: 8 gelijktijdige verzoeken en 300 per minuut op een volledige sleutel, 2 en 60 op een proefsleutel, 8 MB body, een contextvenster van 100.000 tokens.
3. Wat gebeurt er als een aanroep faalt? Bij deze service worden gefaalde of geweigerde verzoeken niet in rekening gebracht.
4. Wat gebeurt er met je prompts? Hier worden ze niet gebruikt voor training.
5. Weigert het model jouw use case? Deze is afgestemd om te antwoorden zonder contentweigeringen voor legaal gebruik door volwassenen, wat belangrijk is voor fictie, roleplay en testdata. De enige harde stop is seksuele inhoud met minderjarigen.
6. Kun je vertrekken? Tegoed is prepaid en verloopt nooit, en er is geen contract.

Hoe de proefversie lang te laten duren

Kleine gewoonten rekken $0,50 ver.

1. Stel max_tokens in tijdens het testen. Het is optioneel op deze API, maar een cap van 300 voorkomt dat een op hol geslagen antwoord tien keer meer kost dan gepland. Output is de dure kant bij $0,50 per 1M.
2. Houd system prompts kort. Een 1.000-token system prompt die bij elke aanroep wordt verzonden, voegt $0,00015 per verzoek toe.
3. Gebruik seed en lage temperatuur voor reproduceerbare tests, zodat je geen verzoek opnieuw hoeft uit te voeren om een ander antwoord te zien.
4. Stuur geen hele geschiedenissen opnieuw tenzij je ze nodig hebt. Het venster is 100.000 tokens, en elke token erin wordt als input gefactureerd.
5. Hou X-Balance-USD in de response headers in de gaten om precies te zien wat elke test kostte.

Een andere truc is om resp.usage te loggen voor elke aanroep tijdens de ontwikkeling. Na een dag testen weet je je echte gemiddelde, en kun je de schattingen in de tabellen hierboven vervangen door je eigen getallen. Veel mensen vinden dat hun prompts twee of drie keer langer zijn dan ze dachten, vooral door system prompts en geplakte voorbeelden.

Een budget voor een nevenproject

Getallen helpen bij het beslissen of een project financiering waard is. Neem een kleine app die 200 calls per dag maakt bij de dev-loop grootte van 1.500 tokens in en 300 out. Elke call kost $0,000375, dus een dag kost $0,075 en een maand van 30 dagen kost $2,25. Een $20 top-up zou ongeveer negen maanden dekken tegen dat tarief.

Neem nu een zwaardere tool die 50 calls per dag maakt met 20.000 tokens aan geplakte context en 800 tokens out. Elke call kost $0,0034, dus een dag is $0,17 en een maand is $5,10. Zelfs een verdubbeling van het verkeer houdt beide projecten in enkele dollars per maand.

Het punt is dat prijzen per token op dit niveau de kosten voor de meeste zijprojecten tot een kleine post maken. Wat succes beslist is of het model het werk doet en of de limieten passen bij je verkeer.

Een eerste call die je nu kunt runnen

De API is OpenAI-compatible, dus de standaard Python SDK werkt na het veranderen van de base URL en sleutel.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

Het usage object geeft je exacte aantallen prompt- en completion-tokens. Vermenigvuldig ze met de tarieven hierboven en je hebt de kosten van die call. Streaming, JSON mode en tool calling zijn allemaal beschikbaar; de documentatie heeft voorbeelden voor elk.

Wanneer je van de proefversie naar een top-up moet gaan

Stap over op een top-up wanneer de trial uitloopt of wanneer je meer dan 2 gelijktijdige verzoeken nodig hebt. Een volledige sleutel staat 8 gelijktijdige verzoeken en 300 per minuut toe. Top-ups lopen van $20 tot $500 in elk geheel bedrag. Grotere bedragen komen met een bonus: +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Een $50 top-up geeft $52,50 aan tegoed, en $200 geeft $230.

Je kunt betalen met crypto (USDT op TRC20, USDC op Base). Volledige cijfers staan op de prijspagina, en je kunt een key pakken van de sleutelpagina.

Wat deze API niet is

Om je een verspilde avond te besparen: het is een text-only service. Er is geen image, audio of video generatie, geen embeddings en geen fine-tuning. Het is één open-weight model gerund door een onafhankelijke aanbieder, niet de officiële API van een grote vendor en geen router over meerdere. Als je project embeddings nodig heeft voor search, heb je een andere service nodig voor dat deel. Als het een chat model nodig heeft dat instructies volgt en niet weigert, past dit.

Als je nieuw bent op de site, legt de pagina over het gebruik van een LLM zonder inlogbeperkingen uit hoe sign-up en keys werken in meer detail.

Meer handleidingen

• Open WebUI API-endpoints: koppel een ongecensureerd LLM
• Hoe je een LLM gebruikt zonder inlogbeperkingen