Belangrijkste punten
- Dolphin is een familie van community fine-tunes, dus er is geen enkele officiële API om je voor aan te melden.
- Je kunt er één serveren op een lokale machine, serveren op een gehuurde GPU, of een gehost endpoint aanroepen.
- Een gehost OpenAI-compatible endpoint vereist alleen een base URL, een sleutel en de model ID uncensored.
- De prijzen voor hosting zijn hier $0,15 per 1M input tokens en $0,50 per 1M output tokens, zonder abonnement.
Waarmee mensen een Dolphin-model bedoelen
Dolphin is de naam van een reeks community fine-tunes van open-weight basismodellen. De tune-data is gefilterd zodat het model instructies volgt zonder te lecteren of gewone verzoeken te weigeren. Omdat het basismodel verandert tussen releases, is er geen enkele Dolphin-leverancier met één officieel endpoint. Als iemand vraagt om een dolphin llm api, bedoelen ze meestal een API die een ongecensureerd model van die stijl levert.
Dat is belangrijk voor je planning. Je kiest geen merk, je kiest waar de weights draaien en wie ze beheert. De modelkwaliteit hangt af van het basismodel en de tune, en de operationele kant hangt af van de route die je hieronder kiest.
Een opmerking over de scope: deze modellen zijn afgestemd op wettelijk volwassen gebruik. Geen enkele provider hier, en geen enkele verstandige provider elders, zal seksuele inhoud met minderjarigen serveren. Beschouw dat als een vaste grens in je eigen applicatie.
Route 1: draai het op je eigen machine
De goedkoopste route per token is een model waar je al hardware voor hebt. Tools zoals Ollama en llama.cpp downloaden gekwantiseerde weights en bieden een lokale server. Beide kunnen een OpenAI-stijl endpoint op localhost aanbieden, zodat je clientcode er hetzelfde uitziet als voor elke gehoste service.
Het nadeel is geheugen. Een gekwantiseerd model heeft ongeveer zijn bestandsgrootte aan RAM of VRAM nodig, plus ruimte voor de contextcache. Kleine modellen passen op een laptop, maar grotere hebben een GPU met veel geheugen nodig, en lange prompts laten de cache groeien. Als het model niet in VRAM past, loopt het over naar systeem-RAM en daalt de snelheid scherp.
Lokaal is een goede keuze als je offline werkt, als data je machine nooit mag verlaten, of als je wilt experimenteren met verschillende fine-tunes. Het is een slechte keuze voor een product met gebruikers, omdat je laptop dan de server wordt. Voor een volledige walkthrough van de lokale kant, zie het aparte artikel over hoe je een Dolphin-model draait.
Route 2: huur een GPU en server hem zelf
Een GPU per uur huren geeft je grotere modellen zonder hardware te kopen. Je installeert een serving stack zoals vLLM of llama.cpp's server, laadt de weights en stelt een poort beschikbaar. Vervolgens beheer je alles eromheen.
- Drivers, de serving software en TLS instellen.
- Authenticatie toevoegen zodat vreemden je GPU niet kunnen gebruiken.
- Herstarten na crashes en geheugen bewaken.
- Betalen voor de uren dat de box aan staat, of er nu verzoeken komen of niet.
Dat laatste punt is de echte kostenfactor. Een GPU die de hele nacht inactief is, wordt nog steeds gefactureerd. De route is alleen rendabel als je constant, hoog verkeer hebt en iemand die het wil beheren. Voor een zijproject met pieken in gebruik, betaal je vooral voor de inactieve tijd. Bekijk de huidige uurtarieven op de prijslijst van de aanbieder, omdat deze veranderen.
Route 3: een gehost OpenAI-compatibel endpoint aanroepen
Een gehost endpoint neemt het beheer uit handen. Je stuurt HTTPS-verzoeken en betaalt voor de tokens die je gebruikt. Deze site biedt dat: een gehoste, OpenAI-compatibele tekst-API voor één open-weight model, gerund door een onafhankelijke aanbieder en afgestemd op antwoorden zonder inhoudelijke weigeringen voor wettelijk volwassen gebruik. Om duidelijk te zijn over wat het niet is: het is niet de officiële API van een modelleverancier, en het is geen router tussen meerdere modellen. Het model ID is uncensored.
Omdat de API OpenAI-compatibel is, werkt elke OpenAI SDK zodra je twee instellingen aanpast: de base URL en de sleutel. Hier is een minimale Python-call:
from openai import OpenAI
client = OpenAI(
base_url="https://api.dolphinllm.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a direct, helpful assistant."},
{"role": "user", "content": "Explain how a context window works."},
],
)
print(resp.choices[0].message.content)Hetzelfde verzoek in curl:
curl https://api.dolphinllm.com/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'Streaming (stream: true), function calling, JSON-modus en de gebruikelijke sampling parameters werken zoals in de OpenAI API. Het contextvenster is 100.000 tokens, prompt plus completion. De API-documentatie vermeldt elk ondersteund endpoint en parameter.
Vergelijking naast elkaar
| Factor | Lokaal | Gehuurde GPU | Gehost endpoint |
|---|---|---|---|
| Voorafgaand werk | Installeren en downloaden | Serverconfiguratie, authenticatie, TLS | Haal een sleutel op |
| Kostemodel | Hardware die je bezit | Uurtarief, inactieve tijd inbegrepen | Per token, prepaid |
| Modelgrootte | Beperkt door je VRAM | Beperkt door de GPU die je huurt | Eén model, vast |
| Modelkeuze | Elke fine-tuning die je kunt downloaden | Elke fine-tune die je kunt laden | Alleen het aangeboden model |
| Datalocatie | Blijft op je machine | Op de gehuurde box | Verstuurd naar de provider |
| Onderhoud | Jij | Jij | Aanbieder |
De rij die de meeste gevallen beslist is de modelkeuze. Als je één specifieke Dolphin-tune nodig hebt, geven alleen de eerste twee routes je dat. Als je een capabel ongecensureerd model nodig hebt achter een stabiele API en het maakt niet uit welke exacte tune het is, bespaart de gehoste route je het beheerwerk.
Wat een gehoste call kost
Prijzen zijn $0,15 per 1M input tokens en $0,50 per 1M output tokens, betaald uit prepaid tegoed. Er is geen abonnement, mislukte of geweigerde verzoeken worden niet in rekening gebracht, en tegoed vervalt nooit. Een typische chatbeurt met 2.000 input tokens en 500 output tokens kost:
- Input: 2.000 x $0,15 / 1.000.000 = $0,0003
- Output: 500 x $0,50 / 1.000.000 = $0,00025
- Totaal: $0,00055 per request, of $0,55 per 1.000 requests
Opwaarderingen zijn elk heel bedrag van $20 tot $500, met +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Je kunt betalen met crypto (USDT op TRC20, USDC op Base). De prijzenpagina heeft de huidige details.
Om te vergelijken met een GPU die je huurt, deel je het uurtarief door het aantal verzoeken dat je in een uur kunt serveren bij je echte verkeer. Bij laag of bursty volume wint het per-token model meestal, omdat je nooit betaalt voor idle time.
Probeer het voordat je betaalt
Nieuwe gebruikers kunnen $0,50 gratis proeftegoed claimen met één klik op de sleutelpagina na aanmelden. Het is één per persoon, geldig voor 7 dagen, en vereist geen kaart. Aanmelden kan met Google of met e-mail en wachtwoord. Bij de prijzen hierboven dekt $0,50 ongeveer 900 van de 2.000-in, 500-out verzoeken uit het voorbeeld, wat meer dan genoeg is om te testen of de toon van het model bij je gebruik past. Trial keys zijn beperkt tot 2 gelijktijdige verzoeken en 60 verzoeken per minuut.
Haal je sleutel op de API-sleutel pagina. Als je een model wilt zonder inloggen, zie het LLM zonder login-artikel, en voor client setup in een chat frontend lees over Open WebUI endpoints.
