Wichtige Punkte
- Dolphin ist eine Familie von Community Fine-Tunes, daher gibt es keine einzelne offizielle API, für die du dich anmelden kannst.
- Du kannst es auf einem lokalen Rechner bereitstellen, auf einer gemieteten GPU oder einen gehosteten Endpunkt aufrufen.
- Ein gehosteter OpenAI-kompatibler Endpunkt benötigt nur eine Base URL, einen Schlüssel und die Modell-ID uncensored.
- Die gehosteten Preise hier liegen bei $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token, ohne Abonnement.
Was man mit einem Dolphin-Modell meint
Dolphin ist der Name einer Reihe von Community-Fine-Tunes von Open-Weight-Basismodellen. Die Tuning-Daten sind gefiltert, damit das Modell Anweisungen befolgt, ohne zu belehren oder normale Anfragen abzulehnen. Da sich das Basismodell zwischen den Releases ändert, gibt es keinen einzelnen Dolphin-Anbieter mit einem offiziellen Endpunkt. Wenn jemand nach einer dolphin llm api fragt, meint er normalerweise eine API, die ein unzensiertes Modell dieses Stils bereitstellt.
Das ist wichtig für deine Planung. Du wählst keine Marke, sondern wo die Gewichte laufen und wer sie betreibt. Die Modellqualität hängt vom Basismodell und dem Tune ab, und der Betrieb hängt von der Route ab, die du unten wählst.
Ein Hinweis zum Umfang: Diese Modelle sind für die legale Nutzung durch Erwachsene abgestimmt. Kein Anbieter hier, und kein vernünftiger Anbieter überall, wird sexuellen Inhalt mit Minderjährigen bereitstellen. Betrachte das auch in deiner eigenen Anwendung als feste Grenze.
Route 1: Auf deiner eigenen Maschine ausführen
Der günstigste Weg pro Token ist ein Modell, für das du bereits Hardware besitzt. Tools wie Ollama und llama.cpp laden quantisierte Gewichte herunter und bieten einen lokalen Server. Beide können einen OpenAI-kompatiblen Endpunkt auf localhost anbieten, sodass dein Client-Code genauso aussieht wie für jeden gehosteten Dienst.
Der Haken ist der Speicher. Ein quantisiertes Modell benötigt ungefähr seine Dateigröße an RAM oder VRAM sowie Platz für den Kontextcache. Kleine Modelle passen auf einen Laptop, aber größere benötigen eine GPU mit viel Speicher, und lange Prompts lassen den Cache wachsen. Wenn das Modell nicht in den VRAM passt, wird es in den System-RAM ausgelagert und die Geschwindigkeit sinkt stark.
Lokal ist eine gute Wahl, wenn du offline arbeitest, Daten deine Maschine nie verlassen müssen oder du verschiedene Fine-Tunes ausprobieren willst. Es ist eine schlechte Wahl für ein Produkt mit Nutzern, denn dein Laptop wird zum Server. Für eine vollständige Anleitung zur lokalen Seite sieh dir den separaten Artikel zum Ausführen eines Dolphin-Modells an.
Route 2: GPU mieten und selbst bereitstellen
Eine GPU stundenweise zu mieten gibt dir größere Modelle, ohne Hardware zu kaufen. Du installierst einen Serving-Stack wie vLLM oder den Server von llama.cpp, lädst die Gewichte und öffnest einen Port. Du besitzt dann alles drumherum.
- Treiber, Serving-Software und TLS einrichten.
- Authentifizierung hinzufügen, damit Fremde deine GPU nicht nutzen können.
- Neustart nach Abstürzen und Überwachung des Speichers.
- Bezahlung der Stunden, in denen die Box läuft, egal ob jemand Anfragen sendet oder nicht.
Dieser letzte Punkt ist der eigentliche Kostentreiber. Eine GPU, die nachts im Leerlauf ist, wird trotzdem abgerechnet. Die Route lohnt sich, wenn du stetigen, hohen Traffic hast und jemanden, der sie betreibt. Für ein Nebenprojekt mit Nutzungsspitzen zahlst du meist für Leerlaufzeit. Prüfe die aktuellen Stundensätze auf der Preisliste des Anbieters, da sie sich ändern.
Route 3: Gehosteten OpenAI-kompatiblen Endpunkt aufrufen
Ein gehosteter Endpunkt spart Betriebsarbeit. Du sendest HTTPS-Anfragen und zahlst für die genutzten Token. Diese Seite bietet das: eine gehostete, OpenAI-kompatible Text-API für ein einzelnes Open-Weight-Modell, betrieben von einem unabhängigen Anbieter und abgestimmt auf Antworten ohne Inhaltsfilter für die rechtmäßige Nutzung durch Erwachsene. Um klar zu stellen, was es nicht ist: Es ist nicht die offizielle API eines Modell-Anbieters und es ist kein Router über mehrere Modelle. Die Modell-ID ist uncensored.
Da die API OpenAI-kompatibel ist, funktioniert jedes OpenAI SDK, sobald du zwei Einstellungen änderst: die Base URL und den Schlüssel. Hier ist eine minimale Python-Anfrage:
from openai import OpenAI
client = OpenAI(
base_url="https://api.dolphinllm.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a direct, helpful assistant."},
{"role": "user", "content": "Explain how a context window works."},
],
)
print(resp.choices[0].message.content)Die gleiche Anfrage in curl:
curl https://api.dolphinllm.com/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'Streaming (stream: true), Tool Calling, JSON-Modus und die üblichen Sampling-Parameter funktionieren wie in der OpenAI API. Das Kontextfenster umfasst 100.000 Tokens, Prompt plus Completion. Die API-Dokumentation listet jeden unterstützten Endpunkt und Parameter auf.
Vergleich nebeneinander
| Faktor | Lokal | Gemietete GPU | Gehosteter Endpunkt |
|---|---|---|---|
| Vorarbeit | Installieren und herunterladen | Server-Einrichtung, Auth, TLS | Hole einen Schlüssel |
| Kostenmodell | Deine eigene Hardware | Stundenweise, Leerlaufzeit inklusive | Pro Token, Prepaid |
| Modellgröße | Begrenzt durch deinen VRAM | Begrenzt durch die gemietete GPU | Ein Modell, fest |
| Modellauswahl | Jedes Fine-Tune, das du herunterladen kannst | Jedes Fine-Tune, das du laden kannst | Nur das angebotene Modell |
| Datenstandort | Bleibt auf deinem Gerät | Auf der gemieteten Box | An den Anbieter gesendet |
| Wartung | Du | Du | Anbieter |
Die Zeile, die die meisten Fälle entscheidet, ist die Modellauswahl. Wenn du ein bestimmtes Dolphin-Tune brauchst, geben dir nur die ersten beiden Routen das. Wenn du ein leistungsfähiges unzensiertes Modell hinter einer stabilen API brauchst und es dir egal ist, welches Tune es genau ist, spart dir die gehostete Route die Betriebsarbeit.
Was ein gehosteter Aufruf kostet
Die Preise liegen bei $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token, bezahlt aus Prepaid-Guthaben. Es gibt kein Abonnement, fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, und Guthaben verfällt nie. Ein typischer Chat-Turn mit 2.000 Input-Token und 500 Output-Token kostet:
- Input: 2.000 x $0,15 / 1.000.000 = $0,0003
- Output: 500 x $0,50 / 1.000.000 = $0,00025
- Gesamt: $0,00055 pro Anfrage oder $0,55 pro 1.000 Anfragen
Aufladungen sind beliebige ganze Beträge von $20 bis $500, mit +5% ab $50, +10% ab $100 und +15% ab $200. Du kannst mit Mit Krypto (USDT auf TRC20, USDC auf Base) bezahlen. Die Preisliste enthält die aktuellen Details.
Um gegen eine gemietete GPU zu vergleichen, teile den Stundensatz durch die Anzahl der Anfragen, die du in einer Stunde bei deinem echten Traffic bedienen kannst. Bei niedrigem oder burstigem Volumen gewinnt das Token-Modell meist, weil du nie für Leerlaufzeit zahlst.
Ausprobieren, bevor du bezahlst
Neue Nutzer können nach der Anmeldung auf der API-Schlüssel-Seite mit einem Klick $0,50 an Prepaid-Guthaben für Testzwecke beanspruchen. Es gilt pro Person, 7 Tage lang und erfordert keine Kreditkarte. Die Anmeldung erfolgt über Google oder mit E-Mail und Passwort. Bei den oben genannten Preisen deckt $0,50 etwa 900 der 2.000-Anfragen (2.000 Input-Token, 500 Output-Token) aus dem Beispiel, was mehr als ausreichend ist, um zu testen, ob der Ton des Modells zu deinem Use Case passt. Test-API-Schlüssel sind auf 2 parallele Anfragen und 60 Anfragen pro Minute begrenzt.
Hole deinen API-Schlüssel auf der API-Schlüssel-Seite. Wenn du ein Modell ohne jegliche Anmeldung möchtest, sieh dir den Artikel LLM ohne Anmeldung an, und für die Client-Einrichtung in einem Chat-Frontend lies über Open WebUI-Endpunkte.
