Open WebUI API-endpoints: Verbind een ongecensureerd LLM

De waarden die je nodig hebt

Open WebUI heeft slechts drie dingen van deze service nodig. Het eerste is de base URL, https://api.dolphinllm.com/v1. Het tweede is een API-sleutel van je account. Het derde is het model-ID, uncensored, dat Open WebUI automatisch ophaalt uit de modellenlijst zodra de verbinding werkt.

Er zijn twee endpoints betrokken. GET /v1/models vult de modeldropdown in, en POST /v1/chat/completions verzendt elk bericht dat je stuurt. Voor chatten is niets anders nodig. Dit is een tekst-API, dus de afbeeldings-, audio- en embeddingfuncties van Open WebUI hebben hier niets mee te maken.

Je hebt geen kaart nodig om het te proberen. Na registratie kun je $0,50 aan proeftegoed claimen met één klik op de sleutelpagina. Het duurt 7 dagen.

Voeg de verbinding toe in het beheerderspaneel

Als Open WebUI al draait, is dit de snelste route.

1. Log in als beheerder en open Admin Settings, gevolgd door Connections.
2. Klik in de sectie OpenAI API op de plusknop om een verbinding toe te voegen.
3. Plak https://api.dolphinllm.com/v1 als URL en je sleutel als sleutel.
4. Gebruik de knop Verifiëren naast de velden. Een groene bevestiging betekent dat de modellenlijst is teruggekomen.
5. Sla op, open een nieuwe chat en kies uncensored uit de modelkiezer.

Menu-namen verschuiven iets tussen Open WebUI-releases. Als je Verbindingen niet kunt vinden, zoek dan in de instellingen op "OpenAI". De velden zijn altijd hetzelfde: URL, sleutel en soms een modelfilter.

Stel in met Docker-omgevingsvariabelen

Voor een nieuwe installatie kun je het beheerderspaneel overslaan en de verbinding doorgeven wanneer de container start. Open WebUI leest OPENAI_API_BASE_URL en OPENAI_API_KEY bij het opstarten.

Copydocker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Ga vervolgens naar http://localhost:3000, maak het eerste account aan (dit wordt de beheerder) en het model zou al in de lijst moeten staan. Bewaar de sleutel buiten de shell-geschiedenis als de machine gedeeld is: zet hem in een env-bestand en gebruik --env-file in plaats daarvan.

Sommige Open WebUI-versies behandelen deze variabelen alleen als initiële waarden. Zodra je een verbinding in de UI hebt opgeslagen, wint de opgeslagen waarde. Als je de variabele wijzigt en er gebeurt niets, bewerk dan de verbinding in Beheerinstellingen.

Draaien voor meerdere personen

Open WebUI heeft eigen gebruikersaccounts, dus één installatie kan een huishouden of een klein team bedienen terwijl er maar één API-sleutel op de server staat. Dat is handig, maar ook een risico: elke gebruiker besteedt van hetzelfde saldo. Beslis wie een account krijgt en controleer af en toe X-Balance-USD, zodat een lang weekend roleplay je niet voor verrassingen stelt.

Bewaar de sleutel in een omgevingsvariabele of een secrets-bestand, nooit in een screenshot of een gedeeld document. Je sleutel staat op de API-sleutelpagina; als je vermoedt dat hij is gelekt, vervang hem dan in Open WebUI zodra je een nieuwe hebt. Voor een publieke installatie zet je hem achter HTTPS en schakel je open registratie uit, zodat vreemden geen accounts kunnen aanmaken en je tegoed kunnen gebruiken.

Een extra punt voor gedeelde setups: het model is afgestemd op antwoorden zonder inhoudelijke weigeringen voor legaal gebruik door volwassenen. Dat is een functie voor fictie en privéonderzoek, en het betekent ook dat jij de huisregels bepaalt. Een system prompt op het gedeelde model is de makkelijkste plek om ze te schrijven. Seksuele inhoud met minderjarigen is op de API niet toegestaan, ongeacht wat de prompt zegt.

Goede toepassingen voor deze setup

Mensen die Open WebUI verbinden met een ongecensureerd endpoint willen meestal een schoon chatvenster zonder de beperkingen van een gehoste chatbot. Veelvoorkomende toepassingen zijn langere fictie en wereldopbouw, roleplay en companion characters voor volwassenen, het opstellen van materiaal dat mainstream assistenten weigeren, en gewone programmeer- of schrijfhulp. Hetzelfde model behandelt al deze taken, dus je kunt van taak wisselen binnen één chat.

Open WebUI helpt op een paar specifieke manieren. Opgeslagen prompts en modelvoorinstellingen stellen je in staat om een personage of een editor-persoonlijkheid met één klik beschikbaar te houden. Documentupload- en webzoekfuncties, waar je ze inschakelt, sturen extra tekst naar de prompt, wat het tokengebruik verhoogt, dus houd de grootte van wat je bijvoegt in de gaten. Chatmappen en zoeken maken het makkelijk om terug te keren naar een lang project.

Wat het niet kan, is het genereren van afbeeldingen, spraak of video via deze verbinding, omdat de API alleen tekst ondersteunt.

Test het endpoint voordat je Open WebUI de schuld geeft

De meeste mislukte setups komen door een typefout in de URL of een verouderde sleutel, en beide komen sneller naar voren in een terminal. Voer deze twee commando's uit vanaf de machine die Open WebUI host.

Copycurl https://api.dolphinllm.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

curl https://api.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

Het eerste commando zou uncensored moeten opsommen. Het tweede zou een normale chat-completie moeten retourneren. Controleer ook de response headers: X-Balance-USD toont wat er nog op je account staat, wat een handige manier is om te bevestigen dat Open WebUI van de sleutel gebruikt die je denkt dat het is.

De volledige parameterlijst staat in de API docs.

Instellingen die de moeite waard zijn om te wijzigen voor chatten

System prompt en sampling

Open WebUI stelt je in staat een system prompt per model of per chat in te stellen. Omdat het model is afgestemd op antwoorden zonder inhoudelijke weigeringen voor legaal gebruik door volwassenen, doet een korte system prompt die de toon, persoonlijkheid of uitvoerformaat vastlegt meer dan een lange lijst met regels. Temperature, top_p, stop, seed en de penalties worden doorgegeven, dus de sliders in Open WebUI hebben effect.

Contextlengte

Het contextvenster is 100.000 tokens voor prompt plus completion. Lange chats vergroten de prompt bij elke beurt, en je betaalt voor de hele geschiedenis elke keer. Als een thread zwaar wordt, start dan een nieuwe chat of vat de oude samen.

Achtergrondverzoeken

Open WebUI kan op de achtergrond extra verzoeken uitvoeren voor chattitels en tags, waarbij standaard hetzelfde model wordt gebruikt. Met een proefsleutel, die 2 gelijktijdige verzoeken en 60 per minuut toestaat, kunnen deze verzoeken je daadwerkelijke berichten verdringen. Schakel het genereren van titels en tags uit, of accepteer een korte vertraging. Met een volledige sleutel zijn 8 gelijktijdige verzoeken en 300 per minuut mogelijk, wat ruim voldoende is voor een persoonlijke of klein-team installatie.

Streaming, JSON-modus en tools

Open WebUI streamt antwoorden standaard, en de API ondersteunt server-sent events (stream: true), met een gebruiksblok aan het einde van de stream. Je ziet tekst token voor token verschijnen, en de balansheader in het laatste antwoord geeft aan hoeveel je hebt uitgegeven.

Tool calling wordt ook ondersteund door de API: tools, tool_choice, gestreamde tool_calls, en resultaten teruggestuurd als role: "tool". Hoe ver Open WebUI dit blootlegt hangt af van zijn versie en van de tools of functies die je installeert, dus test met één kleine tool voordat je een workflow eromheen bouwt. JSON-modus (response_format ingesteld op json_object) is handig wanneer je hetzelfde endpoint vanuit scripts naast de chat UI aanroept.

Een praktisch patroon is om Open WebUI voor mensen te gebruiken en dezelfde sleutel vanuit een script voor batchwerk. Beide gaan via dezelfde base URL, dus één saldo dekt alles. Vergeet niet dat de limieten per sleutel gelden: 8 gelijktijdige verzoeken bij een volledige sleutel, gedeeld tussen de UI en je scripts.

Veelvoorkomende fouten en oplossingen

• Er verschijnen geen modellen. De URL mist waarschijnlijk /v1 of heeft een typefout. Vergelijk het teken voor teken met de waarde hierboven en verwijder een eventuele trailing slash.
• Authenticatiefout. De sleutel is gekopieerd met een spatie aan het begin of einde, of hij behoort tot een verwijderd account. Kopieer hem opnieuw vanaf de sleutelpagina.
• Modelkiezer toont de verkeerde lijst. Open WebUI voert ook queries uit op andere verbindingen die je hebt toegevoegd, zoals een lokale Ollama. Schakel de verbindingen uit die je niet gebruikt.
• Antwoorden verschijnen niet meer tijdens het streamen. Een reverse proxy voor Open WebUI kan server-sent events bufferen. Schakel buffering voor die route uit.
• Saldo raakt op. Voer tegoed op voordat het nul bereikt. Mislukte of geweigerde verzoeken worden niet in rekening gebracht, dus je betaalt alleen voor voltooide antwoorden die zijn geleverd.

Wat een chat-UI kost op deze API

Prijzen zijn $0,15 per 1M input tokens en $0,50 per 1M output tokens, van prepaid tegoed. Neem een typische beurt in een chat van gemiddelde lengte: 4.000 tokens aan geschiedenis die ingaan en 500 tokens die uitkomen. Input kost 4.000 x $0,15 / 1.000.000 = $0,0006. Output kost 500 x $0,50 / 1.000.000 = $0,00025. De beurt kost $0,00085.

Bij dat tarief dekt de proef van $0,50 ongeveer 588 beurten, en een opwaardering van $20 ongeveer 23.500. Zie de prijzenpagina voor opwaardeerbonussen. Als je dezelfde sleutel buiten Open WebUI wilt gebruiken, bijvoorbeeld in scripts die geen inlogscherm nodig hebben, behandelt de pagina over een LLM gebruiken zonder inlogbeperkingen dat aspect.

Meer handleidingen

• Gratis LLM API voor Ontwikkelaars: Proef vs. Betaal per Gebruik
• Hoe een LLM te Gebruiken zonder Inlogbeperkingen