Endpoint API di Open WebUI: Connetti un LLM senza censura

I valori di cui hai bisogno

Open WebUI ha bisogno solo di tre cose da questo servizio. La prima è l'URL di base, https://api.dolphinllm.com/v1. La seconda è una chiave API dal tuo account. La terza è l'ID del modello, uncensored, che Open WebUI legge dall'elenco dei modelli da solo una volta che la connessione funziona.

Sono coinvolti due endpoint. GET /v1/models compila il menu a discesa dei modelli, e POST /v1/chat/completions gestisce ogni messaggio che invii. Non serve nient'altro per la chat. Essendo un'API testuale, le funzionalità di immagine, audio ed embedding di Open WebUI non hanno nulla a cui connettersi qui.

Non serve una carta per provarlo. Dopo la registrazione puoi richiedere $0,50 di credito di prova con un clic sulla pagina delle chiavi. Dura 7 giorni.

Aggiungi la connessione dal pannello di amministrazione

Se Open WebUI è già in esecuzione, questa è la via più veloce.

1. Accedi come amministratore e apri Impostazioni amministratore, quindi Connessioni.
2. Nella sezione API OpenAI, fai clic sul pulsante più per aggiungere una connessione.
3. Incolla https://api.dolphinllm.com/v1 come URL e la tua chiave come chiave.
4. Usa il pulsante di verifica accanto ai campi. Una conferma verde significa che l'elenco dei modelli è stato restituito.
5. Salva, apri una nuova chat e seleziona uncensored dal selettore del modello.

I nomi dei menu variano leggermente tra le versioni di Open WebUI. Se non trovi Connessioni, cerca "OpenAI" nelle impostazioni. I campi sono sempre gli stessi: URL, chiave e talvolta un filtro del modello.

Configuralo con le variabili di ambiente Docker

Per una nuova installazione puoi saltare la schermata di amministrazione e passare la connessione all'avvio del container. Open WebUI legge OPENAI_API_BASE_URL e OPENAI_API_KEY all'avvio.

Copydocker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Poi vai su http://localhost:3000, crea il primo account (diventerà l'amministratore) e il modello dovrebbe già essere elencato. Tieni la chiave fuori dalla cronologia della shell se la macchina è condivisa: mettila in un file env e usa --env-file invece.

Alcune versioni di Open WebUI trattano queste variabili solo come valori iniziali. Una volta salvata una connessione nell'interfaccia, il valore memorizzato prevale. Se modifichi la variabile e non succede nulla, modifica la connessione in Impostazioni amministratore.

Eseguirlo per più persone

Open WebUI ha i propri account utente, quindi un'installazione può servire una famiglia o un piccolo team mentre un'unica chiave API risiede sul server. È comodo ma anche un rischio: ogni utente spende dallo stesso saldo. Decidi chi ottiene un account e controlla X-Balance-USD di tanto in tanto, così un lungo weekend di roleplay non ti coglie di sorpresa.

Tieni la chiave in una variabile di ambiente o in un file di segreti, mai in uno screenshot o in un documento condiviso. La tua chiave vive nella pagina delle chiavi API; se sospetti che sia stata compromessa, sostituiscila in Open WebUI appena ne hai una nuova. Per un'installazione esposta al pubblico, mettila dietro HTTPS e disabilita le registrazioni aperte in modo che gli estranei non possano creare account e usare il tuo credito.

Un altro punto per le configurazioni condivise: il modello è ottimizzato per rispondere senza rifiuti di contenuti per l'uso adulto lecito. È una caratteristica per la narrativa e la ricerca privata, e significa anche che decidi le regole della casa. Un prompt di sistema sul modello condiviso è il posto più semplice per scriverle. Non è consentito nulla di sessuale che coinvolga minori sull'API, indipendentemente dal prompt.

Buoni usi per questa configurazione

Le persone che collegano Open WebUI a un endpoint senza censura vogliono solitamente una finestra di chat pulita senza i limiti di un chatbot in hosting. Gli usi comuni includono narrativa lunga e worldbuilding, roleplay e personaggi companion per adulti, stesura di materiale che gli assistenti mainstream rifiutano di toccare e aiuto ordinario per la programmazione o la scrittura. Lo stesso modello gestisce tutto questo, quindi puoi cambiare attività all'interno di una singola chat.

Open WebUI aiuta in alcuni modi specifici. Prompt salvati e preset del modello ti permettono di tenere un personaggio o una persona editoriale a un clic di distanza. Caricamento documenti e funzionalità di ricerca web, dove le abiliti, inviano testo extra nel prompt, il che aumenta l'uso di token, quindi tieni d'occhio la dimensione di ciò che allegi. Cartelle di chat e ricerca rendono facile tornare a un progetto lungo.

Quello che non farà è generare immagini, voce o video da questa connessione, perché l'API è solo testuale.

Testa l'endpoint prima di dare la colpa a Open WebUI

La maggior parte delle configurazioni fallite deriva da un errore di battitura nell'URL o da una chiave scaduta, ed entrambi emergono più velocemente in un terminale. Esegui queste due chiamate dalla macchina che ospita Open WebUI.

Copycurl https://api.dolphinllm.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

curl https://api.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

La prima chiamata dovrebbe elencare uncensored. La seconda dovrebbe restituire un completamento di chat normale. Controlla anche le intestazioni di risposta: X-Balance-USD mostra cosa rimane sul tuo account, un modo utile per confermare che Open WebUI sta spendendo dalla chiave che pensi.

L'elenco completo dei parametri è nella documentazione API.

Impostazioni che vale la pena modificare per la chat

Prompt di sistema e campionamento

Open WebUI ti permette di impostare un prompt di sistema per modello o per chat. Poiché il modello è ottimizzato per rispondere senza rifiuti di contenuti per l'uso adulto lecito, un breve prompt di sistema che fissa il tono, la persona o il formato di output fa più di una lunga lista di regole. Temperature, top_p, stop, seed e le penalità vengono passate, quindi i cursori in Open WebUI hanno un effetto.

Lunghezza del contesto

La finestra è di 100.000 token per prompt più completamento. Le chat lunghe fanno crescere il prompt a ogni turno, e paghi per l'intera cronologia ogni volta. Se un thread diventa pesante, inizia una nuova chat o riassumi quella vecchia.

Richieste in background

Open WebUI può inviare chiamate extra in background per i titoli e i tag della chat, utilizzando lo stesso modello per impostazione predefinita. Con una chiave di prova, che consente 2 richieste parallele e 60 al minuto, quelle chiamate possono saturare la tua quota di richieste per il messaggio effettivo. Disabilita la generazione di titoli e tag, oppure accetta un breve ritardo. Una chiave completa consente 8 richieste parallele e 300 al minuto, che sono più che sufficienti per un'installazione personale o di un piccolo team.

Streaming, modalità JSON e strumenti

Open WebUI trasmette le risposte per impostazione predefinita, e l'API supporta gli eventi inviati dal server (stream: true), con un blocco di utilizzo alla fine dello stream. Vedi il testo apparire token per token, e l'intestazione del saldo nella risposta finale riflette quanto hai speso.

La chiamata di funzioni è supportata anche dall'API: tools, tool_choice, streaming tool_calls, e i risultati inviati come role: "tool". Quanto espone Open WebUI dipende dalla sua versione e dagli strumenti o funzioni che installi, quindi testa con un piccolo strumento prima di costruire un flusso di lavoro attorno ad esso. La modalità JSON (response_format impostato su json_object) è utile quando chiami lo stesso endpoint dagli script accanto all'interfaccia chat.

Un modello pratico è mantenere Open WebUI per le persone e usare la stessa chiave da uno script per il lavoro batch. Entrambi passano attraverso lo stesso URL base, quindi un unico saldo copre tutto. Ricorda solo che i limiti si applicano per chiave: 8 richieste parallele su una chiave completa, condivise tra l'interfaccia e i tuoi script.

Errori comuni e correzioni

• Nessun modello appare. L'URL probabilmente non contiene /v1 o ha un errore di battitura. Confrontalo carattere per carattere con il valore sopra e rimuovi eventuali slash finali.
• Errore di autenticazione. La chiave è stata incollata con uno spazio iniziale o finale, o appartiene a un account eliminato. Copiala di nuovo dalla pagina delle chiavi.
• Il selettore del modello mostra l'elenco sbagliato. Open WebUI interroga anche altre connessioni che hai aggiunto, come un Ollama locale. Disabilita quelle che non usi.
• Le risposte si interrompono a metà dello streaming. Un reverse proxy davanti a Open WebUI potrebbe mettere in buffer gli eventi inviati dal server. Disabilita il buffering per quel percorso.
• Il saldo è basso. Ricarica prima che raggiunga zero. Le richieste fallite o rifiutate non vengono addebitate, quindi paghi solo per le completazioni effettivamente consegnate.

Quanto costa un'interfaccia chat su questa API

I prezzi sono $0,15 per 1M di token di input e $0,50 per 1M di token di output, prelevati dal credito prepagato. Prendi un tipico turno in una chat di lunghezza media: 4.000 token di cronologia in input e 500 token in output. Il costo di input è 4.000 x $0,15 / 1.000.000 = $0,0006. Il costo di output è 500 x $0,50 / 1.000.000 = $0,00025. Il turno costa $0,00085.

A quel tasso, il credito di prova da $0,50 copre circa 588 turni, e una ricarica da $20 copre circa 23.500. Consulta la pagina dei prezzi per i bonus di ricarica. Se vuoi usare la stessa chiave al di fuori di Open WebUI, ad esempio in script che non richiedono mai una schermata di accesso, la pagina sull'utilizzo di un LLM senza restrizioni di accesso tratta quell'aspetto.

Altre guide

• API LLM gratuita per sviluppatori: prova vs pagamento a consumo
• Come usare un LLM senza restrizioni di accesso