API LLM gratuita per sviluppatori: prova vs pagamento a consumo

Risposta breve: una prova, poi centesimi per chiamata

Niente qui è gratuito per sempre. Quello che ottieni è un inizio gratuito e un conto molto basso dopo. Registrati con Google o con email e password, apri la pagina della chiave API e richiedi $0,50 di credito di prova gratuito con un solo clic. Non serve la carta. Il credito è valido per 7 giorni e ogni persona ne riceve uno.

Dopo paghi a consumo a $0,15 per 1M di token in input e $0,50 per 1M di token in output. Non ci sono abbonamenti né minimi mensili. La ricarica minima è $20 e il credito non scade mai, quindi puoi spenderlo in un anno se il tuo progetto è lento.

Cosa ti offrono i $0,50 di prova

Il costo per richiesta è semplice: token in input × $0,15, più token in output × $0,50, entrambi divisi per 1.000.000. Due esempi mostrano l'intervallo.

Controlla la prima riga: 1.500 × $0,15 / 1.000.000 = $0,000225, e 300 × $0,50 / 1.000.000 = $0,00015. La somma è $0,000375. Per la seconda riga, 20.000 token in input costano $0,003 e 800 token in output costano $0,0004, quindi $0,0034 in totale.

In pratica la prova è sufficiente per collegare un client, testare lo streaming, provare le chiamate di funzioni e decidere se il modello si adatta al tuo progetto.

Perché è difficile sviluppare su piani gratuiti

I piani gratuiti esistono per farti provare un prodotto e i loro limiti sono impostati con questo scopo. I dettagli cambiano spesso, quindi controlla i termini attuali di ogni provider prima di affidarti a uno. In generale, gli sviluppatori riscontrano gli stessi problemi.

• Limiti di velocità pensati per una demo. Uno script che funziona a dieci richieste diventa inutilizzabile a poche centinaia.
• Limiti che cambiano. Un limite che oggi va bene può essere ridotto in futuro e la tua pipeline lo scopre da un errore.
• Filtri sui contenuti. Molti modelli ospitati rifiutano richieste per narrativa, roleplay o dati di test spinti. Un rifiuto a metà di un lavoro batch è un bug che non puoi correggere.
• Gestione dei dati poco chiara. Alcune offerte gratuite usano i prompt per migliorare i loro modelli. Leggi i termini.

Niente di tutto questo rende le tariffe gratuite brutte. Per un prototipo del weekend vanno bene. I problemi iniziano quando il prototipo diventa un servizio.

C'è anche un problema di pianificazione. Un piano gratuito non ti permette di prevedere i costi, perché non c'è un prezzo da moltiplicare. Con la tariffazione per token puoi scrivere il budget in una riga prima di scrivere codice, e questo rende un progetto più facile da difendere verso un cliente o un partner. Se il tuo utilizzo cresce di dieci volte, sai che il conto cresce di circa dieci volte e nient'altro cambia.

Cosa controllare in qualsiasi API prima di impegnarti

Che un servizio costi o meno, fai le stesse domande prima di collegarlo al tuo codice.

1. Il protocollo è standard? Questa API è compatibile con OpenAI, quindi cambiando provider in seguito basta modificare due righe, non riscrivere il client.
2. Quali sono i limiti in numeri? Qui sono pubblicati: 8 richieste parallele e 300 al minuto con una chiave completa, 2 e 60 con una chiave di prova, corpo di 8 MB, finestra di contesto di 100.000 token.
3. Cosa succede quando una chiamata fallisce? Su questo servizio, le richieste fallite o rifiutate non vengono addebitate.
4. Cosa succede ai tuoi prompt? Qui non vengono usati per l'addestramento.
5. Il modello rifiuta il tuo caso d'uso? È ottimizzato per rispondere senza rifiuti sui contenuti per l'uso adulto lecito, il che è importante per la narrativa, il roleplay e i dati di test. L'unico limite invalicabile riguarda i contenuti sessuali che coinvolgono minori.
6. Puoi andartene? Il credito è prepagato e non scade mai, e non c'è contratto.

Come far durare la prova

Piccole abitudini fanno durare a lungo i $0,50.

1. Imposta max_tokens durante i test. È opzionale su questa API, ma un limite di 300 impedisce a una risposta fuori controllo di costare dieci volte quello che avevi pianificato. L'output è il lato costoso a $0,50 per 1M.
2. Mantieni brevi i prompt di sistema. Un prompt di sistema da 1.000 token inviato con ogni chiamata aggiunge $0,00015 per richiesta.
3. Usa seed e temperatura bassa per test ripetibili, così non riavvii una chiamata solo per vedere una risposta diversa.
4. Non reinviare intere cronologie a meno che non ti servano. La finestra è di 100.000 token e ogni token al suo interno viene fatturato come input.
5. Osserva X-Balance-USD nelle intestazioni di risposta per vedere esattamente quanto è costato ogni test.

Un altro trucco è registrare resp.usage per ogni chiamata durante lo sviluppo. Dopo un giorno di test conoscerai la tua media reale e potrai sostituire le stime nelle tabelle sopra con i tuoi numeri. Molte persone scoprono che i loro prompt sono due o tre volte più lunghi di quanto ipotizzato, soprattutto a causa dei prompt di sistema e degli esempi incollati.

Un budget per un progetto laterale

I numeri aiutano quando decidi se un progetto vale la pena di essere finanziato. Prendi un'app piccola che fa 200 chiamate al giorno alla dimensione del ciclo di sviluppo di 1.500 token in entrata e 300 in uscita. Ogni chiamata costa $0,000375, quindi un giorno costa $0,075 e un mese di 30 giorni costa $2,25. Una ricarica di $20 coprirebbe circa nove mesi a quel tasso.

Ora prendi uno strumento più pesante che fa 50 chiamate al giorno con 20.000 token di contesto incollato e 800 token in output. Ogni chiamata costa $0,0034, quindi un giorno è $0,17 e un mese è $5,10. Anche un raddoppio del traffico mantiene entrambi i progetti in dollari a cifra singola al mese.

Il punto è che la tariffazione per token a questo livello rende il costo una voce minore per la maggior parte dei progetti laterali. Ciò che decide il successo è se il modello svolge il lavoro e se i limiti si adattano al tuo traffico.

Una prima chiamata che puoi eseguire ora

L'API è compatibile con OpenAI, quindi l'SDK Python standard funziona dopo aver cambiato l'URL di base e la chiave.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

L'oggetto usage ti dà i conteggi esatti dei token prompt e completion. Moltiplicali per le tariffe sopra e avrai il costo di quella chiamata. Streaming, modalità JSON e chiamata di funzioni sono tutti disponibili; la documentazione ha esempi per ciascuno.

Quando passare dalla prova a una ricarica

Passa a una ricarica quando il credito di prova finisce o quando hai bisogno di più di 2 richieste parallele. Una chiave completa permette 8 richieste parallele e 300 al minuto. Le ricariche vanno da $20 a $500 in qualsiasi importo intero. Quelle più grandi hanno un bonus: +5% da $50, +10% da $100 e +15% da $200. Una ricarica di $50 dà $52,50 di credito, e $200 dà $230.

Puoi pagare con cripto (USDT su TRC20, USDC su Base). I dettagli completi sono nella pagina dei prezzi, e puoi ottenere una chiave dalla pagina della chiave.

Cosa non è questa API

Per risparmiarti una sera sprecata: è un servizio solo testo. Non ci sono generazione di immagini, audio o video, né embeddings né fine-tuning. È un modello a pesi aperti gestito da un provider indipendente, non l'API ufficiale di nessun grande vendor e non un router tra diversi. Se il tuo progetto ha bisogno di embeddings per la ricerca, avrai bisogno di un altro servizio per quella parte. Se ha bisogno di un modello chat che segua le istruzioni e non rifiuti, questo si adatta.

Se sei nuovo sul sito, la pagina sull'uso di un LLM senza restrizioni di accesso spiega come funzionano la registrazione e le chiavi nel dettaglio.

Altre guide

• Endpoint dell'API Open WebUI: connetti un LLM senza censura
• Come usare un LLM senza restrizioni di accesso