Pontos principais
- Dolphin é uma família de ajustes finos feitos pela comunidade, portanto não há uma API oficial única para entrar.
- Você pode servir um em sua máquina local, servi-lo em uma GPU alugada ou chamar um endpoint hospedado.
- Um endpoint compatível com OpenAI hospedado precisa apenas de uma URL base, uma chave e o ID do modelo uncensored.
- O preço de hospedagem aqui é $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, sem assinatura.
O que as pessoas querem dizer com um modelo Dolphin
Dolphin é o nome de uma linha de ajustes finos da comunidade de modelos base de pesos abertos. Os dados de ajuste são filtrados para que o modelo siga instruções sem palestras ou recusar solicitações comuns. Como o modelo base muda entre lançamentos, não há um único fornecedor Dolphin com um endpoint oficial único. Quando alguém pede uma api llm dolphin, geralmente significa qualquer API que sirva um modelo sem censura desse estilo.
Isso importa para como você planeja. Você não está escolhendo uma marca, está escolhendo onde os pesos são executados e quem os opera. A qualidade do modelo depende do modelo base e do ajuste, e o lado operacional depende da rota que você escolher abaixo.
Uma nota sobre o escopo: esses modelos são ajustados para uso adulto lícito. Nenhum provedor aqui, e nenhum sensato em qualquer lugar, servirá conteúdo sexual envolvendo menores de idade. Trate isso como um limite fixo em seu próprio aplicativo também.
Rota 1: execute na sua própria máquina
A rota mais barata por token é um modelo para o qual você já possui hardware. Ferramentas como Ollama e llama.cpp baixam pesos quantizados e expõem um servidor local. Ambas podem oferecer um endpoint estilo OpenAI no localhost, para que o código do cliente pareça o mesmo que para qualquer serviço hospedado.
O problema é a memória. Um modelo quantizado precisa de aproximadamente o tamanho do seu arquivo em RAM ou VRAM, mais espaço para o cache de contexto. Modelos pequenos cabem em um laptop, mas os maiores precisam de uma GPU com muita memória, e prompts longos fazem o cache crescer. Se o modelo não couber na VRAM, ele transborda para a RAM do sistema e a velocidade cai drasticamente.
Local é uma boa opção quando você trabalha offline, quando os dados nunca devem sair da sua máquina ou quando você quer experimentar diferentes ajustes finos. É uma má opção para um produto com usuários, porque seu laptop se torna o servidor. Para um guia completo do lado local, consulte o artigo separado sobre como executar um modelo estilo Dolphin.
Rota 2: alugar uma GPU e servi-la você mesmo
Alugar uma GPU por hora oferece modelos maiores sem comprar hardware. Você instala uma pilha de serviço como vLLM ou o servidor do llama.cpp, carrega os pesos e expõe uma porta. Você então é dono de tudo ao redor.
- Configurar drivers, software de serviço e TLS.
- Adicionar autenticação para que estranhos não usem sua GPU.
- Reiniciar após falhas e monitorar a memória.
- Pagar pelas horas em que a máquina está ligada, independentemente de alguém enviar requisições.
Esse último ponto é o principal motor de custo. Uma GPU ociosa à noite ainda é cobrada. A rota compensa quando você tem tráfego constante e alto e alguém disposto a operá-la. Para um projeto secundário com picos de uso, você paga principalmente pelo tempo ocioso. Verifique as taxas horárias atuais na página de preços do próprio provedor, pois elas mudam.
Rota 3: chamar um endpoint compatível com OpenAI hospedado
Um endpoint hospedado remove o trabalho operacional. Você envia requisições HTTPS e paga pelos tokens que usa. Este site oferece isso: uma API de texto hospedada e compatível com OpenAI para um único modelo de pesos abertos, operada por um provedor independente e ajustada para responder sem recusas de conteúdo para uso adulto lícito. Para deixar claro o que não é: não é a API oficial de nenhum fornecedor de modelo, e não é um roteador entre vários modelos. O ID do modelo é uncensored.
Como a API é compatível com OpenAI, qualquer SDK OpenAI funciona depois de alterar duas configurações, a URL base e a chave. Aqui está uma chamada Python mínima:
from openai import OpenAI
client = OpenAI(
base_url="https://api.dolphinllm.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a direct, helpful assistant."},
{"role": "user", "content": "Explain how a context window works."},
],
)
print(resp.choices[0].message.content)A mesma solicitação em curl:
curl https://api.dolphinllm.com/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'Streaming (stream: true), chamada de funções, modo JSON e os parâmetros de amostragem habituais funcionam como na API OpenAI. A janela de contexto é de 100.000 tokens, incluindo prompt e conclusão. A documentação da API lista todos os endpoints e parâmetros suportados.
Comparação lado a lado
| Fator | Local | GPU Alugada | Endpoint hospedado |
|---|---|---|---|
| Trabalho inicial | Instalar e baixar | Configuração do servidor, autenticação, TLS | Obtenha uma chave |
| Modelo de custo | Hardware que você possui | Por hora, tempo ocioso incluído | Por token, pré-pago |
| Tamanho do modelo | Limitado pela sua VRAM | Limitado pela GPU que você aluga | Um modelo, fixo |
| Escolha de modelo | Qualquer ajuste fino que você possa baixar | Qualquer ajuste fino que você possa carregar | Apenas o modelo oferecido |
| Localização dos dados | Permanece na sua máquina | Na máquina alugada | Enviado ao provedor |
| Manutenção | Você | Você | Provedor |
A linha que decide a maioria dos casos é a escolha do modelo. Se você precisa de um ajuste fino Dolphin específico, apenas as duas primeiras rotas oferecem isso. Se você precisa de um modelo sem censura capaz atrás de uma API estável e não se importa qual ajuste exato seja, a rota hospedada poupa você do trabalho operacional.
Quanto custa uma chamada hospedada
Os preços são $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, pagos a partir de crédito pré-pago. Não há assinatura, requisições falhadas ou recusadas não são cobradas e o crédito nunca expira. Uma rodada típica de chat com 2.000 tokens de entrada e 500 tokens de saída custa:
- Entrada: 2.000 x $0,15 / 1.000.000 = $0,0003
- Saída: 500 x $0,50 / 1.000.000 = $0,00025
- Total: $0,00055 por solicitação, ou $0,55 por 1.000 solicitações
Recargas podem ser qualquer valor inteiro de $20 a $500, com +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Você pode pagar com cripto (USDT na TRC20, USDC na Base). A página de preços tem os detalhes atuais.
Para comparar com uma GPU que você aluga, divida a taxa horária pelo número de solicitações que você pode servir em uma hora no seu tráfego real. Em volume baixo ou intermitente, o modelo por token geralmente vence, porque você nunca paga pelo tempo ocioso.
Experimente antes de pagar
Novos usuários podem reivindicar $0,50 de crédito de teste com um clique na página de chaves após o cadastro. É um por pessoa, válido por 7 dias e não precisa de cartão. O cadastro é feito com Google ou com e-mail e senha. Nos preços acima, $0,50 cobre cerca de 900 das requisições de 2.000 de entrada e 500 de saída do exemplo, o que é mais do que suficiente para testar se o tom do modelo se encaixa no seu uso. Chaves de teste são limitadas a 2 requisições simultâneas e 60 requisições por minuto.
Obtenha sua chave na página da chave de API. Se você quer um modelo sem login algum, veja o artigo LLM sem login e, para configuração do cliente em um frontend de chat, leia sobre endpoints do Open WebUI.
