Use Dolphin LLM no Continue para VS Code e JetBrains
Atualizado

O Continue é um assistente de código de código aberto para VS Code e JetBrains. Ele aceita qualquer modelo compatível com OpenAI, permitindo usar o Dolphin LLM para conversas, edições e explicações no seu editor.
Pontos-chave
- Adicione um modelo com o provedor
openai, modelouncensoredandapiBasedefinido para a URL base abaixo. - Atribua a ele os papéis de chat, edição e aplicação; mantenha o autocomplete em um modelo local pequeno.
- Definir
contextLengthaté 262144 para que o Continue corte prompts longos corretamente. - Não há endpoint de embeddings, então use outro provedor para indexação de código.
Adicione o modelo ao config.yaml
Abra as configurações do Continue (a engrenagem no painel Continue) e escolha abrir o arquivo de configuração, ou edite ~/.continue/config.yaml diretamente. Adicionar um modelo:
name: My config
version: 0.0.1
schema: v1
models:
- name: Dolphin LLM
provider: openai
model: uncensored
apiBase: https://dolphinllm.com/v1
apiKey: YOUR_KEY
roles:
- chat
- edit
- apply
defaultCompletionOptions:
contextLength: 262144
maxTokens: 2048
temperature: 0.3
Salve o arquivo. Continue recarrega automaticamente, e Dolphin LLM aparece no menu do modelo do painel de chat. Crie sua chave na sua conta; se você ainda não tem uma, inscrever-se e $0.50 de crédito de teste são adicionados ao abrir a conta pela primeira vez.

Mantenha a chave fora do arquivo
Se você compartilhar ou sincronizar sua configuração, não cole a chave nela. Versões recentes do Continue leem segredos de ~/.continue/.env:
# ~/.continue/.env
DOLPHIN_API_KEY=YOUR_KEY
e o bloco do modelo então usa apiKey: ${{ secrets.DOLPHIN_API_KEY }}. Se a sua versão não o resolver, ela relatará uma chave ausente; cole a chave diretamente e mantenha o arquivo privado.
Quais funções atribuir a ele
- chat: perguntas sobre código, explicações, planos de refatoração. A janela de 262.144 tokens contém cerca de 490 páginas de código e texto, então vários arquivos cabem em uma única pergunta.
- edit and apply: reescrevendo uma seleção ou aplicando uma alteração sugerida ao arquivo.
- autocomplete: não recomendado. A conclusão por guia dispara uma solicitação na quase todas as pausas durante a digitação, o que aumenta o custo e depende da latência da rede. Um modelo local menor é melhor para isso.
- embed: não disponível. Esta API não possui endpoint de embeddings, portanto, a indexação de código-fonte precisa de um provedor de embeddings separado ou local.
Dicas para trabalho de codificação
- Use uma temperatura baixa (0,2 a 0,4) para código; use valores mais altos apenas para brainstorming.
- Anexe apenas os arquivos que você precisa. Cada linha anexada são tokens de entrada em cada solicitação nesse chat.
- Inicie um novo chat ao alternar tarefas, para que o histórico antigo não seja enviado novamente.
- O Continue transmite respostas; a API suporta streaming com uso de tokens no final.
Custo
Uma solicitação típica com 8.000 tokens de código e pergunta e uma resposta de 1.000 tokens custa 8.000 × $0,15 / 1.000.000 + 1.000 × $0,50 / 1.000.000 = $0,0017. Um dia com 100 dessas solicitações custa $0,17, cerca de $5 por mês. O teste cobre cerca de 290 delas. Consulte o página de preços.
Solução de problemas
- 404 não_encontrado.
apiBasedeve terminar com/v1; Continue adiciona/chat/completionsitself. - 401 chave_inválida. Verifique a chave ou o nome do segredo; reinicie o editor após a alteração
.env. - 429 concorrência em uma chave de teste. A trial permite 2 solicitações paralelas. Desative outros recursos do Continue que chamem o mesmo modelo, ou faça um recarga para 8 solicitações paralelas.
Perguntas e respostas
Qual provedor eu escolho no Continue?
provider: openai with apiBase definido para https://dolphinllm.com/v1 e o modelo uncensored.
Posso usá-lo para autocompletar abas?
Funciona, mas não é uma boa opção: o autocomplete envia muitas solicitações pequenas. Use um modelo local pequeno para autocomplete e o Dolphin LLM para chat e edições.
Suporta indexação de repositório de código?
Não por conta própria. A API não possui um endpoint de embeddings, então configure um modelo de embeddings separado.
Mais guias
Use Dolphin LLM em fluxos de trabalho n8nUse a API Dolphin LLM no n8n: credencial OpenAI com URL base personalizado, nó OpenAI Chat Model em Agentes de IA e cadeias de LLM, alternativa de Solicitação HTTP, retentativas e limites de taxa.
API Dolphin LLM: Local, GPU Alugada ou HospedadaTrês maneiras de obter uma API para um modelo uncensored estilo Dolphin: executá-lo localmente, servi-lo em uma GPU alugada ou chamar um endpoint compatível com OpenAI hospedado. Comparação de esforço e custo.
API LLM Gratuita para Desenvolvedores: Teste vs. Pague por UsoO que uma camada gratuita de API LLM oferece e onde ela termina. Uma avaliação sem cartão de $0,50, depois centavos por chamada: o que isso compra, como fazê-la durar e o que verificar antes de se comprometer.