Gunakan Dolphin LLM di Continue untuk VS Code dan JetBrains

Tambahkan model ke config.yaml

Buka pengaturan Continue (ikon gerigi di panel Continue) dan pilih untuk membuka file konfigurasi, atau edit ~/.continue/config.yaml langsung. Tambahkan model:

name: My config
version: 0.0.1
schema: v1
models:
  - name: Dolphin LLM
    provider: openai
    model: uncensored
    apiBase: https://dolphinllm.com/v1
    apiKey: YOUR_KEY
    roles:
      - chat
      - edit
      - apply
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 2048
      temperature: 0.3

Simpan file. Continue memuat ulang, dan Dolphin LLM muncul di menu model panel obrolan. Buat kunci Anda di akun Anda; jika Anda belum memilikinya, daftar dan $0.50 kredit uji coba ditambahkan saat Anda pertama kali membuka akun.

Jauhkan kunci dari file

Jika Anda membagikan atau menyinkronkan konfigurasi Anda, jangan tempelkan kunci ke dalamnya. Versi terbaru Continue membaca rahasia dari ~/.continue/.env:

# ~/.continue/.env
DOLPHIN_API_KEY=YOUR_KEY

dan blok model kemudian menggunakan apiKey: ${{ secrets.DOLPHIN_API_KEY }}. Jika versi Anda tidak dapat menyelesaikannya, akan dilaporkan kunci yang hilang; tempel kunci tersebut secara langsung dan jaga agar file tetap privat.

Peran apa yang harus diberikan

• chat: pertanyaan tentang kode, penjelasan, rencana refactoring. Jendela 262,144-token memuat sekitar 490 halaman kode dan teks, sehingga beberapa file muat dalam satu pertanyaan.
• edit and apply: menulis ulang pilihan atau menerapkan perubahan yang disarankan ke file.
• autocomplete: tidak disarankan. Penyelesaian tab memicu permintaan hampir setiap kali ada jeda saat mengetik, yang menambah biaya dan menunggu latensi jaringan. Model lokal yang lebih kecil lebih baik untuk itu.
• embed: tidak tersedia. API ini tidak memiliki endpoint embeddings, sehingga pengindeksan basis kode memerlukan penyedia embeddings terpisah atau lokal.

Tips untuk pekerjaan coding

• Gunakan suhu rendah (0,2 hingga 0,4) untuk kode, lebih tinggi hanya untuk brainstorming.
• Lampirkan hanya file yang Anda butuhkan. Setiap baris yang dilampirkan adalah token input pada setiap permintaan dalam percakapan tersebut.
• Mulai chat baru saat Anda beralih tugas, agar riwayat lama tidak dikirim lagi.
• Continue mengalirkan balasan; API mendukung streaming dengan penggunaan token di akhir.

Biaya

Permintaan tipikal dengan 8.000 token kode dan pertanyaan serta jawaban 1.000 token biayanya 8.000 × $0.15 / 1.000.000 + 1.000 × $0.50 / 1.000.000 = $0.0017. Sehari dengan 100 permintaan seperti itu adalah $0.17, sekitar $5 sebulan. Uji coba mencakup sekitar 290 di antaranya. Lihat halaman harga.

Pemecahan Masalah

• 404 tidak_ditemukan. apiBase harus diakhiri dengan /v1; Lanjutkan menambahkan /chat/completions itself.
• 401 kunci_tidak_valid. Periksa kunci atau nama rahasia; mulai ulang editor setelah mengubah .env.
• 429 concurrency pada kunci uji coba. Uji coba memungkinkan 2 permintaan paralel. Matikan fitur Continue lain yang memanggil model yang sama, atau isi ulang untuk 8 permintaan paralel.