Dolphin LLM API：本地、租用 GPU 或託管

人們所指的 Dolphin 模型

Dolphin 是一系列開放權重基礎模型的社群微調版本名稱。調校數據經過篩選，使模型能遵循指令而不說教或拒絕一般請求。由於基礎模型在不同版本間會變化，因此沒有單一 Dolphin 供應商擁有單一官方端點。當有人要求 dolphin llm api 時，他們通常指的是任何提供該風格無審查模型的 API。

這影響你的規劃方式。你不是在選擇品牌，而是在選擇權重運行位置以及運營者。模型品質取決於基礎模型和微調版本，運營方面則取決於你選擇的途徑。

關於範圍的一點說明：這些模型針對合法成人用途進行調校。此處的供應商以及任何合理的供應商都不會提供涉及未成年人的性內容。請將此視為你自己應用程式中的固定邊界。

途徑 1：在你的機器上運行

每個 token 最便宜的途徑是使用你已有硬體來運行的模型。Ollama 和 llama.cpp 等工具會下載量化權重並提供本地伺服器。兩者都可以在 localhost 上提供 OpenAI 風格的端點，因此你的客戶端程式碼看起來與任何託管服務相同。

關鍵在於記憶體。量化模型大約需要與其檔案大小相當的 RAM 或 VRAM，以及上下文快取的空間。小型模型可裝入筆記型電腦，但較大的模型需要具有大量記憶體的 GPU，且長提示詞會使快取增長。如果模型無法裝入 VRAM，它會溢出到系統 RAM，導致速度大幅下降。

當你在離線工作、數據必須永遠留在你的機器上，或你想嘗試不同的微調版本時，本地運行是很好的選擇。對於有使用者的產品來說，它不是好的選擇，因為你的筆記型電腦變成了伺服器。有關本地側面的完整指南，請參閱關於如何運行 Dolphin 風格模型的單獨文章。

途徑 2：租用 GPU 並自行服務

按小時租用 GPU 可讓你獲得更大的模型而無需購買硬體。你安裝 vLLM 或 llama.cpp 伺服器等的服務堆疊，載入權重，並暴露一個連接埠。然後你就擁有其周圍的一切。

• 設定驅動程式、服務軟體和 TLS。
• 新增身份驗證，防止陌生人使用你的 GPU。
• 崩潰後重新啟動並監控記憶體。
• 無論是否有人發送請求，都要為盒子運行的時間付費。

最後一點是真正的成本驅動因素。整夜閒置的 GPU 仍會計費。當你有穩定且大量的流量，且有人願意運營時，這條途徑才划算。對於有使用波峰的個人專案，你主要為閒置時間付費。請檢查供應商定價頁面上的當前每小時費率，因為費率會變動。

途徑 3：呼叫託管式 OpenAI 相容端點

託管端點消除了運營工作。你發送 HTTPS 請求並為你使用的 token 付費。本網站提供此服務：託管式、OpenAI 相容的文字 API，用於單一開放權重模型，由獨立供應商運行，並針對合法成人用途進行調校以無內容拒絕方式回答。明確來說：它不是任何模型供應商的官方 API，也不是跨多個模型的路由器。模型 ID 為 uncensored。

由於 API 與 OpenAI 相容，一旦更改兩個設定（基礎 URL 和金鑰），任何 OpenAI SDK 均可使用。以下是最小的 Python 呼叫：

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a direct, helpful assistant."},
        {"role": "user", "content": "Explain how a context window works."},
    ],
)
print(resp.choices[0].message.content)

curl 中的相同請求：

Copycurl https://api.dolphinllm.com/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

串流（stream: true）、工具呼叫、JSON 模式和常見採樣參數在 OpenAI API 中的運作方式相同。上下文視窗為 100,000 個 token，包含提示詞和補全。API 文件列出了每個支援的端點和參數。

並排比較

決定大多數情況的欄位是模型選擇。如果你需要特定的 Dolphin 微調版本，只有前兩種途徑能提供。如果你需要穩定的 API 背後具備功能強大的無審查模型，且不在乎具體是哪個微調版本，託管途徑可為你節省營運工作。

託管呼叫的成本

定價為每 1M 輸入 token $0.15，每 1M 輸出 token $0.50，從預付額度支付。無訂閱費，失敗或拒絕的請求不收費，且額度永不過期。典型的聊天輪次包含 2,000 個輸入 token 和 500 個輸出 token，成本為：

• 輸入：2,000 x $0.15 / 1,000,000 = $0.0003
• 輸出：500 x $0.50 / 1,000,000 = $0.00025
• 總計：每次請求 $0.00055，或每 1,000 次請求 $0.55

儲值金額為 $20 至 $500 的整數金額，$50 起 +5%，$100 起 +10%，$200 起 +15%。你可以使用加密貨幣（TRC20 上的 USDT、Base 上的 USDC）付款。定價頁面有當前詳細資訊。

要與租用的 GPU 進行比較，請將每小時費率除以你在一小時內以實際流量可服務的請求數量。在低流量或波峰流量下，每 token 模型通常會勝出，因為你從不為閒置時間付費。

先試用再付費

新用戶可在註冊後點擊金鑰頁面一次，領取 $0.50 的免費試用額度。每人限領一次，有效期 7 天，且無需信用卡。註冊可使用 Google 或電子郵件與密碼。按照上述價格，$0.50 可覆蓋約 900 次範例中的 2,000 輸入、500 輸出請求，這足以測試模型的語調是否符合你的用途。試用金鑰限制為 2 個並行請求和每分鐘 60 個請求。

前往API 金鑰頁面取得你的金鑰。如果你想要完全不需要登入的模型，請參閱免登入 LLM文章，並在聊天前端進行客戶端設定時，請閱讀關於Open WebUI 端點的說明。

更多指南

• 如何運行 Dolphin LLM：本地部署與託管 API 比較
• 免費 LLM API 供開發者使用：試用與按量付費