免費 LLM API 供開發者使用：試用與按量付費

簡短回答：先試用，然後每次呼叫僅需幾分錢

這裡沒有永遠免費的東西。你得到的是免費的開始，以及之後非常小的帳單。使用 Google 或電子郵件與密碼註冊，開啟 API 金鑰頁面，點擊一次領取 $0.50 試用額度。不需要信用卡。額度有效期為 7 天，每人限領一次。

之後你按量付費，輸入 token 每 1M 個 $0.15，輸出 token 每 1M 個 $0.50。沒有訂閱也沒有每月最低消費。最小儲值金額為 $20，且額度永不過期，因此如果你的專案進度緩慢，你可以花一年時間用完它。

$0.50 試用額度能買到什麼

每次請求的成本很簡單：輸入 token 數乘以 $0.15，加上輸出 token 數乘以 $0.50，兩者都除以 1,000,000。兩個範例顯示了範圍。

檢查第一行：1,500 x $0.15 / 1,000,000 = $0.000225，以及 300 x $0.50 / 1,000,000 = $0.00015。總和為 $0.000375。對於第二行，20,000 個輸入 token 成本為 $0.003，800 個輸出 token 成本為 $0.0004，因此總計為 $0.0034。

實際上，試用額度足以連接客戶端、測試串流輸出、嘗試函式呼叫，並判斷該模型是否適合你的專案。

為什麼免費層難以用於建構

免費層的存在是為了讓你試用產品，其限制也是基於此目的設定的。細節經常變更，因此在依賴之前請檢查每個供應商的當前條款。一般來說，開發者會遇到同樣的幾個問題。

• 速率上限適合演示用途。一個在十次請求時能運作的腳本，在請求量達到數百次時就會無法使用。
• 限制變更。 今天適用的限制稍後可能會收緊，你的管線會從錯誤中得知。
• 內容過濾器。 許多託管模型會拒絕小說、角色扮演或邊緣測試資料的請求。批次作業中途被拒絕是一個無法修補的錯誤。
• 資料處理不透明。 某些免費服務會使用提示詞來改進其模型。請閱讀條款。

這並不意味著免費層不好。對於週末的原型開發來說，它們很好。麻煩從原型變成服務時開始。

還有一個規劃問題。免費層無法讓你預測成本，因為沒有價格可以相乘。使用按 token 計費，你可以在寫程式碼之前用一行寫出預算，這讓專案更容易向客戶或合作夥伴辯護。如果你的使用量增長十倍，你知道帳單也會增長約十倍，而其他一切不變。

在承諾之前要檢查 API 的什麼

無論服務是否收費，在將其接入程式碼之前，請問同樣的問題。

1. 協議是標準的嗎？ 此 API 與 OpenAI 相容，因此稍後切換只需更改兩行程式碼，而不需要重寫客戶端。
2. 限制是多少？ 這裡已公布：完整金鑰允許 8 個並行請求和每分鐘 300 個，試用金鑰為 2 個和 60 個，主體大小 8 MB，上下文視窗為 100,000 個 token。
3. 呼叫失敗時會發生什麼？ 在此服務上，失敗或被拒絕的請求不會收費。
4. 你的提示詞會怎麼處理？ 這裡不會將其用於訓練。
5. 模型是否拒絕您的使用情境？此模型經過調整，可針對合法成人用途避免內容拒絕，這對於小說、角色扮演和測試資料很重要。唯一的硬性限制是涉及未成年人的性內容。
6. 你可以離開嗎？ 額度是預付的且永不過期，且沒有合約。

如何讓試用額度更持久

小習慣可以讓 $0.50 發揮很大作用。

1. 測試時設定 max_tokens。 此 API 中它是可選的，但將上限設為 300 可以防止失控的回答產生比你預期高十倍的費用。輸出端較貴，每 1M 個 token $0.50。
2. 保持系統提示詞簡短。 每次請求都發送 1,000 個 token 的系統提示詞，每次請求會增加 $0.00015 的成本。
3. 使用 seed 和低溫度進行可重複測試， 這樣你就不會為了看到不同的回答而重新執行呼叫。
4. 除非需要，否則不要重新發送整個歷史記錄。上下文視窗為 100,000 個 token，其中的每個 token 都作為輸入計費。
5. 在回應標頭中監控 X-Balance-USD，以精確查看每次測試的成本。

另一個技巧是在開發期間記錄每次呼叫的 resp.usage。經過一天的測試後，你就會知道實際平均值，並可以用你自己的數字替換上述表格中的猜測。許多人發現他們的提示詞比預期的長兩到三倍，主要是因為系統提示詞和貼上的範例。

側專案的預算

數字能幫助您決定專案是否值得資助。假設一個小型應用程式每天以開發者用量規模進行 200 次請求，輸入 1,500 token、輸出 300 token。每次請求成本為 $0.000375，因此一天的成本為 $0.075，30 天的月份成本為 $2.25。$20 的儲值額度在該費率下可維持約九個月。

現在考慮一個更重的工具，每天進行 50 次呼叫，包含 20,000 個貼上的上下文 token 和 800 個輸出 token。每次呼叫成本為 $0.0034，因此一天為 $0.17，一個月為 $5.10。即使流量翻倍，兩個專案的每月成本仍保持在個位數美元。

重點在於，此等級的 token 定價讓成本成為大多數個人專案中的次要項目。決定成敗的關鍵在於模型是否能勝任工作，以及限制是否符合你的流量需求。

現在可以執行的一次呼叫

該 API 與 OpenAI 相容，因此在更改 Base URL 和金鑰後，標準 Python SDK 即可使用。

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

usage 物件提供精確的提示詞和完成 token 計數。將它們乘以上述費率，你就有了該呼叫的成本。串流輸出、JSON 模式和函式呼叫也都可用；文件 中有每個功能的範例。

何時從試用轉為儲值

當免費試用額度耗盡或您需要超過 2 次並行請求時，請轉換方案。完整金鑰允許 8 次並行請求和每分鐘 300 次請求。儲值金額從 $20 到 $500 不等，可選擇任何整數金額。較大的金額享有額外贈額：$50 起贈 +5%，$100 起贈 +10%，$200 起贈 +15%。$50 的儲值會獲得 $52.50 的額度，$200 則獲得 $230。

你可以使用加密貨幣（TRC20 上的 USDT、Base 上的 USDC）付款。完整數字位於 定價頁面，你可以從 金鑰頁面 獲取金鑰。

此 API 不是什麼

為了節省你浪費的晚上：這是一個純文字服務。沒有圖像、音訊或影片生成，沒有嵌入也沒有微調。它是由獨立供應商運行的一個開放權重模型，不是任何大型廠商的官方 API，也不是跨多個模型的路由器。如果你的專案需要用於搜尋的嵌入，你需要另一個服務來處理該部分。如果需要遵循指示且不拒絕的聊天模型，這很適合。

如果您是本站新手，無登入限制使用 LLM頁面將更詳細地說明註冊與金鑰的使用方式。

更多指南

• Open WebUI API 端點：串接無審查 LLM
• 如何無登入限制使用 LLM