面向开发者的免费 LLM API：试用与按量付费

简短回答：先试用，然后每次调用几分钱

这里没有永远免费的东西。你得到的是免费开始，之后账单非常小。使用 Google 或电子邮件和密码注册，打开 API 密钥页面，一键领取 $0.50 试用额度。无需信用卡。额度有效期为 7 天，每人仅限领取一次。

之后按量付费，输入 token 每 100 万 token 收费 $0.15，输出 token 每 100 万 token 收费 $0.50。无订阅费，无月度最低消费。最小充值金额为 $20，额度不会过期，如果你的项目进度较慢，你可以花一年时间慢慢用完。

$0.50 试用额度能做什么

每次请求的成本计算很简单：输入 token 数乘以 $0.15，加上输出 token 数乘以 $0.50，两者之和除以 1,000,000。以下两个示例展示了费用范围。

查看第一行：1,500 x $0.15 / 1,000,000 = $0.000225，以及 300 x $0.50 / 1,000,000 = $0.00015。总和为 $0.000375。对于第二行，20,000 个输入 token 成本为 $0.003，800 个输出 token 成本为 $0.0004，因此总计 $0.0034。

实际上，试用额度足以连接客户端、测试流式输出、尝试函数调用，并判断该模型是否适合你的项目。

为什么免费层级难以用于构建

免费层级旨在让你试用产品，其限制也是为此目的设定的。细节经常变化，因此在依赖之前，请检查每个提供商的当前条款。通常，开发者会遇到同样的几个问题。

• 限制额度按演示规模设定。 在十个请求时能正常运行的脚本，到几百个请求时就无法使用。
• 限制发生变化。 今天合适的限制以后可能会收紧，你的管道会通过错误得知这一点。
• 内容过滤器。 许多托管模型会拒绝小说、角色扮演或边缘测试数据的请求。批量作业中途被拒绝是一个无法修补的 bug。
• 数据处理方式不明确。 一些免费服务会将提示词用于改进其模型。请阅读相关条款。

这并不意味着免费层级不好。对于周末的原型开发，它们很好。麻烦始于原型变成服务时。

还有一个规划问题。免费层级让你无法预测成本，因为没有价格可以相乘。使用按 token 定价，你可以在写代码之前用一行写出预算，这使项目更容易向客户或合作伙伴辩护。如果你的使用量增长十倍，你知道账单也会增长约十倍，其他什么都不变。

在承诺之前要检查 API 的什么

无论服务是否收费，在将其接入代码之前，都要问同样的问题。

1. 协议是否标准？ 该 API 与 OpenAI 兼容，因此以后切换只需更改两行代码，而不是重写客户端。
2. 限制的数字是多少？ 这里已公布：完整密钥允许 8 个并发请求和每分钟 300 个请求，试用密钥允许 2 个和 60 个，请求体最大 8 MB，上下文窗口为 100,000 个 token。
3. 调用失败时会发生什么？ 在本服务中，失败或被拒绝的请求不收费。
4. 你的提示词会怎样？ 这里它们不用于训练。
5. 模型会拒绝你的使用场景吗？ 该模型经过调整，在合法成人用途下不会拒绝内容，这对小说、角色扮演和测试数据很重要。唯一的硬性限制是涉及未成年人的性内容。
6. 你可以离开吗？ 额度是预付的，永不失效，且没有合同。

如何让试用持续更久

小习惯能让 $0.50 花得更久。

1. 测试时设置 max_tokens。 此 API 中该参数可选，但设置 300 的上限可防止失控的回答产生超出计划十倍的开销。输出 token 是昂贵的部分，价格为每 100 万 token $0.50。
2. 保持系统提示词简短。 每次调用都发送 1,000 个 token 的系统提示词，每次请求增加 $0.00015 的成本。
3. 使用 seed 和低温度参数进行可重复测试，这样你就不需要为了看到不同的回答而重新运行调用。
4. 除非需要，否则不要重新发送整个历史记录。上下文窗口为 100,000 个 token，其中的每个 token 都作为输入计费。
5. 在响应头中监控 X-Balance-USD，以确切了解每次测试的成本。

另一个技巧是在开发期间记录每次调用的 resp.usage。经过一天的测试，你将知道你的实际平均值，并可以用你自己的数字替换上面的表格中的猜测值。许多人发现他们的提示词比假设的要长两到三倍，主要是因为系统提示词和粘贴的示例。

副项目的预算

在决定是否资助项目时，数字很有帮助。假设一个小应用每天进行 200 次调用，开发循环大小为输入 1,500 token、输出 300 token。每次调用成本为 $0.000375，因此一天的成本为 $0.075，30 天的月度成本为 $2.25。以该速率，$20 的充值可维持约九个月。

现在考虑一个更重的工具，每天进行 50 次调用，包含 20,000 个 token 的粘贴上下文和 800 个 token 的输出。每次调用成本为 $0.0034，因此一天为 $0.17，一个月为 $5.10。即使流量翻倍，两个项目的月度成本仍保持在个位数美元。

重点是，在这个级别的 token 定价使得成本对于大多数副项目来说只是一个次要项目。决定成功的是模型是否完成了工作，以及限制是否适合你的流量。

你现在可以运行的第一次调用

该 API 与 OpenAI 兼容，因此在更改 Base URL 和密钥后，标准的 Python SDK 即可工作。

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

usage 对象提供精确的提示词和补全 token 计数。将它们乘以上述费率，即可得出该次调用的成本。流式输出、JSON 模式和工具调用也均支持；文档 中提供了各项示例。

何时从试用过渡到充值

当试用额度用完或当你需要超过 2 个并发请求时，请进行过渡。完整密钥允许 8 个并发请求和每分钟 300 个请求。充值额从 $20 到 $500 不等，可以是任何整数金额。较大的充值额附带奖金：$50 起 +5%，$100 起 +10%，$200 起 +15%。$50 的充值额提供 $52.50 的额度，$200 提供 $230。

你可以使用加密货币（TRC20 链上的 USDT、Base 链上的 USDC）支付。完整的定价详情见 定价页面，你可以从 密钥页面获取密钥。

该 API 不是什么

为了节省你浪费的一个晚上：这是一个纯文本服务。没有图像、音频或视频生成，没有嵌入，也没有微调。它是由独立提供商运行的一种开放权重模型，不是任何大型供应商的官方 API，也不是跨多个模型的路由器。如果你的项目需要用于搜索的嵌入，你需要另一项服务来完成那部分。如果需要遵循指令且不拒绝的聊天模型，这很适合。

如果你是网站的新用户，无需登录限制使用 LLM 页面更详细地解释了注册和密钥的工作原理。

更多指南

• Open WebUI 接口：接入无审查 LLM
• 如何无登录限制地使用 LLM