连接无审查 API

已更新

SillyTavern通过其Chat Completion(聊天补全)模式连接任何兼容OpenAI的服务器。本页面将说明需要填写哪些字段、哪些设置对长角色扮演至关重要,以及每条消息的成本。

要点

  • 使用 API 类型 Chat Completion,来源选择 Custom(OpenAI 兼容),而非 Text Completion。
  • 端点:下方显示的基础 URL;模型 ID: uncensored.
  • 保持上下文大小在 262,144 个 token 以内(包含 prompt 和 response)。
  • 包含 6,000 token 历史记录和 400 token 回复的消息,费用约为 $0.0011。

你需要什么

  • 已安装并运行SillyTavern(请使用最新版本;下方菜单与当前界面布局一致)。
  • 来自您账户的 API 密钥。 注册 使用电子邮件和密码;首次开户时添加 $0.50 的试用额度。
  • 基础 URL https://dolphinllm.com/v1 以及模型ID uncensored.
账户页面,显示活动 API 密钥前缀、OpenAI 兼容的基础 URL 以及现成的 cURL 命令
账户 → API 与余额:您的密钥和基础 URL,附带可复制的 cURL 示例。

四步完成连接

  1. 打开 API Connections 面板(顶部栏中的插头图标)。
  2. 设置 API to Chat Completion, 然后 Chat Completion Source to Custom (OpenAI-compatible).
  3. 粘贴 https://dolphinllm.com/v1 into Custom Endpoint (Base URL) 以及您的密钥到 Custom API Key.
  4. 点击 Connect。选择 uncensored from Available Models, 或输入到 Enter a Model ID。当第一条测试消息成功发送时,状态会变为绿色。

不要选择文本补全。该 API 仅提供聊天格式(/v1/chat/completions);模型的聊天模板在服务器上应用,因此您无需在 SillyTavern 中为此连接设置 instruct 模板。

对角色扮演重要的设置

打开 AI Response Configuration (滑块图标)。

  • Context Size (tokens): 最多 262,144。每条消息都会发送角色卡、人设、世界设定以及尽可能多的聊天记录,且所有内容均按输入计费。对于大多数对话,16,000 到 32,000 是记忆容量与成本之间的良好平衡;完整的 262,144 token 上下文每条消息的输入成本约为 $0.0393。在需要模型记住早期事件的长剧情中,可适当提高该值。
  • Max Response Length (tokens): 聊天回复的配额为 300 到 800。输出端较贵,价格为每 1M token $0.50。
  • Streaming: 开启。文本按书写方式显示,您可以在不喜欢回复完成之前停止它。
  • Temperature: 创意写作设为 0.7 到 1.0。Top P、频率惩罚和存在惩罚以及停止字符串将直接传递给模型。

该模型经过调整,可在合法成人用途下无内容审查地回答问题,因此你很少需要使用越狱提示词。简短的系统提示词(设定风格和视角)效果更好。此 API 的唯一硬性规则是:无论角色卡如何设定,均不包含涉及未成年人的色情内容。

扩展程序和试用密钥

部分SillyTavern扩展程序会通过同一连接发送自己的请求,例如聊天摘要或在设置为主API时自动生成的角色表情。对于试用密钥(允许2个并行请求和每分钟60次请求),这些额外调用可能会与您的消息冲突,并返回HTTP 429错误,代码为 concurrency。在测试期间关闭它们,或将它们指向本地模型。首次充值后,该密钥允许 8 个并行请求和每分钟 300 个请求。

群聊每轮角色对话发送一次请求,因此比一对一聊天消耗信用额度更快。

会话的成本

价格为每 1M 输入令牌 $0.15,每 1M 输出令牌 $0.50。一条包含 6,000 个令牌(卡片和历史)的消息和 400 个令牌的回复成本为:

  • 输入:6,000 × $0.15 / 1,000,000 = $0.0009
  • 输出:400 × $0.50 / 1,000,000 = $0.0002
  • 总计:每条消息 $0.0011,约每 1,000 条消息 $1.10

随着聊天上下文增长至 32,000 个 token,每条消息成本约为 $0.005。$0.50 的试用额度大约可发送 450 条较短消息。充值从 $50 起;详见 定价页面.

故障排除

  • 列表中无模型。 请确保 URL 以 /v1 不带尾部斜杠,然后输入 uncensored 手动输入到模型 ID 字段。
  • 401 invalid_key。 密钥复制时带有空格,或者已被撤销。在你的账户中创建一个新的密钥。
  • 402 no_credit。 余额为空或试用已过期。请在你的账户中充值。
  • 400 bad_request 关于上下文。 提示词加上最大响应长度超过 262,144 个 token。上下文长度较低。
  • 503 upstream_busy。 共享服务器暂时满载。稍等几秒后滑动或重新生成;错误请求不会收费。

问答

我应该选择哪种 SillyTavern API 类型?

带有来源 Custom(兼容 OpenAI)的聊天补全。此 API 不支持文本补全。

SillyTavern 的基础 URL 是什么?

使用 https://dolphinllm.com/v1 作为自定义端点,以及 uncensored 作为模型 ID。

我需要越狱提示词吗?

通常不会。该模型经过调整,可在合法成人使用中无内容拒绝地回答问题。简短的风格系统提示即可。

上下文可以有多大?

提示词加回复最多支持 262,144 个 token,约 490 页文本。较大的上下文会导致每条消息成本更高,因为完整历史记录均作为输入计费:填满窗口的消息输入费用约为 $0.0393。

更多指南

你的密钥只需填写一份表格即可获得

创建账户,复制密钥,更改基础 URL。这就是全部设置。