将 Dolphin LLM 添加为 LibreChat 的自定义端点

已更新

LibreChat 通过 librechat.yaml 中的自定义端点添加 OpenAI 兼容的提供商。一段配置块将使您的 LibreChat 安装的每个用户都能访问该模型。

要点

  • 在 endpoints.custom in librechat.yaml 包含 baseURL、apiKey 和模型 uncensored.
  • 将密钥保留在 .env 中,并引用为 ${DOLPHIN_API_KEY}.
  • 设置 apiKey to user_provided 是否每个用户都应自带密钥。
  • 挂载 librechat.yaml 进入容器并重启 LibreChat。

端点块

打开 librechat.yaml 在 LibreChat 文件夹中(复制 librechat.example.yaml 如果您还没有(请添加)并在 endpoints:

version: 1.2.1
endpoints:
  custom:
    - name: "Dolphin LLM"
      apiKey: "${DOLPHIN_API_KEY}"
      baseURL: "https://dolphinllm.com/v1"
      models:
        default: ["uncensored"]
        fetch: false
      titleConvo: true
      titleModel: "uncensored"
      modelDisplayLabel: "Dolphin LLM"

使用 version 您的 LibreChat 版本期望的值(位于 librechat.example.yaml). fetch: false 将列表限制为单个模型;与 fetch: true LibreChat 询问 GET /v1/models,返回相同的单个模型。

将密钥放入 .env

# .env
DOLPHIN_API_KEY=YOUR_KEY

在您的账户中创建密钥(注册 如果没有则先添加(首次打开账户时会添加 $0.50 的试用额度)。切勿提交 .env git。

如果安装中的每个用户都应从自己的余额中支付,请设置 apiKey: "user_provided" 替代方案。LibreChat 会在用户首次选择 Dolphin LLM 时要求提供密钥,并为其存储。

账户页面,显示活动 API 密钥前缀、OpenAI 兼容的基础 URL 以及现成的 cURL 命令
账户 → API 与余额:您的密钥和基础 URL,附带可复制的 cURL 示例。

Docker:挂载文件并重启

使用标准的 Docker 设置时,LibreChat 会读取 librechat.yaml 仅当它挂载到 API 容器中时。在 docker-compose.yml:

# docker-compose.override.yml
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
docker compose down
docker compose up -d

打开 LibreChat,选择 Dolphin LLM 在端点菜单中并开始聊天。如果端点未显示,API 容器日志会说明原因,通常是 YAML 缩进错误。

值得了解的选项

  • titleConvo 每次新对话时多发出一个简短请求以命名它。对于试用密钥(2 个并行请求,每分钟 60 个),将其设置为 false 如果出现延迟。
  • 上下文: 模型最多接受 262,144 个 token,包含提示词和回复。LibreChat 会在每条消息中发送对话历史,因此长对话每次交互成本更高;填满窗口的交互输入费用约为 $0.0393。
  • 参数: temperature、top_p、max tokens、stop 以及 LibreChat 参数面板中的惩罚设置都会透传。API 仅支持文本,因此需要视觉或嵌入功能的文件上传在此端点中无法使用。
  • 预设和智能体: 您可以将系统提示保存为预设。API 支持工具调用(tools, tool_choice),因此 LibreChat 代理可以使用它;在依赖之前先测试一个工具。

共享安装,统一余额

只需一个密钥 .env, 每个 LibreChat 用户都从相同的余额中消耗。如果安装是公开的,请关闭开放注册,并在您的账户或 X-Balance-USD 响应头。限制按密钥计算:首次充值后,8 个并行请求和每分钟 300 次请求由所有用户共享。

该模型经过微调,以在无内容拒绝的情况下回答问题,适用于合法的成人用途,因此规则由你设定,例如在预设的系统提示中。API 上始终不允许涉及未成年人的性内容。

费用

按每 1M 输入 token $0.15 和每 1M 输出 token $0.50 的费率,包含 3,000 token 历史记录和 600 token 回答的一次对话成本为 $0.00075。一个小团队每天发送 500 条此类消息,每月花费约 $11。请参阅 定价页面 用于套餐和奖励。

问答

Dolphin LLM 端点应如何配置到 LibreChat 中?

在 endpoints.custom in librechat.yaml, 与 baseURL https://dolphinllm.com/v1, 您的密钥和模型 uncensored.

每个 LibreChat 用户可以使用自己的密钥吗?

是的。设置 apiKey to user_provided 并且 LibreChat 会向每个用户询问他们的密钥。

为什么编辑文件后端点不显示?

文件必须挂载到 API 容器中并重启 LibreChat。检查容器日志中的 YAML 错误。

更多指南

你的密钥只需填写一份表格即可获得

创建账户,复制密钥,更改基础 URL。这就是全部设置。