LibreChatにDolphin LLMをカスタムエンドポイントとして追加

エンドポイントブロック

開く librechat.yaml LibreChatフォルダ内（コピー librechat.example.yaml まだ持っていない場合）とこれ以下に追加： endpoints:

version: 1.2.1
endpoints:
  custom:
    - name: "Dolphin LLM"
      apiKey: "${DOLPHIN_API_KEY}"
      baseURL: "https://dolphinllm.com/v1"
      models:
        default: ["uncensored"]
        fetch: false
      titleConvo: true
      titleModel: "uncensored"
      modelDisplayLabel: "Dolphin LLM"

を使用する version LibreChatのリリースが期待する値（の上部にあります。 librechat.example.yaml). fetch: false リストを1つのモデルに限定します。 fetch: true LibreChatの質問 GET /v1/models, 同じ単一のモデルを返します。

キーを .env に設定してください

# .env
DOLPHIN_API_KEY=YOUR_KEY

アカウントでキーを作成します（サインアップ （一つもない場合の最初のステップ；アカウントを初めて開いた際に試用クレジットとして$0.50が付与されます）。 .env gitへ。

インストールのすべてのユーザーが自分の残高から支払う場合、以下を設定します apiKey: "user_provided" 代わりに、LibreChatはユーザーがDolphin LLMを選択する初回に各ユーザーにキーの入力を求め、それを保存します。

Docker：ファイルをマウントして再起動

標準的なDockerセットアップでは、LibreChatは以下を読み取ります librechat.yaml APIコンテナにマウントされている場合のみ有効です。 docker-compose.yml:

# docker-compose.override.yml
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

docker compose down
docker compose up -d

LibreChatを開き、 Dolphin LLM エンドポイントメニューでチャットを開始します。エンドポイントが表示されない場合、APIコンテナのログに理由が記載されています。通常はYAMLのインデントエラーです。

知っておくべきオプション

• titleConvo 新しい会話ごとに名前を付けるために1回だけ余分なリクエストを行います。試用キー（並列リクエスト2件、1分あたり60件）の場合、以下に設定してください。 false 遅延が見られる場合。
• コンテキスト： モデルはプロンプトと返信合わせて最大262,144トークンを受け入れます。LibreChatは各メッセージごとに会話履歴を送信するため、長いスレッドはターンごとにコストが高く、ウィンドウを埋めるターンの入力コストは約$0.0393です。
• パラメータ: temperature、top_p、max tokens、stop、LibreChatのパラメータパネルからのペナルティはそのまま渡されます。APIはテキストのみ対応のため、ビジョンや埋め込みが必要なファイルアップロードはこのエンドポイントでは機能しません。
• プリセットとエージェント: システムプロンプトをプリセットとして保存できます。ツール呼び出しはAPIでサポートされています（tools, tool_choice）ため、LibreChatエージェントで使用できます。信頼する前に1つのツールでテストしてください。

共有インストール、1つの残高

キーを1つ入れるだけで .env, すべてのLibreChatユーザーは同じ残高から消費します。インストールが公開されている場合は公開登録をオフにし、アカウントまたは X-Balance-USD レスポンスヘッダー。制限はキーごとに適用され、最初のチャージ後、全ユーザーで8並列リクエストと1分間300リクエストが共有されます。

このモデルは、法的な成人向け利用においてコンテンツ拒否なしで回答するようにチューニングされているため、ハウスルールは設定済みのシステムプロンプトなどであなたが自由に設定できます。ただし、APIでは未成年を伴う性的コンテンツは常に禁止されています。

コスト

1M input トークンあたり $0.15、1M output トークンあたり $0.50 のレートで、3,000トークンの履歴と600トークンの回答を含む1ターンあたりのコストは $0.00075 です。1日500件のそのようなメッセージを送信する小規模チームの月間コストは約 $11 です。詳細は 価格ページ パックとボーナスのために。