無検閲APIにSillyTavernを接続

更新済み

SillyTavernはChat Completionモードを通じて任意のOpenAI互換サーバーと通信します。このページでは、どのフィールドに入力するか、ロールプレイに重要な設定、およびメッセージあたりのコストを示します。

主要ポイント

  • APIタイプは`Chat Completion`を使用し、ソースは`Custom (OpenAI-compatible)`を選択してください。`Text Completion`ではありません。
  • エンドポイント:以下に示されるベースURL;モデルID: uncensored.
  • コンテキストサイズを262,144トークン以下に保つ(プロンプトと応答の合計)。
  • 履歴6,000トークン、返信400トークンのメッセージは約$0.0011かかります。

必要なもの

  • SillyTavernがインストールされ、実行中(最新リリース;以下のメニューは現在のレイアウトに一致します)。
  • アカウントからの API キー。 サインアップ メールアドレスとパスワードでサインアップ。アカウント初回作成時に$0.50のトライアルクレジットが付与されます。
  • ベースURL https://dolphinllm.com/v1 およびモデルID uncensored.
アクティブなAPIキーのプレフィックス、OpenAI互換のベースURL、および準備完了済みのcURLコマンドを表示するアカウントページ
アカウント → APIと残高: キーとベースURL、コピー可能なcURL例付き。

4つのステップで接続

  1. を開く API Connections パネル(上部バーのプラグアイコン)。
  2. 設定 API to Chat Completion, その後 Chat Completion Source to Custom (OpenAI-compatible).
  3. 貼り付け https://dolphinllm.com/v1 into Custom Endpoint (Base URL) およびキーを Custom API Key.
  4. クリック Connect。選択 uncensored from Available Models, または Enter a Model ID。最初のテストメッセージが成功すると、ステータスは緑色に変わります。

Text Completionを選択しないでください。このAPIはチャット形式のみを提供します(/v1/chat/completions)ため、モデル固有のチャットテンプレートがサーバー側で適用されるため、この接続に対してSillyTavernにインストラクショナルテンプレートは必要ありません。

ロールプレイにとって重要な設定

開く AI Response Configuration (スライダーアイコン)

  • Context Size (tokens): 最大262,144。各メッセージではキャラクターカード、ペルソナ、ワールド情報、および収まる分のチャット履歴が送信され、それらすべてが入力として課金されます。ほとんどのチャットでは、16,000〜32,000がメモリとコストのバランスとして最適です。262,144トークンのコンテキスト全体の場合、入力あたりのコストは約$0.0393です。初期のイベントをモデルが記憶する必要がある長期キャンペーンでは、この値を上げてください。
  • Max Response Length (tokens): チャット応答は300〜800。出力は高コスト側で、1Mトークンあたり$0.50。
  • Streaming: テキストは入力されるたびに現れ、気に入らない返信は完成前に停止できます。
  • Temperature: クリエイティブな文章作成には0.7から1.0。Top P、頻度ペナルティ、存在ペナルティ、ストップ文字列はモデルに渡されます。

このモデルは、法的な成人向け利用においてコンテンツ拒否なしで回答するようにチューニングされているため、ジェイルブレイクプロンプトはほとんど必要ありません。スタイルと視点を設定する短いシステムプロンプトの方が効果的です。このAPIにおける唯一の固定ルールは、キャラクターカードの内容にかかわらず、未成年を伴う性的コンテンツを禁止することです。

拡張機能とトライアルキー

一部のSillyTavern拡張機能は、同じ接続を通じて独自のリクエストを送信します(例:チャットの要約や、メインAPIを使用するように設定された自動キャラクター表情)。トライアルキーでは2つの並列リクエストと1分あたり60件のリクエストが許可されているため、これらの追加呼び出しはメッセージと衝突し、HTTP 429エラーを返す可能性があります。 concurrency。テスト中はオフにするか、ローカルモデルをポイントしてください。最初のチャージ後、キーは8つの並列リクエストと1分あたり300件のリクエストを許可します。

グループチャットはキャラクターのターンごとに1つのリクエストを送信するため、1対1のチャットよりもクレジットを早く消費します。

セッションのコスト

料金は、入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50です。カードと履歴に6,000トークン、返信に400トークンを使用するメッセージのコストは:

  • 入力: 6,000 × $0.15 / 1,000,000 = $0.0009
  • 出力: 400 × $0.50 / 1,000,000 = $0.0002
  • 合計: メッセージあたり$0.0011、つまり1,000メッセージあたり約$1.10

チャットが32,000トークンのコンテキストに近づくと、1メッセージあたりのコストは約$0.005になります。$0.50のトライアルは、より短いサイズで約450メッセージをカバーできます。チャージは$50から開始します。詳細は 価格ページ.

トラブルシューティング

  • リストにモデルがありません。 URLがで終わっていることを確認してください /v1 末尾のスラッシュなしで入力し、その後 uncensored モデルIDフィールドに手動で入力します。
  • 401 invalid_key。 キーにスペースが含まれてコピーされたか、取り消されました。アカウントで新しいキーを作成してください。
  • 402 no_credit。 残高が空か、試用期間が切れています。アカウントでチャージしてください。
  • コンテキストに関する400 bad_request。 プロンプト+最大応答長が262,144トークンを超えています。コンテキストサイズを下げてください。
  • 503 upstream_busy。 共有サーバーが一時的に混雑しています。数秒後にスワイプまたは再生成してください。エラーの場合、課金されません。

質問と回答

SillyTavernのどのAPIタイプを選ぶべきですか?

ソースがCustom(OpenAI互換)のチャット補完。このAPIではText Completionはサポートされていません。

SillyTavernにはどのベースURLを入力しますか?

使用 https://dolphinllm.com/v1 カスタムエンドポイントとして設定し、 uncensored モデルIDとして設定します。

ジェイルブレイクプロンプトは必要ですか?

通常は不要です。このモデルは、法的な成人向け利用においてコンテンツ拒否なしで回答するようにチューニングされています。スタイルのための短いシステムプロンプトで十分です。

コンテキストはどのくらい大きくできますか?

プロンプトと返信合わせて最大262,144トークン、テキストで約490ページ分。より大きなコンテキストはメッセージごとにコストが高く、履歴全体が入力として請求されるため:ウィンドウ全体の場合、メッセージごとに約$0.0393かかります。

その他のガイド

あなたのキーはフォーム1つで入手可能

アカウントを作成し、キーをコピーし、ベースURLを変更するだけです。これがセットアップのすべてです。