Dolphin LLM API：ローカル、レンタルGPUまたはホスト

人がDolphinモデルで意味すること

Dolphinはオープンウェイトベースモデルのコミュニティファインチューニングのラインの名前です。チューニングデータはフィルタリングされており、モデルは講義や通常のリクエストの拒否なしで指示に従います。ベースモデルはリリース間で変更されるため、単一のDolphinベンダーに単一の公式エンドポイントはありません。誰かがdolphin llm apiを求めているとき、彼らは通常、そのスタイルの無検閲モデルを提供する任意のAPIを意味します。

それは計画の仕方に影響します。あなたはブランドを選んでいるのではなく、重みがどこで実行され、誰がそれらを運用しているかを選んでいます。モデルの品質はベースモデルとチューニングに依存し、運用側はあなたが以下で選択するルートに依存します。

スコープに関する1つの注意点：これらのモデルは法的な成人用途向けに調整されています。ここにあるどのプロバイダでも、またどこでも健全なプロバイダでも、未成年者との性的コンテンツを提供することはありません。それをアプリケーションの固定された境界として扱ってください。

ルート1：自分のマシンで実行する

トークンあたりの最も安いルートは、すでにハードウェアを所有しているモデルです。Ollamaやllama.cppなどのツールは量子化された重みをダウンロードし、ローカルサーバーを公開します。両方ともlocalhostでOpenAIスタイルのエンドポイントを提供できるため、クライアントコードは任意のホストサービスの場合と同じように見えます。

問題はメモリです。量子化されたモデルは、ファイルサイズに相当するRAMまたはVRAM、およびコンテキストキャッシュの領域を必要とします。小さなモデルはラップトップに収まりますが、より大きなモデルは大量のメモリを持つGPUを必要とし、長いプロンプトはキャッシュを増加させます。モデルがVRAMに収まらない場合、システムRAMに溢れ出し、速度が著しく低下します。

オフラインで作業する場合、データが常にマシンから離れない場合、または異なるファインチューニングを実験したい場合は、ローカルが適しています。ユーザーがいる製品には適していません。ラップトップがサーバーになるためです。ローカル側の完全な手順については、Dolphinスタイルのモデルを実行する方法に関する別の記事を参照してください。

ルート2：GPUをレンタルして自分で提供する

GPUを時間単位でレンタルすると、ハードウェアを購入せずに大きなモデルが得られます。vLLMやllama.cppのサーバーなどのサービングスタックをインストールし、重みをロードしてポートを公開します。その後、それを取り巻くすべてを所有します。

• ドライバー、サービング用ソフトウェア、TLSの設定。
• 他人があなたのGPUを使用できないように認証を追加します。
• クラッシュ後の再起動とメモリの監視。
• 誰かがリクエストを送信するかどうかにかかわらず、サーバーが稼働している時間に対して支払います。

最後の点が実際のコストドライバーです。夜間にアイドル状態のGPUでも請求されます。このルートは、安定した高トラフィックがあり、それを運用する人がいる場合に効果的です。バースト使用のサイドプロジェクトの場合、主にアイドル時間に対して支払います。変更されるため、プロバイダの価格ページで現在の時間単価を確認してください。

ルート3：ホストされたOpenAI互換エンドポイントを呼び出す

ホストエンドポイントは運用作業を削除します。HTTPSリクエストを送信し、使用したトークンに対して支払います。このサイトはそのようなものを提供しています：独立したプロバイダによって実行され、法的な成人用途のためにコンテンツ拒否なしで回答するように調整された単一のオープンウェイトモデルのホストされたOpenAI互換テキストAPI。明確にするために：それは任意のモデルベンダーの公式APIではなく、複数のモデルにわたるルーターでもありません。モデルIDはuncensoredです。

APIはOpenAI互換であるため、base URLとキーの2つの設定を変更するだけで、任意のOpenAI SDKが機能します。ここに最小限のPython呼び出しを示します：

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a direct, helpful assistant."},
        {"role": "user", "content": "Explain how a context window works."},
    ],
)
print(resp.choices[0].message.content)

curlでの同じリクエスト：

Copycurl https://api.dolphinllm.com/v1/chat/completions   -H "Authorization: Bearer YOUR_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

ストリーミング（stream: true）、ツール呼び出し、JSONモード、および通常のサンプリングパラメータは、OpenAI APIと同様に機能します。コンテキストウィンドウは100,000トークンで、プロンプトと補完を含みます。APIドキュメントは、サポートされているすべてのエンドポイントとパラメータをリストしています。

横並び比較

多くのケースを決定する行はモデル選択です。特定のDolphinチューニングが必要な場合は、最初の2つのルートのみがそれを与えます。安定したAPIの背後にある能力のある無検閲モデルが必要で、どの正確なチューニングであるかは気にしない場合は、ホストルートが運用作業を節約します。

ホスト呼び出しのコスト

価格は、入力トークン100万あたり$0.15、出力トークン100万あたり$0.50で、前払いクレジットから支払われます。サブスクリプションはなく、失敗または拒否されたリクエストは請求されず、クレジットは期限切れになりません。2,000の入力トークンと500の出力トークンを持つ典型的なチャットターンは次のようになります：

• 入力：2,000 x $0.15 / 1,000,000 = $0.0003
• 出力：500 x $0.50 / 1,000,000 = $0.00025
• 合計：リクエストあたり$0.00055、または1,000リクエストあたり$0.55

トップアップは$20から$500までの任意の整数額で、$50からは+5%、$100からは+10%、$200からは+15%です。暗号資産（TRC20上のUSDT、Base上のUSDC）で支払うことができます。価格ページには現在の詳細があります。

レンタルするGPUと比較するには、時間単価を、実際のトラフィックで1時間あたりに提供できるリクエスト数で割ります。低ボリュームまたはバーストボリュームでは、アイドル時間に対して支払わないため、従量課金モデルが通常有利になります。

支払い前に試す

新しいユーザーは、サインアップ後にキーページで1クリックで$0.50のトライアルクレジットを請求できます。1人1回、7日間有効で、カードは必要ありません。サインアップはGoogleまたはメールとパスワードで行います。上記の価格では、$0.50は例の2,000入力、500出力リクエストの約900をカバーしており、モデルのトーンがあなたの用途に合うかどうかをテストするのに十分です。トライアルキーは2つの同時リクエストと1分あたり60リクエストに制限されています。

APIキーページでキーを取得してください。ログインなしのモデルが必要な場合は、ログインなしLLM記事を参照し、チャットフロントエンドでのクライアントセットアップについてはOpen WebUIエンドポイントについてお読みください。

その他のガイド

• Dolphin LLMの実行方法：ローカルセットアップとホストAPI
• 開発者向け無料 LLM API：トライアル vs 従量課金