開発者向け無料LLM API：トライアルと従量課金

結論：トライアル、その後は1回あたり数セント

ここにあるものは永久に無料ではありません。得られるのは無料のスタートと、その後の非常に小さな請求書です。Googleまたはメールアドレスとパスワードでサインアップし、APIキーページを開いてワンクリックで$0.50のトライアルクレジットを受け取ります。カードは不要です。クレジットは7日間有効で、1人につき1回限りの提供です。

その後、従量課金制で、入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50がかかります。サブスクリプションも月額の最低利用額もありません。最小チャージ額は$20で、クレジットは期限切れにならないため、プロジェクトの進行が遅くても1年以上かけて使用できます。

$0.50のトライアルで何ができるか

リクエスト単価はシンプルです：入力トークン数×$0.15、出力トークン数×$0.50、どちらも1,000,000で割ります。2つの例で範囲を示します。

最初の行を確認してください：1,500×$0.15／1,000,000=$0.000225、300×$0.50／1,000,000=$0.00015。合計は$0.000375です。2番目の行では、20,000入力トークンは$0.003、800出力トークンは$0.0004かかり、合計$0.0034になります。

実際には、トライアルでクライアントの接続、ストリーミングのテスト、関数呼び出しの試行、モデルがプロジェクトに適合するかの判断を行うのに十分です。

無料枠が構築に向かない理由

無料枠は製品を試すためのものなので、その目的に合わせて制限が設定されています。詳細は頻繁に変更されるため、依存する前に各プロバイダーの現在の利用規約を確認してください。一般的に、開発者は以下のいくつかの問題に直面します。

• デモ向けのレート制限 10リクエストで動作するスクリプトも、数百リクエストでは利用できなくなります。
• 制限の変更 今日まで問題なかった制限が後で厳しくなることがあり、パイプラインはそれをエラーで初めて知ることになります。
• コンテンツフィルタ 多くのホスト済みモデルは、フィクションやロールプレイ、過激なテストデータのリクエストを拒否します。バッチ処理の途中で拒否されると、パッチできないバグになります。
• 不明確なデータ処理。 一部の無料サービスは、プロンプトをモデル改善に使用します。利用規約をお読みください。

これが無料枠を悪くするわけではありません。週末のプロトタイプには適しています。問題は、プロトタイプがサービスになったときに始まります。

計画の問題もあります。無料枠では、乗算する価格がないため、コストの見通しを立てる方法がありません。トークン単位の課金であれば、コードを書く前に1行で予算を記載でき、それがクライアントやパートナーへの説明を容易にします。使用量が10倍になっても、請求額も約10倍になり、他に何も変化しません。

コミットする前に確認すべきAPIのポイント

サービスにお金がかかるかどうかにかかわらず、コードに組み込む前に同じ質問をしてください。

1. プロトコルは標準的か？ 本APIはOpenAI互換なので、後で切り替える場合、クライアントの書き換えではなく2行の変更で済みます。
2. 制限は数値で示されているか？ ここでは公開されています：フルキーは同時8リクエスト、分間300リクエスト、トライアルキーは2および60、ボディサイズ8 MB、コンテキストウィンドウ100,000トークン。
3. 呼び出しが失敗した場合はどうなるか？ このサービスでは、失敗または拒否されたリクエストには課金されません。
4. プロンプトはどうなるか？ ここではトレーニングには使用されません。
5. モデルはあなたのユースケースを拒否するか？ このモデルは、合法的な成人利用に対してコンテンツ拒否なしで回答するようにチューニングされています。フィクション、ロールプレイ、テストデータにとって重要です。唯一のハード制限は未成年者を含む性的コンテンツです。
6. 離脱できるか？ クレジットは前払いで期限切れにならず、契約はありません。

トライアルを長持ちさせる方法

小さな節約習慣で$0.50を長く使えます。

1. テスト中にmax_tokensを設定する。 このAPIではオプションですが、300の上限を設定すると、制御不能な回答が計画の10倍のコストになるのを防げます。出力は1Mあたり$0.50で高コスト側です。
2. システムプロンプトを短く保つ。 1,000トークンのシステムプロンプトをすべての呼び出しに含めると、リクエストごとに$0.00015追加されます。
3. 再現性のあるテストにはseedと低いtemperatureを使用する。異なる回答を見るために呼び出しを再実行する必要がなくなります。
4. 必要な場合を除き、履歴全体を再送信しない。ウィンドウは100,000トークンで、その中のすべてのトークンが入力として課金されます。
5. レスポンスヘッダーのX-Balance-USDを確認して、各テストの正確なコストを確認する。

もう1つのトリックは、開発中のすべての呼び出しでresp.usageをログに記録することです。1日のテスト後、実際の平均値がわかり、上記の表の推測を自分の数値に置き換えることができます。多くの人が、プロンプトが想定より2〜3倍長いことに気づきます。主にシステムプロンプトと貼り付けた例が原因です。

サイドプロジェクトの予算

プロジェクトに資金を提供する価値があるかどうかを判断する際に、数字は役立ちます。1日200回の呼び出しを行い、開発ループサイズ（入力1,500トークン、出力300トークン）の小さなアプリを考えます。各呼び出しは$0.000375かかり、1日のコストは$0.075、30日の月は$2.25になります。$20のチャージで、そのレートで約9か月分をまかなえます。

次に、1日50回の呼び出しを行い、20,000トークンの貼り付けたコンテキストと800トークンの出力を持つ重たいツールを考えます。各呼び出しは$0.0034かかり、1日は$0.17、月は$5.10になります。トラフィックが2倍になっても、両方のプロジェクトは月当たり数ドルの範囲に収まります。

要点は、このレベルのトークン単価では、コストがほとんどのサイドプロジェクトにとって小さな項目になることです。成功を決めるのは、モデルが仕事を遂行できるかどうか、および制限があなたのトラフィックに適合するかどうかです。

今すぐ実行できる最初の呼び出し

APIはOpenAI互換なので、ベースURLとキーを変更するだけで標準のPython SDKが動作します。

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

usageオブジェクトは、正確なプロンプトおよび補完トークン数を提供します。それらに上記のレートを掛けると、その呼び出しのコストがわかります。ストリーミング、JSONモード、関数呼び出しもすべて利用可能です。各機能の例はドキュメントにあります。

トライアルからチャージに移行する時期

無料トライアルが終了したとき、または同時2リクエストを超える必要があるときにチャージへ移行してください。フルキーは同時8リクエスト、1分あたり300リクエストまで許可されます。チャージ額は$20から$500までの任意の整数額です。高額チャージにはボーナスが付きます：$50以上で+5%、$100以上で+10%、$200以上で+15%です。$50のチャージで$52.50のクレジット、$200のチャージで$230のクレジットが得られます。

暗号資産（TRC20上のUSDT、Base上のUSDC）で支払えます。詳細は料金ページに記載されており、キーページからキーを取得できます。

このAPIではないもの

無駄な夜を節約するために：これはテキストのみのサービスです。画像、音声、動画の生成、埋め込み、ファインチューニングはありません。独立したプロバイダーが運用する1つのオープンウェイトモデルであり、大手ベンダーの公式APIでもなく、複数のモデルをルーティングするルーターでもありません。検索用の埋め込みが必要な場合は、その部分に別のサービスが必要です。指示に従い、拒否しないチャットモデルが必要な場合は、これに適合します。

サイトが初めての場合、ログイン制限なしでLLMを使用するのページで、サインアップとキーの仕組みを詳しく解説しています。

その他のガイド

• Open WebUI API エンドポイント：無検閲 LLM に接続
• ログイン制限なしで LLM を使用する