Бесплатный LLM API для разработчиков: Пробный период против оплаты по факту

Краткий ответ: пробный период, затем копейки за вызов

Ничто здесь не бесплатно навсегда. Вы получаете бесплатный старт и очень небольшой счёт после него. Зарегистрируйтесь через Google или по email и паролю, откройте страницу API-ключа и получите $0,50 пробного баланса одним кликом. Карта не нужна. Баланс действителен 7 дней, и каждый пользователь получает его один раз.

После этого вы платите по факту по $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов. Подписки и ежемесячного минимума нет. Минимальное пополнение — $20, а баланс не сгорает, так что вы можете потратить его за год, если проект развивается медленно.

Что даёт пробный баланс $0,50

Стоимость запроса проста: количество входных токенов умножается на $0,15, количество выходных — на $0,50, оба результата делятся на 1 000 000. Два примера показывают диапазон цен.

Проверьте первую строку: 1 500 × $0,15 / 1 000 000 = $0,000225, и 300 × $0,50 / 1 000 000 = $0,00015. Сумма составляет $0,000375. Для второй строки 20 000 входных токенов стоят $0,003, а 800 выходных токенов — $0,0004, итого $0,0034.

На практике пробного баланса достаточно, чтобы подключить клиент, протестировать потоковую передачу, попробовать вызов функций и решить, подходит ли модель для вашего проекта.

Почему на бесплатных тарифах сложно строить проекты

Бесплатные тарифы существуют, чтобы вы могли попробовать продукт, и их лимиты установлены с учётом этой цели. Условия часто меняются, поэтому перед тем как полагаться на них, проверяйте текущие условия каждого провайдера. В целом разработчики сталкиваются с несколькими типичными проблемами.

• Лимиты запросов, рассчитанные на демо. Скрипт, который работает при десяти запросах, становится непригодным при нескольких сотнях.
• Изменение лимитов. Лимит, который сегодня подходит, может быть ужесточён позже, и ваш пайплайн узнает об этом из ошибки.
• Фильтры контента. Многие хостинговые модели отказывают в запросах на фантастику, ролевые игры или тестовые данные. Отказ в середине пакетной задачи — это баг, который нельзя исправить патчем.
• Неясная обработка данных. Некоторые бесплатные сервисы используют промпты для улучшения своих моделей. Прочитайте условия.

Ничто из этого не делает бесплатные тарифы плохими. Для прототипа на выходные они подходят. Проблемы начинаются, когда прототип превращается в сервис.

Также существует проблема планирования. Бесплатный тариф не позволяет прогнозировать стоимость, потому что нет цены, которую можно умножить. При по-токенной оплате вы можете записать бюджет в одну строку до написания кода, и это упрощает защиту проекта перед клиентом или партнёром. Если использование вырастет в десять раз, вы знаете, что счёт вырастет примерно в десять раз, и ничего больше не изменится.

Что проверить в любом API перед подключением

Независимо от того, платный сервис или бесплатный, задавайте одни и те же вопросы, прежде чем подключать его к своему коду.

1. Стандартен ли протокол? Этот API совместим с OpenAI, поэтому при переходе на другой сервис позже нужно изменить две строки, а не переписывать клиент.
2. Какие лимиты в цифрах? Они опубликованы: 8 параллельных запросов и 300 в минуту для полного ключа, 2 и 60 для пробного ключа, тело до 8 МБ, контекстное окно на 100 000 токенов.
3. Что происходит при сбое запроса? На этом сервисе за неудачные или отклонённые запросы не берут плату.
4. Что происходит с вашими промптами? Здесь они не используются для обучения.
5. Откажет ли модель в вашем сценарии? Она настроена так, чтобы отвечать без отказов по содержанию для законного использования взрослыми, что важно для художественной литературы, ролевых игр и тестовых данных. Единственное строгое ограничение — контент сексуального характера с участием несовершеннолетних.
6. Можно ли уйти? Предоплаченный баланс не сгорает, и нет контракта.

Как продлить срок действия пробного периода

Маленькие привычки позволяют растянуть $0,50 на долгое время.

1. Установите max_tokens во время тестирования. Это необязательный параметр на этом API, но ограничение в 300 токенов предотвратит рост стоимости ответа в десять раз. Выходные данные — это дорогая сторона по $0,50 за 1M.
2. Держите системные промпты короткими. Системный промпт на 1 000 токенов, отправляемый с каждым запросом, добавляет $0,00015 к стоимости запроса.
3. Используйте seed и низкую температуру для воспроизводимых тестов, чтобы не запускать запрос заново только ради другого ответа.
4. Не отправляйте всю историю, если она не нужна. Контекстное окно на 100 000 токенов, и каждый токен в нем оплачивается как входные данные.
5. Следите за X-Balance-USD в заголовках ответа, чтобы точно знать стоимость каждого теста.

Еще один прием — логировать resp.usage для каждого запроса во время разработки. После дня тестирования вы узнаете свою реальную среднюю стоимость и сможете заменить догадки в таблицах выше своими цифрами. Многие обнаруживают, что их промпты в два-три раза длиннее, чем они предполагали, в основном из-за системных промптов и вставленных примеров.

Бюджет для побочного проекта

Цифры помогают решить, стоит ли финансировать проект. Возьмём небольшое приложение, которое делает 200 запросов в день с типичным размером запроса для цикла разработки: 1 500 токенов на ввод и 300 на вывод. Каждый запрос стоит $0,000375, день обходится в $0,075, а месяц из 30 дней — в $2,25. Пополнение на $20 хватило бы примерно на девять месяцев при таком расходе.

Теперь рассмотрим более тяжёлый инструмент, который выполняет 50 вызовов в день с 20 000 токенов вставленного контекста и 800 выходных токенов. Каждый вызов стоит $0,0034, поэтому день обходится в $0,17, а месяц — в $5,10. Даже удвоение трафика оставляет оба проекта в пределах однозначных сумм долларов в месяц.

Суть в том, что ценообразование за токены на этом уровне делает стоимость незначительной статьёй для большинства побочных проектов. Успех зависит от того, справляется ли модель с задачей и соответствуют ли лимиты вашему трафику.

Первый вызов, который можно запустить прямо сейчас

API совместим с OpenAI, поэтому стандартный Python SDK работает после изменения базового URL и ключа.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

Объект usage показывает точное количество токенов промпта и вывода. Умножьте их на ставки выше, чтобы узнать стоимость запроса. Также доступны потоковая передача, JSON-режим и вызов функций; примеры есть в документации.

Когда перейти от пробного периода к пополнению

Переходите, когда пробный период заканчивается или когда вам нужно больше 2 параллельных запросов. Полный ключ позволяет 8 параллельных запросов и 300 в минуту. Пополнения варьируются от $20 до $500 любой целой суммой. Большие суммы дают бонус: +5% от $50, +10% от $100 и +15% от $200. Пополнение на $50 даёт $52,50 баланса, а $200 — $230.

Оплатить можно криптовалютой (USDT на TRC20, USDC на Base). Полные данные на странице цен, а ключ можно получить на странице ключей.

Чем этот API не является

Чтобы не тратить вечер зря: это текстовый сервис. Нет генерации изображений, аудио или видео, нет эмбеддингов и дообучения. Это одна модель с открытыми весами от независимого провайдера, не официальный API крупного вендора и не роутер между несколькими. Если вашему проекту нужны эмбеддинги для поиска, вам понадобится другой сервис для этой части. Если нужна чат-модель, которая следует инструкциям и не отказывает, это подходит.

Если вы новичок на сайте, страница «Как использовать LLM без авторизации» подробнее объясняет, как работают регистрация и ключи.

Дополнительные руководства

• Эндпоинты API Open WebUI: Подключение LLM без цензуры
• Как использовать LLM без авторизации