Dolphin LLM проти API OpenAI
Оновлено · ціни перевірено на ту дату
Обидва використовують однаковий формат API, тому перехід полягає лише у зміні базової URL-адреси, ключа та назви моделі. Різниця полягає в ціні, довжині контексту, самій моделі та способах оплати.
Ключові моменти
- OpenAI GPT-6 Luna коштує $0.10 за 1 млн входних токенів та $0.50 за 1 млн вихідних токенів; Dolphin LLM коштує $0.15 та $0.50.
- Моделі OpenAI мають значно довший контекстний вікно (1 050 000 токенів) порівняно з Dolphin LLM (262 144).
- Dolphin LLM надає одну модель з відкритими вагами без поведінки відмов, властивої масовим моделям.
- Dolphin LLM передоплачується карткою або криптою, без підписки; невдалі запити безкоштовні.
Ціни поруч
| Модель | Вхідні дані / 1 млн | Вивід / 1M | Контекст |
|---|---|---|---|
| Dolphin LLM (без цензури) | $0.15 | $0.50 | 262,144 |
| GPT-6 Luna від OpenAI | $0.10 | $0.50 | 1,050,000 |
| GPT-6.1 Terra від OpenAI | $1.00 | $5.00 | 1,050,000 |
Для типового діалогу з 4000 токенів на вході та 2000 на виході GPT-6 Luna коштує $0.0014, Dolphin LLM — $0.0016, а GPT-6.1 Terra — $0.014. Тільки за ціною бюджетна модель OpenAI трохи дешевша на вході й дорівнює на виході.
Контекстне вікно
Поточні моделі OpenAI приймають до 1 050 000 токенів. Dolphin LLM приймає 262 144 токенів, запит і відповідь разом. Це приблизно 490 сторінок тексту в одному запиті: достатньо для довгої книги, великого звіту або значної частини кодової бази. Тільки для ще більших вхідних даних, таких як кілька книг одночасно, OpenAI підходить краще.
Модель
Моделі OpenAI є закритими та дотримуються політики використання OpenAI, включаючи відмови за темами, які постачальник вважає чутливими. Dolphin LLM надає одну модель з відкритими вагами, налаштовану на відповіді на законні дорослі запити без відмов, що важливо для художньої літератури, досліджень та роботи з модерацією, де відмови переривають робочий процес.
Дані
OpenAI стверджує, що дані API не використовуються для навчання, якщо ви не погодитеся на це, а журнали моніторингу зловживань зберігаються до 30 днів; доступне нульове зберігання даних для затверджених клієнтів. Dolphin LLM не використовує запити чи відповіді для навчання та веде облік використання (запити, токени, вартість) на ключ.
Билінг
Dolphin LLM передоплачується: ви поповнюєте рахунок карткою або криптою (USDT, USDC), кредит ніколи не закінчується, невдалі запити безкоштовні, а баланс ніколи не стає від'ємним. Є пробний кредит $0.50 без картки.
Яку обрати
- Обирайте OpenAI, якщо вам потрібен дуже довгий контекст, зображення чи аудіо, або найнижча ціна на вхідні дані.
- Обирайте Dolphin LLM, якщо ваші завантаження стикаються з відмовами, якщо ви хочете модель з відкритими вагами під тим самим SDK або якщо вам більше подобається передоплата криптовалютою.
Перемикання займає три рядки: дивіться docs.
Джерела
Ціни змінюються. Перевіряйте сторінку кожного провайдера перед прийняттям рішення.
Питання та відповіді
Чи можу я використовувати SDK OpenAI з Dolphin LLM?
Так. Встановіть базовий URL на кінцеву точку Dolphin LLM, використовуйте свій ключ Dolphin LLM та назву моделі "uncensored". Решта вашого коду залишається незмінною.
Чи є Dolphin LLM дешевшим за OpenAI?
Не скрізь. GPT-6 Luna коштує $0.10 за 1 млн входних токенів проти $0.15, і обидва коштують $0.50 за 1 млн вихідних токенів. GPT-6.1 Terra вдесячо дорожча за будь-яку з них.
Більше посібників
Dolphin LLM проти моделей середнього розміру з відкритими вагами на OpenRouterЦіна за 1M токенів для популярної чат-моделі середнього розміру з відкритими вагами на провайдерах OpenRouter та DeepInfra поруч із Dolphin LLM, а також комісії за кредит, контекст і те, коли кожен із варіантів є дешевшим.
Хостований API проти оренди GPU для моделі середнього розміруСкільки коштує запустити середню відкриту модель на орендованій GPU (RunPod, Vast.ai, Lambda) порівняно з оплатою за токен на Dolphin LLM, з розрахунком точки беззбитковості.