Эндпоинты API Open WebUI: подключите LLM без цензуры

Необходимые значения

Open WebUI требует от этого сервиса только трёх вещей. Первое — базовый URL, https://api.dolphinllm.com/v1. Второе — API-ключ из вашего аккаунта. Третье — идентификатор модели, uncensored, который Open WebUI считывает из списка моделей самостоятельно, когда соединение работает.

Вовлечены два эндпоинта. GET /v1/models заполняет выпадающий список моделей, а POST /v1/chat/completions передаёт каждое ваше сообщение. Для чата ничего больше не нужно. Это текстовый API, поэтому функции Open WebUI для изображений, аудио и эмбеддингов здесь не с чем взаимодействовать.

Для пробного использования карта не нужна. После регистрации вы можете получить $0,50 пробного кредита одним нажатием на странице ключа. Он действует 7 дней.

Добавьте подключение в панели администратора

Если Open WebUI уже запущен, это самый быстрый способ.

1. Войдите как администратор и откройте Настройки администратора, затем Подключения.
2. В разделе API OpenAI нажмите кнопку «плюс», чтобы добавить подключение.
3. Вставьте https://api.dolphinllm.com/v1 как URL, а свой ключ — как ключ.
4. Используйте кнопку проверки рядом с полями. Зелёное подтверждение означает, что список моделей получен.
5. Сохраните, откройте новый чат и выберите uncensored в селекторе моделей.

Названия меню немного меняются в разных версиях Open WebUI. Если вы не можете найти «Подключения», поищите в настройках «OpenAI». Поля всегда одинаковые: URL, ключ и иногда фильтр модели.

Настройка с помощью переменных окружения Docker

При чистой установке вы можете пропустить экран администратора и передать подключение при запуске контейнера. Open WebUI считывает OPENAI_API_BASE_URL и OPENAI_API_KEY при запуске.

Copydocker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Затем перейдите по адресу http://localhost:3000, создайте первую учётную запись (она станет административной), и модель уже должна быть в списке. Храните ключ вне истории команд оболочки, если машина общая: поместите его в файл env и используйте --env-file вместо этого.

Некоторые версии Open WebUI рассматривают эти переменные только как начальные значения. После сохранения подключения в интерфейсе побеждает сохранённое значение. Если вы изменили переменную, но ничего не произошло, отредактируйте подключение в «Настройках администратора».

Запуск для нескольких пользователей

В Open WebUI есть свои учётные записи, поэтому одна установка может обслуживать семью или небольшую команду, пока на сервере хранится один API-ключ. Это удобно, но и рискованно: каждый пользователь тратит из одного баланса. Решите, кому дать учётную запись, и периодически проверяйте X-Balance-USD, чтобы вас не застал врасплоз длительный ролевой сеанс.

Храните ключ в переменной окружения или в файле секретов, никогда не делайте скриншоты и не сохраняйте его в общих документах. Ваш ключ находится на странице API-ключ; если вы подозреваете утечку, замените его в Open WebUI, как только получите новый. Для публичной установки поместите её за HTTPS и отключите открытую регистрацию, чтобы посторонние не могли создавать учётные записи и использовать ваш баланс.

Ещё один момент для общих конфигураций: модель настроена так, чтобы отвечать без отказов по контенту при законном использовании для взрослых. Это функция для художественной литературы и частных исследований, а также означает, что вы сами определяете правила. Системный промпт для общей модели — самое простое место для их записи. На API не разрешены материалы сексуального характера с участием несовершеннолетних, независимо от промпта.

Хорошие варианты использования этой настройки

Люди, которые подключают Open WebUI к эндпоинту без цензуры, обычно хотят чистое окно чата без ограничений хостингового чат-бота. Распространённые варианты использования включают длинную художественную литературу и создание миров, ролевые игры и персонажи-компаньоны для взрослых, подготовку черновиков материалов, которые обычные ассистенты отказываются трогать, и обычную помощь в программировании или написании текстов. Та же модель обрабатывает всё это, поэтому вы можете переключать задачи в одном чате.

Open WebUI помогает несколькими конкретными способами. Сохранённые промпты и пресеты моделей позволяют держать персонажа или редактора в одном клике от вас от вас от вас. Загрузка документов и функции веб-поиска, где вы их включите, отправляют дополнительный текст в промпт, что увеличивает использование токенов, поэтому следите за размером того, что вы прикрепляете. Папки чата и поиск позволяют легко вернуться к долгому проекту.

Он не будет генерировать изображения, речь или видео через это подключение, потому что API поддерживает только текст.

Протестируйте эндпоинт, прежде чем винить Open WebUI

Большинство сбоев настройки происходит из-за опечатки в URL или устаревшего ключа, и оба быстрее проявляются в терминале. Выполните эти два вызова с машины, на которой размещён Open WebUI.

Copycurl https://api.dolphinllm.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

curl https://api.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

Первый вызов должен вернуть uncensored. Второй должен вернуть нормальное завершение запроса. Проверьте также заголовки ответа: X-Balance-USD показывает остаток на вашем аккаунте, что удобно для подтверждения, что Open WebUI тратит средства с того ключа, который вы считаете правильным.

Полный список параметров находится в API-документации.

Настройки, которые стоит изменить для чата

Системный промпт и сэмплирование

Open WebUI позволяет устанавливать системный промпт для каждой модели или каждого чата. Поскольку модель настроена на ответы без отказов по контенту для законного использования взрослыми, короткий системный промпт, фиксирующий тон, персонажа или формат вывода, делает больше, чем длинный список правил. Температура, top_p, стоп-слова, seed и штрафы передаются, поэтому ползунки в Open WebUI действительно влияют на результат.

Длина контекста

Окно составляет 100 000 токенов для промпта плюс завершение. Длинные чаты увеличивают промпт на каждом шаге, и вы платите за всю историю каждый раз. Если поток становится тяжёлым, начните новый чат или суммируйте старый.

Фоновые запросы

Open WebUI может выполнять дополнительные фоновые вызовы для генерации заголовков и тегов чата, по умолчанию используя ту же модель. На пробном ключе, который позволяет выполнять 2 параллельных запроса и 60 в минуту, эти вызовы могут вытеснить ваше фактическое сообщение. Отключите генерацию заголовков и тегов или примите небольшую задержку. Полный ключ позволяет выполнять 8 параллельных запросов и 300 в минуту, что более чем достаточно для личной установки или небольшой команды.

Потоковая передача, JSON-режим и инструменты

Open WebUI по умолчанию потоково передаёт ответы, и API поддерживает серверные события (stream: true) с блоком использования в конце потока. Вы видите, как текст появляется токен за токеном, а заголовок баланса в конечном ответе отражает то, что вы потратили.

Вызов инструментов также поддерживается API: tools, tool_choice, потоковая передача tool_calls и результаты, отправляемые обратно как role: "tool". Насколько глубоко Open WebUI раскрывает это, зависит от его версии и установленных инструментов или функций, поэтому протестируйте с одним небольшим инструментом, прежде чем строить рабочий процесс вокруг него. JSON-режим (response_format установлен в json_object) полезен, когда вы вызываете тот же эндпоинт из скриптов рядом с интерфейсом чата.

Практичный подход — использовать Open WebUI для людей, а тот же ключ из скрипта для пакетной работы. Оба проходят через один базовый URL, поэтому один баланс покрывает всё. Просто помните, что лимиты применяются на ключ: 8 параллельных запросов на полном ключе, разделённых между интерфейсом и вашими скриптами.

Распространённые ошибки и исправления

• Модели не появляются. Вероятно, URL не содержит /v1 или содержит опечатку. Сравните его посимвольно со значением выше и удалите любой завершающий слэш.
• Ошибка аутентификации. Ключ был вставлен с пробелом в начале или в конце, или он принадлежит удалённой учётной записи. Скопируйте его снова со страницы ключей.
• Селектор моделей показывает неверный список. Open WebUI также опрашивает другие подключения, которые вы добавили, например локальный Ollama. Отключите те, которыми не пользуетесь.
• Ответы перестают появляться в потоке. Обратный прокси перед Open WebUI может буферизовать события, отправляемые сервером. Отключите буферизацию для этого маршрута.
• Баланс подходит к концу. Пополните его, прежде чем он достигнет нуля. Отказавшие или отклонённые запросы не списывают средства, поэтому вы платите только за доставленные завершения.

Сколько стоит чат-интерфейс для этого API

Цены составляют $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов из предоплаченного баланса. Возьмём типичную реплику в чате средней длины: 4000 токенов истории на входе и 500 токенов на выходе. Входные данные стоят 4000 x $0,15 / 1 000 000 = $0,0006. Выходные данные стоят 500 x $0,50 / 1 000 000 = $0,00025. Реплика стоит $0,00085.

За $0,50 вы получите около 588 реплик, а за пополнение на $20 — примерно 23 500. См. страницу цен для бонусов за пополнение. Чтобы использовать тот же ключ вне Open WebUI (например, в скриптах без экрана входа), см. использование LLM без ограничений входа.

Дополнительные руководства

• Бесплатное LLM API для разработчиков: пробный период против оплаты по факту
• Как использовать LLM без ограничений входа