Endpointy API Open WebUI: Połącz z LLM bez cenzury

Wartości, których potrzebujesz

Open WebUI potrzebuje tylko trzech rzeczy z tej usługi. Pierwsza to base URL, https://api.dolphinllm.com/v1. Druga to klucz API z Twojego konta. Trzecia to ID modelu, uncensored, który Open WebUI odczytuje z listy modeli samodzielnie, gdy połączenie zadziała.

Zaangażowane są dwa endpointy. GET /v1/models wypełnia listę modeli, a POST /v1/chat/completions obsługuje każdą wysłaną przez Ciebie wiadomość. Do czatu nie jest potrzebne nic więcej. To jest API tekstowe, więc funkcje obrazu, audio i embeddingów Open WebUI nie mają tu z czym rozmawiać.

Nie potrzebujesz karty, aby spróbować. Po rejestracji możesz jednorazowym kliknięciem na stronie klucza odebrać $0,50 kredytu próbnego. Obowiązuje on przez 7 dni.

Dodaj połączenie w panelu admina

Jeśli Open WebUI już działa, to najszybsza droga.

1. Zaloguj się jako admin i otwórz Ustawienia Administratora, następnie Połączenia.
2. W sekcji API OpenAI kliknij przycisk plus, aby dodać połączenie.
3. Wklej https://api.dolphinllm.com/v1 jako URL i swój klucz jako klucz.
4. Użyj przycisku weryfikacji obok pól. Zielone potwierdzenie oznacza, że lista modeli wróciła.
5. Zapisz, otwórz nowy czat i wybierz uncensored z selektora modeli.

Nazwy menu zmieniają się nieco między wersjami Open WebUI. Jeśli nie znajdziesz Połączenia, wyszukaj w ustawieniach "OpenAI". Pola są zawsze takie same: URL, klucz i czasem filtr modelu.

Skonfiguruj ze zmiennymi środowiskowymi Docker

Przy świeżej instalacji możesz pominąć ekran admina i przekazać połączenie przy starcie kontenera. Open WebUI odczytuje OPENAI_API_BASE_URL i OPENAI_API_KEY przy starcie.

Copydocker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Następnie przejdź do http://localhost:3000, utwórz pierwsze konto (stanie się ono administratorem), a model powinien być już widoczny na liście. Upewnij się, że klucz nie trafił do historii powłoki, jeśli komputer jest współdzielony: umieść go w pliku env i użyj --env-file.

Niektóre wersje Open WebUI traktują te zmienne tylko jako wartości początkowe. Gdy zapiszesz połączenie w UI, wygrywa wartość zapisana. Jeśli zmienisz zmienną i nic się nie dzieje, edytuj połączenie w Ustawieniach Administratora.

Uruchamianie dla kilku osób

Open WebUI ma własne konta użytkowników, więc jedna instalacja może obsługiwać gospodarstwo domowe lub mały zespół, podczas gdy na serwerze znajduje się tylko jeden klucz API. To wygodne, ale też ryzyko: każdy użytkownik wydaje z tego samego salda. Zdecyduj, kto dostanie konto i sprawdzaj X-Balance-USD od czasu do czasu, aby długi weekend roleplay Cię nie zaskoczył.

Przechowuj klucz w zmiennej środowiskowej lub pliku z sekretami, nigdy w zrzucie ekranu lub udostępnionym dokumencie. Twój klucz znajduje się na stronie kluczy API; jeśli podejrzewasz jego wyciek, zamień go w Open WebUI tak szybko, jak tylko uzyskasz nowy. W przypadku instalacji publicznej umieść go za HTTPS i wyłącz otwarte rejestracje, aby obcy użytkownicy nie mogli tworzyć kont i zużywać Twojego kredytu.

Jeszcze jeden punkt dla konfiguracji współdzielonych: model jest dostrojony do odpowiadania bez odrzuceń treści dla legalnego użytku przez dorosłych. To cecha dla fikcji i prywatnych badań, co oznacza też, że Ty decydujesz o zasadach domu. Prompt systemowy na wspólnym modelu to najłatwiejsze miejsce na ich zapisanie. W API nie jest dozwolone nic seksualnego z udziałem nieletnich, niezależnie od promptu.

Dobre zastosowania dla tej konfiguracji

Osoby łączące Open WebUI z endpointem uncensored zwykle chcą czystego okna czatu bez limitów hostowanego chatbota. Typowe zastosowania to długa fikcja literacka i budowanie świata, roleplay i postacie towarzyskie dla dorosłych, tworzenie materiałów, które asystenci mainstreamowi odmawiają dotknąć, oraz zwykła pomoc w kodowaniu lub pisaniu. Ten sam model obsługuje wszystkie te zadania, więc możesz przełączać się między zadaniami w jednym czacie.

Open WebUI pomaga na kilka konkretnych sposobów. Zapisane prompty i presety modeli pozwalają utrzymać postać lub persona edytora jednym kliknięciem. Przesyłanie dokumentów i wyszukiwanie w sieci, gdy je włączysz, wysyłają dodatkowy tekst do promptu, co zwiększa użycie tokenów, więc pilnuj wielkości tego, co dołączasz. Foldery czatu i wyszukiwanie ułatwiają powrót do długiego projektu.

Nie wygeneruje on obrazów, mowy ani wideo z tego połączenia, ponieważ API jest tylko tekstowe.

Przetestuj endpoint zanim obwinisz Open WebUI

Większość nieudanych konfiguracji wynika z literówki w URL lub przestarzałego klucza, a oba objawiają się szybciej w terminalu. Uruchom te dwa polecenia z maszyny, na której działa Open WebUI.

Copycurl https://api.dolphinllm.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

curl https://api.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

Pierwsze wywołanie powinno zawierać uncensored. Drugie powinno zwracać zwykłe uzupełnienie czatu. Sprawdź też nagłówki odpowiedzi: X-Balance-USD pokazuje, co zostało na Twoim koncie, co jest wygodnym sposobem na potwierdzenie, że Open WebUI pobiera środki z klucza, który uważasz za właściwy.

Pełna lista parametrów znajduje się w dokumentacji API.

Ustawienia warte zmiany dla czatu

Prompt systemowy i próbkowanie

Open WebUI pozwala ustawić prompt systemowy dla każdego modelu lub czatu. Ponieważ model jest dostrojony do odpowiadania bez odrzuceń treści dla legalnego użytku przez dorosłych, krótki prompt systemowy, który ustala ton, persona lub format wyjścia, robi więcej niż długa lista zasad. Temperatura, top_p, stop, seed i kary są przekazywane dalej, więc suwaki w Open WebUI mają skutek.

Długość kontekstu

Okno kontekstu wynosi 100 000 tokenów dla promptu plus uzupełnienia. Długie rozmowy zwiększają prompt w każdej turze, a Ty płacisz za całą historię za każdym razem. Jeśli wątek stanie się zbyt długi, zacznij nową rozmowę lub podsumuj starą.

Zapytania w tle

Open WebUI może wysyłać dodatkowe wywołania w tle dla tytułów czatu i tagów, domyślnie używając tego samego modelu. Na kluczu próbnym, który pozwala na 2 równoległe zapytania i 60 na minutę, te wywołania mogą wypierać Twoje rzeczywiste wiadomości. Wyłącz generowanie tytułów i tagów lub zaakceptuj krótkie opóźnienie. Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę, co jest wystarczające dla instalacji osobistej lub małego zespołu.

Strumieniowanie, tryb JSON i narzędzia

Open WebUI domyślnie strumieniuje odpowiedzi, a API obsługuje zdarzenia wysyłane przez serwer (stream: true), z blokiem użycia na końcu strumienia. Widzisz tekst pojawiający się token po tokenie, a nagłówek salda w końcowej odpowiedzi odzwierciedla to, co wydałeś.

API obsługuje również wywoływanie funkcji: tools, tool_choice, strumieniowane tool_calls oraz wyniki wysyłane z powrotem jako role: "tool". To, w jakim stopniu Open WebUI udostępnia tę funkcję, zależy od jego wersji oraz zainstalowanych przez Ciebie narzędzi lub funkcji, więc przetestuj jedno małe narzędzie przed zbudowaniem wokół niego przepływu pracy. Tryb JSON (response_format ustawiony na json_object) jest przydatny, gdy wywołujesz ten sam endpoint ze skryptów obok interfejsu czatu.

Praktycznym wzorcem jest używanie Open WebUI dla ludzi i tego samego klucza ze skryptu do pracy wsadowej. Obie ścieżki przechodzą przez ten sam Base URL, więc jedno saldo pokrywa wszystko. Pamiętaj tylko, że limity obowiązują per klucz: 8 równoległych zapytań na pełnym kluczu, dzielonych między UI a Twoimi skryptami.

Typowe błędy i poprawki

• Nie pojawiają się żadne modele. URL prawdopodobnie nie zawiera /v1 lub zawiera literówkę. Porównaj go znak po znaku z wartością powyżej i usuń ewentualny ukośnik na końcu.
• Błąd uwierzytelnienia. Klucz został wklejony z wiodącą lub końcową spacją lub należy do usuniętego konta. Skopiuj go ponownie ze strony klucza.
• Selektor modeli wyświetla niewłaściwą listę. Open WebUI odpytuje również inne połączenia, które dodałeś, takie jak lokalny Ollama. Wyłącz te, z których nie korzystasz.
• Odpowiedzi przestają pojawiać się w trakcie strumieniowania. Serwer proxy odwrotny przed Open WebUI może buforować zdarzenia wysyłane przez serwer. Wyłącz buforowanie dla tej trasy.
• Saldo się wyczerpuje. Doładuj je przed osiągnięciem zera. Nieudane lub odrzucone zapytania nie są rozliczane, więc płacisz tylko za dostarczone uzupełnienia.

Ile kosztuje interfejs czatu w tym API

Cennik wynosi $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych, z przedpłaconego kredytu. Weź typową turę w czacie średniej długości: 4 000 tokenów historii wchodzi i 500 tokenów wychodzi. Koszt wejścia to 4 000 x $0,15 / 1 000 000 = $0,0006. Koszt wyjścia to 500 x $0,50 / 1 000 000 = $0,00025. Tura kosztuje $0,00085.

Przy tej stawce próba $0,50 pokrywa około 588 tur, a doładowanie za $20 pokrywa około 23 500. Zobacz stronę z cenami, aby poznać bonusy za doładowanie. Jeśli chcesz użyć tego samego klucza poza Open WebUI, na przykład w skryptach, które nie wymagają ekranu logowania, strona o korzystaniu z LLM bez ograniczeń logowania omawia ten aspekt.

Więcej przewodników

• Darmowe API LLM dla programistów: Kredyt próbny vs Płatność za zużycie
• Jak korzystać z LLM bez ograniczeń logowania