Open WebUI API 엔드포인트: 무검열 LLM 연결

필요한 값

Open WebUI는 이 서비스에서 세 가지만 필요합니다. 첫 번째는 베이스 URL, https://api.dolphinllm.com/v1입니다. 두 번째는 계정에서 얻은 API 키입니다. 세 번째는 모델 ID인 uncensored이며, 연결이 작동하면 Open WebUI가 자체 모델 목록에서 이를 읽습니다.

두 개의 엔드포인트가 관련됩니다. GET /v1/models은 모델 드롭다운을 채우고, POST /v1/chat/completions은 전송하는 모든 메시지를 처리합니다. 채팅에는 다른 것이 필요하지 않습니다. 이것은 텍스트 API이므로 Open WebUI의 이미지, 오디오 및 임베딩 기능은 여기서 사용할 것이 없습니다.

시도하려면 카드가 필요하지 않습니다. 가입 후 키 페이지에서 한 번의 클릭으로 $0.50의 체험 키를 청구할 수 있습니다. 이는 7일 동안 유효합니다.

관리 패널에 연결 추가

Open WebUI가 이미 실행 중이라면 이것이 가장 빠른 방법입니다.

1. 관리자로 로그인한 후 Admin Settings를 열고, 그 다음 Connections을 엽니다.
2. OpenAI API 섹션에서 더하기 버튼을 클릭하여 연결을 추가합니다.
3. https://api.dolphinllm.com/v1를 URL로 입력하고 키를 키 필드에 입력합니다.
4. 필드 옆의 확인 버튼을 사용합니다. 녹색 확인은 모델 목록이 반환되었음을 의미합니다.
5. 저장하고 새 채팅을 열어 모델 선택기에서 uncensored를 선택하세요.

Open WebUI 버전 간에 메뉴 이름이 약간 변경될 수 있습니다. 연결을 찾을 수 없으면 설정에서 "OpenAI"를 검색하세요. 필드는 항상 동일합니다: URL, 키 및 때로는 모델 필터.

Docker 환경 변수로 설정

새로운 설치의 경우 관리자 화면을 건너뛰고 컨테이너 시작 시 연결을 전달할 수 있습니다. Open WebUI는 시작 시 OPENAI_API_BASE_URL 및 OPENAI_API_KEY을 읽습니다.

Copydocker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.dolphinllm.com/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

그런 다음 http://localhost:3000로 이동하여 첫 번째 계정을 생성(관리자가 됨)하면 모델이 이미 나열되어 있어야 합니다. 머신이 공유되는 경우 키를 셸 기록에서 제외하세요: env 파일에 넣고 --env-file을 사용하세요.

일부 Open WebUI 버전은 이러한 변수를 초기 값으로만 처리합니다. UI에서 연결을 저장하면 저장된 값이 우선합니다. 변수를 변경했는데도 아무 일이 일어나지 않으면 관리자 설정에서 연결을 편집하세요.

여러 사람을 위해 실행

Open WebUI에는 자체 사용자 계정이 있으므로, 하나의 설치로 가정이나 소규모 팀에 서비스를 제공하면서도 서버에는 하나의 API 키만 있으면 됩니다. 이는 편리하지만 동시에 위험이기도 합니다. 모든 사용자가 동일한 잔액에서 사용하므로, 계정을 받을 사람을 결정하고 X-Balance-USD을 수시로 확인하여 롤플레잉으로 인한 긴 주말에 놀라지 않도록 하십시오.

키는 환경 변수나 시크릿 파일에 보관하고, 스크린샷이나 공유 문서에는 넣지 마십시오. 키는 API 키 페이지에 있습니다. 키가 유출된 것으로 의심되면 새 키를 발급받은 후 Open WebUI에서 즉시 교체하십시오. 공개 설치의 경우 HTTPS 뒤에 키를 배치하고 공개 가입을 비활성화하여 외부인이 계정을 생성하고 크레딧을 사용하지 못하게 하십시오.

공유 환경에 대한 또 다른 고려 사항: 이 모델은 합법적인 성인용 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었습니다. 이는 소설 및 개인 연구에 유용한 기능이며, 이는 운영 규칙을 직접 정해야 한다는 의미이기도 합니다. 공유 모델의 시스템 프롬프트에 규칙을 작성하는 것이 가장 쉬운 방법입니다. 프롬프트가 무엇이라 하더라도 API에서는 미성년자가 관련된 성적인 내용은 허용되지 않습니다.

이 설정의 좋은 용도

Open WebUI를 무검열 엔드포인트에 연결하는 사람들은 일반적으로 호스팅된 채팅봇의 제한이 없는 깔끔한 채팅 창을 원합니다. 일반적인 사용 사례에는 장편 소설 및 세계관 구축, 성인을 위한 롤플레잉 및 캐릭터, 주류 어시스턴트가 처리하기를 거부하는 자료 작성, 그리고 일반적인 코딩 또는 글쓰기 도움이 포함됩니다. 동일한 모델이 이러한 모든 작업을 처리하므로 하나의 채팅 내에서 작업을 전환할 수 있습니다.

Open WebUI는 몇 가지 구체적인 방식으로 도움을 줍니다. 저장된 프롬프트와 모델 프리셋을 사용하면 캐릭터나 편집자 페르소나를 한 번의 클릭으로 유지할 수 있습니다. 문서 업로드 및 웹 검색 기능(사용 가능한 경우)은 프롬프트에 추가 텍스트를 보내므로 토큰 사용량이 증가합니다. 따라서 첨부 파일의 크기를 주의 깊게 확인하십시오. 채팅 폴더와 검색을 통해 긴 프로젝트로 쉽게 돌아갈 수 있습니다.

이 연결을 통해 이미지, 음성 또는 비디오를 생성하지는 않습니다. API는 텍스트 전용이기 때문입니다.

Open WebUI를 탓하기 전에 엔드포인트 테스트

대부분의 실패한 설정은 URL의 오타 또는 오래된 키에서 비롯되며, 둘 다 터미널에서 더 빠르게 나타납니다. Open WebUI를 호스트하는 기계에서 다음 두 호출을 실행하세요.

Copycurl https://api.dolphinllm.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

curl https://api.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

첫 번째 호출은 uncensored를 나열해야 합니다. 두 번째 호출은 일반 채팅 완료를 반환해야 합니다. 응답 헤더도 확인하세요: X-Balance-USD은 계정 잔액을 보여주며, 이는 Open WebUI가 생각한 키에서 지출하고 있음을 확인하는 편리한 방법입니다.

전체 매개변수 목록은 API 문서에 있습니다.

채팅을 위해 변경할 가치 있는 설정

시스템 프롬프트 및 샘플링

Open WebUI를 사용하면 모델 또는 채팅별로 시스템 프롬프트를 설정할 수 있습니다. 이 모델은 합법적인 성인용 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되어 있으므로, 어조, 페르소나 또는 출력 형식을 고정하는 짧은 시스템 프롬프트가 긴 규칙 목록보다 더 효과적입니다. temperature, top_p, stop, seed 및 패널티는 전달되므로 Open WebUI의 슬라이더가 실제로 효과를 가집니다.

컨텍스트 길이

창은 프롬프트 및 완성을 위해 100,000 토큰입니다. 긴 채팅은 각 턴마다 프롬프트를 늘리며, 매번 전체 기록에 대해 지불합니다. 스레드가 무거워지면 새 채팅을 시작하거나 이전 채팅을 요약하세요.

배경 요청

Open WebUI는 채팅 제목과 태그를 위해 백그라운드에서 추가 호출을 보낼 수 있으며, 기본적으로 동일한 모델을 사용합니다. 동시 요청 2개와 분당 60개의 요청을 허용하는 체험 키의 경우, 이러한 호출이 실제 메시지 전송을 방해할 수 있습니다. 제목 및 태그 생성을 비활성화하거나 짧은 지연을 수용하십시오. 전체 키는 분당 300개의 요청과 동시 요청 8개를 허용하므로 개인 또는 소규모 팀 설치에 충분합니다.

스트리밍, JSON 모드 및 도구

Open WebUI는 기본적으로 응답을 스트리밍하며, API는 서버 전송 이벤트(stream: true)를 지원하며 스트림 끝에 사용량 블록이 있습니다. 텍스트가 토큰별로 나타나며 최종 응답의 잔액 헤더는 지출한 금액을 반영합니다.

API는 함수 호출도 지원합니다: tools, tool_choice, 스트리밍 tool_calls, 및 role: "tool"로 전송된 결과. Open WebUI가 이를 노출하는 범위는 버전 및 설치된 도구 또는 함수에 따라 다르므로 워크플로우를 구축하기 전에 작은 도구로 테스트하세요. JSON 모드(response_format을 json_object로 설정)는 채팅 UI 옆에서 스크립트에서 동일한 엔드포인트를 호출할 때 유용합니다.

실용적인 패턴은 사람이 쓰는 용도로 Open WebUI를 두고 동일한 키를 배치 작업용 스크립트에서 사용하는 것입니다. 둘 다 동일한 베이스 URL을 통해 이동하므로 하나의 잔액이 모든 것을 커버합니다. 제한이 키별로 적용된다는 것을 기억하세요: 전체 키의 경우 동시 요청 8개로 UI 및 스크립트 간에 공유됩니다.

일반 오류 및 해결법

• 모델이 표시되지 않음. URL에 아마도 /v1이 누락되었거나 오타가 있습니다. 위의 값과 문자별로 비교하고 후행 슬래시를 제거하세요.
• 인증 오류. 키에 선행 또는 후행 공백이 붙여졌거나 삭제된 계정에 속합니다. 키 페이지에서 다시 복사하세요.
• 모델 선택기가 잘못된 목록을 표시함. Open WebUI는 로컬 Ollama와 같은 추가한 다른 연결도 쿼리합니다. 사용하지 않는 연결을 비활성화하세요.
• 스트리밍 중 응답이 중단됩니다. Open WebUI 앞단에 있는 리버스 프록시가 서버 전송 이벤트를 버퍼링할 수 있습니다. 해당 라우트에 대한 버퍼링을 비활성화하세요.
• 잔액이 부족합니다. 잔액이 0이 되기 전에 충전하세요. 실패하거나 거부된 요청에는 요금이 부과되지 않으므로, 전달된 완성 결과에 대해서만 비용을 지불합니다.

이 API에서 채팅 UI의 비용

가격은 선불 크레딧 기준 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50입니다. 중간 길이의 채팅 한 턴을 가정해 봅시다: 4,000 토큰의 이력이 입력되고 500 토큰이 출력됩니다. 입력 비용은 4,000 x $0.15 / 1,000,000 = $0.0006입니다. 출력 비용은 500 x $0.50 / 1,000,000 = $0.00025입니다. 이 턴의 총 비용은 $0.00085입니다.

해당 속도로 $0.50 체험 크레딧으로는 약 588회 턴이 가능하고, $20 선불 크레딧 충전 시에는 약 23,500회가 가능합니다. 가격 책정 페이지에서 충전 보너스를 확인하세요. 스크립트처럼 로그인 화면이 필요 없는 경우처럼 Open WebUI 외부에서 동일한 API 키를 사용하려면 로그인 제한 없이 LLM 사용 페이지를 참조하세요.

더 많은 가이드

• 개발자를 위한 무료 LLM API: 체험 vs 사용량 기반 과금
• 로그인 제한 없이 LLM 사용 방법