개발자를 위한 무료 LLM API: 체험 vs 사용량 기반 결제

짧은 답변: 체험 후 호출당 몇 센트

여기 영구 무료 항목은 없습니다. 얻는 것은 무료 시작과 그 이후의 매우 작은 청구서입니다. Google 또는 이메일과 비밀번호로 가입하고 API 키 페이지를 열어 클릭 한 번으로 $0.50 체험 크레딧을 청구하세요. 카드는 필요하지 않습니다. 크레딧은 7일 동안 유효하며, 각 사람당 하나만 받을 수 있습니다.

그 후에는 월 구독이나 월 최소 금액 없이, 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50의 사용량 기반으로 지불합니다. 최소 충전 금액은 $20이며, 크레딧은 만료되지 않으므로 프로젝트가 느리게 진행되면 1년 동안 사용할 수 있습니다.

$0.50 체험 크레딧으로 할 수 있는 것

요청당 비용은 간단합니다: 입력 토큰 수에 $0.15를 곱하고 출력 토큰 수에 $0.50를 곱한 후 1,000,000으로 나눕니다. 두 가지 예시가 범위를 보여줍니다.

첫 번째 행을 확인하세요: 1,500 x $0.15 / 1,000,000 = $0.000225, 그리고 300 x $0.50 / 1,000,000 = $0.00015. 합계는 $0.000375입니다. 두 번째 행의 경우 20,000 입력 토큰은 $0.003, 800 출력 토큰은 $0.0004가 들어 총 $0.0034가 듭니다.

실제로 체험 크레딧은 클라이언트 연결, 스트리밍 테스트, 함수 호출 시도 및 모델이 프로젝트에 적합한지 결정하기에 충분합니다.

무료 티어 위에 구축하기 어려운 이유

무료 티어는 제품을 체험할 수 있도록 제공되며 제한 사항은 해당 목적에 맞춰 설정됩니다. 세부 사항은 자주 변경되므로 의존하기 전에 각 제공업체의 현재 약관을 확인해야 합니다. 일반적으로 개발자들은 몇 가지 공통적인 문제에 부딪힙니다.

• 데모용으로 설계된 속도 제한. 10개 요청에서는 작동하는 스크립트가 수백 개 요청에서는 사용할 수 없게 됩니다.
• 변경되는 제한 사항. 오늘에는 괜찮은 제한이 나중에 강화될 수 있으며, 파이프라인은 오류를 통해 이를 알게 됩니다.
• 콘텐츠 필터. 많은 호스팅 모델은 소설, 역할극 또는 날카로운 테스트 데이터에 대한 요청을 거부합니다. 배치 작업 중간에 거부는 패치할 수 없는 버그입니다.
• 불분명한 데이터 처리. 일부 무료 서비스는 프롬프트를 모델 개선에 사용합니다. 약관을 읽어보세요.

이 모든 것이 무료 티어를 나쁘게 만드는 것은 아닙니다. 주말 프로토타입에는 적합합니다. 문제가 시작되는 시점은 프로토타입이 서비스로 전환될 때입니다.

또한 계획 문제가 있습니다. 무료 티어는 곱할 가격이 없으므로 비용 예측이 불가능합니다. 토큰 기반 요금제를 사용하면 코드 작성 전에 한 줄로 예산을 작성할 수 있으며, 이는 클라이언트나 파트너에게 프로젝트를 설득하기 쉽게 만듭니다. 사용량이 10배 증가하면 청구서도 약 10배 증가하며 다른 변화는 없습니다.

커밋하기 전 모든 API에서 확인할 사항

서비스가 유료인지 무료인지에 관계없이 코드에 연결하기 전에 동일한 질문을 해야 합니다.

1. 프로토콜이 표준인가요? 이 API는 OpenAI와 호환되므로 나중에 전환할 때 클라이언트를 다시 작성하지 않고 두 줄만 변경하면 됩니다.
2. 제한 사항이 숫자로 명시되어 있나요? 여기 공개되어 있습니다: 전체 키는 동시 요청 8개, 분당 300개, 체험 키는 동시 2개, 분당 60개, 본문 크기 8 MB, 컨텍스트 창 100,000 토큰입니다.
3. 호출이 실패하면 어떻게 되나요? 이 서비스에서는 실패하거나 거부된 요청에 요금이 부과되지 않습니다.
4. 프롬프트는 어떻게 처리되나요? 여기서는 학습에 사용되지 않습니다.
5. 모델이 귀하의 사용 사례를 거부합니까? 이 모델은 합법적인 성인 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었습니다. 이는 소설, 역할극 및 테스트 데이터에 중요합니다. 유일한 절대 금지 사항은 미성년자와 관련된 성적 콘텐츠입니다.
6. 떠날 수 있나요? 크레딧은 선불이며 만료되지 않고 계약이 없습니다.

체험 크레딧을 오래 사용하는 방법

작은 습관이 $0.50을 오래 지속시킵니다.

1. 테스트 중 max_tokens을 설정하세요. 이 API에서는 선택 사항이지만 300의 제한은 예상 비용의 10배가 드는 응답을 방지합니다. 출력이 토큰 100만 개당 $0.50으로 비싼 쪽입니다.
2. 시스템 프롬프트를 짧게 유지하세요. 모든 호출에 1,000 토큰 시스템 프롬프트를 보내면 요청당 $0.00015가 추가됩니다.
3. 반복 가능한 테스트를 위해 seed와 낮은 temperature를 사용하세요. 다른 답변을 보기 위해 호출을 다시 실행하지 않아도 됩니다.
4. 필요하지 않은 한 전체 기록을 다시 보내지 마세요. 컨텍스트 창은 100,000 토큰이며 창 안의 모든 토큰은 입력으로 청구됩니다.
5. 응답 헤더의 X-Balance-USD을 확인하여 각 테스트의 정확한 비용을 확인하세요.

또 다른 팁은 개발 중 모든 호출에 대해 resp.usage를 로깅하는 것입니다. 하루 테스트 후 실제 평균을 알게 되며 위의 표의 추측을 자신의 숫자로 대체할 수 있습니다. 많은 사람들이 시스템 프롬프트와 붙여넣은 예제로 인해 프롬프트가 예상보다 두세 배 길다는 것을 발견합니다.

부수 프로젝트용 예산

프로젝트에 자금을 지원할 가치가 있는지 결정할 때 숫자가 도움이 됩니다. 하루 200회 호출을 수행하고 개발 루프 크기가 입력 1,500 토큰, 출력 300 토큰인 작은 앱을 가정해 봅시다. 각 호출에는 $0.000375가 들며, 하루 비용은 $0.075, 30일 기준 한 달 비용은 $2.25입니다. $20 충전으로 그 속도로 약 9개월 동안 사용할 수 있습니다.

이제 하루 50회 호출을 수행하고 20,000 토큰의 붙여넣은 컨텍스트와 800 토큰 출력을 가진 무거운 도구를 가정해 봅시다. 각 호출당 $0.0034가 들며 하루는 $0.17, 한 한 한 달은 $5.10입니다. 트래픽이 두 배로 늘어나도 두 프로젝트 모두 월 몇 달러 이내로 유지됩니다.

핵심은 이러한 수준의 토큰 가격 책정이 대부분의 사이드 프로젝트에서 비용이 작은 항목이 된다는 것입니다. 성공을 결정하는 것은 모델이 작업을 수행하는지 여부와 제한 사항이 트래픽에 적합한지 여부입니다.

지금 바로 실행할 첫 번째 호출

API는 OpenAI와 호환되므로 Base URL과 키를 변경한 후 표준 Python SDK를 사용할 수 있습니다.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.dolphinllm.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)

usage 객체는 정확한 프롬프트 및 완성 토큰 수를 제공합니다. 이를 위의 단가에 곱하면 해당 호출의 비용이 나옵니다. 스트리밍, JSON 모드 및 함수 호출도 모두 사용 가능하며, 문서에는 각 항목에 대한 예제가 있습니다.

체험에서 충전으로 전환해야 할 때

체험 크레딧이 소진되거나 동시 요청이 2개보다 더 필요할 때 전환하세요. 전체 키는 동시 요청 8개와 분당 300개를 허용합니다. 충전 금액은 $20부터 $500까지 전체 금액으로 가능합니다. 더 큰 금액에는 보너스가 제공됩니다: $50부터 +5%, $100부터 +10%, $200부터 +15%입니다. $50 충전은 $52.50의 크레딧을, $200은 $230을 제공합니다.

암호화폐(TRC20의 USDT, Base의 USDC)로 지불할 수 있습니다. 정확한 금액은 가격 책정 페이지에서 확인할 수 있으며, 키 페이지에서 키를 얻을 수 있습니다.

이 API가 아닌 것

낭비된 저녁을 피하기 위해: 텍스트 전용 서비스입니다. 이미지, 오디오 또는 비디오 생성, 임베딩, 파인튜닝이 없습니다. 독립적인 제공업체가 운영하는 하나의 오픈 웨이트 모델이며 주요 벤더의 공식 API가 아니며 여러 모델을 중개하는 라우터도 아닙니다. 검색용 임베딩이 필요하면 해당 부분에 다른 서비스가 필요합니다. 지시를 따르고 거절하지 않는 채팅 모델이 필요하면 이것이 적합합니다.

사이트가 처음이라면 로그인 제한 없이 LLM 사용 페이지에서 가입 및 키 작동 방식에 대해 더 자세히 설명합니다.

더 많은 가이드

• Open WebUI API 엔드포인트: 무검열 LLM 연결
• 로그인 제한 없이 LLM 사용 방법