KO ▾
API 키 받기

Uncensored LLM Online: API 클라이언트를 통한 채팅

온라인 무검열 LLM은 HTTP를 통해 접근할 수 있는 호스팅 모델을 의미하며, 사용자 측에는 GPU가 필요 없습니다. 이 안내서는 빈 터미널 상태에서 시작하여 OpenAI SDK를 사용하여 스트리밍 채팅 루프를 설정하는 방법을 보여줍니다.

업데이트

클라우드에서 API 클라이언트를 통해 사용되는 LLM을 보여주는 터미널 창에 빛나는 채팅 버블의 스트림이 수신됨

주요 포인트

  1. 모든 OpenAI 호환 클라이언트가 작동합니다: base URL을 변경하고, 키를 설정하고, 모델 ID를 uncensored로 설정합니다.
  2. 스트리밍은 생성되는 대로 토큰을 반환하며, 사용량은 스트림 끝에 도착합니다.
  3. 100,000토큰 창은 프롬프트와 완성을 모두 포함하므로, 긴 채팅은 결국 잘라내야 합니다.
  4. 429 응답은 속도를 늦추거나 기다리라는 의미입니다. 오류 코드는 어떤 제한에 걸렸는지 알려줍니다.

무료 체험 크레딧으로 시작

이메일과 비밀번호로 로그인하면 키가 바로 화면에 표시됩니다.

API 키 받기

시작하기 전에 필요한 것

자신의 코드나 채팅 클라이언트를 통해 온라인 무검열 LLM을 사용하려면 계정, API 키, OpenAI 스타일 엔드포인트와 통신할 수 있는 클라이언트 세 가지가 필요합니다. 이 서비스는 텍스트 전용이며 하나의 모델만 제공하며, 합법적인 성인 용도에 대해 콘텐츠 거부 없이 응답합니다. 이미지, 오디오 또는 비디오를 생성하지 않으며, 어떤 상황에서도 미성년자가 관련된 성적인 콘텐츠는 생성하지 않습니다.

순서대로 경로가 있습니다.

  1. API 키 페이지에서 Google 또는 이메일과 비밀번호로 회원가입하세요.
  2. 한 번의 클릭으로 체험 크레딧을 청구하세요. 금액은 $0.50이며, 카드가 필요 없고, 7일 동안 지속되며, 사람당 하나만 제한됩니다.
  3. 키를 복사합니다. 모든 요청은 Authorization: Bearer YOUR_KEY 형식으로 전송됩니다.
  4. 클라이언트를 base URL https://api.uncensoredllmonline.com/v1에 연결하고 모델을 uncensored로 설정합니다.

두 가지 엔드포인트가 제공됩니다: 대화용 POST /v1/chat/completions과 키가 사용할 수 있는 모델을 나열하기 위한 GET /v1/models입니다.

curl로 첫 번째 요청

코드를 작성하기 전에 키가 작동하는지 확인하세요. 이 요청은 짧은 응답을 요청하고 전체 JSON 응답을 출력합니다.

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt, helpful writing partner."},
      {"role": "user", "content": "Pitch me a noir story set on a space station."}
    ],
    "max_tokens": 250
  }'

choices[0].message.content와 usage 블록이 있는 표준 채팅 완료 객체를 받습니다. 응답 헤더에는 지원에 문의할 때 유용한 X-Request-Id와 남은 크레딧을 보여주는 X-Balance-USD이 포함됩니다. 토큰을 소비하지 않고 키를 확인하려면 동일한 헤더와 함께 GET /v1/models를 호출하세요.

Python의 스트리밍 채팅 루프

전체 응답을 기다리는 것은 채팅에서 느리게 느껴질 수 있습니다. stream: true를 설정하면 서버가 생성되는 대로 SSE를 통해 토큰을 보내며, OpenAI SDK는 이를 반복자로 변환합니다. 아래 스크립트는 전체 대화를 목록에 유지하고, 도착하는 대로 토큰을 출력하며, 모델이 컨텍스트를 기억할 수 있도록 각 답변을 추가합니다.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

history = [
    {"role": "system", "content": "You are a direct, imaginative conversation partner."}
]

while True:
    user = input("you: ").strip()
    if user in ("", "quit"):
        break
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        stream=True,
        temperature=0.9,
    )

    reply = ""
    print("bot: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
        if getattr(chunk, "usage", None):
            usage = chunk.usage
    print()
    history.append({"role": "assistant", "content": reply})

마지막 청크에는 토큰 사용량이 포함되어 있으므로 각 턴의 비용을 로깅할 수 있습니다. temperature, top_p, stop 시퀀스, seed 및 frequency 및 presence 패널티는 모델에 전달됩니다. 창의적인 채팅에는 temperature를 0.8에서 1.0 사이로 설정하면 더 다양한 문체가 생성됩니다. 추출이나 구조화된 작업에는 이를 낮게 설정하세요.

100,000토큰 창 다루기

컨텍스트 창은 100,000토큰이며, 프롬프트와 완성을 함께 포함합니다. 위의 채팅 루프는 모든 턴에서 전체 기록을 다시 보내므로, 입력은 각 교환마다 증가합니다. 이는 오랜 시간 동안 괜찮습니다. 일반적인 영어 텍스트 페이지는 약 500~700토큰이므로, 대화는 한계에 도달하기 전에 몇 시간 동안 지속될 수 있습니다.

모든 요청에서 입력 토큰에 대해 지불하므로, 긴 기록은 청구서의 원천이기도 합니다. 기록이 40,000토큰에 도달하고 응답이 500토큰인 채팅을 가정해 봅시다. 입력 비용은 0.04 x $0.15 = $0.006이며, 출력 비용은 0.0005 x $0.50 = $0.00025이므로, 한 턴의 비용은 약 $0.0063입니다. 그 크기에서도 $20의 크레딧으로 3,000번 이상의 턴을 처리할 수 있습니다. 그럼에도 불구하고, 잘라내면 비용을 절약하고 응답을 집중시킬 수 있습니다.

다음 세 가지 간단한 전략이 잘 작동합니다:

  • 슬라이딩 윈도우. 시스템 메시지와 마지막 N 턴을 유지하고, 이전 것들은 삭제합니다.
  • 요약 및 대체. 기록이 임계값을 초과하면 모델에 가장 오래된 부분을 요약하도록 요청한 다음, 요약을 단일 메시지로 저장합니다.
  • 고정된 사실. 캐릭터 시트, 세계관 규칙 또는 설정을 시스템 메시지에 유지하고 대화의 나머지 부분은 스크롤되도록 합니다.

응답 길이를 제한하려면 max_tokens을 설정하세요. 이는 선택 사항이며, 설정하지 않으면 완성이 창의 남은 부분을 모두 사용할 수 있습니다.

기존 채팅 클라이언트 사용

코드를 작성하고 싶지 않을 수 있습니다. 많은 채팅 프론트엔드는 커스텀 OpenAI 호환 엔드포인트를 추가할 수 있으며, SillyTavern은 그 중 하나입니다. 설정은 모든 곳에서 동일하며, 라벨만 다릅니다:

  • API 유형: OpenAI 호환, 때로는 커스텀 또는 채팅 완료라고도 함.
  • Base URL: https://api.uncensoredllmonline.com/v1. 일부 클라이언트는 /chat/completions로 끝나는 전체 경로를 원하므로, 그런 경우 이를 추가하세요.
  • API 키: 계정에서 얻은 키.
  • 모델: uncensored. 클라이언트에 모델 목록 버튼이 있으면 GET /v1/models를 호출하여 채웁니다.

클라이언트가 인증 오류를 보고하면 키의 선행 또는 후행 공백을 확인하세요. 모델이 존재하지 않는다고 보고하면 모델 ID를 직접 입력하세요. 문서에는 클라이언트가 끄고 싶은 필드에 대한 지원되는 매개변수 목록이 있습니다.

Node에서의 동일한 호출

프로젝트가 JavaScript인 경우 공식 OpenAI 패키지가 동일한 방식으로 작동합니다. 이 예제는 표준 출력으로 스트리밍합니다.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredllmonline.com/v1",
  apiKey: "YOUR_KEY",
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy market town in three sentences." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
process.stdout.write("\n");

도구 호출 및 JSON 모드(response_format을 json_object로 설정)는 동일한 인터페이스를 통해 작동합니다. 도구를 위해 tools에 정의하고, 선택적으로 tool_choice를 설정한 후, tool 역할로 메시지를 사용하여 결과를 반환합니다. 스트리밍 응답은 tool_calls을 클라이언트에서 조립할 수 있는 조각으로 전달합니다.

속도 제한과 429의 의미

전체 키는 8개의 동시 요청과 분당 300개의 요청을 허용합니다. 체험 키는 2개의 동시 요청과 분당 60개의 요청을 허용합니다. 요청 본문은 최대 8MB까지 가능합니다. 각 응답의 헤더 X-RateLimit-Limit-Requests 및 X-RateLimit-Limit-Concurrency은 키에 적용되는 한계를 알려줍니다.

제한을 초과하면 HTTP 429가 발생하며, 오류 코드는 어떤 제한을 초과했는지 알려줍니다:

  • rate_limited: 분당 요청이 너무 많습니다. 기다렸다가 다시 시도하세요.
  • concurrency: 동시에 요청이 너무 많습니다. 스트리밍 요청은 스트림이 끝날 때까지 슬롯을 유지하므로, 여러 스트림을 동시에 여는 UI는 이를 빠르게 소모합니다.
  • Retry-After: 5 헤더가 있는 429는 일시적인 과부하를 의미합니다. 5초를 기다린 후 다시 시도하세요.

백오프가 있는 짧은 재시도 루프는 대부분의 앱에 충분합니다. 실패하거나 거부된 요청은 요금이 부과되지 않습니다. 체험이 끝나거나 잔액이 부족하면 암호화폐(USDT on TRC20 또는 USDC on Base)로 $20에서 $500까지의 전체 금액으로 충전할 수 있습니다. 보너스에 대해서는 가격 책정 페이지를 참조하세요.

재시도 래퍼

존재할 때 Retry-After 헤더를 사용하고, 그렇지 않을 때 지수 지연을 사용하여 429에서 재시도하는 작은 래퍼입니다. SDK의 예외 유형을 사용하므로 다른 오류는 즉시 나타납니다.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

def ask(messages, tries=5):
    delay = 2
    for attempt in range(tries):
        try:
            return client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
        except RateLimitError as err:
            wait = err.response.headers.get("Retry-After")
            time.sleep(int(wait) if wait else delay)
            delay *= 2
    raise RuntimeError("still rate limited after retries")

concurrency 오류를 자주 보게 되면, 지연 시간을 늘리는 것이 해결책이 아닙니다. 전체 키의 경우 병렬로 실행하는 호출 수를 8로, 체험 키의 경우 2로 제한하세요. 이를 위해 세마포어 또는 해당 크기의 워커 풀을 사용하세요.

모델에서 더 나은 결과 얻기

거부하지 않는 모델도 명확한 지시가 필요합니다. 가장 실망스러운 출력은 모델이 아니라 모호한 프롬프트에서 비롯됩니다. 이러한 습관은 성인용 픽션, 역할극 및 동반자 스타일 채팅에 도움이 됩니다.

  • 시스템 메시지에 설정을 입력하세요. 설정, 어조, 시점 및 원하는 길이를 명시하세요. 모델은 12번째 턴에 숨겨진 요청보다 시스템 메시지를 더 일관되게 따릅니다.
  • 작업뿐만 아니라 캐릭터를 설명하세요. 목소리, 습관 및 캐릭터가 원하는 것에 대한 몇 줄의 설명은 단순한 이름보다 더 일관된 대화를 생성합니다.
  • 예시를 사용하세요. 원하는 스타일의 짧은 샘플 단락 한 개가 종종 형용사 페이지보다 더 많은 일을 합니다.
  • 반복 제어하기. 긴 세션에서 모델이 같은 구문을 반복할 경우, 빈도 또는 존재 패널티를 약간 높이거나 온도를 약간 낮추세요.
  • 원하는 것을 한 번에 요청하세요. 응답이 어긋난다면 수정 메시지를 여러 개 보내기보다 마지막 메시지를 수정하세요. 대화 기록은 모든 미래의 프롬프트와 청구서의 일부입니다.

미성년자가 관련된 성적 콘텐츠에 대한 엄격한 규칙은 시나리오가 어떻게 구성되든 모든 프롬프트와 모든 캐릭터에 적용됩니다. 이 모델은 합법적인 성인 사용에 최적화되어 있습니다.

질문과 답변

시작하려면 무언가를 설치해야 하나요?

클라이언트만 있으면 됩니다. OpenAI Python 또는 Node 패키지만 있으면 됩니다. curl이나 커스텀 OpenAI 호환 엔드포인트를 지원하는 모든 채팅 앱이 가능합니다. GPU나 모델 다운로드가 필요하지 않습니다.

어떤 모델 ID를 사용해야 하나요?

모델 필드에 uncensored를 사용하세요. 키를 사용하여 GET /v1/models를 호출하여 확인할 수 있습니다.

스트리밍은 일반 요청보다 비용이 더 많이 듭니까?

아니요. 토큰당 가격은 동일합니다. 입력 1M당 $0.15, 출력 1M당 $0.50입니다. 스트리밍 요청은 완료될 때까지 하나의 동시성 슬롯을 정말로 유지합니다.

프롬프트가 학습용으로 저장되나요?

아니요. 프롬프트는 학습에 사용되지 않습니다.

이미지나 음성에 사용할 수 있나요?

아니요. 이 서비스는 텍스트 전용이며, 이미지, 오디오 또는 비디오 생성과 임베딩을 제공하지 않습니다.

키는 양식 하나만 채우면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기문서 읽기