JA ▾
API キーを取得

Uncensored LLM Online:APIクライアントでチャット

オンラインの無検閲LLMとは、HTTP経由でアクセスできるホスト済みモデルのことで、クライアント側にはGPUは不要です。このガイドでは、空白のターミナルからOpenAI SDKを使ったストリーミングの会話ループまでを解説します。

更新日:

クラウドからストリーミングされる光るチャットバブルを受信するターミナルウィンドウ。APIクライアントを介して使用されるLLMを示しています。

主要ポイント

  1. 任意のOpenAI互換クライアントが使用可能です:Base URLを変更し、キーを設定し、モデルIDを「uncensored」に設定します。
  2. ストリーミングはトークンを生成するたびに返し、使用量はストリームの最後に届きます。
  3. 100,000トークンのウィンドウはプロンプトと補完の合計をカバーするため、長いチャットでは最終的にトリミングが必要です。
  4. 429レスポンスは、遅くするか待つことを意味します。エラーコードは、どのレート制限に到達したかを示します。

無料トライアルクレジットで始める

メールアドレスとパスワードだけで、キーがすぐ画面に表示されます。

API キーを取得

開始前に必要なもの

自分のコードやチャットクライアントからオンラインの無検閲LLMを利用するには、アカウント、APIキー、そしてOpenAI互換のエンドポイントと通信できるクライアントの3つが必要です。このサービスはテキストのみで、モデルは1つだけ用意されており、合法的な成人利用に対してコンテンツ拒否なしで応答します。画像、音声、動画は生成されず、いかなる状況でも未成年者が関わる性的コンテンツも生成しません。

以下にパスを順に示します。

  1. APIキーページでGoogleまたはメールアドレスとパスワードでサインアップしてください。
  2. ワンクリックでトライアルクレジットを取得します。金額は$0.50で、カードは不要、7日間有効、1人あたり1回限りの制限があります。
  3. キーをコピーしてください。すべてのリクエストはAuthorization: Bearer YOUR_KEYとして送信されます。
  4. クライアントをBase URL https://api.uncensoredllmonline.com/v1 にポイントし、モデルを uncensored に設定します。

2つのエンドポイントが利用可能です:会話用の POST /v1/chat/completions と、キーで利用可能なモデルを一覧表示する GET /v1/models です。

curlによる最初のリクエスト

コードを書く前に、キーが機能することを確認してください。このリクエストは短い返信を要求し、完全なJSONレスポンスを出力します。

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt, helpful writing partner."},
      {"role": "user", "content": "Pitch me a noir story set on a space station."}
    ],
    "max_tokens": 250
  }'

choices[0].message.content と usage ブロックを含む標準的なチャット補完オブジェクトが返されます。レスポンスヘッダーには、サポート に連絡する際に便利な X-Request-Id と、残りのクレジット残高を表示する X-Balance-USD が含まれます。トークンを消費せずにキーを確認するには、同じヘッダーで GET /v1/models を呼び出します。

Pythonでのストリーミングチャットループ

完全な返信を待つのはチャットでは遅く感じられます。stream: true を設定すると、サーバーは生成されるたびにトークンをSSEで送信し、OpenAI SDKはそれをイテレーターに変換します。以下のスクリプトは会話全体をリストに保持し、トークンが到着するたびに出力し、モデルがコンテキストを記憶できるように各応答を追加します。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

history = [
    {"role": "system", "content": "You are a direct, imaginative conversation partner."}
]

while True:
    user = input("you: ").strip()
    if user in ("", "quit"):
        break
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        stream=True,
        temperature=0.9,
    )

    reply = ""
    print("bot: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
        if getattr(chunk, "usage", None):
            usage = chunk.usage
    print()
    history.append({"role": "assistant", "content": reply})

最終チャンクにはトークン使用量が含まれるため、各ターンでいくらかかったかをログに記録できます。Temperature、top_p、停止シーケンス、seed、および頻度ペナルティと存在ペナルティはモデルに渡されます。クリエイティブなチャットでは、Temperatureを0.8〜1.0に設定すると、より多様な文章が生成されます。抽出や構造化タスクの場合は、値を低く設定してください。

100,000トークンのウィンドウの扱い

コンテキストウィンドウは100,000トークンで、プロンプトと生成結果を合わせて計算されます。上記のようなチャットループでは、各ターンで履歴全体が再送信されるため、入力は会話ごとに増大します。これは長期間問題ありません。典型的な英語のテキスト1ページは約500〜700トークンであるため、会話は何時間も続いた後にようやく制限に達します。

すべてのリクエストで入力トークンに対して課金されるため、長い履歴も請求額の要因となります。履歴が40,000トークンに達し、応答が500トークンのチャットを例に挙げます。入力のコストは 0.04 x $0.15 = $0.006、出力のコストは 0.0005 x $0.50 = $0.00025 となり、1ターンあたりのコストは約$0.0063です。この規模でも、$20のクレジットで3,000ターン以上を支払うことができます。それでも、履歴を削減することでコストを抑え、応答を集中させることができます。

以下の3つの簡単な戦略が効果的です。

  • スライディングウィンドウ。 システムメッセージと最後のNターンを保持し、古いものを削除します。
  • 要約して置き換え。 履歴が閾値を超えた場合、モデルに最も古い部分の要約を依頼し、その要約を単一のメッセージとして保存します。
  • 固定された事実。キャラクターシートや世界観のルール、設定をシステムメッセージに保持し、会話の残りはスクロールして消えていく状態にしておきます。

返信の長さを制限したい場合は max_tokens を設定します。これはオプションであり、設定しない場合、補完はウィンドウの残りをすべて使用できます。

既存のチャットクライアントの使用

コードを書きたくない場合もあるでしょう。多くのチャットフロントエンドはカスタムなOpenAI互換エンドポイントを追加できますが、SillyTavernはその一例です。設定はどこでも同じで、ラベルだけが異なります:

  • APIタイプ: OpenAI互換(カスタムまたはチャット補完とも呼ばれる)。
  • Base URL: https://api.uncensoredllmonline.com/v1。一部のクライアントは /chat/completions で終わるフルパスを必要とする場合があります。その場合は追加してください。
  • APIキー: アカウントのキー。
  • モデル: uncensored。クライアントにモデル一覧ボタンがある場合、GET /v1/models を呼び出して自動入力されます。

クライアントが認証エラーを報告した場合は、キーの前後にスペースがないか確認してください。モデルが存在しないというエラーの場合は、モデルIDを手動で再入力してください。クライアントがオフにしたいフィールドを送信した場合、サポートされているパラメータのリストはドキュメントに記載されています。

Nodeからの同じ呼び出し

プロジェクトがJavaScriptの場合、公式のOpenAIパッケージは同じ方法で機能します。この例では標準出力にストリーミングします。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredllmonline.com/v1",
  apiKey: "YOUR_KEY",
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy market town in three sentences." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
process.stdout.write("\n");

ツール呼び出しとJSONモード(response_format を json_object に設定)は同じインターフェースを通じて機能します。ツールの場合、tools で定義し、tool_choice をオプションで設定し、tool ロールを持つメッセージとして結果を返します。ストリーミングレスポンスでは、tool_calls がクライアントで組み立てられる断片として配信されます。

レート制限と429の意味

フルキーは8つの同時リクエストと1分あたり300リクエストを許可します。トライアルキーは2つの同時リクエストと1分あたり60リクエストを許可します。リクエストボディは最大8 MBまで可能です。各レスポンスのヘッダー X-RateLimit-Limit-Requests と X-RateLimit-Limit-Concurrency は、キーに適用される上限を示します。

制限を超えるとHTTP 429が返され、エラーコードがどちらの制限かを示します。

  • rate_limited:1分あたりのリクエストが多すぎます。待機して再試行してください。
  • concurrency:一度に多すぎるリクエスト。ストリーミングされたリクエストはストリームが終了するまでスロットを占有することを覚えておいてください。そのため、複数のストリームを同時に開くUIは、すぐにそれらを消費してしまいます。
  • Retry-After: 5 ヘッダーを持つ429は、一時的な過負荷を意味します。5秒待ってから再試行してください。

バックオフ付きの短いリトライループは、ほとんどのアプリで十分です。失敗または拒否されたリクエストは課金されません。トライアルが終了したり残高が少なくなったりした場合は、暗号資産(TRC20上のUSDT、またはBase上のUSDC)で$20から$500までの任意の整数金額をチャージできます。ボーナスについては料金ページをご覧ください。

再試行ラッパー

以下は、429 エラー発生時にRetry-Afterヘッダーが存在する場合はそれを使用し、存在しない場合は指数関数的な遅延を用いて再試行する小さなラッパーです。SDK の例外型を使用しているため、他のエラーもすぐに表面化します。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

def ask(messages, tries=5):
    delay = 2
    for attempt in range(tries):
        try:
            return client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
        except RateLimitError as err:
            wait = err.response.headers.get("Retry-After")
            time.sleep(int(wait) if wait else delay)
            delay *= 2
    raise RuntimeError("still rate limited after retries")

concurrency エラーが頻繁に表示される場合、解決策は通常、遅延を長くすることではありません。フルキーの場合は並列実行する呼び出し数を8に、トライアルキーの場合は2に制限し、そのサイズのセマフォまたはワーカープールを使用してください。

モデルからのより良い結果の取得

拒否しないモデルでも、明確な指示が必要です。最も残念な出力の多くはモデルではなく、あいまいなプロンプトに起因します。これらの習慣は、成人向けのフィクション、ロールプレイ、相棒スタイルのチャットに役立ちます。

  • システムメッセージに設定を記載する。 設定、トーン、視点、希望する長さを明記します。モデルは、12番目のターンに埋め込まれたリクエストよりも、システムメッセージをより一貫して従います。
  • タスクだけでなくキャラクターを説明する。 声、習慣、キャラクターの欲求に関する数行は、単なる名前よりも一貫性のある対話を生み出します。
  • 例を使用する。 希望するスタイルの短いサンプル段落1つが、多くの形容詞の羅列よりも効果的なことが多いです。
  • 反復を制御する。長時間のセッションでモデルが同じフレーズをループする場合は、頻度ペナルティまたは存在ペナルティを少し上げ、または温度を少し下げてみてください。
  • 求めるものを一度に明確に伝えてください。 応答が逸れた場合は、修正を積み重ねるのではなく、最後のメッセージを編集してください。履歴は未来のすべてのプロンプトの一部であり、すべての請求の一部です。

未成年者に関する性的コンテンツの禁止は、シナリオの構成方法にかかわらず、すべてのプロンプトとすべてのキャラクターに適用されます。このモデルは法的な成人利用のみに調整されています。

質問と回答

始めるには何かインストールする必要がありますか?

クライアントのみが必要です。OpenAI PythonまたはNode.jsパッケージ、curl、またはカスタムなOpenAI互換エンドポイントを受け付けるチャットアプリであれば何でも動作します。GPUやモデルのダウンロードは不要です。

どのモデルIDを使用すればよいですか?

モデルフィールドに uncensored を使用してください。キーを使用して GET /v1/models を呼び出すことで確認できます。

ストリーミングは通常のリクエストよりもコストがかかりますか?

いいえ。トークンあたりの料金は同じで、入力 1Mトークンあたり $0.15、出力 1Mトークンあたり $0.50 です。ストリーミングリクエストは完了するまで 1 つの同時実行スロットを保持します。

プロンプトはトレーニング用に保存されますか?

いいえ。プロンプトは学習に使用されません。

画像や音声にも使えますか?

いいえ。テキストのみで、画像、音声、動画の生成や埋め込みは提供しません。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

APIキーを取得ドキュメントを読む