繁中 ▾
取得 API 金鑰

Uncensored LLM Online:透過 API 用戶端聊天

線上 uncensored LLM 指的是透過 HTTP 存取的託管模型,你的端側無需 GPU。本指南將帶你從空白終端機開始,使用 OpenAI SDK 建立串流聊天迴圈。

更新於

終端機視窗接收來自雲端發光的聊天氣泡串流,顯示透過 API 用戶端使用的 LLM

重點摘要

  1. 任何 OpenAI 相容的用戶端均可使用:變更 Base URL、設定金鑰,並使用模型 ID uncensored。
  2. 串流輸出會隨產生傳回 token,用量資訊則在串流結束時傳回。
  3. 100,000 token 上下文視窗涵蓋提示詞與補全內容,因此長對話最終需要截斷。
  4. 429 回應表示減速或等待;錯誤程式碼會告訴你觸及了哪個速率限制。

從試用額度開始

電子郵件和密碼,金鑰立即顯示在畫面上。

取得 API 金鑰

開始前你需要準備的

要透過你自己的程式碼或聊天客戶端使用線上無審查 LLM,你需要三樣東西:帳號、API 金鑰,以及能與 OpenAI 相容端點通訊的客戶端。該服務僅提供文字,僅有一個模型,並在合法成人用途下無內容審查地回應。它不會產生圖片、音訊或影片,且在任何情況下都不會產生涉及未成年人的性內容。

以下是順序路徑。

  1. 在 API 金鑰頁面使用 Google 或電子郵件與密碼註冊。
  2. 點擊一次即可領取試用額度。金額為 $0.50,無需信用卡,有效期為 7 天,每人限領一次。
  3. 複製你的金鑰。每個請求都會將其作為 Authorization: Bearer YOUR_KEY 標頭傳送。
  4. 將你的用戶端指向 Base URL https://api.uncensoredllmonline.com/v1,並將模型設定為 uncensored。

提供兩個端點:用於對話的 POST /v1/chat/completions,以及列出金鑰可用模型的 GET /v1/models。

使用 curl 的第一次請求

在撰寫任何程式碼之前,請確認金鑰有效。此請求會要求簡短回覆並列印完整的 JSON 回應。

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt, helpful writing partner."},
      {"role": "user", "content": "Pitch me a noir story set on a space station."}
    ],
    "max_tokens": 250
  }'

你會收到標準的聊天完成物件,包含 choices[0].message.content 與 usage 區塊。回應標頭包含 X-Request-Id,若需聯繫 支援 將很有幫助,以及 X-Balance-USD,顯示你剩餘的信用額度。若要在不消耗 token 的情況下檢查金鑰,請使用相同的標頭呼叫 GET /v1/models。

Python 中的串流聊天迴圈

等待完整回覆在聊天中感覺很慢。設定 stream: true 會使伺服器透過 SSE 傳送產生的 token,而 OpenAI SDK 會將其轉換為迭代器。下方的程式碼範例將整個對話保留在列表中,列印收到的 token,並附加每個回覆以便模型記住上下文。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

history = [
    {"role": "system", "content": "You are a direct, imaginative conversation partner."}
]

while True:
    user = input("you: ").strip()
    if user in ("", "quit"):
        break
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        stream=True,
        temperature=0.9,
    )

    reply = ""
    print("bot: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
        if getattr(chunk, "usage", None):
            usage = chunk.usage
    print()
    history.append({"role": "assistant", "content": reply})

最後的區塊包含 token 用量,因此你可以記錄每輪的成本。temperature、top_p、stop 序列、seed 以及頻率與存在懲罰會傳遞給模型。對於創意聊天,temperature 約在 0.8 到 1.0 之間會產生更多變化的文本。對於提取或結構化任務,請降低它。

處理 100,000-token 上下文視窗

上下文視窗為 100,000 token,涵蓋提示詞與補全的總和。像上述這樣的聊天迴圈會在每個回合重新傳送整個歷史記錄,因此輸入量會隨著每次交談而增加。這在一段時間內都沒問題。一篇典型的英文頁面文字大約為 500 到 700 token,因此對話可以持續數小時才會接近限制。

因為你在每個請求中都要為輸入 token 付費,所以長歷史記錄也是帳單的來源。假設一個聊天已累積 40,000 token 的歷史記錄,並有 500 token 的回覆。輸入成本為 0.04 x $0.15 = $0.006,輸出成本為 0.0005 x $0.50 = $0.00025,因此再多一個回合的成本約為 $0.0063。即使達到該規模,$20 的額度仍可支援超過 3,000 個回合。不過,截斷歷史可以節省費用並讓回覆更集中。

三種簡單的策略效果很好:

  • 滑動視窗。 保留系統提示詞與最後 N 個回合,捨棄較舊的回合。
  • 摘要並取代。 當歷史記錄超過閾值時,要求模型摘要最舊的部分,然後將摘要儲存為單一訊息。
  • 固定事實。 將角色設定、世界觀規則或設定保留在系統提示詞中,讓對話的其他部分滾動出視窗。

設定 max_tokens 以限制回覆長度。這是可選的,若未設定,補全內容可以使用上下文視窗剩餘的任何空間。

改用現成的聊天用戶端

你可能不想撰寫程式碼。許多聊天前端允許你新增自訂 OpenAI 相容端點,SillyTavern 就是其中一個範例。設定在所有地方都相同,僅標籤不同:

  • API 類型: OpenAI 相容,有時稱為自訂或聊天補全。
  • Base URL: https://api.uncensoredllmonline.com/v1。某些用戶端需要以 /chat/completions 結尾的完整路徑,在這種情況下請附加它。
  • API 金鑰: 你帳戶中的金鑰。
  • 模型: uncensored。如果客戶端有模型列表按鈕,它會呼叫 GET /v1/models 並將結果填入該按鈕。

如果客戶端回報身份驗證錯誤,請檢查金鑰前方或後方是否有空格。如果回報模型不存在,請手動重新輸入模型 ID。文件列出了支援的參數;如果客戶端傳送了你想關閉的欄位,可在此查看。

來自 Node 的相同呼叫

如果你的專案是 JavaScript,官方的 OpenAI 套件以相同方式運作。此範例串流輸出到標準輸出。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredllmonline.com/v1",
  apiKey: "YOUR_KEY",
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy market town in three sentences." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
process.stdout.write("\n");

工具呼叫與 JSON 模式(response_format 設為 json_object)透過相同的介面運作。請在 tools 中定義工具,可選地設定 tool_choice,並以具有 tool 角色的訊息傳回結果。串流輸出會將 tool_calls 分段傳回,由你在客戶端進行組裝。

速率限制與 429 的含義

完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。請求主體最多可達 8 MB。每個回應上的標頭 X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency 會告訴你適用於你金鑰的上限。

當超過限制時,你會收到 HTTP 429,且錯誤程式碼會指出是哪一個:

  • rate_limited:每分鐘請求過多。等待並重試。
  • concurrency:同時請求過多。請記住,串流請求會佔用其槽位直到串流結束,因此同時開啟多個串流的 UI 會很快耗盡槽位。
  • 帶有 Retry-After: 5 標頭的 429 表示暫時過載。等待五秒鐘,然後重試。

帶有退避機制的短迴圈足以應付大多數應用程式。失敗或被拒絕的請求不會計費。當你的試用期結束或餘額不足時,你可以使用加密貨幣(TRC20 上的 USDT 或 Base 上的 USDC)儲值 $20 至 $500 之間的整數金額;請參閱 定價頁面 以獲取獎金。

重試封裝

這是一個小型封裝器,當存在 Retry-After 標頭時會使用該標頭,否則使用指數延遲來處理 429 錯誤的重試。它使用 SDK 的例外類型,因此其他錯誤仍會立即顯示。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

def ask(messages, tries=5):
    delay = 2
    for attempt in range(tries):
        try:
            return client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
        except RateLimitError as err:
            wait = err.response.headers.get("Retry-After")
            time.sleep(int(wait) if wait else delay)
            delay *= 2
    raise RuntimeError("still rate limited after retries")

如果你經常看到 concurrency 錯誤,解決方案通常不是更長的延遲。對於完整金鑰,將並行執行的呼叫數量限制為 8,或對於試用金鑰限制為 2,使用該大小的訊號量或工作佇列。

從模型獲得更好的結果

一個不拒絕的模型仍需要清晰的指示。最令人失望的輸出來自模糊的提示詞,而不是模型本身。這些習慣有助於成人小說、角色扮演以及成人伴侶式聊天。

  • 將設定寫入系統提示詞。明確說明設定、語氣、視角與長度。模型對系統提示詞的遵循度,遠高於將設定埋沒在第 12 個回合的請求。
  • 描述角色,而不僅是任務。 幾行關於聲音、習慣和角色想要什麼的描述,比單純的名字產生更一致的對話。
  • 使用範例。 一個你想要風格的短範例段落,通常比一頁形容詞更有效。
  • 控制重複。 如果模型在長對話中重複相同的短語,請稍微提高頻率或存在懲罰,或稍微降低溫度。
  • 一次就說清楚你要什麼。如果回覆偏離,請編輯最後一則訊息,而不是疊加修正。你的對話歷史是每個未來提示詞的一部分,也是計費的一部分。

針對涉及未成年人的性內容的嚴格規定適用於每個提示詞和每個角色,無論情境如何設定。該模型僅針對合法的成人用途進行調整。

問答

我需要安裝什麼才能開始嗎?

只需要一個客戶端。OpenAI Python 或 Node 套件、curl,或任何接受自訂 OpenAI 相容端點的聊天應用程式即可。不需要 GPU 或下載模型。

我該使用哪個模型 ID?

在 model 欄位中使用 uncensored。你可以使用金鑰呼叫 GET /v1/models 來確認。

串流輸出的費用比一般請求更高嗎?

否。你支付的每 token 價格相同,輸入每 1M token 為 $0.15,輸出每 1M token 為 $0.50。串流請求確實會佔用一個並行請求槽位,直到完成為止。

我的提示詞會儲存用於訓練嗎?

不會。提示詞不會用於訓練。

我可以用它來處理圖片或聲音嗎?

不能。該服務僅限文字,不支援圖像、音訊或影片生成,也不提供嵌入功能。

只需填寫一張表單即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰閱讀文件