中文 ▾
获取 API 密钥

Uncensored LLM Online:通过 API 客户端聊天

在线无审查 LLM 意味着通过 HTTP 访问的托管模型,你本地无需 GPU。本指南将带你从空白终端开始,使用 OpenAI SDK 实现流式聊天循环。

更新于

终端窗口接收来自云端的发光聊天气泡流,显示通过 API 客户端使用的 LLM

要点

  1. 任何 OpenAI 兼容客户端均可: 更改基础 URL,设置密钥,使用模型 ID uncensored。
  2. 流式输出会在生成时返回 token,并在流结束时提供使用情况。
  3. 100,000-token 窗口涵盖提示词和补全内容,因此长对话最终需要截断。
  4. 429 响应意味着减速或等待; 错误代码告诉你触发了哪个限制。

从试用额度开始

邮箱和密码,密钥立即显示在屏幕上。

获取 API 密钥

开始前你需要准备什么

要通过你自己的代码或聊天客户端在线使用无审查 LLM,你需要三样东西:一个账户、一个 API 密钥和一个能与 OpenAI 风格接口通信的客户端。该服务仅支持文本,只有一个模型,并在合法成人用途下不进行内容审查。它不生成图像、音频或视频,且在任何情况下都不会生成涉及未成年人的性内容。

以下是按顺序的路径。

  1. 在 API 密钥页面 使用 Google 或邮箱加密码注册。
  2. 一键领取试用额度。该额度为 $0.50,无需绑卡,有效期 7 天,每人限领一次。
  3. 复制你的密钥。每次请求都会将其作为 Authorization: Bearer YOUR_KEY 发送。
  4. 将客户端指向基础 URL https://api.uncensoredllmonline.com/v1,并将模型设置为 uncensored。

提供两个接口:用于对话的 POST /v1/chat/completions 和用于列出密钥可用模型的 GET /v1/models。

首次 curl 请求

在编写任何代码之前,请确认密钥有效。此请求要求简短回复并打印完整的 JSON 响应。

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt, helpful writing partner."},
      {"role": "user", "content": "Pitch me a noir story set on a space station."}
    ],
    "max_tokens": 250
  }'

你获得一个标准的聊天补全对象,包含 choices[0].message.content 和 usage 块。响应头包括 X-Request-Id,如果你联系 支持团队 这将很有用,以及 X-Balance-USD,显示你的剩余额度。要检查密钥而不消耗 token,请使用相同标头调用 GET /v1/models。

Python 中的流式聊天循环

等待完整回复在聊天中感觉很慢。设置 stream: true 使服务器通过 SSE 发送生成的 token,OpenAI SDK 将其转换为迭代器。下面的脚本将整个对话保留在列表中,打印到达的 token,并附加每个回答以便模型记住上下文。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

history = [
    {"role": "system", "content": "You are a direct, imaginative conversation partner."}
]

while True:
    user = input("you: ").strip()
    if user in ("", "quit"):
        break
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        stream=True,
        temperature=0.9,
    )

    reply = ""
    print("bot: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
        if getattr(chunk, "usage", None):
            usage = chunk.usage
    print()
    history.append({"role": "assistant", "content": reply})

最后的块包含 token 用量,因此你可以记录每轮的成本。temperature、top_p、停止序列、种子以及频率和存在惩罚会透传给模型。对于创意聊天,temperature 设为 0.8 到 1.0 可生成更多样化的文本。对于提取或结构化任务,请降低该值。

处理 100,000-token 上下文窗口

上下文窗口为 100,000 token,涵盖提示词和补全内容。上述聊天循环会在每轮对话中重新发送完整的历史记录,因此输入内容会随着每次交互而增长。这在很长一段时间内都没问题。一篇典型的英文文本大约包含 500 到 700 个 token,因此对话可以持续数小时才会接近限制。

由于每次请求都要为输入 token 付费,长历史记录也是产生费用的主要原因。假设历史记录已达 40,000 token,回复为 500 token。输入成本为 0.04 x $0.15 = $0.006,输出成本为 0.0005 x $0.50 = $0.00025,因此多一轮对话的成本约为 $0.0063。即使达到这个规模,$20 的额度也能支持超过 3,000 轮对话。不过,精简历史记录可以节省费用并使回复更聚焦。

三种简单的策略效果很好:

  • 滑动窗口。 保留系统消息和最后 N 轮,丢弃较旧的。
  • 总结并替换。 当历史记录超过阈值时,要求模型总结最老的部分,然后将总结存储为单条消息。
  • 固定事实。将角色卡、世界规则或设定保留在系统消息中,让对话的其他部分滚动过去。

设置 max_tokens 以限制回复长度。这是可选的,如果没有它,补全可以使用窗口中剩余的任何内容。

改用现成聊天客户端

你可能不想编写代码。许多聊天前端允许你添加自定义兼容 OpenAI 的端点,SillyTavern 就是一个例子。设置在所有地方都是相同的,只是标签不同:

  • API 类型: OpenAI 兼容,有时称为自定义或聊天补全。
  • Base URL: https://api.uncensoredllmonline.com/v1。某些客户端需要以 /chat/completions 结尾的完整路径,在这种情况下请追加它。
  • API 密钥: 你账户中的密钥。
  • 模型: uncensored。如果客户端有模型列表按钮,它会调用 GET /v1/models 并填入。

如果客户端报告认证错误,请检查密钥前后是否有空格。如果报告模型不存在,请手动重新输入模型 ID。文档 列出了支持的参数。如果客户端发送了你想要关闭的字段,可在此查阅。

来自 Node 的相同调用

如果你的项目是 JavaScript,官方 OpenAI 库以相同方式工作。此示例将流式输出到标准输出。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredllmonline.com/v1",
  apiKey: "YOUR_KEY",
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy market town in three sentences." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
process.stdout.write("\n");

工具调用和 JSON 模式(response_format 设置为 json_object)通过同一接口工作。对于工具,在 tools 中定义它们,可选设置 tool_choice,并以 tool 角色返回结果作为消息。流式响应将 tool_calls 分块交付,你需要在客户端组装它们。

速率限制及 429 的含义

完整密钥允许 8 个并发请求和每分钟 300 个请求。试用密钥允许 2 个并发请求和每分钟 60 个。请求体最多可达 8 MB。每个响应上的标头 X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency 告诉你适用于你密钥的天花板。

当你超过限制时,你会得到 HTTP 429,错误代码会说明是哪一个:

  • rate_limited:每分钟请求过多。等待并重试。
  • concurrency:同时请求过多。请记住,流式请求在流结束前会占用其槽位,因此同时打开多个流的 UI 会很快耗尽它们。
  • 带有 Retry-After: 5 标头的 429 表示临时过载。等待五秒,然后重试。

带有退避的短重试循环足以满足大多数应用。失败或拒绝的请求不会收费。当你的试用结束或余额不足时,你可以使用加密货币(TRC20 上的 USDT 或 Base 上的 USDC)充值任何整金额,从 $20 到 $500;详见 定价页面 获取奖金。

重试包装器

这是一个小型包装器,当存在 Retry-After 标头时,它使用该标头在收到 429 状态码时进行重试;当不存在该标头时,则使用指数退避延迟。它使用 SDK 的异常类型,因此其他错误仍会立即抛出。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

def ask(messages, tries=5):
    delay = 2
    for attempt in range(tries):
        try:
            return client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
        except RateLimitError as err:
            wait = err.response.headers.get("Retry-After")
            time.sleep(int(wait) if wait else delay)
            delay *= 2
    raise RuntimeError("still rate limited after retries")

如果你经常看到 concurrency 错误,修复方法通常不是更长的延迟。将并行运行的调用数量限制为完整密钥的 8 个或试用密钥的 2 个,使用具有该大小的信号量或工作池。

从模型获取更好结果

一个不拒绝的模型仍然需要清晰的指导。最令人失望的输出来自模糊的提示词,而不是模型。这些习惯有助于成人小说、角色扮演和伴侣式聊天。

  • 在系统消息中设置。 说明设置、语气、视角和你想要的长度。模型更一致地遵循系统消息,而不是第十二轮中埋藏的请求。
  • 描述角色,而不仅仅是任务。 关于声音、习惯和角色想要什么的几行文字比单纯的名字产生更一致的对话。
  • 使用示例。 一段你想要风格的简短示例段落通常比一页形容词更有效。
  • 控制重复。如果模型在长会话中重复相同的短语,请略微提高频率惩罚或存在惩罚,或略微降低温度。
  • 一次性明确需求。如果回复偏离,请编辑上一条消息,而不是层层叠加修正。你的历史记录是未来每个提示词的一部分,也是计费的一部分。

针对未成年人内容的严格限制适用于每条提示词和每个角色,无论场景如何设定。该模型仅针对合法成人用途进行调优。

问答

我需要安装任何东西才能开始吗?

只需一个客户端。OpenAI Python 或 Node 包、curl,或任何接受自定义兼容 OpenAI 端点的聊天应用均可。无需 GPU 或下载模型。

我应该使用哪个模型 ID?

在 model 字段中使用 uncensored。你可以通过使用密钥调用 GET /v1/models 来确认。

流式输出比普通请求更贵吗?

不会。你按 token 支付相同的价格,输入每 1M token $0.15,输出每 1M token $0.50。流式请求在完成前会占用一个并发槽位。

我的提示词会被存储用于训练吗?

不会。提示词不用于训练。

我可以用它来处理图片或语音吗?

不能。该服务仅支持文本,不支持图像、音频或视频生成,也不支持嵌入。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥阅读文档