TH ▾
รับคีย์ API

Uncensored LLM Online: แชทผ่านไคลเอนต์ API

LLM ออนไลน์แบบไม่เซ็นเซอร์หมายถึงโฮสต์โมเดลที่คุณเข้าถึงผ่าน HTTP โดยไม่ต้องมี GPU ที่ฝั่งของคุณ คู่มือนี้จะนำคุณจากเทอร์มินัลเปล่าไปสู่ลูปแชทแบบสตรีมโดยใช้ SDK ของ OpenAI

อัปเดต

หน้าต่างเทอร์มินัลรับสตรีมของฟองแชทเรืองแสงจากคลาวด์ แสดงการใช้ LLM ผ่านไคลเอนต์ API

ประเด็นสำคัญ

  1. ไคลเอนต์ที่เข้ากันได้กับ OpenAI ใช้งานได้ทั้งหมด: เปลี่ยน base URL, ตั้งค่าคีย์, ใช้โมเดล ID uncensored
  2. การสตรีมจะส่งโทเคนเมื่อสร้างเสร็จ และข้อมูลการใช้งานจะมาถึงที่ท้ายสตรีม
  3. หน้าต่าง 100,000 โทเคนครอบคลุมทั้งพรอมต์และคำตอบ ดังนั้นแชทที่ยาวนานจำเป็นต้องตัดทอนในที่สุด
  4. สถานะ 429 หมายถึง ให้ช้าลงหรือรอ; รหัสข้อผิดพลาดจะบอกคุณว่าคุณชนขีดจำกัดใด

เริ่มต้นด้วยเครดิตทดลองใช้

อีเมลและรหัสผ่าน คีย์แสดงบนหน้าจอทันที

รับคีย์ API

สิ่งที่คุณต้องมีก่อนเริ่ม

การใช้งาน LLM แบบ uncensored ออนไลน์ผ่านโค้ดของคุณเองหรือไคลเอนต์แชท คุณต้องมีสามสิ่ง: บัญชีผู้ใช้, คีย์ API และไคลเอนต์ที่สามารถเชื่อมต่อกับเอนด์พอยต์แบบ OpenAI ได้ บริการรองรับเฉพาะข้อความ มีโมเดลเดียว และตอบกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่สร้างภาพ เสียง หรือวิดีโอ และไม่สร้างเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ภายใต้สถานการณ์ใดก็ตาม

นี่คือขั้นตอนตามลำดับ

  1. สมัครสมาชิกด้วย Google หรือด้วยอีเมลและรหัสผ่านที่หน้า คีย์ API
  2. รับเครดิตทดลองใช้ด้วยการคลิกเพียงครั้งเดียว มูลค่า $0.50 ไม่ต้องใช้บัตร ใช้ได้ 7 วัน และจำกัดหนึ่งครั้งต่อบุคคล
  3. คัดลอกคีย์ของคุณ ทุกคำขอจะส่งคีย์นี้ในรูปแบบ Authorization: Bearer YOUR_KEY
  4. กำหนดค่าไคลเอนต์ของคุณไปที่ Base URL https://api.uncensoredllmonline.com/v1 และตั้งค่าโมเดลเป็น uncensored

มีเอนด์พอยต์สองรายการให้ใช้งาน: POST /v1/chat/completions สำหรับการสนทนา และ GET /v1/models เพื่อแสดงรายการสิ่งที่คีย์ของคุณสามารถใช้งานได้

คำขอแรกด้วย curl

ก่อนเขียนโค้ดใดๆ ให้ยืนยันว่าคีย์ใช้งานได้ คำขอนี้ขอคำตอบสั้นๆ และแสดงการตอบกลับ JSON เต็มรูปแบบ

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt, helpful writing partner."},
      {"role": "user", "content": "Pitch me a noir story set on a space station."}
    ],
    "max_tokens": 250
  }'

คุณจะได้รับวัตถุการตอบกลับแชทมาตรฐานที่มี choices[0].message.content และบล็อก usage ส่วนหัวของการตอบกลับรวมถึง X-Request-Id ซึ่งมีประโยชน์หากคุณติดต่อ ฝ่ายสนับสนุน และ X-Balance-USD ซึ่งแสดงเครดิตคงเหลือของคุณ เพื่อตรวจสอบคีย์โดยไม่ใช้โทเคน ให้เรียกใช้ GET /v1/models ด้วยส่วนหัวเดียวกัน

ลูปแชทสตรีมมิงใน Python

การรอการตอบกลับเต็มรูปแบบอาจรู้สึกช้าในการแชท การตั้งค่า stream: true ทำให้เซิร์ฟเวอร์ส่งโทเคนผ่าน SSE เมื่อมีการผลิต และ SDK ของ OpenAI จะเปลี่ยนสิ่งนั้นให้เป็นตัววนซ้ำ สคริปต์ด้านล่างเก็บการสนทนาทั้งหมดไว้ในรายการ พิมพ์โทเคนเมื่อได้รับ และเพิ่มคำตอบแต่ละรายการเพื่อให้โมเดลจดจำบริบท

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

history = [
    {"role": "system", "content": "You are a direct, imaginative conversation partner."}
]

while True:
    user = input("you: ").strip()
    if user in ("", "quit"):
        break
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        stream=True,
        temperature=0.9,
    )

    reply = ""
    print("bot: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
        if getattr(chunk, "usage", None):
            usage = chunk.usage
    print()
    history.append({"role": "assistant", "content": reply})

ชิ้นส่วนสุดท้ายมีการใช้โทเคน ดังนั้นคุณจึงสามารถบันทึกได้ว่าแต่ละรอบมีค่าใช้จ่ายเท่าใด อุณหภูมิ top_p ลำดับหยุด, seed และความถี่และการลงโทษการปรากฏตัวจะถูกส่งต่อไปยังโมเดล สำหรับการแชทเชิงสร้างสรรค์ อุณหภูมิประมาณ 0.8 ถึง 1.0 จะให้ข้อความที่หลากหลายมากขึ้น สำหรับการดึงข้อมูลหรืองานที่มีโครงสร้าง ให้ลดค่านี้ลง

การทำงานกับหน้าต่างบริบท 100,000 โทเคน

หน้าต่างบริบทมีขนาด 100,000 โทเคน และครอบคลุมทั้งพรอมต์และการสร้างผลลัพธ์รวมกัน วงจรแชทเช่นข้างต้นจะส่งประวัติทั้งหมดอีกครั้งในแต่ละรอบ ทำให้ปริมาณ input เพิ่มขึ้นในทุกการแลกเปลี่ยน ซึ่งทำได้เป็นเวลานาน หน้ากระดาษภาษาอังกฤษทั่วไปมีขนาดประมาณ 500 ถึง 700 โทเคน ดังนั้นการสนทนาสามารถดำเนินไปได้หลายชั่วโมงก่อนจะเข้าใกล้ขีดจำกัด

เนื่องจากคุณต้องจ่ายสำหรับโทเคนข้อมูลนำเข้าในทุกคำขอ ประวัติที่ยาวนานจึงเป็นแหล่งที่มาของบิลของคุณ นำแชทที่มีประวัติ 40,000 โทเคน พร้อมการตอบกลับ 500 โทเคน ค่าข้อมูลนำเข้าคือ 0.04 x $0.15 = $0.006 และค่าข้อมูลส่งออกคือ 0.0005 x $0.50 = $0.00025 ดังนั้นหนึ่งรอบเพิ่มเติมมีค่าใช้จ่ายประมาณ $0.0063 แม้ในขนาดนั้น เครดิต $20 ก็ครอบคลุมมากกว่า 3,000 รอบ อย่างไรก็ตาม การตัดทอนช่วยประหยัดเงินและทำให้การตอบกลับมีจุดมุ่งหมายชัดเจน

กลยุทธ์ง่ายๆ สามอย่างใช้งานได้ผลดี:

  • หน้าต่างเลื่อน. เก็บข้อความระบบและการสนทนา N รอบล่าสุด ตัดรอบเก่าออก
  • สรุปและแทนที่. เมื่อประวัติเกินเกณฑ์ ให้ขอสรุปจากโมเดลสำหรับส่วนที่เก่าที่สุด จากนั้นเก็บสรุปเป็นข้อความเดียว
  • ข้อเท็จจริงที่ตรึงไว้. เก็บแผ่นตัวละคร กฎของโลก หรือการตั้งค่าไว้ในข้อความระบบ และปล่อยให้ส่วนที่เหลือของการสนทนาเลื่อนออกไป

ตั้งค่า max_tokens หากคุณต้องการจำกัดความยาวของการตอบกลับ มันไม่จำเป็น และหากไม่ตั้งค่า การสร้างผลลัพธ์จะใช้พื้นที่ที่เหลือของหน้าต่างบริบททั้งหมด

การใช้ไคลเอนต์แชทสำเร็จรูปแทน

คุณอาจไม่ต้องการเขียนโค้ด หน้าเว็บแชทจำนวนมากอนุญาตให้คุณเพิ่มเอนด์พอยต์ที่เข้ากันได้กับ OpenAI และ SillyTavern เป็นตัวอย่างหนึ่งที่มีการตั้งค่าเหมือนกันทุกที่ แต่ป้ายกำกับแตกต่างกัน:

  • ประเภท API: เข้ากันได้กับ OpenAI บางครั้งเรียกว่าแบบกำหนดเองหรือการตอบกลับแชท
  • Base URL: https://api.uncensoredllmonline.com/v1 ไคลเอนต์บางรายการต้องการเส้นทางเต็มลงท้ายด้วย /chat/completions ในกรณีนั้นให้เพิ่มเข้าไป
  • คีย์ API: คีย์จากบัญชีของคุณ
  • โมเดล: uncensored หากไคลเอนต์มีปุ่มแสดงรายการโมเดล จะเรียกใช้ GET /v1/models แล้วนำผลลัพธ์ไปแสดง

หากไคลเอนต์รายงานข้อผิดพลาดการตรวจสอบสิทธิ์ ให้ตรวจสอบว่ามีช่องว่างนำหน้าหรือต่อท้ายคีย์หรือไม่ หากแจ้งว่าโมเดลไม่พบ ให้พิมพ์ ID ของโมเดลด้วยตนเองอีกครั้ง เอกสารระบุพารามิเตอร์ที่รองรับ หากไคลเอนต์ส่งฟิลด์ที่คุณต้องการปิดใช้งาน

การเรียกใช้แบบเดียวกันจาก Node

หากโปรเจกต์ของคุณเป็น JavaScript แพ็กเกจ OpenAI อย่างเป็นทางการ จะทำงานในลักษณะเดียวกัน ตัวอย่างนี้แสดงผลลัพธ์แบบสตรีมมิงไปยัง stdout

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredllmonline.com/v1",
  apiKey: "YOUR_KEY",
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy market town in three sentences." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
process.stdout.write("\n");

การเรียกใช้เครื่องมือและโหมด JSON (response_format ตั้งค่าเป็น json_object) ใช้อินเทอร์เฟซเดียวกัน สำหรับเครื่องมือ ให้กำหนดไว้ใน tools, ตั้งค่า tool_choice ตามต้องการ, และส่งผลลัพธ์กลับเป็นข้อความที่มี tool เป็นบทบาท การตอบสนองแบบสตรีมมิงส่ง tool_calls ออกมาเป็นชิ้นส่วนที่คุณต้องประกอบกันที่ไคลเอนต์

ขีดจำกัดอัตราและคำอธิบายสถานะ 429

คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน (parallel requests) ได้ 8 คำขอ และ 300 คำขอต่อนาที คีย์แบบทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที บอดีคำขอสามารถมีขนาดได้สูงสุด 8 MB ส่วนหัว (headers) ในแต่ละการตอบกลับ X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency จะบอกขีดจำกัดสูงสุดที่ใช้กับคีย์ของคุณ

เมื่อคุณเกินขีดจำกัด คุณจะได้รับ HTTP 429 และรหัสข้อผิดพลาดจะระบุขอบเขตที่เกิน:

  • rate_limited: จำนวนคำขอต่อนาทีมากเกินไป ให้รอแล้วลองใหม่
  • concurrency: จำนวนคำขอที่ทำพร้อมกันมากเกินไป โปรดจำไว้ว่าคำขอแบบสตรีมมิงจะยึดที่รอไว้จนกว่าการสตรีมจะสิ้นสุด ดังนั้น UI ที่เปิดการสตรีมหลายรายการพร้อมกันจะใช้ที่รอนั้นหมดอย่างรวดเร็ว
  • สถานะ 429 พร้อมหัวข้อความ Retry-After: 5 หมายถึงการโอเวอร์โหลดชั่วคราว ให้รอห้าวินาที แล้วลองใหม่

ลูปการลองใหม่พร้อมการหน่วงเวลาแบบเพิ่มทวีคูณ (exponential backoff) เพียงพอสำหรับแอปพลิเคชันส่วนใหญ่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงิน เมื่อระยะเวลาทดลองใช้สิ้นสุดหรือยอดเงินเหลือน้อย คุณสามารถเติมเงินจำนวนเต็มตั้งแต่ $20 ถึง $500 ด้วยคริปโต (USDT บน TRC20 หรือ USDC บน Base) ดูรายละเอียดโบนัสได้ที่ หน้าราคา

ตัวห่อหุ้มการลองใหม่ (retry wrapper)

นี่คือตัวห่อหุ้มขนาดเล็กที่ลองใหม่เมื่อได้รับสถานะ 429 โดยใช้ส่วนหัว Retry-After เมื่อมีอยู่ และใช้การหน่วงเวลาแบบเพิ่มทวีคูณเมื่อไม่มี ใช้ประเภทข้อยกเว้นของ SDK ทำให้ข้อผิดพลาดอื่นๆ ปรากฏทันที

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

def ask(messages, tries=5):
    delay = 2
    for attempt in range(tries):
        try:
            return client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
        except RateLimitError as err:
            wait = err.response.headers.get("Retry-After")
            time.sleep(int(wait) if wait else delay)
            delay *= 2
    raise RuntimeError("still rate limited after retries")

หากคุณพบข้อผิดพลาด concurrency บ่อยครั้ง การเพิ่มเวลาหน่วงมักไม่ใช่ทางแก้ไข ให้จำกัดจำนวนการเรียกใช้งานพร้อมกันไว้ที่ 8 สำหรับคีย์แบบเต็ม หรือ 2 สำหรับคีย์แบบทดลอง โดยใช้ semaphore หรือ worker pool ที่มีขนาดเท่ากัน

การได้รับผลลัพธ์ที่ดีขึ้นจากโมเดล

โมเดลที่ไม่ปฏิเสธยังคงต้องการทิศทางที่ชัดเจน ผลลัพธ์ที่น่าผิดหวังส่วนใหญ่เกิดจากพรอมต์ที่คลุมเครือ ไม่ใช่จากโมเดล โดยนิสัยเหล่านี้ช่วยได้ในการแต่งนิยาย บทบาทสมมติ (roleplay) และการแชทสไตล์เพื่อนคู่สนทนาสำหรับผู้ใหญ่

  • ใส่การตั้งค่าในข้อความระบบ (system message) ระบุฉากหลัง น้ำเสียง มุมมอง และความยาวที่คุณต้องการ โมเดลจะปฏิบัติตามข้อความระบบได้สม่ำเสมอมากกว่าคำขอที่ซ่อนอยู่ในรอบที่สิบสอง
  • อธิบายตัวละคร ไม่ใช่แค่งาน บรรยายสั้นๆ เกี่ยวกับน้ำเสียง พฤติกรรม และสิ่งที่ตัวละครต้องการ จะสร้างบทสนทนาที่สม่ำเสมอมากกว่าการระบุเพียงชื่อ
  • ใช้ตัวอย่าง ย่อหน้าตัวอย่างสั้นๆ หนึ่งย่อหน้าในสไตล์ที่คุณต้องการ มักจะมีประสิทธิภาพมากกว่าคำอธิบายด้วยคำคุณศัพท์หนึ่งหน้า
  • ควบคุมการซ้ำ หากโมเดลวนลูปด้วยวลีเดิมในเซสชันยาว ให้เพิ่มค่าปรับความถี่หรือการปรากฏตัว (frequency/presence penalty) เล็กน้อย หรือลดอุณหภูมิ (temperature) ลงเล็กน้อย
  • ขอในสิ่งที่คุณต้องการเพียงครั้งเดียว หากคำตอบเบี่ยงเบน ให้แก้ไขข้อความล่าสุดของคุณแทนการซ้อนการแก้ไขไว้ด้านบน ประวัติของคุณเป็นส่วนหนึ่งของพรอมต์ในอนาคตทุกครั้งและส่วนหนึ่งของบิลทุกใบ

กฎแข็งเรื่องเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ (minors) ใช้กับทุกพรอมต์และทุกตัวละคร ไม่ว่าสถานการณ์จะถูกนำเสนออย่างไร โมเดลได้รับการปรับแต่งสำหรับการใช้งานผู้ใหญ่ตามกฎหมายเท่านั้น

ถาม-ตอบ

ฉันต้องติดตั้งอะไรเพื่อเริ่มต้นใช้งานไหม?

มีเพียงไคลเอนต์ แพ็กเกจ Python หรือ Node ของ OpenAI, curl หรือแอปแชทใดๆ ที่รองรับเอนด์พอยต์ที่เข้ากันได้กับ OpenAI จะใช้งานได้ ไม่ต้องใช้ GPU หรือดาวน์โหลดโมเดล

ฉันต้องใช้โมเดล ID ใด?

ใช้ uncensored ในช่องโมเดล คุณสามารถยืนยันได้โดยการเรียกใช้ GET /v1/models ด้วยคีย์ของคุณ

การสตรีมมิงมีค่าใช้จ่ายมากกว่าคำขอปกติหรือไม่?

ไม่ คุณจ่ายราคาต่อโทเคนเท่ากัน คือ $0.15 ต่อ 1M input และ $0.50 ต่อ 1M output คำขอแบบสตรีมมิงจะครอบครองช่อง concurrency หนึ่งช่องจนกว่าจะเสร็จสิ้น

บริการเก็บพรอมต์ไว้เพื่อฝึกโมเดลหรือไม่?

ไม่ พรอมต์ไม่ถูกนำไปใช้ฝึกโมเดล

ฉันสามารถใช้กับภาพหรือเสียงได้หรือไม่?

ไม่ใช่ บริการมีเฉพาะข้อความ ไม่มีสร้างรูปภาพ เสียง วิดีโอ หรือ embeddings

คุณเพียงกรอกแบบฟอร์มเดียวก็รับคีย์ได้

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ APIอ่านเอกสาร