Chat LLM Tanpa Sensor: Buat Klien Sederhana
Chat LLM tanpa sensor mudah dibuat setelah Anda memiliki endpoint yang kompatibel dengan OpenAI: sebuah loop, daftar pesan, dan pembaca streaming. Di bawah ini ada dua klien minimal, satu untuk terminal dan satu untuk browser, yang dapat Anda jalankan dalam hitungan menit.


Poin utama
- Klien chat adalah daftar pesan ditambah loop streaming; API bersifat stateless, sehingga Anda mengirim ulang riwayat setiap putaran.
- Versi terminal adalah 25 baris Python dengan SDK OpenAI.
- Untuk web, simpan kunci API di server kecil dan alirkan respons ke browser.
- Potong pesan lama sebelum mencapai jendela konteks 100.000 token, dan tangani 429 dengan percobaan ulang.
Yang sedang Anda bangun
Dua program kecil. Yang pertama adalah obrolan terminal yang melakukan streaming token saat tiba. Yang kedua adalah halaman web dengan server Node kecil di depannya. Keduanya berkomunikasi dengan endpoint yang sama, https://api.uncensoredllmonline.com/v1, menggunakan model uncensored.
Ini adalah obrolan LLM tanpa filter dalam arti modelnya disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini adalah satu model bobot terbuka yang dijalankan oleh penyedia independen, bukan produk resmi dari vendor besar mana pun. Konten seksual yang melibatkan anak di bawah umur tidak diizinkan dan tidak pernah dijawab. Hanya teks.
Anda memerlukan kunci. Setelah masuk, klaim uji coba senilai $0,50 di halaman kunci API; itu sudah cukup untuk semua yang ada di artikel ini. Jika Anda lebih suka menggunakan aplikasi yang sudah ada daripada menulis sendiri, lihat panduan opsi klien API.
Cara kerja status chat
API tidak mengingat percakapan. Setiap permintaan harus membawa seluruh riwayat sebagai daftar pesan: pesan sistem terlebih dahulu, lalu bergantian pesan pengguna dan asisten. Model hanya melihat apa yang Anda kirim. Klien Anda memiliki memori.
Hal ini berdampak langsung pada biaya. Pada $0,15 per 1M token input, chat yang telah berkembang menjadi 8.000 token riwayat menghabiskan $0,0012 untuk input pada putaran berikutnya (8.000 x $0,15 / 1M). Balasan 300 token menambahkan $0,00015. Jadi satu putaran sekitar $0,00135, dan kredit uji coba masih mencakup beberapa ratus putaran. Output ditagihkan pada $0,50 per 1M.
Jendela konteks adalah 100.000 token, gabungan prompt dan completion. Chat normal tidak pernah mendekati itu, tetapi roleplay panjang atau chat dokumen bisa, jadi rencanakan pemotongan (lihat di bawah).
Klien terminal di Python
Instal SDK dengan pip install openai, atur kunci Anda, dan jalankan ini:
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredllmonline.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a direct, friendly assistant."}]
while True:
try:
user = input("\nyou> ").strip()
except (EOFError, KeyboardInterrupt):
break
if not user:
continue
history.append({"role": "user", "content": user})
reply = ""
stream = client.chat.completions.create(
model="uncensored", messages=history, stream=True
)
print("bot> ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
piece = chunk.choices[0].delta.content
reply += piece
print(piece, end="", flush=True)
history.append({"role": "assistant", "content": reply})
Catatan tentang kode. stream=True mengembalikan potongan; masing-masing memiliki potongan kecil teks di delta.content. Pemeriksaan chunk.choices penting karena potongan penggunaan akhir dapat tiba tanpa choices. Balasan dikumpulkan menjadi satu string dan ditambahkan ke riwayat sebagai pesan asisten, yang membuat putaran berikutnya sadar akan putaran terakhir. Ctrl+C atau Ctrl+D mengakhiri sesi dengan bersih.
Klien web: kunci di server, alirkan ke halaman
Jangan letakkan kunci API di JavaScript browser. Siapapun bisa membacanya dan menghabiskan saldo Anda. Sebagai gantinya, jalankan server kecil yang menambahkan kunci dan meneruskan streaming. Ini membutuhkan Node 18 atau yang lebih baru dan tanpa paket:
import http from "node:http";
import { readFileSync } from "node:fs";
const BASE = "https://api.uncensoredllmonline.com/v1";
const KEY = process.env.API_KEY;
http.createServer(async (req, res) => {
if (req.method === "GET") {
res.setHeader("Content-Type", "text/html");
return res.end(readFileSync("index.html"));
}
if (req.method === "POST" && req.url === "/chat") {
let body = "";
for await (const c of req) body += c;
const { messages } = JSON.parse(body);
const up = await fetch(BASE + "/chat/completions", {
method: "POST",
headers: { Authorization: "Bearer " + KEY, "Content-Type": "application/json" },
body: JSON.stringify({ model: "uncensored", messages, stream: true }),
});
res.writeHead(up.status, { "Content-Type": "text/event-stream" });
for await (const chunk of up.body) res.write(chunk);
return res.end();
}
res.statusCode = 404;
res.end();
}).listen(3000);
Mulai dengan API_KEY=your_key node server.mjs. Di index.html, kotak teks dan div saja sudah cukup. Bagian yang penting adalah membaca server-sent events:
async function send(messages, onText) {
const r = await fetch("/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
const reader = r.body.getReader();
const dec = new TextDecoder();
let buf = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
const lines = buf.split("\n");
buf = lines.pop();
for (const line of lines) {
if (line.startsWith("data: ") === false) continue;
const data = line.slice(6).trim();
if (data === "[DONE]") return;
const delta = JSON.parse(data).choices?.[0]?.delta?.content;
if (delta) onText(delta);
}
}
}Panggil send(history, text => out.textContent += text), lalu masukkan balasan yang selesai ke dalam array riwayat Anda. Server-sent events memisahkan potongan pada posisi byte acak, itulah sebabnya kode tersebut menyimpan buffer dan hanya mengurai baris lengkap.
Menjaga chat panjang tetap sehat
Tiga hal yang salah dalam sesi yang lebih lama, dan semuanya memiliki perbaikan sederhana.
Riwayat tumbuh tanpa akhir
Simpan pesan sistem dan N pesan terbaru, atau ringkas bagian tertua menjadi satu pesan. Menghitung karakter dibagi empat adalah tebakan yang cukup baik untuk token. Usahakan tetap jauh di bawah 100.000.
Kesalahan 429
Kunci penuh mengizinkan 8 permintaan paralel dan 300 per menit; kunci trial mengizinkan 2 dan 60. Jika Anda melihat HTTP 429 dengan kode rate_limited atau concurrency, tunggu sebentar dan coba lagi. Beban sementara juga mengembalikan 429 dengan Retry-After: 5. Permintaan streaming memegang slot konkurensinya hingga streaming berakhir, jadi pengguna yang menutup tab harus membatalkan koneksi di server.
Nada menyimpang
Pesan sistem mengatur perilaku. Buat singkat dan spesifik, turunkan temperature untuk konsistensi dan naikkan untuk penulisan kreatif. Parameter seperti top_p, stop dan seed diteruskan.
Dari prototipe menjadi sesuatu yang bisa Anda bagikan
Jika orang lain akan menggunakan chat Anda, tambahkan batas laju per pengguna di server Anda agar satu orang tidak dapat menguras saldo. Tampilkan pesan yang jelas ketika permintaan gagal, dan ingat bahwa permintaan yang gagal atau ditolak tidak dikenakan biaya. Anda dapat membaca sisa saldo dari header respons X-Balance-USD, atau panggil GET /v1/balance.
Saat masa percobaan habis, isi ulang dengan jumlah bulat apa pun dari $20 hingga $500. Isi ulang yang lebih besar membawa bonus +5% dari $50, +10% dari $100 dan +15% dari $200, dan kredit tidak pernah kedaluwarsa. Anda dapat membayar dengan kripto. Halaman harga memuat detailnya, dan dokumentasi mencantumkan setiap endpoint, termasuk /v1/responses jika Anda lebih suka format itu.
Panduan lainnya
Tanya jawab
Apakah saya perlu mengirim riwayat lengkap pada setiap permintaan?
Ya. API bersifat stateless, sehingga klien Anda mengirim pesan sistem dan putaran sebelumnya setiap kali.
Apakah browser dapat memanggil API secara langsung?
Secara teknis memungkinkan, tetapi ini akan mengekspos kunci Anda. Simpan kunci di server dan alirkan respons melalui sana.
Bagaimana saya mendapatkan output streaming?
Atur stream menjadi true. Respons tiba sebagai server-sent events, dengan penggunaan token dilaporkan di akhir.
Apa yang terjadi jika saya mencapai batas laju?
Anda mendapatkan HTTP 429 dengan kode rate_limited atau concurrency. Tunggu dan coba lagi; jika header Retry-After: 5 ada di respons, tunggu selama beberapa detik tersebut.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.