Chat LLM sans filtre : créer un client simple
Une conversation LLM sans filtre est facile à mettre en place une fois que vous avez un endpoint compatible OpenAI : une boucle, une liste de messages et un lecteur de streaming. Voici deux clients minimaux, un pour le terminal et un pour le navigateur, que vous pouvez exécuter en quelques minutes.


Points clés
- Un client de chat est une liste de messages plus une boucle de streaming ; l'API étant sans état, vous renvoyez l'historique à chaque tour.
- La version terminal est un script Python de 25 lignes avec le SDK OpenAI.
- Pour le web, gardez la clé API sur un petit serveur et diffusez la réponse vers le navigateur.
- Réduisez les anciens messages avant d'atteindre la fenêtre de 100 000 tokens, et gérez les 429 avec une nouvelle tentative.
Commencez avec le crédit d'essai
E-mail et mot de passe, la clé s'affiche tout de suite à l'écran.
Obtenir une clé APICe que vous construisez
Deux petits programmes. Le premier est un chat terminal qui diffuse les tokens à mesure qu'ils arrivent. Le second est une page web avec un petit serveur Node devant elle. Les deux se connectent au même endpoint, https://api.uncensoredllmonline.com/v1, en utilisant le modèle uncensored.
Il s'agit d'un chat LLM sans filtre dans le sens où le modèle est ajusté pour répondre sans refus de contenu pour une utilisation adulte légale. Il s'agit d'un modèle à poids ouverts exécuté par un fournisseur indépendant, et non d'un produit officiel d'un grand fournisseur. Le contenu sexuel impliquant des mineurs n'est pas autorisé et ne reçoit jamais de réponse. Il s'agit uniquement de texte.
Vous avez besoin d'une clé. Après vous être connecté, réclamez le crédit d'essai de 0,50 $ sur la page clé API ; cela suffit pour tout dans cet article. Si vous préférez utiliser une application prête à l’emploi plutôt que d'en écrire une, consultez le guide des options de client API.
Fonctionnement de l'état du chat
L'API ne se souvient pas des conversations. Chaque requête doit contenir tout l'historique sous forme de liste de messages : un message système en premier, puis des messages utilisateur et assistant alternés. Le modèle ne voit que ce que vous envoyez. Votre client possède la mémoire.
Cela a un impact direct sur le coût. À $0,15 par 1 million de tokens d'entrée, un chat ayant atteint 8 000 tokens d'historique coûte $0,0012 d'entrée au tour suivant (8 000 x $0,15 / 1M). Une réponse de 300 tokens ajoute $0,00015. Donc un tour coûte environ $0,00135, et le crédit d'essai gratuit couvre encore plusieurs centaines. La sortie est facturée à $0,50 par 1 million.
La fenêtre de contexte est de 100 000 tokens, prompt et complétion combinés. Un chat normal n'y atteint jamais, mais un jeu de rôle long ou un chat de document peut, donc prévoyez un élagage (voir ci-dessous).
Client terminal en Python
Installez le SDK avec pip install openai, définissez votre clé et exécutez ceci :
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredllmonline.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a direct, friendly assistant."}]
while True:
try:
user = input("\nyou> ").strip()
except (EOFError, KeyboardInterrupt):
break
if not user:
continue
history.append({"role": "user", "content": user})
reply = ""
stream = client.chat.completions.create(
model="uncensored", messages=history, stream=True
)
print("bot> ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
piece = chunk.choices[0].delta.content
reply += piece
print(piece, end="", flush=True)
history.append({"role": "assistant", "content": reply})
Notes sur le code. stream=True retourne des segments ; chacun contient un petit morceau de texte dans delta.content. La vérification de chunk.choices est importante car le dernier segment d'utilisation peut arriver sans choix. La réponse est collectée dans une seule chaîne et ajoutée à l'historique comme message assistant, ce qui permet au tour suivant de connaître le précédent. Ctrl+C ou Ctrl+D met fin à la session proprement.
Client web : clé sur le serveur, diffusion vers la page
Ne mettez jamais la clé API dans le JavaScript du navigateur. N'importe qui peut la lire et dépenser votre crédit. Au lieu de cela, exécutez un petit serveur qui ajoute la clé et transmet le flux. Celui-ci nécessite Node 18 ou plus récent et aucun package :
import http from "node:http";
import { readFileSync } from "node:fs";
const BASE = "https://api.uncensoredllmonline.com/v1";
const KEY = process.env.API_KEY;
http.createServer(async (req, res) => {
if (req.method === "GET") {
res.setHeader("Content-Type", "text/html");
return res.end(readFileSync("index.html"));
}
if (req.method === "POST" && req.url === "/chat") {
let body = "";
for await (const c of req) body += c;
const { messages } = JSON.parse(body);
const up = await fetch(BASE + "/chat/completions", {
method: "POST",
headers: { Authorization: "Bearer " + KEY, "Content-Type": "application/json" },
body: JSON.stringify({ model: "uncensored", messages, stream: true }),
});
res.writeHead(up.status, { "Content-Type": "text/event-stream" });
for await (const chunk of up.body) res.write(chunk);
return res.end();
}
res.statusCode = 404;
res.end();
}).listen(3000);
Démarrez-le avec API_KEY=your_key node server.mjs. Dans index.html, une zone de texte et un div suffisent. La partie importante est la lecture des événements envoyés par le serveur :
async function send(messages, onText) {
const r = await fetch("/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
const reader = r.body.getReader();
const dec = new TextDecoder();
let buf = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
const lines = buf.split("\n");
buf = lines.pop();
for (const line of lines) {
if (line.startsWith("data: ") === false) continue;
const data = line.slice(6).trim();
if (data === "[DONE]") return;
const delta = JSON.parse(data).choices?.[0]?.delta?.content;
if (delta) onText(delta);
}
}
}Appelez send(history, text => out.textContent += text), puis ajoutez la réponse terminée à votre tableau d'historique. Les événements envoyés par le serveur divisent les segments à des positions d'octets arbitraires, c'est pourquoi le code conserve un tampon et ne parse que les lignes complètes.
Maintenir la santé des longues conversations
Trois choses peuvent mal tourner dans les sessions plus longues, et toutes ont des solutions simples.
L'historique grandit sans fin
Gardez le message système et les N messages les plus récents, ou résumez la partie la plus ancienne en un seul message. Compter les caractères divisés par quatre est une estimation suffisante pour les tokens. Visez à rester bien en dessous de 100 000.
Erreurs 429
Une clé complète permet 8 requêtes simultanées et 300 par minute ; une clé d'essai permet 2 et 60. Si vous voyez HTTP 429 avec le code rate_limited ou concurrency, attendez un moment et réessayez. Une surcharge temporaire retourne également 429 avec Retry-After: 5. Une requête en streaming occupe sa place de concurrence jusqu'à la fin du flux, donc un utilisateur qui ferme l'onglet devrait voir la connexion interrompue sur le serveur.
La dérive du ton
Le message système définit le comportement. Gardez-le court et spécifique, abaissez temperature pour la cohérence et augmentez-le pour l'écriture créative. Les paramètres tels que top_p, stop et seed sont transmis.
Du prototype à quelque chose de partageable
Si d'autres personnes utiliseront votre chat, ajoutez des limites de débit par utilisateur sur votre serveur pour qu'une seule personne ne puisse pas vider le solde. Affichez un message clair en cas d'échec de la requête, et rappelez-vous que les requêtes échouées ou refusées ne sont pas facturées. Vous pouvez lire le solde restant depuis l'en-tête de réponse X-Balance-USD, ou appeler GET /v1/balance.
Lorsque le crédit d'essai gratuit est épuisé, rechargez n'importe quel montant entier de $20 à $500. Les recharges plus importantes comportent un bonus de +5 % à partir de $50, +10 % à partir de $100 et +15 % à partir de $200, et le crédit prépayé n'expire jamais. Vous pouvez payer par carte ou avec de la crypto. La page tarification a les détails, et la documentation liste tous les endpoints, y compris /v1/responses si vous préférez ce format.
Plus de guides
Questions et réponses
Faut-il envoyer tout l'historique à chaque requête ?
Oui. L'API est sans état de session, donc votre client envoie le prompt système et les tours précédents à chaque fois.
Le navigateur peut-il appeler l'API directement ?
Techniquement possible, mais cela exposerait votre clé. Gardez la clé sur un serveur et diffusez la réponse via celui-ci.
Comment obtenir une sortie en streaming ?
Définissez stream à true. La réponse arrive sous forme d'événements envoyés par le serveur, avec l'utilisation des tokens rapportée à la fin.
Que se passe-t-il si je touche une limite de débit ?
Vous obtenez HTTP 429 avec le code rate_limited ou concurrency. Attendez et réessayez ; si l'en-tête Retry-After: 5 est présent, attendez ce nombre de secondes.
Votre clé n'est qu'à un formulaire d'ici
Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.