ES ▾
Obtener clave de API

Chat LLM sin filtros: crea un cliente sencillo

Un chat LLM sin filtros es fácil de construir una vez que tienes un endpoint compatible con OpenAI: un bucle, una lista de mensajes y un lector de streaming. A continuación hay dos clientes mínimos, uno para la terminal y otro para el navegador, que puedes ejecutar en minutos.

Actualizado

Burbujas de chat de vidrio sobre una terminal con partículas de streaming fluyendo entre ellas, representando un cliente de chat en streaming
Ilustración isométrica de una torre de GPU local conectada a un servidor en la nube por un cable brillante, comparando LLMs locales y alojados

Puntos clave

  1. Un cliente de chat es una lista de mensajes más un bucle de streaming; la API es stateless, así que reenvías el historial en cada turno.
  2. La versión de terminal son 25 líneas de Python con el SDK de OpenAI.
  3. Para la web, mantén la clave de API en un servidor pequeño y transmite la respuesta al navegador.
  4. Recorta los mensajes antiguos antes de alcanzar la ventana de 100.000 tokens, y maneja 429 con un reintento.

Empieza con crédito de prueba

Correo y contraseña; la clave aparece al instante en pantalla.

Obtener clave de API

Lo que estás construyendo

Dos pequeños programas. El primero es un chat de terminal que transmite tokens a medida que llegan. El segundo es una página web con un servidor Node pequeño delante. Ambos hablan al mismo endpoint, https://api.uncensoredllmonline.com/v1, usando el modelo uncensored.

Esto es un chat LLM sin filtros en el sentido de que el modelo está ajustado para responder sin rechazos de contenido para uso adulto lícito. Es un modelo de pesos abiertos gestionado por un proveedor independiente, no un producto oficial de ningún gran proveedor. El contenido sexual que involucre a menores de edad no está permitido y nunca se responde. Es solo texto.

Necesitas una clave. Después de registrarte, reclama los $0,50 de prueba en la página de clave de API; eso es suficiente para todo lo que se muestra en este artículo. Si prefieres usar una aplicación ya hecha en lugar de escribir una, consulta la guía de opciones de cliente de API.

Cómo funciona el estado del chat

La API no recuerda las conversaciones. Cada petición debe llevar todo el historial como una lista de mensajes: un mensaje del sistema primero, luego mensajes alternos de usuario y asistente. El modelo solo ve lo que envías. Tu cliente es dueño de la memoria.

Eso tiene un efecto directo en el coste. A $0,15 por 1M de tokens de entrada, un chat que ha crecido a 8.000 tokens de historial cuesta $0,0012 de entrada en el siguiente turno (8.000 x $0,15 / 1M). Una respuesta de 300 tokens añade $0,00015. Así que un turno cuesta unos $0,00135, y el crédito de prueba aún cubre varios cientos de ellos. La salida se factura a $0,50 por 1M.

La ventana de contexto es de 100.000 tokens, prompt y completado combinados. Un chat normal nunca se acerca a ello, pero un roleplay largo o un chat de documentos puede, así que planifica el recorte (ver más abajo).

Cliente de terminal en Python

Instala el SDK con pip install openai, configura tu clave y ejecuta esto:

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredllmonline.com/v1", api_key="YOUR_KEY")

history = [{"role": "system", "content": "You are a direct, friendly assistant."}]

while True:
    try:
        user = input("\nyou> ").strip()
    except (EOFError, KeyboardInterrupt):
        break
    if not user:
        continue
    history.append({"role": "user", "content": user})

    reply = ""
    stream = client.chat.completions.create(
        model="uncensored", messages=history, stream=True
    )
    print("bot> ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
    history.append({"role": "assistant", "content": reply})

Notas sobre el código. stream=True devuelve fragmentos; cada uno contiene un pequeño fragmento de texto en delta.content. La comprobación de chunk.choices es importante porque el último fragmento de uso puede llegar sin choices. La respuesta se recopila en una única cadena y se añade al historial como un mensaje del asistente, lo que permite que el siguiente turno tenga en cuenta el anterior. Ctrl+C o Ctrl+D finaliza la sesión de forma limpia.

Cliente web: clave en el servidor, streaming a la página

Nunca pongas la clave de API en JavaScript del navegador. Cualquiera puede leerla y gastar tu crédito. En su lugar, ejecuta un servidor pequeño que añada la clave y reenvíe el stream. Este necesita Node 18 o superior y sin paquetes:

import http from "node:http";
import { readFileSync } from "node:fs";

const BASE = "https://api.uncensoredllmonline.com/v1";
const KEY = process.env.API_KEY;

http.createServer(async (req, res) => {
  if (req.method === "GET") {
    res.setHeader("Content-Type", "text/html");
    return res.end(readFileSync("index.html"));
  }
  if (req.method === "POST" && req.url === "/chat") {
    let body = "";
    for await (const c of req) body += c;
    const { messages } = JSON.parse(body);
    const up = await fetch(BASE + "/chat/completions", {
      method: "POST",
      headers: { Authorization: "Bearer " + KEY, "Content-Type": "application/json" },
      body: JSON.stringify({ model: "uncensored", messages, stream: true }),
    });
    res.writeHead(up.status, { "Content-Type": "text/event-stream" });
    for await (const chunk of up.body) res.write(chunk);
    return res.end();
  }
  res.statusCode = 404;
  res.end();
}).listen(3000);

Inícialo con API_KEY=your_key node server.mjs. En index.html, un campo de texto y un div son suficientes. La parte importante es leer los eventos enviados por el servidor:

async function send(messages, onText) {
  const r = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ messages }),
  });
  const reader = r.body.getReader();
  const dec = new TextDecoder();
  let buf = "";
  while (true) {
    const { done, value } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const lines = buf.split("\n");
    buf = lines.pop();
    for (const line of lines) {
      if (line.startsWith("data: ") === false) continue;
      const data = line.slice(6).trim();
      if (data === "[DONE]") return;
      const delta = JSON.parse(data).choices?.[0]?.delta?.content;
      if (delta) onText(delta);
    }
  }
}

Llama a send(history, text => out.textContent += text), y luego añade la respuesta finalizada a tu array de historial. Los eventos enviados por el servidor dividen los fragmentos en posiciones de bytes arbitrarias, por eso el código mantiene un búfer y solo analiza líneas completas.

Mantener chats largos saludables

Tres cosas fallan en sesiones más largas, y todas tienen soluciones simples.

El historial crece sin fin

Mantén el mensaje del sistema y los N mensajes más recientes, o resume la parte más antigua en un solo mensaje. Contar caracteres dividido por cuatro es una estimación suficientemente buena para tokens. Intenta mantenerse muy por debajo de 100.000.

Errores 429

Una clave completa permite 8 peticiones concurrentes y 300 por minuto; una clave de prueba permite 2 y 60. Si ves HTTP 429 con el código rate_limited o concurrency, espera un momento y vuelve a intentarlo. Una sobrecarga temporal también devuelve 429 con Retry-After: 5. Una petición en streaming ocupa su espacio de concurrencia hasta que finalice el flujo, por lo que un usuario que cierre la pestaña debería tener la conexión abortada en el servidor.

La deriva del tono

El mensaje del sistema establece el comportamiento. Mantenlo breve y específico; baja temperature para la consistencia y súbelo para la escritura creativa. Parámetros como top_p, stop y seed se pasan a través.

De prototipo a algo que compartir

Si otras personas usarán tu chat, añade límites de tasa por usuario en tu servidor para que una persona no pueda vaciar el saldo. Muestra un mensaje claro cuando falle una petición y recuerda que las peticiones fallidas o rechazadas no se cobran. Puedes leer el saldo restante desde la cabecera de respuesta X-Balance-USD, o llamar a GET /v1/balance.

Cuando se agote la prueba, recarga cualquier cantidad completa desde $20 hasta $500. Las recargas mayores tienen un bono de +5% desde $50, +10% desde $100 y +15% desde $200, y el crédito no caduca. Puedes pagar con cripto. La página de precios tiene los detalles, y la documentación enumera todos los endpoints, incluido /v1/responses si prefieres ese formato.

Preguntas y respuestas

¿Necesito enviar todo el historial en cada petición?

Sí. La API es stateless, por lo que tu cliente envía el mensaje del sistema y los turnos anteriores cada vez.

¿Puede el navegador llamar a la API directamente?

Técnicamente es posible, pero expondría tu clave. Mantén la clave en un servidor y transmite la respuesta a través de él.

¿Cómo obtengo salida en streaming?

Establece stream a true. La respuesta llega como eventos enviados por el servidor, con el uso de tokens reportado al final.

¿Qué pasa si supero el límite de peticiones?

Recibes HTTP 429 con el código rate_limited o concurrency. Espera y vuelve a intentarlo; si está presente la cabecera Retry-After: 5, espera ese número de segundos.

Tu clave está a un formulario de distancia

Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.

Obtener clave de APILeer los docs