TR ▾
API anahtarı al

Uncensored LLM Online: API İstemcisi Üzerinden Sohbet

Çevrimiçi sansürsüz bir LLM, tarafınızda GPU olmadan HTTP üzerinden erişilen barındırılan bir model anlamına gelir. Bu kılavuz, OpenAI SDK kullanarak boş bir terminalden, akışı işleyen bir sohbet döngüsüne götürür.

güncellendi

Bulut üzerinden bir API istemcisi kullanılarak bir LLM gösteren, parlayan sohbet balonlarının bir akışını alan terminal penceresi

Temel noktalar

  1. Herhangi bir OpenAI uyumlu istemci çalışır: base URL'yi değiştirin, anahtarı ayarlayın ve model kimliği olarak uncensored'ı kullanın.
  2. Akış, oluşturulan tokenları döndürür ve kullanım bilgisi akışın sonunda gelir.
  3. 100.000 tokenlık pencere, istem ile tamamlama birlikte kapsar; bu nedenle uzun sohbetler sonunda kısaltılmayı gerektirir.
  4. 429 yanıtı yavaşlamanız veya beklemeniz gerektiği anlamına gelir; hata kodu hangi limite ulaştığınızı söyler.

Deneme kredisiyle başlayın

E-posta ve parola, anahtar hemen ekranda.

API anahtarı al

Başlamadan önce ihtiyacınız olanlar

Kendi kodunuz veya bir sohbet istemcisi aracılığıyla çevrimiçi bir sansürsüz LLM kullanmak için üç şeye ihtiyacınız vardır: bir hesap, bir API anahtarı ve OpenAI tarzı bir uç noktaya bağlanabilen bir istemci. Hizmet yalnızca metin içerir, tek bir model sunar ve yasal yetişkin kullanım için içerik reddetmeleri olmadan yanıt verir. Görsel, ses veya video üretmez ve hiçbir koşulda reşit olmayanlar ile ilgili cinsel içerik üretmez.

İşte sırayla yol.

  1. API anahtarı sayfasında Google veya e-posta ve şifre ile kaydolun.
  2. Tek tıklama ile deneme kredisi talep edin. $0,50 değerindedir, kart gerektirmez, 7 gün sürer ve kişi başı bir kezle sınırlıdır.
  3. Anahtarınızı kopyalayın. Her istek, onu Authorization: Bearer YOUR_KEY olarak gönderir.
  4. İstemcinizi base URL https://api.uncensoredllmonline.com/v1 adresine yönlendirin ve modeli uncensored olarak ayarlayın.

İki uç nokta mevcuttur: POST /v1/chat/completions sohbetler için ve GET /v1/models anahtarın kullanabileceği modelleri listelemek için.

İlk istek curl ile

Herhangi bir kod yazmadan önce, anahtarın çalıştığını doğrulayın. Bu istek kısa bir yanıt ister ve tam JSON yanıtını yazdırır.

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a blunt, helpful writing partner."},
      {"role": "user", "content": "Pitch me a noir story set on a space station."}
    ],
    "max_tokens": 250
  }'

choices[0].message.content ve bir usage bloğu içeren standart bir sohbet tamamlama nesnesi alırsınız. Yanıt başlıkları, eğer destek ile iletişime geçerseniz yararlı olabilecek X-Request-Id'i ve kalan kredinizi gösteren X-Balance-USD'i içerir. Token harcamadan anahtarı kontrol etmek için aynı başlığı kullanarak GET /v1/models çağrısını yapın.

Python ile akışlı sohbet döngüsü

Tam bir yanıt beklemek bir sohbette yavaş hissettirir. stream: true ayarlamak sunucunun tokenları üretilirken SSE üzerinden göndermesini sağlar ve OpenAI SDK bunu bir yineleyiciye dönüştürür. Aşağıdaki betik tüm sohbeti bir listede tutar, tokenlar geldikçe yazdırır ve modelin bağlamı hatırlaması için her yanıtı ekler.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

history = [
    {"role": "system", "content": "You are a direct, imaginative conversation partner."}
]

while True:
    user = input("you: ").strip()
    if user in ("", "quit"):
        break
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        stream=True,
        temperature=0.9,
    )

    reply = ""
    print("bot: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
        if getattr(chunk, "usage", None):
            usage = chunk.usage
    print()
    history.append({"role": "assistant", "content": reply})

Son parçalar token kullanımını taşır, böylece her dönüşün maliyetini loglayabilirsiniz. Sıcaklık, top_p, durdurma dizileri, tohum ve sıklık ve varlık cezaları modele iletilir. Yaratıcı sohbet için 0,8 ile 1,0 arasında bir sıcaklık daha çeşitli bir metin verir. Çıkarma veya yapılandırılmış görevler için bunu düşürün.

100.000 tokenlık pencere ile çalışma

Bağlam penceresi 100.000 token'dır ve istem ile tamamlamayı birlikte kapsar. Yukarıdaki gibi bir sohbet döngüsü, her adımda tüm geçmişi yeniden gönderir; bu nedenle girdi her alışverişte büyür. Bu uzun süre için kabul edilebilir. Tipik bir İngilizce metin sayfası 500 ile 700 token mertebesindedir; bu nedenle bir sohbet, sınıra yaklaşmadan önce birçok saat devam edebilir.

Her istekte girdi tokenları için ödeme yaptığınız için, uzun bir geçmiş de faturanızın geldiği yerdir. Geçmişte 40.000 tokena ulaşmış bir sohbet ve 500 tokenlık bir yanıt alalım. Girdi maliyeti 0,04 x $0,15 = $0,006 ve çıktı maliyeti 0,0005 x $0,50 = $0,00025'dir, bu nedenle bir sonraki dönüş yaklaşık $0,0063'e mal olur. Bu boyutta bile, $20 kredi 3.000'den fazla dönüşü karşılar. Yine de kırpma para tasarrufu sağlar ve yanıtları odaklı tutar.

Üç basit strateji iyi çalışır:

  • Kayan pencere. Sistem mesajını ve son N dönüşü tutun, daha eskilerini atın.
  • Özetle ve değiştir. Geçmiş bir eşiği geçtiğinde, modelden en eski kısmı özetlemesini isteyin, ardından özeti tek bir mesaj olarak kaydedin.
  • Sabitlenmiş bilgiler. Karakter şablonlarını, dünya kurallarını veya ayarları sistem mesajında tutun ve sohbetin geri kalanının kaymasını sağlayın.

Yanıt uzunluğunu sınırlamak istiyorsanız max_tokens ayarlayın. İsteğe bağlıdır ve olmadan tamamlama pencerenin kalanını kullanabilir.

Hazır bir sohbet istemcisi kullanma

Kod yazmak istemeyebilirsiniz. Birçok sohbet istemcisi, size özel bir OpenAI uyumlu uç nokta eklemenize olanak tanır; bunu yapan örneklerden biri de SillyTavern'dir. Ayarlar her yerde aynıdır, yalnızca etiketler farklılık gösterir:

  • API türü: OpenAI uyumlu, bazen özel veya sohbet tamamlama olarak adlandırılır.
  • Base URL: https://api.uncensoredllmonline.com/v1. Bazı istemciler /chat/completions ile biten tam yolu ister, bu durumda ekleyin.
  • API anahtarı: hesabınızdaki anahtar.
  • Model: uncensored. İstemcinin bir model listesi düğmesi varsa, GET /v1/models çağrısı yapar ve doldurur.

İstemci bir kimlik doğrulama hatası bildirirse, anahtarda baştaki veya sondaki boşluğu kontrol edin. Modelin mevcut olmadığını bildirirse, model kimliğini elle yeniden yazın. dokümantasyon, kapatmak istediğiniz bir alan gönderen bir istemci için desteklenen parametreleri listeler.

Node ile aynı çağrı

Projeniz JavaScript ise, resmi OpenAI paketi aynı şekilde çalışır. Bu örnek standart çıktıya akış yapar.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredllmonline.com/v1",
  apiKey: "YOUR_KEY",
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy market town in three sentences." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
process.stdout.write("\n");

Araç çağırma ve JSON modu (response_format json_object olarak ayarlandı) aynı arayüz üzerinden çalışır. Araçlar için onları tools içinde tanımlayın, isteğe bağlı olarak tool_choice ayarlayın ve sonuçları tool rolü ile mesajlar olarak döndürün. Akışlı yanıtlar, istemcide birleştireceğiniz parçalar halinde tool_calls teslim eder.

Hız limitleri ve 429'un anlamı

Tam bir anahtar eşzamanlı 8 istek ve dakika başına 300 istek için izin verir. Bir deneme anahtarı eşzamanlı 2 istek ve dakikada 60 istek için izin verir. İstek gövdesi 8 MB'a kadar olabilir. Her yanıtın başlıklarında, anahtarınız için geçerli olan üst limitleri size gösteren X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency bulunur.

Bir limiti geçtiğinizde HTTP 429 alırsınız ve hata kodu hangisi olduğunu söyler:

  • rate_limited: dakika başına çok fazla istek. Bekleyin ve yeniden deneyin.
  • concurrency: aynı anda çok fazla istek. Akışlı bir isteğin, akış bitene kadar slotunu tuttuğunu unutmayın, bu nedenle aynı anda birkaç akış açan bir UI bunları hızla tüketir.
  • Retry-After: 5 başlığı ile bir 429 hatası geçici aşırı yük anlamına gelir. Beş saniye bekleyin, ardından yeniden deneyin.

Geri çekilme ile kısa bir yeniden deneme döngüsü çoğu uygulama için yeterlidir. Başarısız veya reddedilen istekler ücretlendirilmez. Denemeniz bittiğinde veya bakiyeniz azaldığında, kripto (TRC20 üzerinde USDT veya Base üzerinde USDC) ile $20 ile $500 arasında herhangi bir tam miktarı bakiye yükleyebilirsiniz; bonuslar için fiyatlandırma sayfasına bakın.

Bir yeniden deneme sarmalayıcısı

İşte var olduğunda Retry-After başlığını ve var olmadığında üstel bir gecikme kullanarak 429'da yeniden deneme yapan küçük bir sarmalayıcı. SDK'nın özel durum türünü kullanır, böylece diğer hatalar hemen ortaya çıkar.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

def ask(messages, tries=5):
    delay = 2
    for attempt in range(tries):
        try:
            return client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
        except RateLimitError as err:
            wait = err.response.headers.get("Retry-After")
            time.sleep(int(wait) if wait else delay)
            delay *= 2
    raise RuntimeError("still rate limited after retries")

Sık sık concurrency hataları görürseniz, çözüm nadiren daha uzun bir gecikmedir. Tam bir anahtar için paralel çalıştırdığınız çağrı sayısını bir semafor veya o boyutta bir işçi havuzu ile 8'e, bir deneme anahtarı için ise 2'ye sınırlayın.

Modelden daha iyi sonuçlar alma

Reddetmeyen bir modelin hala net yönlendirmeye ihtiyacı vardır. En hayal kırıklığı yaratan çıktılar, modelden değil belirsiz istemlerden gelir. Bu alışkanlıklar yetişkinler için kurgu, rol yapma ve eşlik eden tarzı sohbetlerde yardımcı olur.

  • Kurulumu sistem mesajına yerleştirin. Ayarı, tonu, bakış açısını ve istediğiniz uzunluğu belirtin. Modeller, on ikinci dönüşte gömülü bir istekten ziyade bir sistem mesajına daha tutarlı şekilde uyar.
  • Karakteri tanımlayın, sadece görevi değil. Ses, alışkanlıklar ve karakterin ne istediği hakkında birkaç satır, çıplak bir isimden daha tutarlı bir diyalog üretir.
  • Örnekler kullanın. İstediğiniz stilde kısa bir örnek paragraf, genellikle bir sayfa sıfatlardan daha fazlasını yapar.
  • Tekrarları kontrol edin. Model uzun oturumlarda aynı ifadeleri döngüye sokarsa, frekans veya varlık cezasını biraz artırın veya sıcaklığı biraz düşürün.
  • İstediğinizi bir kez isteyin. Yanıt saparsa, düzeltmeleri üst üste yığmak yerine son mesajınızı düzenleyin. Geçmişiniz, her gelecekteki istemin ve her faturanın bir parçasıdır.

Reşit olmayanlarla ilgili cinsel içerik kuralı, senaryo nasıl kurgulanırsa kurgulansın her istem ve her karakter için geçerlidir. Model yalnızca yasal yetişkin kullanımı için ayarlanmıştır.

Sorular ve cevaplar

Başlamak için bir şeyler kurmam gerekiyor mu?

Yalnızca bir istemci. OpenAI Python veya Node paketi, curl veya özel bir OpenAI uyumlu uç nokta kabul eden herhangi bir sohbet uygulaması yeterlidir. GPU veya model indirmeye gerek yoktur.

Hangi model kimliğini kullanmalıyım?

Model alanında uncensored kullanın. Anahtarınızla GET /v1/models çağrısı yaparak bunu doğrulayabilirsiniz.

Akış yapmak normal bir istekten daha mı pahalı?

Hayır. Token başına aynı fiyatı ödersiniz: 1M giriş için $0.15 ve 1M çıktı için $0.50. Akışlı bir istek, bitene kadar bir eşzamanlılık yuvasını işgal eder.

İstemlerim eğitim için saklanıyor mu?

Hayır. İstemler eğitim için kullanılmaz.

Görseller veya ses için kullanabilir miyim?

Hayır. Hizmet yalnızca metin içindir; görsel, ses veya video oluşturma ve gömme (embedding) yoktur.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı alDokümantasyonu oku