अनसेंसर्ड एलएलएम ऑनलाइन: API क्लाइंट के माध्यम से चैट करें
एक अनसेंसर्ड LLM ऑनलाइन का अर्थ है एक होस्टेड मॉडल जिसे आप HTTP के माध्यम से एक्सेस करते हैं, आपके पास कोई GPU नहीं है। यह मार्गदर्शिका आपको एक खाली टर्मिनल से OpenAI SDK का उपयोग करके एक स्ट्रीमिंग चैट लूप तक ले जाती है।

मुख्य बिंदु
- कोई भी OpenAI-संगत क्लाइंट काम करता है: बेस URL बदलें, कुंजी सेट करें, मॉडल ID uncensored का उपयोग करें।
- स्ट्रीमिंग टोकन को जनरेट होते ही लौटाती है, और उपयोग स्ट्रीम के अंत में आता है।
- 100,000-टोकन विंडो प्रॉम्प्ट और कंप्लीशन दोनों को कवर करती है, इसलिए लंबी चैट्स को अंततः ट्रिम करना पड़ सकता है।
- एक 429 प्रतिक्रिया का अर्थ है धीमा करें या प्रतीक्षा करें; त्रुटि कोड आपको बताता है कि आपने कौन सी सीमा पार की है।
शुरू करने से पहले आपको क्या चाहिए
अपने कोड या चैट क्लाइंट के माध्यम से एक अनसेंसर्ड एलएलएम ऑनलाइन उपयोग करने के लिए, आपको तीन चीज़ों की आवश्यकता होती है: एक खाता, एक API कुंजी, और एक क्लाइंट जो एक OpenAI-शैली एंडपॉइंट से बात कर सके। सेवा केवल टेक्स्ट के लिए है, एक ही मॉडल के साथ, और यह कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देती है। यह छवियाँ, ऑडियो या वीडियो उत्पन्न नहीं करती है, और किसी भी परिस्थिति में नाबालिगों से जुड़ी यौन सामग्री उत्पन्न नहीं करेगी।
यहाँ क्रम में मार्ग दिया गया है।
- Google या ईमेल और पासवर्ड से API कुंजी पेज पर साइन अप करें।
- एक क्लिक से ट्रायल क्रेडिट क्लेम करें। यह $0.50 है, कार्ड की आवश्यकता नहीं है, 7 दिनों तक चलता है और प्रति व्यक्ति केवल एक ही सीमित है।
- अपनी कुंजी कॉपी करें। हर अनुरोध इसे
Authorization: Bearer YOUR_KEYके रूप में भेजता है। - अपने क्लाइंट को बेस URL
https://api.uncensoredllmonline.com/v1की ओर इशारा करें और मॉडल कोuncensoredपर सेट करें।
दो एंडपॉइंट उपलब्ध हैं: संवादों के लिए POST /v1/chat/completions और उस सूची के लिए कि कुंजी क्या उपयोग कर सकती है, GET /v1/models।
curl के साथ पहला रिक्वेस्ट
कोड लिखने से पहले, सुनिश्चित करें कि कुंजी काम कर रही है। यह अनुरोध एक छोटा उत्तर मांगता है और पूर्ण JSON प्रतिक्रिया प्रिंट करता है।
curl https://api.uncensoredllmonline.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a blunt, helpful writing partner."},
{"role": "user", "content": "Pitch me a noir story set on a space station."}
],
"max_tokens": 250
}'
आपको एक मानक चैट कंप्लीशन ऑब्जेक्ट मिलता है choices[0].message.content और एक usage ब्लॉक के साथ। प्रतिक्रिया हेडर में X-Request-Id शामिल है, जो उपयोगी है यदि आप कभी सहायता से संपर्क करें, और X-Balance-USD, जो आपका शेष क्रेडिट दिखाता है। टोकन खर्च किए बिना कुंजी की जाँच करने के लिए, समान हेडर के साथ GET /v1/models कॉल करें।
Python में एक स्ट्रीमिंग चैट लूप
एक पूर्ण उत्तर का इंतज़ार करने में चैट धीमी लगती है। stream: true सेट करने से सर्वर टोकन को SSE के माध्यम से भेजता है जैसे ही वे उत्पन्न होते हैं, और OpenAI SDK इसे एक इटरेटर में बदल देता है। नीचे दिया गया स्क्रिप्ट पूरी बातचीत को एक सूची में रखता है, टोकन को आने पर प्रिंट करता है, और प्रत्येक उत्तर को जोड़ता है ताकि मॉडल संदर्भ को याद रख सके।
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredllmonline.com/v1",
api_key="YOUR_KEY",
)
history = [
{"role": "system", "content": "You are a direct, imaginative conversation partner."}
]
while True:
user = input("you: ").strip()
if user in ("", "quit"):
break
history.append({"role": "user", "content": user})
stream = client.chat.completions.create(
model="uncensored",
messages=history,
stream=True,
temperature=0.9,
)
reply = ""
print("bot: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
piece = chunk.choices[0].delta.content
reply += piece
print(piece, end="", flush=True)
if getattr(chunk, "usage", None):
usage = chunk.usage
print()
history.append({"role": "assistant", "content": reply})
अंतिम चंक टोकन उपयोग लाते हैं, इसलिए आप प्रत्येक टर्न की लागत लॉग कर सकते हैं। तापमान, top_p, स्टॉप सीक्वेंस, सीड और फ्रीक्वेंसी और प्रेजेंस पेनल्टी मॉडल को पास की जाती हैं। रचनात्मक चैट के लिए, 0.8 से 1.0 के आसपास तापमान अधिक विविध प्रोज़ देता है। एक्सट्रैक्शन या संरचित कार्यों के लिए, इसे कम करें।
100,000-टोकन विंडो के साथ काम करना
कॉन्टेक्स्ट विंडो 100,000 टोकन की है, और यह प्रॉम्प्ट और कंप्लीशन दोनों को कवर करती है। ऊपर दी गई चैट लूप हर टर्न पर पूरा इतिहास फिर से भेजता है, इसलिए इनपुट हर एक्सचेंज के साथ बढ़ता है। यह लंबे समय तक ठीक है। टेक्स्ट का एक सामान्य अंग्रेजी पृष्ठ लगभग 500 से 700 टोकन का होता है, इसलिए एक संवाद सीमा के करीब पहुंचने से पहले कई घंटों तक चल सकता है।
चूंकि आप हर अनुरोध पर इनपुट टोकन के लिए भुगतान करते हैं, एक लंबा इतिहास भी आपके बिल का कारण बनता है। एक चैट लें जिसका इतिहास 40,000 टोकन तक पहुंच गया हो, जिसमें 500 टोकन का जवाब हो। इनपुट की लागत 0.04 x $0.15 = $0.006 होती है, और आउटपुट की लागत 0.0005 x $0.50 = $0.00025 होती है, इसलिए एक और टर्न की लागत लगभग $0.0063 आती है। उस आकार पर भी, $20 का क्रेडिट 3,000 से अधिक टर्न कवर करता है। फिर भी, ट्रिमिंग से पैसे बचते हैं और जवाब केंद्रित रहते हैं।
तीन सरल रणनीतियाँ अच्छी तरह काम करती हैं:
- स्लाइडिंग विंडो। सिस्टम संदेश और आखिरी N टर्न रखें, पुराने टर्न हटा दें।
- सारांश बनाएं और बदलें। जब इतिहास एक थ्रेशोल्ड से पार हो जाए, तो मॉडल से सबसे पुराने हिस्से का सारांश बनवाएं, फिर सारांश को एक ही मैसेज के रूप में स्टोर करें।
- पिन किए गए तथ्य। कैरेक्टर शीट, दुनिया के नियम या सेटिंग्स को सिस्टम संदेश में रखें और बातचीत के बाकी हिस्से को आगे बढ़ने दें।
max_tokens सेट करें यदि आप जवाब की लंबाई को कैप करना चाहते हैं। यह वैकल्पिक है, और इसके बिना कंप्लीशन विंडो में जो भी शेष बचता है, उसे उपयोग कर सकता है।
तैयार-मेड चैट क्लाइंट का उपयोग करना
आप कोड लिखना नहीं चाह सकते हैं। कई चैट फ्रंटएंड आपको एक कस्टम OpenAI-संगत एंडपॉइंट जोड़ने की अनुमति देते हैं, और SillyTavern एक उदाहरण है जो ऐसा करता है। सेटिंग्स हर जगह समान हैं, केवल लेबल अलग हैं:
- API प्रकार: OpenAI-संगत, जिसे कस्टम या चैट पूर्णता भी कहा जाता है।
- Base URL:
https://api.uncensoredllmonline.com/v1। कुछ क्लाइंट पूरे पाथ की मांग करते हैं जो/chat/completionsपर समाप्त होता है, ऐसे मामले में इसे जोड़ें। - API कुंजी: आपके खाते से प्राप्त कुंजी।
- मॉडल:
uncensored। यदि क्लाइंट में मॉडल सूची बटन है, तो यहGET /v1/modelsकॉल करता है और उसे भरता है।
यदि क्लाइंट ऑथेंटिकेशन एरर रिपोर्ट करता है, तो कुंजी में लीडिंग या ट्रेलिंग स्पेस के लिए जांचें। यदि यह रिपोर्ट करता है कि मॉडल मौजूद नहीं है, तो मॉडल ID को हाथ से फिर से टाइप करें। दस्तावेज़ उन सपोर्टेड पैरामीटर्स की सूची देते हैं यदि एक क्लाइंट वह फील्ड भेजता है जिसे आप बंद करना चाहते हैं।
Node से समान कॉल
यदि आपका प्रोजेक्ट JavaScript है, तो आधिकारिक OpenAI पैकेज उसी तरह काम करता है। इस उदाहरण में आउटपुट मानक आउटपुट पर स्ट्रीम होता है।
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredllmonline.com/v1",
apiKey: "YOUR_KEY",
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Describe a rainy market town in three sentences." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
process.stdout.write("\n");
टूल कॉलिंग और JSON मोड (response_format को json_object पर सेट करें) एक ही इंटरफ़ेस के माध्यम से काम करते हैं। टूल्स के लिए, उन्हें tools में परिभाषित करें, वैकल्पिक रूप से tool_choice सेट करें, और tool भूमिका वाले संदेशों के साथ परिणाम लौटाएं। स्ट्रीम किए गए उत्तर tool_calls को टुकड़ों में प्रदान करते हैं जिन्हें आप क्लाइंट पर एकत्र करते हैं।
रेट लिमिट और 429 का अर्थ
एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है। एक ट्रायल कुंजी 2 समानांतर अनुरोध और प्रति मिनट 60 की अनुमति देती है। अनुरोध बॉडी 8 MB तक हो सकती है। प्रत्येक प्रतिक्रिया पर हेडर, X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency, आपको बताते हैं कि आपकी कुंजी के लिए लागू ऊपरी सीमाएँ क्या हैं।
जब आप एक सीमा पार करते हैं, तो आपको HTTP 429 मिलता है, और त्रुटि कोड बताता है कि कौन सी:
rate_limited: प्रति मिनट बहुत सारे अनुरोध। प्रतीक्षा करें और पुनः प्रयास करें।concurrency: एक साथ बहुत सारे अनुरोध। याद रखें कि एक स्ट्रीम किए गए अनुरोध में अपना स्लॉट स्ट्रीम समाप्त होने तक बना रहता है, इसलिए एक UI जो एक साथ कई स्ट्रीम खोलता है, उन्हें जल्दी खत्म कर देता है।- एक
Retry-After: 5हेडर के साथ 429 का अर्थ अस्थायी ओवरलोड है। पाँच सेकंड प्रतीक्षा करें, फिर पुनः प्रयास करें।
बैकऑफ़ के साथ एक छोटा पुनः प्रयास लूप अधिकांश ऐप्स के लिए पर्याप्त है। विफल या अस्वीकृत अनुरोधों के लिए शुल्क नहीं लगाया जाता है। जब आपका ट्रायल समाप्त हो जाता है या आपका बैलेंस कम हो जाता है, तो आप क्रिप्टो (TRC20 पर USDT या Base पर USDC) से $20 से $500 तक किसी भी पूर्ण राशि को टॉप-अप कर सकते हैं; बोनस के लिए मूल्य निर्धारण पृष्ठ देखें।
एक पुनः प्रयास रैपर
यहाँ एक छोटा रैपर है जो 429 पर पुनः प्रयास करता है, Retry-After हेडर का उपयोग करता है जब वह मौजूद हो और एक चरघातांकी विलंबता का उपयोग करता है जब वह नहीं होता है। यह SDK के अपवाद प्रकार का उपयोग करता है, इसलिए अन्य त्रुटियाँ अभी भी तुरंत प्रकट होती हैं।
import time
from openai import OpenAI, RateLimitError
client = OpenAI(
base_url="https://api.uncensoredllmonline.com/v1",
api_key="YOUR_KEY",
)
def ask(messages, tries=5):
delay = 2
for attempt in range(tries):
try:
return client.chat.completions.create(
model="uncensored",
messages=messages,
max_tokens=400,
)
except RateLimitError as err:
wait = err.response.headers.get("Retry-After")
time.sleep(int(wait) if wait else delay)
delay *= 2
raise RuntimeError("still rate limited after retries")
यदि आप अक्सर concurrency त्रुटियाँ देखते हैं, तो समाधान दुर्लभ ही एक लंबी विलंबता है। एक पूर्ण कुंजी के लिए समानांतर में चलाए जाने वाले कॉल्स की संख्या को 8 पर सीमित करें, या एक ट्रायल कुंजी पर 2, एक सेमाफोर या उस आकार के वर्कर पूल के साथ।
मॉडल से बेहतर परिणाम प्राप्त करना
एक मॉडल जो अस्वीकार नहीं करता है, उसे अभी भी स्पष्ट दिशा की आवश्यकता है। अधिकांश निराशाजनक आउटपुट मॉडल से नहीं, बल्कि अस्पष्ट प्रॉम्प्ट से आता है। ये आदतें कथा, रोलप्ले और वयस्कों के लिए कॉम्पैनियन-शैली की चैट में मदद करते हैं।
- सेटअप सिस्टम संदेश में डालें। सेटिंग, टोन, दृष्टिकोण और लंबाई बताएं। मॉडल सिस्टम संदेश का अनुपालन करते हैं, न कि बारहवें टर्न में दबी एक अनुरोध का।
- कैरेक्टर का वर्णन करें, केवल कार्य नहीं। आवाज़, आदतों और कैरेक्टर की इच्छा के बारे में कुछ पंक्तियाँ एक खाली नाम से अधिक सुसंगत संवाद उत्पन्न करती हैं।
- उदाहरणों का उपयोग करें। आपकी वांछित शैली में एक छोटा नमूना पैराग्राफ अक्सर विशेषणों के पृष्ठ से अधिक करता है।
- पुनरावृत्ति को नियंत्रित करें। यदि मॉडल लंबी सत्रों में एक ही वाक्यांशों पर लूप करता है, तो आवृत्ति या उपस्थिति पेनल्टी को थोड़ा बढ़ाएं, या तापमान को थोड़ा कम करें।
- जो आप चाहते हैं, एक बार में माँगें। यदि एक जवाब भटक जाता है, तो एक के ऊपर एक सुधार जोड़ने के बजाय, अपनी अंतिम संदेश को संपादित करें। आपका इतिहास हर भविष्य के प्रॉम्प्ट का हिस्सा है और हर बिल का हिस्सा है।
नाबालिगों से जुड़े सेक्सुअल कंटेंट के खिलाफ कठोर नियम हर प्रॉम्प्ट और हर कैरेक्टर पर लागू होता है, चाहे सिचुएशन को कैसे भी प्रस्तुत किया जाए। मॉडल को केवल कानूनी वयस्कों के उपयोग के लिए ट्यून्ड किया गया है।
अधिक गाइड
प्रश्न और उत्तर
शुरुआत करने के लिए क्या मुझे कुछ इंस्टॉल करना होगा?
केवल एक क्लाइंट। OpenAI Python या Node पैकेज, curl, या कोई भी चैट ऐप जो एक कस्टम OpenAI-संगत एंडपॉइंट स्वीकार करता है, वह काम करेगा। GPU या मॉडल डाउनलोड की आवश्यकता नहीं है।
मुझे कौन सा मॉडल ID उपयोग करना चाहिए?
मॉडल फ़ील्ड में uncensored का उपयोग करें। आप अपनी कुंजी के साथ GET /v1/models कॉल करके इसकी पुष्टि कर सकते हैं।
क्या स्ट्रीमिंग का सामान्य अनुरोध से अधिक खर्च आता है?
नहीं। आप प्रति-टोकन वही मूल्य देते हैं, 1M इनपुट के लिए $0.15 और 1M आउटपुट के लिए $0.50। एक स्ट्रीमिंग अनुरोध समाप्त होने तक एक समानांतर अनुरोध स्लॉट को बनाए रखता है।
क्या मेरे प्रॉम्प्ट ट्रेनिंग के लिए स्टोर किए जाते हैं?
नहीं। प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं।
क्या मैं इसका उपयोग इमेज या वॉइस के लिए कर सकता हूं?
नहीं। सेवा केवल पाठ के लिए है, जिसमें छवि, ऑडियो या वीडियो जनरेशन और एम्बेडिंग्स नहीं हैं।
आपकी कुंजी बस एक फॉर्म दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।