HI ▾
API कुंजी पाएँ

क्या कोई मुफ़्‍त LLM है? मुफ़्त विकल्प बनाम भुगतान API

मुफ़्‍त भाषा मॉडल मौजूद हैं, लेकिन मुफ़्‍त का मतलब अक्सर बिना लागत नहीं होता: आपको हार्डवेयर, सेटअप समय, रेट लिमिट या दोनों के साथ भुगतान करना पड़ता है। यहाँ विकल्पों की तुलना और एक भुगतान API की वास्तविक लागत प्रत्येक अनुरोध पर क्या है, यह बताया गया है।

अपडेट किया गया

एक टर्मिनल के बगल में आइसोमेट्रिक पिगी बैंक और सिक्के, मुफ़्‍त बनाम भुगतान LLM एक्सेस की लागत को दर्शाते हुए

मुख्य बिंदु

  1. ओपन-वेट मॉडल डाउनलोड करने के लिए मुफ़्‍त हैं, लेकिन उन्हें चलाने के लिए GPU या बहुत धैर्य की आवश्यकता होती है।
  2. मुफ़्‍त होस्टेड टियर आमतौर पर कड़े रेट लिमिट और कंटेंट फ़िल्टर्स के साथ आते हैं, इसलिए उनकी वर्तमान शर्तों की जाँच करें।
  3. इस API में कोई मुफ़्‍त टियर नहीं है, लेकिन नए उपयोगकर्ता बिना कार्ड के $0.50 का ट्रायल क्रेडिट दावा कर सकते हैं।
  4. $0.15 और $0.50 प्रति 1M टोकन पर, एक सामान्य चैट उत्तर की लागत एक सेंट का अंश होती है।

ट्रायल क्रेडिट से शुरू करें

ईमेल और पासवर्ड, कुंजी तुरंत स्क्रीन पर।

API कुंजी पाएँ

संक्षिप्त उत्तर

क्या कोई मुफ़्त LLM है? हाँ। आप ओपन-वेट मॉडल डाउनलोड कर सकते हैं और उन्हें अपनी मशीन पर चला सकते हैं, और कुछ होस्टेड सेवाएँ उपयोग की एक सीमित मात्रा मुफ़्त देती हैं। जो हर दृष्टि से मुफ़्त हो, ऐसा कोई LLM नहीं है। किसी को GPUs के लिए भुगतान करना पड़ता है, और यदि आप नकद में भुगतान नहीं करते, तो आप हार्डवेयर, प्रतीक्षा समय या प्रतिबंधों के रूप में भुगतान करते हैं।

यह साइट API के माध्यम से टेक्स्ट जनरेशन बेचती है, इसलिए इसका इस उत्तर से हित है, और हम स्पष्ट रूप से कहेंगे: हमारे पास कोई फ्री टियर नहीं है। हम जो प्रदान करते हैं वह नए उपयोगकर्ताओं के लिए $0.50 की एक बार की ट्रायल है, साइन-अप के बाद एक क्लिक के साथ दावा किया जाता है, कार्ड की आवश्यकता नहीं है। इसके बाद आप प्रीपेड क्रेडिट से टोकन के लिए भुगतान करते हैं। इस आलेख का शेष भाग आपको यह निर्णय लेने में मदद करता है कि क्या मुफ़्त विकल्प आपके प्रोजेक्ट के लिए पर्याप्त हैं या क्या कुछ सेंट का पे-एज़-यू-गो अधिक समझदारी भरा है।

मुफ़्त के तीन प्रकार

जब लोग पूछते हैं कि क्या कोई मुफ़्त LLM है, तो वे आमतौर पर तीन अलग-अलग बातों में से किसी एक का मतलब निकालते हैं। एक बार जब आप उन पर कुछ बनाने की कोशिश करते हैं, तो वे बहुत अलग व्यवहार करते हैं।

1. ओपन वेट जिसे आप स्वयं चलाते हैं

कई मॉडल डाउनलोड करने योग्य फ़ाइलों के रूप में प्रकाशित किए जाते हैं। आप Ollama, LM Studio या llama.cpp जैसे रनर इंस्टॉल करते हैं, एक मॉडल खींचते हैं और ऑफ़लाइन उससे चैट करते हैं। सॉफ़्टवेयर मुफ़्त है और कुछ भी आपकी मशीन से बाहर नहीं जाता। मुख्य बात मेमोरी है। 7 से 8 अरब पैरामीटर का एक छोटा मॉडल, 4 बिट्स में क्वांटाइज़ किया गया, लगभग 5 GB VRAM या RAM में फ़िट हो जाता है। बड़े मॉडलों को बहुत अधिक की आवश्यकता होती है, और वे जो बड़े होस्टेड सिस्टम के करीब लगते हैं, उन्हें एक गंभीर GPU या कई की आवश्यकता होती है।

2. होस्टेड सेवाओं के फ्री टियर

कुछ प्रदाता आपको बिना भुगतान किए प्रति दिन या माह सीमित संख्या में अनुरोध भेजने देते हैं। ये टियर एक प्रोटोटाइप या वीकेंड स्क्रिप्ट के लिए उपयोगी हैं। इनमें आमतौर पर कम रेट लिमिट, छोटी कॉन्टेक्स्ट विंडो, और प्रदाता के अपने कंटेंट नियम होते हैं। शर्तें अक्सर बदलती रहती हैं, इसलिए उनके आसपास योजना बनाने से पहले प्रत्येक प्रदाता की वर्तमान कीमतें और सीमाओं की जाँच करें।

3. मुफ़्त ट्रायल

एक ट्रायल क्रेडिट की एक छोटी मात्रा है जिसका उद्देश्य असली उत्पाद का परीक्षण करने में आपकी मदद करना है। यह प्रोडक्शन ट्रैफ़िक चलाने का तरीका नहीं है। हमारा $0.50 है, 7 दिनों के लिए मान्य, प्रति व्यक्ति एक। यह बहुत छोटा लगता है, और अगला अनुभाग दिखाता है कि यह फिर भी आपकी उम्मीद से कहीं आगे तक जाता है।

मुफ़्त आपको अन्य तरीकों से क्या खर्च कराता है

मुफ़्त मॉडल संचालित करने के लिए मुफ़्त नहीं हैं। प्रतिबद्ध होने से पहले, उस कीमत को लिखें जिसे आपको वास्तव में प्रत्येक मुद्रा में भुगतान करना पड़ेगा जो डॉलर नहीं है।

  • हार्डवेयर। एक लैपटॉप बिना समर्पित GPU के छोटे मॉडल चला सकता है, धीमी गति से। प्रति सेकंड कुछ टोकन पर उत्तर प्रयोगों के लिए ठीक हैं और किसी भी इंटरैक्टिव चीज़ के लिए थकाऊ हैं। यदि आप एक बड़े मॉडल चाहते हैं, तो आप एक GPU खरीदने या किराए पर लेने की बात कर रहे हैं, जो वास्तविक पैसे में है।
  • सेटअप और रखरखाव। एक क्वांटीज़ेशन चुनना, एक चैट टेम्पलेट को मिलाना, कॉन्टेक्स्ट विंडो को ट्यून करना और रनर को अपडेट रखना, इन सभी में घंटों लग सकते हैं। यदि आप इसे पसंद करते हैं तो यह ठीक है, लेकिन यदि आपको केवल एक एंडपॉइंट से टेक्स्ट चाहिए तो यह एक खराब सौदा है।
  • रेट लिमिट। मुफ़्त होस्टेड टियर प्रति मिनट या प्रति दिन अनुरोधों पर सीमा लगाते हैं। एक लूप जो हज़ार दस्तावेज़ों को प्रोसेस करता है, वह शीघ्र ही सीमा तक पहुँच जाएगा।
  • अस्वीकार। अधिकांश प्रमुख होस्टेड मॉडल अनुरोधों की एक व्यापक श्रृंखला को अस्वीकार कर देते हैं, जिसमें पर्याप्त सामान्य फिक्शन और रोलप्ले शामिल हैं। ऐसे प्रदाता से एक मुफ़्त टियर इस तथ्य को नहीं बदलता। यदि आपको एक ऐसा मॉडल चाहिए जो कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर दे, तो आपके मुफ़्त विकल्प स्थानीय बिना सेंसर मॉडलों तक सीमित हो जाते हैं जिन्हें आप स्वयं चलाते हैं।
  • डेटा। एक स्थानीय मॉडल के साथ आपके प्रॉम्प्ट आपके कंप्यूटर पर ही रहते हैं। एक मुफ़्त होस्टेड टियर के साथ, शर्तों को पढ़ें: कुछ प्रदाता अपने उत्पादों को बेहतर बनाने के लिए प्रॉम्प्ट का उपयोग करते हैं। हमारे API को भेजे गए प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं।

$0.50 ट्रायल क्या खरीदता है

API इनपुट टोकन के प्रति 1M के लिए $0.15 और आउटपुट टोकन के प्रति 1M के लिए $0.50 चार्ज करती है। इसे कुछ दृश्यमान बनाने के लिए, एक छोटा अनुरोध लें: 1,000 टोकन इनपुट और 500 टोकन आउटपुट। इनपुट लागत 1,000 / 1,000,000 x $0.15 = $0.00015 है। आउटपुट लागत 500 / 1,000,000 x $0.50 = $0.00025 है। अनुरोध की कुल लागत $0.0004 है।

$0.50 की ट्रायल क्रेडिट को $0.0004 से विभाजित करने पर 1,250 उसी आकार के अनुरोध आते हैं। यह एक क्लाइंट को वायर करने, अपने प्रॉम्प्ट्स का परीक्षण करने, स्ट्रीमिंग और फ़ंक्शन कॉलिंग की जाँच करने, और यह निर्णय लेने के लिए पर्याप्त है कि क्या मॉडल का आउटपुट आपके उपयोग के लिए उपयुक्त है। ट्रायल कुंजी की सीमाएँ पूर्ण कुंजी की तुलना में कम हैं (2 समानांतर अनुरोध और प्रति मिनट 60 अनुरोध), जो हैंड से टेस्टिंग के लिए पर्याप्त हैं।

Google या ईमेल और पासवर्ड से साइन इन करने के बाद आप API कुंजी पृष्ठ से क्रेडिट प्राप्त करें। यह 7 दिनों के लिए मान्य है और व्यक्ति प्रति एक ट्रायल है। यदि कोई अनुरोध विफल हो जाता है या अस्वीकार कर दिया जाता है, तो उस पर चार्ज नहीं किया जाता है।

वास्तविक वर्कलोड का खर्च पेड प्लान पर

ट्रायल के बाद, आप $20 से $500 तक कोई भी पूर्ण राशि टॉप-अप करते हैं। क्रेडिट कभी एक्सपायर नहीं होता और कोई सब्सक्रिप्शन नहीं है, इसलिए एक शांत महीने का खर्च कुछ नहीं होता। यहाँ ऊपर दी गई कीमतों की गणना से चार वर्कलोड के लिए $20 क्या कवर करता है, दिया गया है।

वर्कलोडइनपुट / आउटपुट टोकनप्रति अनुरोध लागत$20 प्रति अनुरोध
छोटी चैट प्रतिक्रिया1,000 / 500$0.000450,000
लंबी हिस्ट्री के साथ चैट3,000 / 700$0.000825,000
एक आर्टिकल का सारांश8,000 / 400$0.0014लगभग 14,285
पूरे 100,000-टोकन विंडो को भरना100,000 / 1,000$0.0155लगभग 1,290

एक पंक्ति को हाथ से चेक करें। आर्टिकल सारांश के लिए: 8,000 इनपुट टोकन का खर्च $0.0012 है और 400 आउटपुट टोकन का खर्च $0.0002 है, इसलिए $0.0014। $20 को $0.0014 से विभाजित करने पर लगभग 14,285 अनुरोध मिलते हैं।

आउटपुट टोकन इनपुट टोकन से तीन गुना से अधिक महंगे हैं, इसलिए बिल कम करने का सबसे सस्ता तरीका छोटे उत्तर माँगना या max_tokens सेट करना है। लंबे प्रॉम्प्ट सस्ते हैं। 10 लाख इनपुट टोकन की प्रोसेसिंग $0.15 की लागत आती है, और दोनों तरफ एक-एक मिलियन टोकन की लागत $0.65 है।

बड़े टॉप-अप में बोनस शामिल है: $50 से +5%, $100 से +10% और $200 से +15%. उदाहरण के लिए, $100 का टॉप-अप $110 का क्रेडिट देता है। मूल्य निर्धारण पृष्ठ विवरण सूचीबद्ध करता है।

जब मुफ़्त बेहतर विकल्प है

एक भुगतान योग्य API हमेशा सही विकल्प नहीं है। मुफ़्त विकल्प चुनें जब:

  • आपके पास पहले से ही एक GPU है और आपका कार्यभार छोटा, निजी या आवश्यकता के अनुसार ऑफ़लाइन है।
  • आप यह सीख रहे हैं कि मॉडल कैसे काम करते हैं और परिमाणीकरण, प्रॉम्प्ट और सैंपलिंग के साथ प्रयोग करना चाहते हैं, बिना किसी बिलिंग के लूप के।
  • आपकी मात्रा सप्ताह में कुछ अनुरोध हैं और एक प्रदाता का मुफ़्त स्तर इसे कवर करता है।

एक भुगतान योग्य API चुनें जब:

  • आपको संवादात्मक गति पर उत्तर चाहिए बिना हार्डवेयर मालिक हुए।
  • आपको 100,000-टोकन संदर्भ विंडो चाहिए बिना इसके लिए मेमोरी खरीदे।
  • आपका ऐप अन्य लोगों को सर्व करता है, इसलिए आपको भविष्यवाणी योग्य सीमाओं की आवश्यकता है: एक पूर्ण कुंजी 8 समवर्ती (एक साथ) अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है।
  • आपको एक ऐसे मॉडल की आवश्यकता है जो कानूनी वयस्क उपयोग के लिए सामग्री अस्वीकृति के बिना उत्तर दे, और आप उसे होस्ट नहीं करना चाहते। असीमित LLM एक्सेस पेज बताता है कि यह सेवा इसे कैसे संभालती है।

हमारी ओर से एक कड़ा नियम लागू होता है: नाबालिगों से जुड़ा यौन सामग्री कभी अनुमत नहीं है। वह लिमिट प्राइस टियर के साथ बदलता नहीं है।

इसे कुछ पंक्तियों में आज़माएँ

API OpenAI-संगत है, इसलिए बेस URL और कुंजी बदलने के बाद कोई भी OpenAI SDK काम करता है। यह Python उदाहरण एक अनुरोध भेजता है और उत्तर और टोकन उपयोग को प्रिंट करता है ताकि आप ऊपर की अंकगणित को अपने स्वयं के नंबरों से जांच सकें।

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three plot hooks for a heist story."}],
    max_tokens=300,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

curl के साथ वही कॉल:

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

प्रत्येक प्रतिक्रिया में X-Balance-USD हेडर होता है, ताकि आप शेष क्रेडिट के वास्तविक मान को कम होते हुए देख सकें। क्विकस्टार्ट में स्ट्रीमिंग, फ़ंक्शन कॉलिंग और JSON मोड शामिल हैं।

प्रश्न और उत्तर

क्या कोई पूरी तरह से मुफ़्त LLM है जिसकी कोई सीमा नहीं है?

केवल यदि आप अपनी खुद की हार्डवेयर पर एक ओपन-वेट मॉडल चलाते हैं, और तब आप बिजली, GPU मेमोरी और सेटअप समय में भुगतान करते हैं। होस्टेड मुफ़्त स्तरों में हमेशा रेट, कॉन्टेक्स्ट विंडो या उपयोग पर सीमाएं होती हैं।

क्या इस API का कोई मुफ़्त स्तर है?

नहीं। नए उपयोगकर्ता API कुंजी पृष्ठ पर एक क्लिक के साथ एक बार का $0.50 ट्रायल क्रेडिट दावा कर सकते हैं। इसके लिए कार्ड की आवश्यकता नहीं है, यह 7 दिनों तक चलता है और एक व्यक्ति के लिए एक बार तक सीमित है।

$0.50 का मुफ़्त ट्रायल क्रेडिट कितने काम आता है?

1,000 इनपुट टोकन और 500 आउटपुट टोकन वाले अनुरोधों के लिए, यह लगभग 1,250 अनुरोधों को कवर करता है। बड़े प्रॉम्प्ट इसे तेज़ी से खत्म करते हैं, उदाहरण के लिए, 8,000 टोकन इनपुट और 400 आउटपुट वाले एक अनुरोध की लागत $0.0014 होती है, जिससे लगभग 357 अनुरोध मिलते हैं।

ट्रायल के बाद मैं न्यूनतम कितना खर्च कर सकता हूँ?

$20 का टॉप-अप, $500 तक किसी भी पूर्ण राशि में। क्रेडिट कभी नहीं खत्म होता और कोई सब्सक्रिप्शन नहीं है।

क्या विफल अनुरोधों के लिए चार्ज किया जाता है?

नहीं। विफल या अस्वीकृत अनुरोधों के लिए आपके बैलेंस से चार्ज नहीं किया जाता है।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी प्राप्त करेंदस्तावेज़ीकरण पढ़ें