IT ▾
Ottieni la chiave API

Esiste un LLM gratuito? Opzioni gratuite vs API a pagamento

Esistono modelli linguistici gratuiti, ma gratuito raramente significa senza costi: paghi con hardware, tempo di configurazione, limiti di velocità o entrambi. Ecco come si confrontano le opzioni e quanto costa davvero una API a pagamento per richiesta.

Aggiornato

Salvadanaio isometrico e monete accanto a un terminale, illustrazione del costo dell'accesso a LLM gratuiti rispetto a quelli a pagamento

Punti chiave

  1. I modelli a pesi aperti sono gratuiti da scaricare, ma eseguirli richiede una GPU o molta pazienza.
  2. I piani gratuiti ospitati di solito hanno limiti di velocità stretti e filtri sui contenuti, quindi controlla i termini attuali.
  3. Questa API non ha un piano gratuito, ma i nuovi utenti possono richiedere $0,50 di credito di prova senza carta.
  4. A $0,15 e $0,50 per 1M di token, una risposta di chat tipica costa una frazione di centesimo.

Inizia con il credito di prova

E-mail e password, la chiave compare subito sullo schermo.

Ottieni la chiave API

La risposta breve

Esiste un LLM gratuito? Sì. Puoi scaricare modelli a pesi aperti ed eseguirli sulla tua macchina, e alcuni servizi in hosting offrono una quantità limitata di utilizzo. Ciò che non esiste è un modello linguistico di grandi dimensioni che non abbia alcun costo in ogni aspetto. Qualcuno paga per le GPU, e se non lo fai tu in denaro, lo fai in hardware, tempo di attesa o restrizioni.

Questo sito vende generazione di testo tramite API, quindi abbiamo un interesse nella risposta, e la diremo chiaramente: non abbiamo un piano gratuito. Quello che offriamo è una prova una tantum di $0,50 per i nuovi utenti, richiesta con un clic dopo l'accesso, senza carta. Dopo di che paghi per token da credito prepagato. Il resto di questo articolo ti aiuta a decidere se le opzioni gratuite sono sufficienti per il tuo progetto o se pochi centesimi di pagamento a consumo hanno più senso.

Tre tipi di gratuito

Quando le persone chiedono se esiste un LLM gratuito, di solito intendono una di tre cose diverse. Si comportano in modo molto diverso quando provi a costruire qualcosa su di esse.

1. Pesi aperti che esegui tu

Molti modelli sono pubblicati come file scaricabili. Installi un runner come Ollama, LM Studio o llama.cpp, scarichi un modello e chatti con esso offline. Il software è gratuito e nulla lascia la tua macchina. Il problema è la memoria. Un modello piccolo di circa 7-8 miliardi di parametri, quantizzato a 4 bit, si adatta in circa 5 GB di VRAM o RAM. Modelli più grandi richiedono molto di più, e quelli che si avvicinano ai grandi sistemi ospitati richiedono una GPU seria o più GPU.

2. Piani gratuiti dei servizi ospitati

Alcuni provider ti permettono di inviare un numero limitato di richieste al giorno o al mese senza pagare. Questi piani sono utili per un prototipo o uno script del weekend. Tendono ad avere limiti di richieste bassi, finestre di contesto più piccole e le regole sui contenuti del provider. I termini cambiano spesso, quindi controlla i prezzi e i limiti attuali di ogni provider prima di pianificare in base a essi.

3. Prove gratuite

Una prova è una piccola quantità di credito pensata per farti testare il prodotto reale. Non è un modo per gestire traffico di produzione. La nostra è di $0,50, valida per 7 giorni, una per persona. Sembra poca cosa, e la sezione successiva mostra perché comunque arriva più lontano di quanto potresti immaginare.

Il costo del gratuito in altri modi

I modelli gratuiti non sono gratuiti da gestire. Prima di impegnarti, annota il prezzo che pagheresti effettivamente in ogni valuta che non sia il dollaro.

  • Hardware. Un laptop senza GPU dedicata può eseguire modelli piccoli, lentamente. Risposte a pochi token al secondo vanno bene per esperimenti ma sono stancanti per qualsiasi cosa interattiva. Se vuoi un modello più grande, devi pensare ad acquistare o noleggiare una GPU, che è denaro reale.
  • Configurazione e manutenzione. Scegliere una quantizzazione, abbinare un chat template, regolare la lunghezza del contesto e tenere aggiornato il runner richiedono ore. Va bene se ti piace, è un cattivo affare se ti serve solo testo da un endpoint.
  • Limiti di richieste. I piani gratuiti ospitati limitano le richieste al minuto o al giorno. Un loop che elabora mille documenti raggiungerà il limite presto.
  • Rifiuti. La maggior parte dei modelli ospitati mainstream rifiuta un'ampia gamma di richieste, inclusa molta narrativa e roleplay ordinaria. Un piano gratuito da tale provider non cambia questo fatto. Se ti serve un modello sintonizzato per rispondere senza rifiuti sui contenuti per uso adulto legale, le tue opzioni gratuite si restringono ai modelli locali senza censura che esegui tu.
  • Dati. Con un modello locale i tuoi prompt restano sul tuo computer. Con un piano gratuito ospitato, leggi i termini: alcuni provider usano i prompt per migliorare i loro prodotti. I prompt inviati alla nostra API non sono usati per l'addestramento.

Cosa ti offrono i $0,50 di prova

L'API carica $0,15 per 1M di token di input e $0,50 per 1M di token di output. Per trasformarlo in qualcosa che puoi visualizzare, prendi una richiesta piccola: 1.000 token in input e 500 token in output. L'input costa 1.000 / 1.000.000 x $0,15 = $0,00015. L'output costa 500 / 1.000.000 x $0,50 = $0,00025. La richiesta costa $0,0004 in totale.

Il credito di prova di $0,50 diviso per $0,0004 fa 1.250 richieste di quelle dimensioni. È abbastanza per collegare un client, testare i tuoi prompt, verificare lo streaming e la chiamata di funzioni, e decidere se l'output del modello si adatta al tuo uso. La chiave di prova ha limiti più bassi di una chiave completa (2 richieste parallele e 60 richieste al minuto), che è più che sufficiente per testare manualmente.

Richiedi il credito dalla pagina della chiave API dopo esserti registrato con Google o con email e password. Dura 7 giorni e c'è una prova per persona. Se una richiesta fallisce o viene rifiutata, non viene addebitata.

Il costo dei carichi di lavoro reali con un piano a pagamento

Dopo la prova, ricarichi qualsiasi importo intero da $20 a $500. Il credito non scade mai e non c'è abbonamento, quindi un mese tranquillo non costa nulla. Ecco cosa coprono $20 per quattro carichi di lavoro, calcolati dai prezzi sopra.

Carico di lavoroToken in / outCosto per richiestaRichieste per $20
Risposta breve alla chat1,000 / 500$0.000450,000
Chat con lunga cronologia3,000 / 700$0.000825,000
Riassumi un articolo8,000 / 400$0.0014circa 14.285
Riempi l'intera finestra di contesto da 100.000 token100,000 / 1,000$0.0155circa 1.290

Controlla una riga a mano. Per il riassunto dell'articolo: 8.000 token di input costano $0,0012 e 400 token di output costano $0,0002, quindi $0,0014. Dividendo $20 per $0,0014 si ottengono circa 14.285 richieste.

I token di output costano più di tre volte tanto quanto i token di input, quindi il modo più economico per ridurre il conto è chiedere risposte più corte o impostare max_tokens. I prompt lunghi sono relativamente economici. Elaborare un milione di token di input costa $0,15, e un milione di token in entrambe le direzioni costa $0,65.

Ricariche più grandi includono un bonus: +5% da $50, +10% da $100 e +15% da $200. Una ricarica di $100, ad esempio, dà $110 di credito. La pagina dei prezzi elenca i dettagli.

Quando il gratuito è la scelta migliore

Un'API a pagamento non è sempre la scelta giusta. Scegli un'opzione gratuita quando:

  • Hai già una GPU e il tuo carico di lavoro è piccolo, privato o offline per necessità.
  • Stai imparando come funzionano i modelli e vuoi sperimentare con quantizzazione, prompt e campionamento senza fatturazione in gioco.
  • Il tuo volume è un pugno di richieste a settimana e il piano gratuito di un provider lo copre.

Scegli un'API a pagamento quando:

  • Ti servono risposte a velocità conversazionale senza possedere hardware.
  • Vuoi una finestra di contesto da 100.000 token senza comprare memoria per essa.
  • La tua app serve altre persone, quindi ti servono limiti prevedibili: una chiave completa permette 8 richieste parallele e 300 richieste al minuto.
  • Ti serve un modello che risponda senza filtri sui contenuti per uso adulto legale, e non vuoi ospitarlo. La pagina su accesso LLM senza restrizioni spiega come questo servizio gestisce la cosa.

Una regola ferma vale per noi: i contenuti sessuali che coinvolgono minorenni non sono mai permessi. Questo limite non cambia con il livello di prezzo.

Provala in poche righe

L'API è compatibile con OpenAI, quindi qualsiasi SDK OpenAI funziona dopo aver modificato il base URL e la chiave. Questo esempio Python invia una richiesta e stampa la risposta e l'utilizzo dei token così puoi verificare i calcoli sopra con i tuoi numeri.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three plot hooks for a heist story."}],
    max_tokens=300,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

La stessa chiamata con curl:

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

Ogni risposta include un'intestazione X-Balance-USD, così puoi vedere il credito residuo diminuire in termini reali. La guida rapida copre lo streaming, la chiamata di funzioni e la modalità JSON.

Domande e risposte

Esiste un LLM completamente gratuito senza limiti?

Solo se esegui un modello a pesi aperti sul tuo hardware, e poi paghi in elettricità, memoria GPU e tempo di configurazione. I livelli gratuiti ospitati hanno sempre limiti di frequenza, contesto o utilizzo.

Questa API ha un livello gratuito?

No. Gli utenti nuovi possono richiedere un credito di prova gratuito una tantum di $0,50 con un clic nella pagina della chiave API. Non serve la carta, dura 7 giorni ed è limitato a uno per persona.

Fino a dove arriva il credito di prova da $0,50?

Per richieste con 1.000 token di input e 500 token di output, copre circa 1.250 richieste. Prompt più grandi lo consumano più velocemente, ad esempio una richiesta con 8.000 token in input e 400 in output costa $0.0014, che corrisponde a circa 357 richieste.

Qual è la spesa minima dopo il periodo di prova?

Una ricarica di $20, in qualsiasi importo intero fino a $500. Il credito non scade mai e non c'è abbonamento.

Le richieste fallite vengono addebitate?

No. Le richieste fallite o rifiutate non vengono addebitate sul tuo saldo.

La tua chiave è a un modulo di distanza

Crea un account, copia la chiave, modifica il base URL. È tutta qui la configurazione.

Ottieni chiave APILeggi i documenti