Miglior LLM senza censura per uso locale nel 2025 vs API ospitata
Il miglior LLM senza censura da eseguire localmente nel 2025 è il più grande che la tua memoria può gestire a una velocità decente. Questo articolo mostra come dimensionare questa scelta, come appare l'ecosistema di strumenti e dove un'API ospitata è la strada più semplice.

Punti chiave
- La memoria decide tutto: un modello a 4 bit richiede circa mezzo gigabyte per miliardo di parametri, più spazio per il contesto.
- Ollama, LM Studio e llama.cpp eseguono tutti modelli locali e la maggior parte espone un endpoint in stile OpenAI.
- Un'API ospitata ti offre una grande finestra di contesto e nessuna hardware, ma solo un modello e nessuna possibilità di fine-tune.
- Puoi scrivere un unico client che passa da locale a ospitato modificando l'URL di base.
Inizia con il credito di prova
E-mail e password, la chiave compare subito sullo schermo.
Ottieni la chiave APIRisposta breve: dimensionalo alla tua memoria
Se cerchi il miglior LLM senza censura da eseguire in locale nel 2025, non c'è un vincitore unico da nominare; diffida delle liste che lo affermano. Nuovi fine-tune escono ogni poche settimane, le classifiche cambiano e un modello eccellente per la narrativa può essere mediocre per il codice. Una domanda migliore è: quale modello si adatta alla tua macchina e al tuo compito.
Lavora in questo ordine. Primo, scopri quanta memoria veloce hai: VRAM su una GPU o memoria unificata su un Mac Apple Silicon. Secondo, scegli la famiglia di modelli più grande che entra in quella memoria con quantizzazione a 4-bit lasciando spazio per il contesto. Terzo, scegli una variante senza censura di quella famiglia, ovvero un fine-tune o una versione modificata addestrata a smettere di rifiutare richieste ordinarie e legali. Quarto, testalo con i tuoi prompt per un'ora. Questo test ti dice più di qualsiasi classifica.
Cosa significa "senza censura" per un modello a pesi aperti
I modelli sono solitamente addestrati in due fasi. Un modello base impara da un enorme corpus di testo e una seconda fase di instruction tuning gli insegna a seguire le richieste e a rifiutarne alcune. Una variante senza censura si ottiene modificando quella seconda fase: fine-tuning su dati con i rifiuti rimossi o modifica dei pesi in modo che il modello smetta di produrre comportamenti di rifiuto. I membri della community pubblicano molte di queste varianti di famiglie aperte popolari.
Due cose derivano da questo. Senza censura non significa più intelligente. Rimuovere i rifiuti a volte costa un po' di qualità e le dimensioni e l'addestramento del modello base contano molto più dell'etichetta. E senza censura non significa anarchico. Il punto è che un adulto può lavorare su narrativa, roleplay o ricerca senza che un modello lo sgridi, non che vada bene tutto. Tutto ciò che coinvolge contenuti sessuali con minorenni è escluso e un provider o strumento responsabile lo dirà.
Regola pratica sulla memoria
La quantizzazione memorizza ogni peso in meno bit. A 4 bit, un modello occupa circa mezzo gigabyte per miliardo di parametri, e questo prima della cache di contesto, che cresce con la lunghezza della tua conversazione. Questi sono numeri approssimativi di pianificazione, non garanzie, poiché diversi formati di quantizzazione variano.
| Dimensioni del modello | Memoria appross. a 4-bit | Hardware tipico |
|---|---|---|
| 7-8B | circa 5 GB | GPU 8 GB, o un laptop con 16 GB di RAM |
| 13-14B | circa 9 GB | GPU 12 GB |
| 32-34B | circa 20 GB | GPU 24 GB, o un Mac con 32 GB o più |
| 70B | circa 40 GB | due GPU grandi, o un Mac con 64 GB o più |
Il contesto è il costo nascosto. Un modello che si adatta a una chat da 4.000 token potrebbe rimanere senza memoria quando gli dai una storia da 30.000 token. Le configurazioni locali spesso limitano il contesto ben al di sotto di ciò che il modello supporta e i contesti lunghi rallentano anche la generazione. Se il tuo progetto dipende dal ricordare una lunga conversazione o un documento grande, tienine conto quando lo confronti con un'opzione ospitata con una finestra da 100.000 token.
Strumenti per eseguire modelli sulla tua macchina
Non hai bisogno di compilare nulla a mano per iniziare. Queste sono le scelte comuni.
- Ollama. Uno strumento da riga di comando che scarica e serve modelli. Espone un endpoint compatibile con OpenAI sulla tua macchina, il che rende facile puntare il codice esistente ad esso.
- LM Studio. Un'app desktop con browser di modelli, finestra di chat e modalità server locale. Utile se preferisci un'interfaccia grafica.
- llama.cpp. Il motore C++ alla base di molti di questi strumenti. Ti dà il massimo controllo su quantizzazione, offloading dei layer tra CPU e GPU e dimensione del contesto, al prezzo di più flag da imparare.
- vLLM e server simili. Rivolti a server GPU che gestiscono diversi utenti contemporaneamente. Eccessivo per un singolo desktop, utile se esegui il tuo piccolo deployment.
La maggior parte di questi può caricare file GGUF, un formato comune per i modelli quantizzati. Scegli un livello di quantizzazione dal nome del file: numeri più bassi sono più piccoli e veloci ma meno accurati, e 4-bit è il punto di partenza usuale.
Dove un'API ospitata si inserisce, e dove non lo fa
Un'API ospitata scambia la tua hardware con quella di qualcun altro. Questo servizio offre un modello a pesi aperti, eseguito da un provider indipendente e ottimizzato per rispondere senza rifiuti di contenuti per l'uso adulto legale. Non è l'API ufficiale di alcun vendor di modelli e non è un router che ti permette di scegliere tra modelli.
Motivi per scegliere l'ospitato
- Nessuna GPU da comprare, raffreddare o mantenere aggiornata. Invii una richiesta e ricevi token indietro.
- Una finestra di contesto da 100.000 token, prompt e completamento combinati, senza dimensionare la memoria per essa.
- Streaming, tool calling e modalità JSON tramite l'interfaccia OpenAI standard, quindi gli SDK e i client esistenti funzionano dopo aver cambiato il base URL e la chiave.
- Prezzi pay as you go: $0,15 per 1M di token di input e $0,50 per 1M di token di output, da credito prepagato che non scade mai.
- I prompt non vengono usati per l'addestramento.
Motivi per restare locale
- Vuoi i pesi su disco. Un'API ospitata non te li darà mai.
- Devi lavorare offline o i tuoi dati non possono lasciare la macchina sotto nessuna condizione.
- Vuoi scegliere tra molti modelli o eseguire il tuo fine-tuning. Questa API serve un solo modello, solo testo, e non offre fine-tuning.
- Hai già l'hardware adatto e il tuo volume è abbastanza alto da rendere il costo marginale di un token locale vicino allo zero.
Costo: elettricità e hardware contro i token
La soluzione locale non è gratuita una volta calcolata la macchina. Un modo semplice per confrontare è chiedersi quanti token dovresti generare prima che possedere una GPU superi il costo del pagamento per token.
Dal lato ospitato, l'aritmetica è semplice. Una sessione di roleplay di 50 turni con 2.000 token di input e 400 token di output per turno utilizza 100.000 token di input e 20.000 token di output. L'input costa 0,1 x $0,15 = $0,015. L'output costa 0,02 x $0,50 = $0,01. L'intera sessione costa $0,025, due centesimi e mezzo.
A quel tasso, $20 di credito pagano per 800 sessioni di questo tipo. Una GPU capace di eseguire un modello da 32B costa ben più di $20, quindi il punto di pareggio dipende interamente da quanto lo usi. Per un utente occasionale, hosted vince solitamente. Per chi genera testo tutto il giorno, ogni giorno, l'hardware locale si ripaga da solo, e per loro il locale è la risposta migliore. Per la parte elettrica, moltiplica il consumo della tua GPU per le ore usate e il tuo costo locale; non ne citiamo uno qui perché varia ampiamente.
La pagina dei prezzi elenca gli importi attuali di ricarica e i bonus, che vanno dal +5% a $50 al +15% a $200.
Un unico client per entrambi: cambia con l'URL di base
Non devi fare una scelta permanente. Poiché Ollama e questa API parlano entrambi il formato chat OpenAI, un singolo script può usarne uno o l'altro. Imposta tre variabili d'ambiente e il tuo codice non cambia.
import os
from openai import OpenAI
client = OpenAI(
base_url=os.getenv("LLM_BASE_URL", "https://api.uncensoredllmonline.com/v1"),
api_key=os.getenv("LLM_API_KEY", "YOUR_KEY"),
)
model = os.getenv("LLM_MODEL", "uncensored")
resp = client.chat.completions.create(
model=model,
messages=[{"role": "user", "content": "Write the opening paragraph of a gothic mystery."}],
)
print(resp.choices[0].message.content)
Per testare contro un runner locale, imposta LLM_BASE_URL all'indirizzo che il tuo runner stampa (Ollama usa http://localhost:11434/v1 di default), imposta LLM_MODEL al nome del modello che hai scaricato, e usa un segnaposto per la chiave. Non impostandoli, lo script parla all'API ospitata con l'ID modello uncensored.
Questo pattern ti permette di fare prototipi contro un modello locale da 8B gratis, poi di confrontare l'output contro il modello ospitato sugli stessi prompt. La quickstart ha l'elenco completo dei parametri supportati, e un nuovo account può richiedere un $0,50 di prova dalla pagina delle chiavi API per eseguire quel confronto senza pagare.
Altre guide
Domande e risposte
Qual è il miglior LLM senza censura per 8 GB di VRAM?
Un fine-tune senza censura di una famiglia da 7-8 miliardi di parametri a quantizzazione a 4-bit è la soluzione usuale. Prova due o tre varianti sui tuoi prompt, perché la qualità varia tra i fine-tune più di quanto suggerisca l'etichetta delle dimensioni.
Un modello locale senza censura è privato?
Il prompt rimane sulla tua macchina mentre lo esegui localmente, finché lo strumento che usi non invia telemetria. Controlla le impostazioni del runner specifico che installi.
Posso eseguire il modello dietro questa API localmente?
No. L'API serve un modello tramite un endpoint ospitato e non distribuisce i pesi. Se hai bisogno di file su disco, usa un modello a pesi aperti da un repository pubblico.
Un modello ospitato ha bisogno di una grande cache del contesto come uno locale?
Questo è gestito dal lato del provider. Hai una finestra di 100.000 token che copre prompt e completamento insieme, e paghi solo per i token che invii e ricevi.
Senza censura è la stessa cosa di illegale?
No. Descrive un modello sintonizzato per non rifiutare richieste legali da adulti. I contenuti che coinvolgono minorenni non sono mai permessi su questo servizio.
La tua chiave è a un modulo di distanza
Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.