FR ▾
Obtenir une clé API

Meilleur LLM sans censure à exécuter localement en 2025 vs une API hébergée

Le meilleur LLM sans censure à exécuter localement en 2025 est le plus volumineux que votre mémoire puisse contenir à une vitesse décente. Cet article montre comment dimensionner ce choix, à quoi ressemble l'écosystème d'outils, et où une API hébergée est le chemin le plus simple.

Mis à jour le

Illustration isométrique d'une tour GPU locale reliée à un serveur cloud par un câble lumineux, comparant les LLM locaux et hébergés

Points clés

  1. La mémoire décide de tout : un modèle en 4 bits nécessite environ un demi-gigaoctet par milliard de paramètres, plus de la place pour le contexte.
  2. Ollama, LM Studio et llama.cpp exécutent tous des modèles locaux et la plupart exposent un endpoint de style OpenAI.
  3. Une API hébergée vous offre une grande fenêtre de contexte et pas de matériel, mais un seul modèle et pas d'affinage.
  4. Vous pouvez écrire un seul client qui bascule entre le local et l'hébergé en changeant l'URL de base.

Commencez avec le crédit d'essai

E-mail et mot de passe, la clé s'affiche tout de suite à l'écran.

Obtenir une clé API

Réponse courte : dimensionnez-le selon votre mémoire

Si vous cherchez le meilleur LLM sans censure à exécuter localement en 2025, il n'y a pas de vainqueur unique à nommer, et méfiez-vous des listes qui en affirment un. De nouveaux affînages apparaissent toutes les quelques semaines, les classements évoluent, et un modèle excellent pour le récit peut être médiocre pour le code. Une meilleure question est de savoir quel modèle convient à votre machine et à votre tâche.

Travaillez dans cet ordre. D'abord, trouvez combien de mémoire rapide vous avez : VRAM sur un GPU, ou mémoire unifiée sur un Mac Apple Silicon. Deuxièmement, choisissez la plus grande famille de modèles qui tient dans cette mémoire en quantification 4 bits avec de la place restante pour le contexte. Troisièmement, choisissez une variante sans censure de cette famille, c'est-à-dire un affinement ou une version modifiée entraînée à arrêter de refuser les demandes ordinaires et légales. Quatrièmement, testez-le sur vos propres prompts pendant une heure. Ce test vous en apprend plus que n'importe quel tableau de classement.

Ce que signifie « sans censure » pour un modèle à poids ouverts

Les modèles sont généralement entraînés en deux étapes. Un modèle de base apprend à partir d'un vaste corpus textuel, et une deuxième étape de réglage fin sur instructions lui apprend à suivre les demandes et à en refuser certaines. Une variante sans censure est produite en modifiant cette deuxième étape : affinement sur des données où les refus sont supprimés, ou modification des poids pour que le modèle cesse de produire un comportement de refus. Les membres de la communauté publient de nombreuses variantes de familles ouvertes populaires.

Deux choses découlent de cela. Sans censure ne signifie pas plus intelligent. Supprimer les refus coûte parfois un peu en qualité, et la taille et l'entraînement du modèle de base comptent beaucoup plus que l'étiquette. Et sans censure ne signifie pas sans règles. Le but est qu'un adulte puisse travailler sur de la fiction, du jeu de rôle ou de la recherche sans qu'un modèle ne lui fasse la leçon, et non que tout est permis. Tout ce qui implique du contenu sexuel avec des mineurs est strictement interdit, et un hébergeur ou un outil responsable le dira.

Règle pratique de mémoire

La quantification stocke chaque poids sur moins de bits. À 4 bits, un modèle prend environ un demi-gigaoctet par milliard de paramètres, et cela avant le cache de contexte, qui croît avec la longueur de votre conversation. Ce sont des chiffres de planification approximatifs, pas des garanties, car différents formats de quantification varient.

Taille du modèleMém. env. à 4 bitsMatériel typique
7 à 8 milliardsenviron 5 GoGPU 8 Go, ou un portable avec 16 Go de RAM
13 à 14 milliardsenviron 9 GoGPU 12 Go
32 à 34 milliardsenviron 20 GoGPU 24 Go, ou un Mac avec 32 Go ou plus
70Benviron 40 Godeux grands GPU, ou un Mac avec 64 Go ou plus

Le contexte est le coût caché. Un modèle qui tient dans un chat de 4 000 tokens peut manquer de mémoire lorsque vous lui donnez une histoire de 30 000 tokens. Les configurations locales limitent souvent le contexte bien en dessous de ce que le modèle supporte, et les contextes longs ralentissent également la génération. Si votre projet dépend de la mémorisation d'une longue conversation ou d'un gros document, gardez cela à l'esprit lorsque vous comparez avec une option hébergée avec une fenêtre de 100 000 tokens.

Outils pour exécuter des modèles sur votre propre machine

Vous n'avez pas besoin de compiler quoi que ce soit à la main pour commencer. Voici les choix courants.

  • Ollama. Un outil en ligne de commande qui télécharge et sert des modèles. Il expose un endpoint compatible OpenAI sur votre machine, ce qui permet de pointer facilement du code existant dessus.
  • LM Studio. Une application de bureau avec un navigateur de modèles, une fenêtre de chat et un mode serveur local. Bon choix si vous préférez une interface graphique.
  • llama.cpp. Le moteur C++ derrière la plupart de ces outils. Il vous donne le plus de contrôle sur la quantification, le déchargement des couches entre CPU et GPU, et la taille du contexte, au prix de plus de drapeaux à apprendre.
  • vLLM et serveurs similaires. Destinés aux serveurs GPU gérant plusieurs utilisateurs à la fois. Surdimensionné pour un bureau unique, utile si vous exécutez votre propre petit déploiement.

La plupart de ces outils peuvent charger des fichiers GGUF, un format courant pour les modèles quantifiés. Choisissez un niveau de quantification dans le nom du fichier : les nombres plus petits sont plus petits et plus rapides mais moins précis, et le 4 bits est le point de départ habituel.

Où une API hébergée s'insère, et où elle ne s'insère pas

Une API hébergée échange votre matériel contre celui de quelqu'un d'autre. Ce service propose un seul modèle à poids ouverts, exécuté par un fournisseur indépendant et affiné pour répondre sans refus de contenu pour une utilisation légale pour adultes. Ce n'est pas l'API officielle d'aucun vendeur de modèle, et ce n'est pas un routeur qui vous permet de choisir parmi plusieurs modèles.

Raisons de choisir l'hébergement

  • Pas de GPU à acheter, refroidir ou mettre à jour. Vous envoyez une requête et recevez des tokens en retour.
  • Une fenêtre de contexte de 100 000 tokens, prompt et complétion combinés, sans devoir dimensionner la mémoire pour cela.
  • Streaming, appel de fonctions et mode JSON via l'interface OpenAI standard, afin que les SDK et clients existants fonctionnent après avoir changé l'URL de base et la clé.
  • Tarification paiement à l'usage : 0,15 $ par 1 M de tokens d'entrée et 0,50 $ par 1 M de tokens de sortie, à partir d'un crédit prépayé qui n'expire jamais.
  • Les prompts ne sont pas utilisés pour l'entraînement.

Raisons de rester en local

  • Vous voulez les poids sur disque. Une API hébergée ne vous les donnera jamais.
  • Vous devez travailler hors ligne, ou vos données ne peuvent pas quitter la machine en aucun cas.
  • Vous souhaitez choisir parmi plusieurs modèles ou exécuter votre propre fine-tuning. Cette API propose un seul modèle, en texte uniquement, et ne propose pas de fine-tuning.
  • Vous possédez déjà le matériel adapté et votre volume est suffisamment élevé pour que le coût marginal d'un token local soit proche de zéro.

Coût : électricité et matériel contre tokens

Le local n'est pas gratuit une fois que vous comptez la machine. Une méthode simple pour comparer est de vous demander combien de tokens vous devez générer avant qu'une possession de GPU soit plus rentable que le paiement par token.

Du côté hébergé, les calculs sont simples. Une session de jeu de rôle de 50 tours avec 2 000 tokens d’entrée et 400 tokens de sortie par tour utilise 100 000 tokens d’entrée et 20 000 tokens de sortie. Le coût d’entrée est de 0,1 x 0,15 $ = 0,015 $. Le coût de sortie est de 0,02 x 0,50 $ = 0,01 $. La session entière coûte 0,025 $, soit deux cents et demi.

À ce tarif, 20 $ de crédit financent 800 sessions de ce type. Un GPU capable d’exécuter un modèle de 32B coûte bien plus cher que 20 $, donc le point d’équilibre dépend entièrement de votre niveau d’utilisation. Pour un usage occasionnel, l’hébergement l’emporte généralement. Pour quelqu’un qui génère du texte toute la journée, tous les jours, le matériel local peut s’amortir, et pour eux, le local est la meilleure solution. Pour la part électricité, multipliez la puissance de votre GPU par les heures d’utilisation et votre tarif local ; nous n’en indiquons pas ici car il varie considérablement.

La page tarification liste les montants de rechargement et les bonus actuels, qui vont de +5 % à 50 $ à +15 % à 200 $.

Un seul client pour les deux : changez avec l'URL de base

Vous n'avez pas à choisir un côté définitivement. Ollama et cette API parlant tous deux le format de chat OpenAI, un seul script peut utiliser l'un ou l'autre. Définissez trois variables d'environnement et votre code ne change pas.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.uncensoredllmonline.com/v1"),
    api_key=os.getenv("LLM_API_KEY", "YOUR_KEY"),
)
model = os.getenv("LLM_MODEL", "uncensored")

resp = client.chat.completions.create(
    model=model,
    messages=[{"role": "user", "content": "Write the opening paragraph of a gothic mystery."}],
)
print(resp.choices[0].message.content)

Pour tester contre un serveur local, définissez LLM_BASE_URL sur l’adresse que votre serveur affiche (Ollama utilise par défaut http://localhost:11434/v1), définissez LLM_MODEL sur le nom du modèle que vous avez récupéré, et utilisez n’importe quelle valeur pour la clé. Si vous les effacez, le script se connecte à l’API hébergée avec l’ID de modèle uncensored.

Cette méthode vous permet de prototyper contre un modèle local de 8 milliards de paramètres gratuitement, puis de comparer les sorties avec le modèle hébergé sur les mêmes prompts. Le démarrage rapide contient la liste complète des paramètres pris en charge, et un nouveau compte peut obtenir un crédit d’essai de 0,50 $ sur la page des clés API pour effectuer cette comparaison sans payer.

Questions et réponses

Quel est le meilleur LLM sans censure pour 8 Go de VRAM ?

Un ajustement sans censure d’une famille de modèles de 7 à 8 milliards de paramètres en quantification 4 bits est le choix habituel. Essayez deux ou trois variantes sur vos propres prompts, car la qualité varie entre les ajustements plus que ne le suggère l’étiquette de taille.

Un modèle local sans censure est-il privé ?

Le prompt reste sur votre machine pendant que vous l'exécutez localement, tant que l'outil que vous utilisez n'envoie pas de télémétrie. Vérifiez les paramètres de l'exécuteur spécifique que vous installez.

Puis-je exécuter le modèle derrière cette API localement ?

Non. L'API sert un modèle via un endpoint hébergé et ne distribue pas les poids. Si vous avez besoin de fichiers sur disque, utilisez un modèle à poids ouverts depuis un dépôt public.

Un modèle hébergé a-t-il besoin d'un grand cache de contexte comme un modèle local ?

Cela est géré du côté du fournisseur. Vous bénéficiez d'une fenêtre de contexte de 100 000 tokens couvrant le prompt et la complétion ensemble, et vous ne payez que pour les tokens que vous envoyez et recevez.

Sans censure est-il la même chose qu'illégal ?

Non. Il s’agit d’un modèle ajusté pour ne pas refuser les requêtes légales des adultes. Le contenu impliquant des mineurs n’est jamais autorisé sur ce service.

Votre clé est à un formulaire de vous

Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.

Obtenir une clé APILire la documentation