DE ▾
API-Schlüssel erhalten

Bestes unzensiertes LLM für lokalen Einsatz 2025 vs. gehostete API

Das beste unzensierte LLM für den lokalen Einsatz 2025 ist das größte, das dein Speicher bei akzeptabler Geschwindigkeit halten kann. Dieser Artikel zeigt, wie du diese Wahl dimensionierst, wie die Tools aussehen und wo eine gehostete API der einfachere Weg ist.

Aktualisiert

Isometrische Illustration eines lokalen GPU-Towers, der über ein leuchtendes Kabel mit einem Cloud-Server verbunden ist, zum Vergleich lokaler und gehosteter LLMs

Wichtige Punkte

  1. Speicher entscheidet über alles: Ein 4-Bit-Modell benötigt etwa ein halbes Gigabyte pro Milliardenparameter, plus Platz für den Kontext.
  2. Ollama, LM Studio und llama.cpp betreiben alle lokale Modelle, und die meisten bieten einen OpenAI-kompatiblen Endpunkt.
  3. Eine gehostete API bietet dir ein großes Kontextfenster und keine Hardware, aber nur ein Modell und keine Fine-Tunings.
  4. Du kannst einen Client schreiben, der zwischen lokaler und gehosteter Nutzung wechselt, indem du die Basis-URL änderst.

Starte mit Testguthaben

E-Mail und Passwort, der Schlüssel erscheint sofort auf dem Bildschirm.

API-Schlüssel erhalten

Kurze Antwort: Dimensioniere es nach deinem Speicher

Wenn du nach dem besten unzensierten LLM für den lokalen Einsatz im Jahr 2025 suchst, gibt es keinen einzelnen Gewinner, den man nennen könnte, und sei vorsichtig bei Listen, die einen behaupten. Alle paar Wochen erscheinen neue Fine-Tunes, die Rankings ändern sich, und ein Modell, das hervorragend für Storytelling ist, kann bei Code mittelmäßig sein. Eine bessere Frage ist, welches Modell zu deiner Maschine und deiner Aufgabe passt.

Arbeite in dieser Reihenfolge. Finde zuerst heraus, wie viel schnellen Speicher du hast: VRAM auf einer GPU oder Unified Memory auf einem Apple Silicon Mac. Wähle zweitens die größte Modellsammlung, die in diesen Speicher bei 4-Bit-Quantisierung mit verbleibendem Platz für den Kontext passt. Wähle drittens eine unzensierte Variante dieser Sammlung, also ein Fine-Tune oder eine modifizierte Version, die darauf trainiert wurde, das Ablehnen gewöhnlicher, rechtmäßiger Anfragen zu stoppen. Teste viertens eine Stunde lang mit deinen eigenen Prompts. Dieser Test sagt dir mehr aus als jedes Leaderboard.

Was „unzensiert“ für ein Open-Weight-Modell bedeutet

Modelle werden meist in zwei Phasen trainiert. Ein Basismodell lernt aus einem riesigen Textkorpus, und eine zweite Phase des Instruction Tunings lehrt es, Anfragen zu befolgen und einige davon abzulehnen. Eine unzensierte Variante entsteht durch Änderung dieser zweiten Phase: Fine-Tuning auf Daten, bei denen Ablehnungen entfernt wurden, oder Bearbeitung der Gewichte, sodass das Modell kein Ablehnungsverhalten mehr erzeugt. Community-Mitglieder veröffentlichen viele solcher Varianten beliebter offener Familien.

Daraus ergeben sich zwei Dinge. Unzensiert bedeutet nicht schlauer. Das Entfernen von Ablehnungen kostet manchmal etwas Qualität, und die Größe und das Training des Basismodells sind viel wichtiger als das Label. Und unzensiert bedeutet nicht gesetzlos. Der Punkt ist, dass ein Erwachsener an Fiktion, Rollenspiel oder Forschung arbeiten kann, ohne dass ihn ein Modell belehrt, nicht dass alles erlaubt ist. Alles, was sexuelle Inhalte mit Minderjährigen betrifft, ist ausnahmslos verboten, und ein verantwortungsvoller Anbieter oder Tool wird das sagen.

Speicher-Faustregel

Quantisierung speichert jedes Gewicht in weniger Bits. Bei 4 Bits nimmt ein Modell etwa ein halbes Gigabyte pro Milliardenparameter ein, und das ist noch vor dem Kontextcache, der mit der Länge deiner Konversation wächst. Dies sind grobe Planungsnummern, keine Garantien, da verschiedene Quantisierungsformate variieren.

ModellgrößeCa. Speicherbedarf bei 4-BitTypische Hardware
7 bis 8Bca. 5 GB8 GB GPU oder ein Laptop mit 16 GB RAM
13 bis 14Bca. 9 GB12 GB GPU
32 bis 34Bca. 20 GB24 GB GPU oder ein Mac mit 32 GB oder mehr
70Bca. 40 GBzwei große GPUs oder ein Mac mit 64 GB oder mehr

Kontext ist die versteckte Kostenstelle. Ein Modell, das bei einem 4.000-Token-Chat passt, kann den Speicher füllen, wenn du ihm eine 30.000-Token-Geschichte gibst. Lokale Setups begrenzen den Kontext oft deutlich unter dem, was das Modell unterstützt, und lange Kontexte verlangsamen auch die Generierung. Wenn dein Projekt davon abhängt, eine lange Konversation oder ein großes Dokument zu merken, beachte das beim Vergleich mit einer gehosteten Option mit einem 100.000-Token-Fenster.

Tools zum Ausführen von Modellen auf deiner eigenen Maschine

Du musst nichts von Hand kompilieren, um zu starten. Dies sind die gängigen Optionen.

  • Ollama. Ein Kommandozeilen-Tool, das Modelle herunterlädt und bereitstellt. Es bietet einen OpenAI-kompatiblen Endpunkt auf deiner Maschine, was es einfach macht, bestehenden Code darauf zu richten.
  • LM Studio. Eine Desktop-App mit Modellbrowser, Chat-Fenster und lokalem Servermodus. Gut, wenn du eine grafische Oberfläche bevorzugst.
  • llama.cpp. Die C++-Engine hinter vielen dieser Tools. Sie gibt dir die meiste Kontrolle über Quantisierung, das Verschieben von Layern zwischen CPU und GPU und die Kontextgröße, zum Preis von mehr Flags, die man lernen muss.
  • vLLM und ähnliche Server. Zielgruppe sind GPU-Server, die mehrere Benutzer gleichzeitig bedienen. Overkill für einen einzelnen Desktop, nützlich, wenn du eine eigene kleine Bereitstellung betreibst.

Die meisten davon können GGUF-Dateien laden, ein gängiges Format für quantisierte Modelle. Wähle eine Quantisierungsstufe aus dem Dateinamen: Niedrigere Zahlen sind kleiner und schneller, aber weniger genau, und 4-Bit ist der übliche Startpunkt.

Wo eine gehostete API passt, und wo sie nicht passt

Eine gehostete API tauscht deine Hardware gegen die eines anderen aus. Dieser Dienst bietet ein Open-Weight-Modell an, betrieben von einem unabhängigen Anbieter und darauf abgestimmt, ohne Inhaltsablehnungen für rechtmäßige Erwachsenennutzung zu antworten. Es ist nicht die offizielle API eines Modellherstellers und kein Router, der dir die Wahl zwischen Modellen ermöglicht.

Gründe für die Wahl von gehostet

  • Keine GPU zum Kaufen, Kühlen oder Aktualisieren. Du sendest eine Anfrage und erhältst Tokens zurück.
  • Ein 100.000-Token-Kontextfenster, Prompt und Completion zusammen, ohne den Speicher dafür dimensionieren zu müssen.
  • Streaming, Tool Calling und JSON-Modus über die Standard-OpenAI-Schnittstelle, sodass bestehende SDKs und Clients funktionieren, nachdem du die Base URL und den Schlüssel geändert hast.
  • Pay-as-you-go-Preisgestaltung: 0,15 $ pro 1M Input-Token und 0,50 $ pro 1M Output-Token, aus Prepaid-Guthaben, das nie verfällt.
  • Prompts werden nicht zum Training verwendet.

Gründe, lokal zu bleiben

  • Du willst die Gewichte auf der Festplatte. Eine gehostete API wird dir das niemals geben.
  • Du musst offline arbeiten, oder deine Daten dürfen unter keinen Umständen die Maschine verlassen.
  • Du möchtest zwischen vielen Modellen wählen oder ein eigenes Fine-Tuning durchführen. Diese API bedient ein einzelnes Modell, nur Text, und bietet kein Fine-Tuning.
  • Du verfügst bereits über passende Hardware und dein Volumen ist hoch genug, dass die Grenzkosten für ein Token lokal nahe bei null liegen.

Kosten: Strom und Hardware im Vergleich zu Tokens

Lokal ist nicht kostenlos, wenn man die Maschine einrechnet. Ein einfacher Vergleich ist die Frage, wie viele Tokens du generieren musst, bevor ein GPU-Kauf sich gegenüber dem Bezahlen pro Token lohnt.

Auf der Hosting-Seite ist die Rechnung einfach. Eine Roleplay-Sitzung mit 50 Durchgängen, 2.000 Input-Tokens und 400 Output-Tokens pro Durchgang verbraucht 100.000 Input- und 20.000 Output-Tokens. Input kostet 0,1 x 0,15 $ = 0,015 $. Output kostet 0,02 x 0,50 $ = 0,01 $. Die gesamte Sitzung kostet 0,025 $, also zweieinhalb Cent.

Zu dieser Rate reicht $20 Guthaben für 800 solcher Sitzungen. Eine GPU, die ein 32B-Modell ausführen kann, kostet weit mehr als $20, daher hängt der Break-even-Punkt ausschließlich davon ab, wie stark du ihn nutzt. Für gelegentliche Nutzer gewinnt die gehostete Lösung. Für jemanden, der den ganzen Tag über Text generiert, kann sich lokale Hardware amortisieren, und für ihn ist lokal die bessere Antwort. Für den Stromanteil multiplizierst du den Stromverbrauch deiner GPU mit den genutzten Stunden und deinem lokalen Tarif; wir geben keinen festen Wert an, da dieser stark variiert.

Die Preisseite listet aktuelle Aufladebeträge und Boni auf, die von +5 % bei $50 bis +15 % bei $200 reichen.

Ein Client für beides: Wechseln mit der Base URL

Du musst dich nicht dauerhaft für eine Seite entscheiden. Da Ollama und diese API beide das OpenAI-Chat-Format sprechen, kann ein einzelnes Skript entweder davon nutzen. Setze drei Umgebungsvariablen, und dein Code ändert sich nicht.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.uncensoredllmonline.com/v1"),
    api_key=os.getenv("LLM_API_KEY", "YOUR_KEY"),
)
model = os.getenv("LLM_MODEL", "uncensored")

resp = client.chat.completions.create(
    model=model,
    messages=[{"role": "user", "content": "Write the opening paragraph of a gothic mystery."}],
)
print(resp.choices[0].message.content)

Um gegen einen lokalen Runner zu testen, setze LLM_BASE_URL auf die Adresse, die dein Runner ausgibt (Ollama verwendet standardmäßig http://localhost:11434/v1), setze LLM_MODEL auf den Namen des Modells, das du heruntergeladen hast, und verwende einen beliebigen Platzhalter für den Schlüssel. Wenn du sie unsettest, spricht das Skript die gehostete API mit der Modell-ID uncensored an.

Dieses Muster ermöglicht es dir, ein lokales 8B-Modell kostenlos zu prototypen und dann die Ausgabe gegen das gehostete Modell mit denselben Prompts zu vergleichen. Die Schnellstartanleitung enthält die vollständige Liste der unterstützten Parameter, und ein neues Konto kann ein 7-Tage-Testguthaben von $0,50 auf der API-Schlüssel-Seite beanspruchen, um diesen Vergleich ohne Kosten durchzuführen.

Fragen und Antworten

Was ist das beste unzensierte LLM für 8 GB VRAM?

Ein unzensiertes Fine-Tuning einer Familie mit 7 bis 8 Milliarden Parametern bei 4-Bit-Quantisierung ist die übliche Wahl. Probiere zwei oder drei Varianten mit deinen eigenen Prompts aus, da die Qualität zwischen Fine-Tunes stärker variiert, als die Größenangabe vermuten lässt.

Ist ein lokales unzensiertes Modell privat?

Der Prompt bleibt auf deinem Rechner, während du ihn lokal ausführst, solange das von dir genutzte Tool keine Telemetrie sendet. Überprüfe die Einstellungen des spezifischen Programms, das du installierst.

Kann ich das Modell hinter dieser API lokal ausführen?

Nein. Die API bedient ein Modell über einen gehosteten Endpunkt und verteilt keine Gewichte. Wenn du Dateien auf der Festplatte benötigst, verwende ein Open-Weight-Modell aus einem öffentlichen Repository.

Braucht ein gehostetes Modell einen großen Kontext-Cache wie ein lokales?

Das wird auf Anbieterseite geregelt. Du erhältst ein 100.000-Token-Fenster, das Prompt und Completion zusammen abdeckt, und zahlst nur für die Tokens, die du sendest und empfängst.

Ist unzensiert dasselbe wie illegal?

Nein. Es beschreibt ein Modell, das darauf trainiert wurde, rechtmäßige Anfragen von Erwachsenen nicht abzulehnen. Inhalte, die Minderjährige betreffen, sind auf diesem Dienst nicht gestattet.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Basis-URL. Das ist die gesamte Einrichtung.

API-Schlüssel erhaltenLies die Dokumentation