PT ▾
Obter chave de API

Melhor LLM sem censura para rodar localmente em 2025 vs. API hospedada

O melhor LLM sem censura para rodar localmente em 2025 é o maior que sua memória pode suportar a uma velocidade decente. Este artigo mostra como dimensionar essa escolha, como é o ecossistema de ferramentas e onde uma API hospedada é o caminho mais fácil.

Atualizado

Ilustração isométrica de uma torre de GPU local conectada a um servidor na nuvem por um cabo brilhante, comparando LLMs locais e hospedados

Pontos principais

  1. A memória decide tudo: um modelo de 4 bits precisa de aproximadamente meio gigabyte por bilhão de parâmetros, mais espaço para o contexto.
  2. Ollama, LM Studio e llama.cpp executam modelos locais e a maioria expõe um endpoint estilo OpenAI.
  3. Uma API hospedada oferece uma grande janela de contexto e sem hardware, mas apenas um modelo e sem fine-tuning.
  4. Você pode escrever um único cliente que alterna entre local e hospedado alterando a URL base.

Comece com o crédito de teste

E-mail e senha; a chave aparece na hora na tela.

Obter chave de API

Resposta curta: dimensione de acordo com sua memória

Se você está procurando o melhor LLM sem censura para rodar localmente em 2025, não há um único vencedor a ser nomeado, e desconfie de listas que afirmam ter um. Novos fine-tunes aparecem a cada poucas semanas, os rankings mudam e um modelo que é excelente para narrativa pode ser medíocre para código. Uma pergunta melhor é qual modelo se adapta à sua máquina e à sua tarefa.

Trabalhe nesta ordem. Primeiro, descubra quanta memória rápida você tem: VRAM em uma GPU ou memória unificada em um Mac Apple Silicon. Segundo, escolha a maior família de modelos que cabe nessa memória em quantização de 4 bits com espaço restante para o contexto. Terceiro, escolha uma variante sem censura dessa família, ou seja, um fine-tune ou versão modificada que foi treinada para parar de recusar solicitações legais comuns. Quarto, teste-o com seus próprios prompts por uma hora. Esse teste diz mais do que qualquer ranking.

O que "sem censura" significa para um modelo de pesos abertos

Os modelos geralmente são treinados em duas etapas. Um modelo base aprende de um enorme corpus de texto, e uma segunda etapa de ajuste de instruções ensina-o a seguir solicitações e a recusar algumas delas. Uma variante sem censura é produzida alterando essa segunda etapa: fine-tuning em dados com recusas removidas, ou editando os pesos para que o modelo pare de produzir comportamento de recusa. Membros da comunidade publicam muitas dessas variantes de famílias abertas populares.

Duas coisas decorrem disso. Sem censura não significa mais inteligente. Remover recusas às vezes custa um pouco de qualidade, e o tamanho e o treinamento do modelo base importam muito mais do que o rótulo. E sem censura não significa sem lei. O ponto é que um adulto pode trabalhar em ficção, roleplay ou pesquisa sem que um modelo dê uma palestra a ele, não que tudo vale. Qualquer coisa envolvendo conteúdo sexual com menores de idade é estritamente proibido, e um provedor ou ferramenta responsável dirá isso.

Regra prática de memória

A quantização armazena cada peso em menos bits. Em 4 bits, um modelo ocupa aproximadamente meio gigabyte por bilhão de parâmetros, e isso é antes do cache de contexto, que cresce com o comprimento da sua conversa. Estes são números aproximados de planejamento, não garantias, já que diferentes formatos de quantização variam.

Tamanho do modeloMemória aprox. em 4 bitsHardware típico
7 a 8Bcerca de 5 GBGPU de 8 GB, ou um laptop com 16 GB RAM
13 a 14Bcerca de 9 GBGPU de 12 GB
32 a 34Bcerca de 20 GBGPU de 24 GB, ou um Mac com 32 GB ou mais
70Bcerca de 40 GBduas GPUs grandes, ou um Mac com 64 GB ou mais

O contexto é o custo oculto. Um modelo que cabe em um chat de 4.000 tokens pode ficar sem memória quando você lhe dá uma história de 30.000 tokens. Configurações locais frequentemente limitam o contexto bem abaixo do que o modelo suporta, e contextos longos também retardam a geração. Se o seu projeto depende de lembrar uma conversa longa ou um documento grande, tenha isso em mente ao comparar com uma opção hospedada com uma janela de 100.000 tokens.

Ferramentas para executar modelos em sua própria máquina

Você não precisa compilar nada manualmente para começar. Estas são as escolhas comuns.

  • Ollama. Uma ferramenta de linha de comando que baixa e serve modelos. Ela expõe um endpoint compatível com OpenAI na sua máquina, o que facilita apontar código existente para ela.
  • LM Studio. Um aplicativo de desktop com um navegador de modelos, uma janela de chat e um modo de servidor local. Bom se você preferir uma interface gráfica.
  • llama.cpp. O mecanismo C++ por trás de muitas dessas ferramentas. Ele oferece o maior controle sobre quantização, descarregamento de camadas entre CPU e GPU e tamanho do contexto, ao preço de mais flags para aprender.
  • vLLM e servidores semelhantes. Destinados a servidores de GPU que lidam com vários usuários ao mesmo tempo. Exagero para um desktop único, útil se você executar sua própria implantação pequena.

A maioria desses pode carregar arquivos GGUF, um formato comum para modelos quantizados. Escolha um nível de quantização pelo nome do arquivo: números mais baixos são menores e mais rápidos, mas menos precisos, e 4 bits é o ponto de partida usual.

Onde uma API hospedada se encaixa, e onde não se encaixa

Uma API hospedada troca seu hardware pelo de outra pessoa. Este serviço oferece um único modelo de pesos abertos, executado por um provedor independente e ajustado para responder sem recusas de conteúdo para uso adulto legal. Não é a API oficial de nenhum fornecedor de modelo, e não é um roteador que permite escolher entre modelos.

Razões para escolher hospedado

  • Sem GPU para comprar, resfriar ou manter atualizada. Você envia uma requisição e recebe tokens de volta.
  • Uma janela de contexto de 100.000 tokens, prompt e conclusão combinados, sem dimensionar memória para isso.
  • Streaming, chamada de funções e modo JSON através da interface OpenAI padrão, para que SDKs e clientes existentes funcionem após você alterar a base URL e a chave.
  • Preços pagamento por uso: $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, a partir de crédito pré-pago que nunca expira.
  • Os prompts não são usados para treinamento.

Razões para permanecer local

  • Você quer os pesos em disco. Uma API hospedada nunca lhe dará isso.
  • Você precisa trabalhar offline, ou seus dados não podem sair da máquina em hipótese alguma.
  • Você quer escolher entre vários modelos ou executar seu próprio fine-tune. Esta API serve um único modelo, apenas texto, e não oferece fine-tuning.
  • Você já possui hardware adequado e seu volume é alto o suficiente para que o custo marginal de um token local seja próximo de zero.

Custo: eletricidade e hardware versus tokens

Local não é gratuito quando se considera a máquina. Uma maneira simples de comparar é perguntar quantos tokens você teria que gerar antes que possuir uma GPU seja mais vantajoso do que pagar por token.

No lado hospedado, a conta é simples. Uma sessão de roleplay com 50 rodadas, 2.000 tokens de entrada e 400 tokens de saída por rodada, usa 100.000 tokens de entrada e 20.000 tokens de saída. Entrada custa 0,1 x $0,15 = $0,015. Saída custa 0,02 x $0,50 = $0,01. A sessão inteira custa $0,025, dois centavos e meio.

A essa taxa, $20 de crédito pagam por 800 sessões assim. Uma GPU capaz de rodar um modelo de 32B custa muito mais que $20, então o ponto de equilíbrio depende inteiramente de quanto você o usa. Para um usuário ocasional, a API hospedada geralmente vence. Para quem gera texto o dia todo, todos os dias, o hardware local pode se pagar, e para eles o local é a melhor resposta. Para a parte da eletricidade, multiplique o consumo de energia da sua GPU pelas horas usadas e sua tarifa local; não fornecemos um valor aqui porque ele varia muito.

A página de preços lista os valores atuais de recarga e bônus, que variam de +5% em $50 a +15% em $200.

Um único cliente para ambos: altere com o base URL

Você não precisa escolher um lado permanentemente. Como Ollama e esta API falam o formato de chat OpenAI, um único script pode usar qualquer um dos dois. Defina três variáveis de ambiente e seu código não muda.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.uncensoredllmonline.com/v1"),
    api_key=os.getenv("LLM_API_KEY", "YOUR_KEY"),
)
model = os.getenv("LLM_MODEL", "uncensored")

resp = client.chat.completions.create(
    model=model,
    messages=[{"role": "user", "content": "Write the opening paragraph of a gothic mystery."}],
)
print(resp.choices[0].message.content)

Para testar contra um runner local, defina LLM_BASE_URL para o endereço que seu runner exibe (Ollama usa http://localhost:11434/v1 por padrão), defina LLM_MODEL para o nome do modelo que você baixou e use qualquer valor para a chave. Remova-os e o script falará com a API hospedada com o ID do modelo uncensored.

Este padrão permite que você faça protótipos contra um modelo local de 8B gratuitamente, depois compare a saída contra o modelo hospedado nos mesmos prompts. O quickstart tem a lista completa de parâmetros suportados, e uma nova conta pode reivindicar uma avaliação de $0,50 na página da chave de API para executar essa comparação sem pagar.

Perguntas e respostas

Qual é o melhor LLM sem censura para 8 GB de VRAM?

Um fine-tune sem censura de uma família de 7 a 8 bilhões de parâmetros em quantização de 4 bits é o ajuste usual. Experimente duas ou três variantes nos seus próprios prompts, porque a qualidade difere entre fine-tunes mais do que o rótulo de tamanho sugere.

Um modelo local sem censura é privado?

O prompt permanece na sua máquina enquanto você o executa localmente, desde que a ferramenta que você usa não envie telemetria. Verifique as configurações do runner específico que você instalou.

Posso executar o modelo por trás desta API localmente?

Não. A API serve um único modelo através de um endpoint hospedado e não distribui pesos. Se você precisa de arquivos em disco, use um modelo de pesos abertos de um repositório público.

Um modelo hospedado precisa de um grande cache de contexto como um local?

Isso é tratado pelo lado do provedor. Você obtém uma janela de 100.000 tokens cobrindo prompt e conclusão juntos, e paga apenas pelos tokens que envia e recebe.

Sem censura é o mesmo que ilegal?

Não. Descreve um modelo ajustado para não recusar solicitações adultas legais. Conteúdo envolvendo menores de idade nunca é permitido neste serviço.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.

Obter chave de APILer a documentação