Niefiltrowany LLM za darmo: co możesz przetestować za $0
Jeśli chcesz darmowego niefiltrowanego LLM, są trzy realne opcje: uruchomienie modelu na własnym sprzęcie, użycie darmowej taryfy hostowanej z jej limitami lub odebranie małego kredytu próbnego i przetestowanie hostowanego API. Każda ma koszt, a ten artykuł przedstawia liczby.


Kluczowe punkty
- Naprawdę darmowe to własny sprzęt lub limitowana darmowa taryfa; hostowane GPU nie są darmowe na zawsze.
- Kredyt próbny to $0,50, jedno kliknięcie, bez karty, ważny przez 7 dni, jeden na osobę.
- Po $0,15 za wejście i $0,50 za wyjście na 1M tokenów, $0,50 wystarcza na około 2200 krótkich zamian w czacie.
- Po zakończeniu próby płacisz za zużycie od $20; kredyt nie wygasa.
Trzy sposoby na darmowy niefiltrowany LLM
Zacznij od tego, co może oznaczać „darmowy”. Ktoś musi płacić za czas pracy GPU, więc darmowa opcja zawsze czegoś kosztuje: twój sprzęt, czas, limit użycia lub dane. Oto trzy ścieżki w kolejności, w jakiej ludzie je próbują.
- Uruchom lokalnie. Modele o otwartych wagach można pobrać za darmo. Płacisz za sprzęt i prąd, a potrzebujesz pamięci na wybrany rozmiar modelu. Nasza strona o najlepszym modelu bez cenzury do uruchomienia lokalnie omawia opcje.
- Użyj darmowej taryfy. Niektóre usługi oferują dzienny limit. Limity, kolejki i polityki treści zmieniają się często, więc sprawdź ich aktualne warunki. Wiele darmowych taryf jest filtrowanych, co traci sens, jeśli chcesz niefiltrowanego modelu.
- Odbierz kredyt próbny na hostowanym API. Otrzymujesz szybkie GPU i endpoint kompatybilny z OpenAI, ale tylko małą ilość kredytu.
Reszta artykułu dotyczy trzeciej opcji, ponieważ to ta, którą ludzie najgorzej oceniają. Mały kredyt wydaje się bezużyteczny, dopóki nie wykonasz obliczeń.
Czym dokładnie jest kredyt próbny $0,50
Po rejestracji przez Google lub e-mail i hasło, na stronie klucza API znajduje się przycisk dodający $0,50 kredytu próbnego. Jeden odbiór na osobę, bez karty. Kredyt jest ważny przez 7 dni. Klucze próbne są ograniczone do 2 równoległych zapytań i 60 zapytań na minutę, co wystarcza do czatu, skryptów i testowania promptów.
Modelem za endpointem jest pojedynczy model o otwartych wagach obsługiwany przez niezależnego dostawcę i dostrojony do odpowiadania bez odmów treści dla prawnego użytku dorosłych. Nie jest to oficjalne API żadnego dużego laboratorium. Istnieje ścisły limit: treści seksualne z udziałem nieletnich są zawsze zabronione. Obsługuje tylko tekst, bez obrazów, audio lub wektorów.
Możesz pobrać klucz na stronie klucza API. Prompty nie są używane do trenowania, co jest słusznym pytaniem w przypadku każdej darmowej oferty.
Jak daleko starcza $0,50: matematyka tokenów
Ceny to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Token to około cztery znaki angielskiego, więc wiadomość 300 słów to około 400 tokenów. Przy tych stawkach:
| Użycie | Za zapytanie | Zapytania za $0,50 |
|---|---|---|
| Krótka tura czatu: 500 wejście, 300 wyjście | $0,000225 | około 2,222 |
| Długa tura czatu z historią: 3,000 wejście, 400 wyjście | $0.00065 | około 769 |
| Fragment opowieści: 800 wejście, 1,500 wyjście | $0.00087 | około 574 |
| Element partii: 300 wejście, 500 wyjście | $0.000295 | około 1,694 |
Sprawdź pierwszy wiersz: 500 x $0,15 / 1M = $0,000075, a 300 x $0,50 / 1M = $0,00015, co daje łącznie $0,000225. Podziel $0,50 przez tę wartość i otrzymasz 2222.
Skrajne przypadki też pomagają. Jeśli wysyłasz tylko dane wejściowe i nic nie odczytujesz, $0.50 kupi 3,33 mln tokenów. Jeśli generujesz tylko tekst, kupi 1 mln tokenów wyjściowych, co daje około 750 000 słów. Rzeczywiste użycie mieści się między tymi wartościami, a dokładny koszt możesz sprawdzić po każdym zapytaniu w nagłówku odpowiedzi X-Balance-USD.
Wykorzystaj próbę na prawdziwy test
Nie wypalaj kredytu na prostych promptach typu hello-world. Wykorzystaj go, aby sprawdzić, czy API spełnia Twoje wymagania: czy odmawia odpowiedzi na to, czego potrzebujesz, jak radzi sobie z najdłuższym promptem i czy Twój klient działa poprawnie.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredllmonline.com/v1", api_key="YOUR_TRIAL_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short scene where two rival chefs argue about salt."}],
max_tokens=300,
)
print(resp.choices[0].message.content)
print("tokens:", resp.usage.prompt_tokens, resp.usage.completion_tokens)To wywołanie kosztuje ułamek centa. Rozsądny plan na 7 dni:
- Dzień 1: uruchom pięć promptów, które Twoje obecne narzędzie odrzuca lub rozcieńcza.
- Dzień 2: wyślij swój najdłuższy realistyczny prompt. Okno kontekstu ma 100 000 tokenów, łącznie z promptem i uzupełnieniem.
- Dzień 3: skieruj swojego prawdziwego klienta pod bazowy URL. Przewodnik klienta API API client guide pokazuje, jak to zrobić.
- Później: zapisz koszt zadania z bloku
usagei przelicz proporcjonalnie.
Kiedy darmowa opcja jest lepsza
Bądź szczery co do przypadków, w których nie powinieneś płacić. Jeśli rozmawiasz kilka razy w tygodniu, masz przyzwoity GPU i nie przeszkadza Ci zarządzanie modelami, lokalne rozwiązanie jest tańsze i trzyma wszystko na Twojej maszynie. Jeśli Twoje użycie jest lekkie, a wystarczające są filtrowane odpowiedzi, darmowy plan u innego dostawcy może wystarczyć. Nasz przewodnik po darmowych opcjach LLM omawia te przypadki.
Hostowane API wygrywa, gdy nie masz odpowiedniego sprzętu, potrzebujesz szybkich odpowiedzi, chcesz wywoływać je z kodu lub uruchamiać boty i aplikacje używane przez innych. Okres próbny pozwala to sprawdzić przed wydaniem jakichkolwiek środków.
Porównanie zależy też od wolumenu. Użytkownik czatu hobbistycznego może wydać kilka centów dziennie. Potok wysyłający 100 000 pozycji wsadowych po $0,000295 każda wyda $29,50. Żadne z tych nie jest nieograniczone i żadne nie jest darmowe, ale oba są przewidywalne.
Po zakończeniu okresu próbnego: jak wygląda płacenie
Nie ma subskrypcji. Doładowujesz przedpłacony kredyt dowolną kwotą całkowitą od $20 do $500, a żądania zużywają go według powyższych stawek. Bonusy stosuje się przy większych doładowaniach: +5% od $50, +10% od $100 i +15% od $200. Płać kryptowalutami (USDT na TRC20, USDC na Base).
Po cenie krótkiego czatu $0,000225, doładowanie za $20 pokrywa około 88 000 rund. Kredyt nigdy nie wygasa, a nieudane lub odrzucone zapytania nie są rozliczane, więc nie tracisz pieniędzy na błędach. Pełny klucz podnosi też limity do 8 równoległych zapytań i 300 na minutę. Zobacz stronę z cenami, aby poznać szczegóły.
Więcej przewodników
Pytania i odpowiedzi
Czy istnieje niefiltrowany LLM, który jest darmowy na zawsze?
Tylko jeśli uruchomisz model o otwartych wagach na własnym sprzęcie. Usługi hostowane płacą za GPU, więc oferują małą próbę lub limitowany plan zamiast tego.
Czy potrzebuję karty do próby?
Nie. Kredyt próbny za $0,50 jest aktywowany jednym kliknięciem na stronie klucza API po rejestracji, nie wymaga karty i ważny jest przez 7 dni.
Czy mogę złożyć wniosek o kredyt próbny więcej niż raz?
Nie. Jest jedna na osobę.
Czy model ma w ogóle zero zasad?
Model jest dostrojony do odpowiadania bez odrzucania treści dla prawnego użytku dorosłych. Treści seksualne z udziałem nieletnich są zawsze zabronione.
Twój klucz jest o jeden formularz stąd
Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.