PL ▾
Pobierz klucz API

Czy istnieje darmowy LLM? Darmowe opcje vs płatne API

Istnieją darmowe modele językowe, ale „darmowy” rzadko oznacza brak kosztów: płacisz sprzętem, czasem konfiguracji, limitami zapytań albo wszystkim naraz. Oto porównanie opcji i to, ile naprawdę kosztuje zapytanie w płatnym API.

Zaktualizowano

Izometryczna skarbonka i monety obok terminala, ilustrujące koszt dostępu do darmowych i płatnych LLM

Kluczowe punkty

  1. Modele o otwartych wagach są darmowe do pobrania, ale ich uruchomienie wymaga GPU lub sporo cierpliwości.
  2. Darmowe warstwy hostowane zazwyczaj mają ścisłe limity zapytań i filtry treści, więc sprawdź ich aktualne warunki.
  3. To API nie ma darmowej warstwy, ale nowi użytkownicy mogą odebrać $0,50 kredytu próbnego bez podawania karty.
  4. Po cenach $0,15 i $0,50 za 1 mln tokenów typowa odpowiedź w czacie kosztuje ułamek centa.

Zacznij od kredytu próbnego

E-mail i hasło, klucz od razu widoczny na ekranie.

Pobierz klucz API

Krótka odpowiedź

Czy istnieje darmowy LLM? Tak. Możesz pobrać modele o otwartych wagach i uruchomić je na własnym komputerze, a niektóre usługi hostowane oferują ograniczoną ilość użycia. Nie istnieje model językowy, który jest darmowy we wszystkich aspektach. Ktoś płaci za GPU, a jeśli nie Ty gotówką, to sprzętem, czasem oczekiwania lub ograniczeniami.

Ta strona sprzedaje generowanie tekstu przez API, więc mamy interes w tej odpowiedzi i powiemy to wprost: nie mamy darmowej warstwy. Oferujemy jednorazowy okres próbny $0,50 dla nowych użytkowników, odbierany jednym kliknięciem po zalogowaniu się, bez karty. Później płacisz za tokeny z przedpłaconego kredytu. Reszta tego artykułu pomoże Ci zdecydować, czy darmowe opcje wystarczą do Twojego projektu, czy może opłacalny model pay-as-you-go ma więcej sensu.

Trzy rodzaje darmowości

Gdy ludzie pytają, czy istnieje darmowy LLM, zwykle mają na myśli jedno z trzech różnych typów. Działają one bardzo różnie, gdy spróbujesz zbudować na nich coś konkretnego.

1. Modele o otwartych wagach uruchamiane samodzielnie

Wiele modeli jest publikowanych jako pliki do pobrania. Instalujesz runnera takiego jak Ollama, LM Studio lub llama.cpp, pobierasz model i rozmawiasz z nim offline. Oprogramowanie jest darmowe, a nic nie opuszcza Twojego komputera. Pułapką jest pamięć. Mały model z ok. 7–8 mld parametrów, skwantyzowany do 4 bitów, mieści się w ok. 5 GB VRAM lub RAM. Większe modele potrzebują znacznie więcej, a te, które są bliskie dużym systemom hostowanym, wymagają poważnego GPU lub kilku kart.

2. Darmowe warstwy usług hostowanych

Niektórzy dostawcy pozwalają wysyłać ograniczoną liczbę zapytań dziennie lub miesięcznie bez płacenia. Te warstwy są przydatne do prototypu lub weekendowego skryptu. Zazwyczaj mają niskie limity zapytań, mniejsze okna kontekstu i własne reguły treści dostawcy. Warunki często się zmieniają, więc sprawdź bieżące ceny i limity każdego dostawcy przed zaplanowaniem projektu wokół tych ograniczeń.

3. Okresy próbne

Próbka to mała ilość kredytu, która ma ci pozwolić przetestować prawdziwy produkt. Nie służy do obsługi ruchu produkcyjnego. Nasza to $0,50, ważna przez 7 dni, jedna na osobę. Brzmi to mało, ale następny rozdział pokazuje, dlaczego i tak starcza dalej, niż się spodziewasz.

Co darmowość kosztuje Cię w inny sposób

Darmowe modele nie są darmowe w eksploatacji. Zanim się zobowiążesz, zapisz cenę, którą faktycznie zapłacisz w każdej walucie innej niż dolary.

  • Sprzęt. Laptop bez dedykowanej karty GPU może uruchamiać małe modele powoli. Odpowiedzi z prędkością kilku tokenów na sekundę wystarczają do eksperymentów, ale męczą w interaktywnych zastosowaniach. Jeśli chcesz większego modelu, musisz kupić lub wypożyczyć kartę GPU, co oznacza prawdziwe pieniądze.
  • Konfiguracja i utrzymanie. Wybór kwantyzacji, dopasowanie szablonu czatu, dostrajanie długości okna kontekstu i aktualizacja silnika zajmują godziny. To OK, jeśli lubisz to robić, ale słaby interes, jeśli potrzebujesz tylko tekstu z endpointu.
  • Limity zapytań. Darmowe warstwy hostowane ograniczają liczbę zapytań na minutę lub dzień. Pętla przetwarzająca tysiąc dokumentów szybko osiągnie limit.
  • Odrzucenia. Większość popularnych modeli hostowanych odrzuca szeroki zakres zapytań, w tym sporo zwykłej fikcji i roleplay. Darmowa warstwa u takiego dostawcy tego nie zmienia. Jeśli potrzebujesz modelu, który nie odrzuca treści, dla prawnego użytku przez osoby dorosłe, Twoje darmowe opcje zawężają się do lokalnych modeli bez cenzury uruchamianych samodzielnie.
  • Dane. Przy lokalnym modelu Twoje prompty pozostają na komputerze. Przy darmowej warstwie hostowanej przeczytaj warunki: niektórzy dostawcy używają promptów do ulepszania swoich produktów. Prompty wysłane do naszego API nie są używane do trenowania.

Co daje próba za $0,50

API pobiera $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Aby to sobie wyobrazić, weźmy małe zapytanie: 1000 tokenów wejściowych i 500 wyjściowych. Koszt wejścia: 1000 / 1 000 000 x $0,15 = $0,00015. Koszt wyjścia: 500 / 1 000 000 x $0,50 = $0,00025. Zapytanie kosztuje łącznie $0,0004.

Kredyt próbny $0,50 podzielony przez $0,0004 daje 1250 zapytań tego rozmiaru. To wystarczy do podłączenia klienta, przetestowania promptów, sprawdzenia strumieniowania i wywoływania funkcji oraz decyzji, czy output modelu pasuje do Twojego zastosowania. Klucz próbny ma niższe limity niż pełny klucz (2 równoległe zapytania i 60 zapytań na minutę), co w zupełności wystarcza do testów ręcznych.

Pobierasz kredyt ze strony klucz API po rejestracji za pomocą konta Google lub adresu e-mail i hasła. Kredyt trwa 7 dni i przysługuje jedna próba na osobę. Jeśli zapytanie się nie powiedzie lub zostanie odrzucone, nie jest ono rozliczane.

Ile kosztują rzeczywiste obciążenia w planie płatnym

Po okresie próbnym doładowujesz dowolną kwotę całkowitą od $20 do $500. Kredyt nigdy nie wygasa, a subskrypcja nie istnieje, więc miesiąc z małym obciążeniem nic nie kosztuje. Oto, na co starcza $20 dla czterech obciążeń, obliczone na podstawie powyższych cen.

ObciążenieTokeny wej / wyjKoszt za zapytanieZapytania za $20
Krótka odpowiedź w czacie1,000 / 500$0.000450,000
Czat z długą historią3,000 / 700$0.000825,000
Podsumowanie artykułu8,000 / 400$0.0014około 14 285
Wypełnienie całego okna kontekstu 100 000 tokenów100,000 / 1,000$0.0155około 1 290

Sprawdź jeden wiersz ręcznie. Dla podsumowania artykułu: 8000 tokenów wejściowych kosztuje $0,0012, a 400 tokenów wyjściowych $0,0002, więc łącznie $0,0014. Podzielając $20 przez $0,0014, otrzymujesz około 14 285 zapytań.

Tokeny wyjściowe kosztują ponad trzy razy tyle co tokeny wejściowe, więc najtańszym sposobem na obniżenie rachunku jest proszenie o krótsze odpowiedzi lub ustawienie max_tokens. Długie prompty są stosunkowo tanie. Przetworzenie miliona tokenów wejściowych kosztuje $0,15, a miliona tokenów w obie strony $0,65.

Większe doładowania dają bonus: +5% od $50, +10% od $100 i +15% od $200. Doładowanie na $100, dla przykładu, daje $110 kredytu. Szczegóły na stronie cen.

Kiedy darmowe opcje są lepszym wyborem

Płatne API nie zawsze jest właściwym wyborem. Wybierz opcję darmową, gdy:

  • Posiadasz już GPU, a twoje obciążenie jest małe, prywatne lub offline z konieczności.
  • Uczysz się, jak działają modele, i chcesz eksperymentować z kwantyzacją, promptami i próbkowaniem bez rozliczeń.
  • Twój wolumen to kilka zapytań w tygodniu i darmowa warstwa dostawcy to pokrywa.

Wybierz płatne API, gdy:

  • Potrzebujesz odpowiedzi w tempie konwersacji bez posiadania sprzętu.
  • Chcesz mieć okno kontekstu 100 000 tokenów bez kupowania pamięci do tego celu.
  • Twoja aplikacja obsługuje innych ludzi, więc potrzebujesz przewidywalnych limitów: pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę.
  • Potrzebujesz modelu, który odpowiada bez odrzucania treści dla prawnego użytku przez osoby pełnoletnie, a nie chcesz go hostować. Strona o nieograniczonym dostępie do LLM wyjaśnia, jak usługa radzi sobie z tym zagadnieniem.

Obowiązuje jedna ścisła zasada: treści seksualne z udziałem nieletnich nigdy nie są dozwolone. Ten limit nie zmienia się w zależności od poziomu ceny.

Wypróbuj w kilku linijkach

API jest kompatybilne z OpenAI, więc dowolne OpenAI SDK zadziała po zmianie bazowego URL i klucza. Ten przykład w Pythonie wysyła jedno zapytanie i wypisuje odpowiedź oraz zużycie tokenów, abyś mógł sprawdzić powyższe obliczenia na podstawie własnych danych.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three plot hooks for a heist story."}],
    max_tokens=300,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

To samo wywołanie z curl:

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

Każda odpowiedź zawiera nagłówek X-Balance-USD, więc możesz obserwować zmniejszanie się kredytu w czasie rzeczywistym. Szybki start obejmuje strumieniowanie, wywoływanie funkcji i tryb JSON.

Pytania i odpowiedzi

Czy istnieje całkowicie darmowy LLM bez limitów?

Tylko jeśli uruchomisz model o otwartych wagach na własnym sprzęcie, wtedy płacisz prądem, pamięcią GPU i czasem konfiguracji. Darmowe plany hostowane zawsze mają limity szybkości, kontekstu lub użycia.

Czy to API ma darmowy poziom?

Nie. Nowi użytkownicy mogą jednorazowo odebrać kredyt próbny w wysokości $0,50 jednym kliknięciem na stronie klucza API. Nie wymaga podania karty, trwa 7 dni i przysługuje tylko raz na osobę.

Na ile starczy kredytu próbnego w wysokości $0,50?

Dla żądań zawierających 1000 tokenów wejściowych i 500 tokenów wyjściowych kredyt starcza na około 1250 żądań. Większe prompty zużywają go szybciej; na przykład żądanie z 8000 tokenami wejściowymi i 400 wyjściowymi kosztuje $0,0014, co daje około 357 żądań.

Jaka jest minimalna kwota, jaką mogę wydać po okresie próbnym?

Doładowanie w wysokości $20, w dowolnej kwocie całkowitej do $500. Kredyt nie wygasa, a subskrypcja nie jest wymagana.

Czy nieudane zapytania są rozliczane?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane z Twojego salda.

Twój klucz jest tylko jeden formularz dalej

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz APIPrzeczytaj dokumentację