有免費的 LLM 嗎?免費選項與付費 API 比較
免費的語言模型確實存在,但免費通常不代表沒有成本:你需要付出硬體、設定時間、速率限制或兩者皆有。以下是各選項的比較,以及付費 API 每次請求的實際成本。

重點摘要
- 開放權重模型可以免費下載,但運行它們需要 GPU 或極大的耐心。
- 免費的託管層級通常帶有嚴格的速率限制和內容篩選,請務必查看其當前條款。
- 此 API 沒有免費方案,但新用戶可以領取 $0.50 的免費試用額度,無需綁定信用卡。
- 輸入 token 每 1M 為 $0.15,輸出 token 每 1M 為 $0.50,一般聊天回覆的成本僅為幾分之一美分。
簡短答案
有免費的 LLM 嗎?有。你可以下載開放權重模型並在本地機器上運行,某些託管服務也會提供有限的使用量。但不存在在所有方面都完全免費的大型語言模型。GPU 總有人要付費,如果不是你付現金,就是你付出硬體、等待時間或限制。
此網站透過 API 銷售文字生成服務,因此我們對此答案有利害關係,我們將直白地說明:我們沒有免費層級。我們提供的是針對新用戶的一次性 $0.50 試用,註冊後一鍵領取,無需信用卡。之後你需從預付額度中按 token 付費。本文其餘部分將幫助你決定免費選項是否足以滿足你的專案需求,還是按量付費的幾分錢更划算。
三種免費類型
當人們詢問是否有免費的 LLM 時,通常指的是三種不同的情況。一旦你嘗試基於它們構建應用,它們的行為會有很大的差異。
1. 自行運行的開放權重模型
許多模型會以可下載的檔案形式發布。你可以安裝 Ollama、LM Studio 或 llama.cpp 等執行器,拉取模型並在離線狀態下與之對話。軟體是免費的,且數據不會離開你的機器。唯一的限制在於記憶體。一個約 7 到 8 億參數的小型模型,經 4 bits 量化後,約佔 5 GB 的 VRAM 或 RAM 空間。較大的模型需要更多記憶體,而那些感覺接近大型雲端系統的模型則需要強大的 GPU 或多張 GPU。
2. 託管服務的免費層級
某些供應商允許你每天或每月發送有限數量的請求而無需付費。這些層級對於原型開發或週末腳本很有用。它們通常帶有較低的速率限制、較小的上下文視窗以及供應商自訂的內容規則。條款經常變更,因此在規劃時請務必先查看各供應商當前的定價和限制。
3. 免費試用
試用額度是一筆小額額度,旨在讓你測試實際產品。它並非用於運行生產環境流量。我們的額度為 $0.50,有效期 7 天,每人限領一次。這聽起來很少,但下一節將說明為什麼它仍能發揮超出你預期的作用。
免費在其他方面對你的成本
免費模型並非沒有營運成本。在做出決定之前,請列出在非美元貨幣下你實際需要支付的價格。
- 硬體。 沒有專用 GPU 的筆記型電腦可以運行小模型,但速度較慢。每秒幾個 token 的回覆對於實驗來說沒問題,但對於任何互動式應用來說都很累人。如果你想運行更大的模型,你必須購買或租賃 GPU,這需要實際的金錢投入。
- 設定與維護。 選擇量化方式、匹配聊天模板、調整上下文長度以及保持運行器更新都需要數小時。如果你喜歡這些工作且無妨,那沒問題;但如果你只是需要從端點獲取文字,這是一筆糟糕的交換。
- 速率限制。 免費託管層級會限制每分鐘或每天的請求數。處理一千份文件的迴圈會很快達到上限。
- 拒絕回應。 大多數主流託管模型會拒絕各種請求,包括大量普通的虛構作品和角色扮演。此類供應商提供的免費方案並不會改變這一點。如果你需要一個針對合法成人用途、不會產生拒絕回應的模型,你的免費選項將縮小為你自己運行的本地無審查模型。
- 資料。 使用本地模型時,你的提示詞會保留在你的電腦上。使用免費託管層級時,請閱讀條款:某些供應商會使用提示詞來改進他們的產品。發送到我們 API 的提示詞不會用於訓練。
$0.50 試用額度能買到什麼
API 對每 1M 輸入 token 收取 $0.15,對每 1M 輸出 token 收取 $0.50。為了讓你更容易理解,我們來看一個小請求:1,000 個輸入 token 和 500 個輸出 token。輸入成本為 1,000 / 1,000,000 x $0.15 = $0.00015。輸出成本為 500 / 1,000,000 x $0.50 = $0.00025。該請求總成本為 $0.0004。
$0.50 的試用額度除以 $0.0004 等於 1,250 次此類請求。這足以連接客戶端、測試提示詞、檢查串流輸出和函式呼叫,並判斷模型的輸出是否符合你的用途。試用金鑰的限制比完整金鑰低(2 個並行請求和每分鐘 60 次請求),這對於手動測試已經足夠。
你可以透過 Google 或電子郵件與密碼註冊後,在 API 金鑰頁面 領取額度。有效期為 7 天,每人限領一次。如果請求失敗或被拒絕,則不會扣款。
付費方案下真實工作負載的成本
試用期結束後,你可儲值任何整數金額,從 $20 至最高 $500。額度永不過期,且無訂閱制,因此安靜的一個月無需花費。以下是 $20 可涵蓋的四種工作負載用量,依據上述價格計算。
| 工作負載 | 輸入/輸出 token 數 | 每次請求成本 | 每 $20 的請求次數 |
|---|---|---|---|
| 短聊天回覆 | 1,000 / 500 | $0.0004 | 50,000 |
| 帶有長歷史的聊天 | 3,000 / 700 | $0.0008 | 25,000 |
| 摘要一篇文章 | 8,000 / 400 | $0.0014 | 約 14,285 |
| 填滿整個 100,000-token 上下文視窗 | 100,000 / 1,000 | $0.0155 | 約 1,290 |
手動檢查一行。對於文章摘要:8,000 個輸入 token 的成本為 $0.0012,400 個輸出 token 的成本為 $0.0002,因此總計 $0.0014。將 $20 除以 $0.0014 約等於 14,285 次請求。
輸出 token 的成本是輸入 token 的三倍以上,因此降低帳單最便宜的方法是要求更短的回應或設定 max_tokens。長提示詞相對便宜。處理一百萬 token 的輸入成本為 $0.15,輸入與輸出各一百萬 token 的總成本為 $0.65。
較大的儲值包含獎勵:$50 起 +5%,$100 起 +10%,$200 起 +15%。例如,$100 的儲值會提供 $110 的額度。定價頁面 列出了詳細資訊。
何時免費是更好的選擇
付費 API 並不總是正確的選擇。在以下情況下選擇免費選項:
- 你已經擁有 GPU,且你的工作負載較小、私密或必須離線運行。
- 你想學習模型的工作原理,並想在不涉及計費的情況下實驗量化、提示詞和採樣。
- 你的用量每週僅有幾次請求,且供應商的免費層級可以覆蓋。
在以下情況下選擇付費 API:
- 你需要以對話速度獲得回應,且不想擁有硬體。
- 你需要 100,000-token 的上下文視窗,而不必購買記憶體。
- 你的應用程式服務其他人,因此你需要可預測的限制:完整金鑰允許 8 個並行請求和每分鐘 300 次請求。
- 你需要一個在合法成人用途下不會產生拒絕回應的模型,而且你不想自己託管。無審查 LLM 存取頁面說明了這項服務如何處理此需求。
我們有一項明確規定:禁止涉及未成年人的性內容。此限制不會因價格方案而改變。
用幾行程式碼試試看
API 與 OpenAI 相容,因此只要更改 base URL 和金鑰,任何 OpenAI SDK 都能運作。此 Python 範例會發送一個請求,並列印答案與 token 用量,讓你可以將上述算式與你自己的數字進行比對。
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredllmonline.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Give me three plot hooks for a heist story."}],
max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
使用 curl 的相同呼叫:
curl https://api.uncensoredllmonline.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'
每個回應都帶有 X-Balance-USD 標頭,讓你可以即時觀察剩餘額度如何縮減。快速入門涵蓋串流輸出、函式呼叫與 JSON 模式。
更多指南
問答
是否存在完全免費且無限制的 LLM?
僅限於在你自己的硬體上執行開放權重模型,此時你需支付電費、GPU 記憶體與設定時間。託管的免費方案在速率、上下文或使用量方面始終有限制。
此 API 有免費方案嗎?
沒有。新用戶可以在 API 金鑰頁面一鍵領取一次性的 $0.50 試用額度。無需綁定卡,有效期為 7 天,每人限領一次。
$0.50 的試用額度能使用多少?
對於 1,000 個輸入 token 和 500 個輸出 token 的請求,它可涵蓋約 1,250 次請求。較大的提示詞會更快消耗額度,例如一次請求輸入 8,000 個 token、輸出 400 個 token 的成本為 $0.0014,這大約可產生 357 次請求。
試用期過後,我最低可以花費多少?
最低儲值金額為 $20,可選擇任何整數金額,最高至 $500。額度永不過期,且無訂閱制。
失敗的請求會收費嗎?
不會。失敗或被拒絕的請求不會從你的餘額中扣款。