有免费的 LLM 吗?免费选项与付费 API 对比
免费语言模型确实存在,但“免费”通常不意味着没有成本:你需要支付硬件、设置时间、速率限制或两者兼有。以下是各选项的对比,以及付费 API 每次请求的真实成本。

要点
- 开放权重模型可免费下载,但运行它们需要 GPU 或极大的耐心。
- 托管的免费层级通常带有严格的速率限制和内容过滤器,请查看其当前条款。
- 此 API 没有免费层级,但新用户无需信用卡即可领取 $0.50 试用额度。
- 按每 1M token $0.15 和 $0.50 计算,典型的聊天回复成本不到一分钱。
简短回答
有免费的 LLM 吗?是的。你可以下载开放权重模型并在自己的机器上运行,一些托管服务也会提供有限的使用量。但不存在在所有方面都免费的大型语言模型。GPU 总有人买单,如果不是你付现金,那就是你付出硬件、等待时间或限制。
该网站通过 API 提供文本生成服务,因此我们对此有利害关系,我们将直截了当地说:我们没有免费套餐。我们提供的是面向新用户的一次性试用,金额为 $0.50,注册后一键领取,无需信用卡。之后你需从预付额度中按 token 付费。本文的其余部分将帮助你判断免费选项是否足以满足你的项目需求,还是按量付费的几分钱更合理。
三种免费类型
当人们询问是否有免费的 LLM 时,他们通常指三种不同的情况。一旦你尝试基于它们构建应用,它们的表现会有很大差异。
1. 你自行运行的开放权重模型
许多模型以可下载文件的形式发布。你可以安装 Ollama、LM Studio 或 llama.cpp 等运行器,拉取模型,并在离线状态下与其对话。软件是免费的,且数据不会离开你的机器。问题在于内存。一个约 70 亿到 80 亿参数、量化为 4 位的小模型,大约需要 5 GB 的 GPU 显存或内存。更大的模型需要更多资源,而那些接近大型托管系统体验的模型则需要高性能 GPU 或多张显卡。
2. 托管服务的免费层级
一些提供商允许你每天或每月发送有限数量的请求而无需付费。这些层级适合原型开发或周末脚本。它们通常带有较低的速率限制、较小的上下文窗口以及提供商自己的内容规则。条款经常变化,因此在规划时请先查看各提供商当前的定价和限制。
3. 免费试用
试用是一小笔额度,旨在让你测试实际产品。它不是用于运行生产流量的方式。我们的额度为 $0.50,有效期 7 天,每人限领一次。这看起来微不足道,但下一部分将展示为什么它仍然比你预期的更耐用。
免费在其他方面给你的代价
免费模型并非没有运营成本。在做出决定之前,写下你实际支付的非美元货币价格。
- 硬件。 没有专用 GPU 的笔记本电脑可以运行小模型,但速度较慢。每秒几个 token 的回复对于实验来说还可以,但对于交互式应用来说会很累。如果你想运行更大的模型,你需要购买或租赁 GPU,这需要真金白银。
- 搭建和维护。 选择量化方案、匹配聊天模板、调整上下文长度以及保持运行器更新都需要数小时。如果你喜欢这些工作,那没问题;如果你只需要从接口获取文本,这就是一种糟糕的交易。
- 速率限制。 托管的免费层级会限制每分钟或每天的请求数。处理一千份文档的循环会很快触及上限。
- 拒绝生成。 大多数主流托管模型会拒绝广泛范围的请求,包括大量普通的小说和角色扮演。来自此类提供商的免费套餐并不能改变这一点。如果你需要一个针对合法成人用途、无内容拒绝的模型,你的免费选项将缩小到你自己运行的本地无审查模型。
- 数据。 使用本地模型时,你的提示词保留在计算机上。使用托管免费层级时,请阅读条款:一些提供商使用提示词来改进其产品。发送到我们 API 的提示词不用于训练。
$0.50 试用额度能做什么
API 对每 1M 输入 token 收取 $0.15,对每 1M 输出 token 收取 $0.50。为了让你有直观感受,我们来看一个小请求:1,000 个输入 token 和 500 个输出 token。输入成本为 1,000 / 1,000,000 x $0.15 = $0.00015。输出成本为 500 / 1,000,000 x $0.50 = $0.00025。该请求总成本为 $0.0004。
$0.50 的试用额度除以 $0.0004 等于 1,250 次该大小的请求。这足以连接客户端、测试提示词、检查流式输出和函数调用,并判断模型输出是否适合你的用途。试用密钥的限制比完整密钥低(2 个并发请求和每分钟 60 次请求),这对于手动测试来说已经足够了。
注册后,你可以在 API 密钥页面 领取额度。有效期为 7 天,每人限领一次。如果请求失败或被拒绝,不收费。
付费计划下真实工作负载的成本
试用结束后,你可以充值 $20 到 $500 之间的任意整额。额度永不过期,且没有订阅,因此闲置一个月也不花钱。以下是 $20 在上述四种工作负载下的覆盖范围,根据上述价格计算得出。
| 工作负载 | 输入/输出 token 数 | 每次请求成本 | 每 $20 的请求数 |
|---|---|---|---|
| 简短聊天回复 | 1,000 / 500 | $0.0004 | 50,000 |
| 长历史聊天 | 3,000 / 700 | $0.0008 | 25,000 |
| 文章摘要 | 8,000 / 400 | $0.0014 | 约 14,285 |
| 填满整个 100,000 token 窗口 | 100,000 / 1,000 | $0.0155 | 约 1,290 |
手动检查一行。对于文章摘要:8,000 个输入 token 成本为 $0.0012,400 个输出 token 成本为 $0.0002,总计 $0.0014。$20 除以 $0.0014 约等于 14,285 次请求。
输出 token 的成本是输入 token 的三倍以上,因此降低账单最便宜的方法是要求更短的答案或设置 max_tokens。长提示词相对便宜。处理一百万个输入 token 的成本为 $0.15,双向各一百万 token 的成本为 $0.65。
更大的充值包含奖励:从 $50 起 +5%,从 $100 起 +10%,从 $200 起 +15%。例如,充值 $100 可获得 $110 的额度。定价页面 列出了详细信息。
何时免费是更好的选择
付费 API 并不总是正确的选择。在以下情况下选择免费选项:
- 你已拥有 GPU,且你的工作负载较小、私密或必须离线运行。
- 你正在学习模型的工作原理,并希望在不涉及计费的情况下实验量化、提示词和采样。
- 你的用量每周只有几次请求,且提供商的免费层级可以覆盖。
在以下情况下选择付费 API:
- 你需要以对话速度获得答案,且不想拥有硬件。
- 你需要 100,000-token 的上下文窗口,而不必为此购买内存。
- 你的应用服务于其他人,因此你需要可预测的限制:完整密钥允许 8 个并发请求和每分钟 300 次请求。
- 你需要一个针对合法成人用途不进行内容拒绝的模型,且不想自行托管。无限制 LLM 访问 页面解释了该服务如何处理此问题。
我们有一条硬性规定:禁止出现涉及未成年人的性内容。这一限制不会因价格层级而改变。
几行代码即可试用
该 API 与 OpenAI 兼容,因此更改 Base URL 和 API 密钥后,任何 OpenAI SDK 均可使用。此 Python 示例发送一个请求,并打印答案和 token 使用情况,以便你将上述计算结果与自己的数据进行核对。
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredllmonline.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Give me three plot hooks for a heist story."}],
max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
使用 curl 的相同调用:
curl https://api.uncensoredllmonline.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'
每个响应都带有 X-Balance-USD 标头,因此你可以实时观察剩余额度的减少。快速入门 涵盖了流式输出、函数调用和 JSON 模式。
更多指南
问答
是否存在完全免费且无限制的 LLM?
仅当你使用开放权重模型并在自己的硬件上运行时才可能实现,但你需要支付电费、GPU 显存和设置时间。托管免费层级始终对速率、上下文窗口或用量有限制。
该 API 是否有免费层级?
没有。新用户可以在 API 密钥页面一键领取一次性 $0.50 免费试用额度。无需绑定银行卡,有效期为 7 天,每人限领一次。
$0.50 的试用额度能发挥多大作用?
对于输入 1,000 个 token、输出 500 个 token 的请求,它可覆盖约 1,250 次请求。更长的提示词消耗更快,例如输入 8,000 个 token、输出 400 个 token 的请求成本为 $0.0014,可支持约 357 次请求。
试用后我最低可以花费多少?
充值金额为 $20,最高可达 $500 的任意整数金额。额度永不过期,且无订阅费用。
失败的请求会收费吗?
不会。失败或被拒绝的请求不会从你的余额中扣费。