中文 ▾
获取 API 密钥

有免费的 LLM 吗?免费选项与付费 API 对比

免费语言模型确实存在,但“免费”通常不意味着没有成本:你需要支付硬件、设置时间、速率限制或两者兼有。以下是各选项的对比,以及付费 API 每次请求的真实成本。

更新于

终端旁放置的等距存钱罐和硬币,说明免费与付费 LLM 访问的成本

要点

  1. 开放权重模型可免费下载,但运行它们需要 GPU 或极大的耐心。
  2. 托管的免费层级通常带有严格的速率限制和内容过滤器,请查看其当前条款。
  3. 此 API 没有免费层级,但新用户无需信用卡即可领取 $0.50 试用额度。
  4. 按每 1M token $0.15 和 $0.50 计算,典型的聊天回复成本不到一分钱。

从试用额度开始

邮箱和密码,密钥立即显示在屏幕上。

获取 API 密钥

简短回答

有免费的 LLM 吗?是的。你可以下载开放权重模型并在自己的机器上运行,一些托管服务也会提供有限的使用量。但不存在在所有方面都免费的大型语言模型。GPU 总有人买单,如果不是你付现金,那就是你付出硬件、等待时间或限制。

该网站通过 API 提供文本生成服务,因此我们对此有利害关系,我们将直截了当地说:我们没有免费套餐。我们提供的是面向新用户的一次性试用,金额为 $0.50,注册后一键领取,无需信用卡。之后你需从预付额度中按 token 付费。本文的其余部分将帮助你判断免费选项是否足以满足你的项目需求,还是按量付费的几分钱更合理。

三种免费类型

当人们询问是否有免费的 LLM 时,他们通常指三种不同的情况。一旦你尝试基于它们构建应用,它们的表现会有很大差异。

1. 你自行运行的开放权重模型

许多模型以可下载文件的形式发布。你可以安装 Ollama、LM Studio 或 llama.cpp 等运行器,拉取模型,并在离线状态下与其对话。软件是免费的,且数据不会离开你的机器。问题在于内存。一个约 70 亿到 80 亿参数、量化为 4 位的小模型,大约需要 5 GB 的 GPU 显存或内存。更大的模型需要更多资源,而那些接近大型托管系统体验的模型则需要高性能 GPU 或多张显卡。

2. 托管服务的免费层级

一些提供商允许你每天或每月发送有限数量的请求而无需付费。这些层级适合原型开发或周末脚本。它们通常带有较低的速率限制、较小的上下文窗口以及提供商自己的内容规则。条款经常变化,因此在规划时请先查看各提供商当前的定价和限制。

3. 免费试用

试用是一小笔额度,旨在让你测试实际产品。它不是用于运行生产流量的方式。我们的额度为 $0.50,有效期 7 天,每人限领一次。这看起来微不足道,但下一部分将展示为什么它仍然比你预期的更耐用。

免费在其他方面给你的代价

免费模型并非没有运营成本。在做出决定之前,写下你实际支付的非美元货币价格。

  • 硬件。 没有专用 GPU 的笔记本电脑可以运行小模型,但速度较慢。每秒几个 token 的回复对于实验来说还可以,但对于交互式应用来说会很累。如果你想运行更大的模型,你需要购买或租赁 GPU,这需要真金白银。
  • 搭建和维护。 选择量化方案、匹配聊天模板、调整上下文长度以及保持运行器更新都需要数小时。如果你喜欢这些工作,那没问题;如果你只需要从接口获取文本,这就是一种糟糕的交易。
  • 速率限制。 托管的免费层级会限制每分钟或每天的请求数。处理一千份文档的循环会很快触及上限。
  • 拒绝生成。 大多数主流托管模型会拒绝广泛范围的请求,包括大量普通的小说和角色扮演。来自此类提供商的免费套餐并不能改变这一点。如果你需要一个针对合法成人用途、无内容拒绝的模型,你的免费选项将缩小到你自己运行的本地无审查模型。
  • 数据。 使用本地模型时,你的提示词保留在计算机上。使用托管免费层级时,请阅读条款:一些提供商使用提示词来改进其产品。发送到我们 API 的提示词不用于训练。

$0.50 试用额度能做什么

API 对每 1M 输入 token 收取 $0.15,对每 1M 输出 token 收取 $0.50。为了让你有直观感受,我们来看一个小请求:1,000 个输入 token 和 500 个输出 token。输入成本为 1,000 / 1,000,000 x $0.15 = $0.00015。输出成本为 500 / 1,000,000 x $0.50 = $0.00025。该请求总成本为 $0.0004。

$0.50 的试用额度除以 $0.0004 等于 1,250 次该大小的请求。这足以连接客户端、测试提示词、检查流式输出和函数调用,并判断模型输出是否适合你的用途。试用密钥的限制比完整密钥低(2 个并发请求和每分钟 60 次请求),这对于手动测试来说已经足够了。

注册后,你可以在 API 密钥页面 领取额度。有效期为 7 天,每人限领一次。如果请求失败或被拒绝,不收费。

付费计划下真实工作负载的成本

试用结束后,你可以充值 $20 到 $500 之间的任意整额。额度永不过期,且没有订阅,因此闲置一个月也不花钱。以下是 $20 在上述四种工作负载下的覆盖范围,根据上述价格计算得出。

工作负载输入/输出 token 数每次请求成本每 $20 的请求数
简短聊天回复1,000 / 500$0.000450,000
长历史聊天3,000 / 700$0.000825,000
文章摘要8,000 / 400$0.0014约 14,285
填满整个 100,000 token 窗口100,000 / 1,000$0.0155约 1,290

手动检查一行。对于文章摘要:8,000 个输入 token 成本为 $0.0012,400 个输出 token 成本为 $0.0002,总计 $0.0014。$20 除以 $0.0014 约等于 14,285 次请求。

输出 token 的成本是输入 token 的三倍以上,因此降低账单最便宜的方法是要求更短的答案或设置 max_tokens。长提示词相对便宜。处理一百万个输入 token 的成本为 $0.15,双向各一百万 token 的成本为 $0.65。

更大的充值包含奖励:从 $50 起 +5%,从 $100 起 +10%,从 $200 起 +15%。例如,充值 $100 可获得 $110 的额度。定价页面 列出了详细信息。

何时免费是更好的选择

付费 API 并不总是正确的选择。在以下情况下选择免费选项:

  • 你已拥有 GPU,且你的工作负载较小、私密或必须离线运行。
  • 你正在学习模型的工作原理,并希望在不涉及计费的情况下实验量化、提示词和采样。
  • 你的用量每周只有几次请求,且提供商的免费层级可以覆盖。

在以下情况下选择付费 API:

  • 你需要以对话速度获得答案,且不想拥有硬件。
  • 你需要 100,000-token 的上下文窗口,而不必为此购买内存。
  • 你的应用服务于其他人,因此你需要可预测的限制:完整密钥允许 8 个并发请求和每分钟 300 次请求。
  • 你需要一个针对合法成人用途不进行内容拒绝的模型,且不想自行托管。无限制 LLM 访问 页面解释了该服务如何处理此问题。

我们有一条硬性规定:禁止出现涉及未成年人的性内容。这一限制不会因价格层级而改变。

几行代码即可试用

该 API 与 OpenAI 兼容,因此更改 Base URL 和 API 密钥后,任何 OpenAI SDK 均可使用。此 Python 示例发送一个请求,并打印答案和 token 使用情况,以便你将上述计算结果与自己的数据进行核对。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three plot hooks for a heist story."}],
    max_tokens=300,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

使用 curl 的相同调用:

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

每个响应都带有 X-Balance-USD 标头,因此你可以实时观察剩余额度的减少。快速入门 涵盖了流式输出、函数调用和 JSON 模式。

问答

是否存在完全免费且无限制的 LLM?

仅当你使用开放权重模型并在自己的硬件上运行时才可能实现,但你需要支付电费、GPU 显存和设置时间。托管免费层级始终对速率、上下文窗口或用量有限制。

该 API 是否有免费层级?

没有。新用户可以在 API 密钥页面一键领取一次性 $0.50 免费试用额度。无需绑定银行卡,有效期为 7 天,每人限领一次。

$0.50 的试用额度能发挥多大作用?

对于输入 1,000 个 token、输出 500 个 token 的请求,它可覆盖约 1,250 次请求。更长的提示词消耗更快,例如输入 8,000 个 token、输出 400 个 token 的请求成本为 $0.0014,可支持约 357 次请求。

试用后我最低可以花费多少?

充值金额为 $20,最高可达 $500 的任意整数金额。额度永不过期,且无订阅费用。

失败的请求会收费吗?

不会。失败或被拒绝的请求不会从你的余额中扣费。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥阅读文档