JA ▾
API キーを取得

無料のLLMはある?無料オプションと有料APIの比較

無料の言語モデルは存在しますが、無料は必ずしも無コストを意味しません:ハードウェア、セットアップ時間、レート制限、またはその両方にコストがかかります。オプションの比較と、APIがリクエストごとに実際にどのくらいかかるかをご覧ください。

更新日:

ターミナルの隣にある等角視図の豚の貯金箱と硬貨、無料と有料のLLMアクセスのコストを視覚化したもの

主要ポイント

  1. オープンウェイトモデルはダウンロード無料ですが、実行するにはGPUまたは多大な忍耐が必要です。
  2. 無料のホストティアは通常、厳しいレート制限とコンテンツフィルタを備えているため、現在の利用規約を確認してください。
  3. このAPIには無料ティアはありませんが、新規ユーザーはカードなしで$0.50のトライアルクレジットを受け取ることができます。
  4. 1Mトークンあたり$0.15および$0.50で、一般的なチャットの返信はセントのわずかなコストで済みます。

無料トライアルクレジットで始める

メールアドレスとパスワードを入力すると、キーがすぐに画面に表示されます。

API キーを取得

短い答え

無料のLLMはあるか?あります。オープンウェイトモデルをダウンロードして自分のマシンで実行したり、ホストサービスが限られた使用量を無料で提供したりすることがあります。ただし、あらゆる点でコストがかからない大規模言語モデルは存在しません。誰かがGPUの代金を支払っています。それがあなたの現金でないなら、ハードウェア、待ち時間、または制限という形であなたが負担することになります。

このサイトはAPIを通じてテキスト生成を販売しているため、答えに利害関係があり、明確に述べます:無料ティアはありません。私たちが提供するのは、新規ユーザー向けの$0.50の1回限りのトライアルで、サインアップ後にワンクリックで取得でき、カードは不要です。その後、前払いクレジットからトークンごとに課金されます。この記事の残りの部分では、無料オプションがプロジェクトに十分かどうか、または従量課金の数セントの方が合理的かどうかを判断するのに役立ちます。

無料の3つの種類

人々が無料のLLMがあるかどうかを尋ねるとき、通常は3つの異なる意味のいずれかを指しています。実際にそれらに基づいて何かを構築しようとすると、非常に異なる動作をします。

1. 自分で実行するオープンウェイトモデル

多くのモデルはダウンロード可能なファイルとして公開されています。Ollama、LM Studio、llama.cppなどのランナーをインストールし、モデルをプルしてオフラインでチャットします。ソフトウェアは無料で、データはあなたのマシンから外に出ません。ただし、メモリが問題になります。約70億〜80億パラメータの小さなモデルを4ビット量子化すると、VRAMまたはRAMが約5GBに収まります。より大きなモデルははる多くのメモリを必要とし、ホストされたシステムに近いものを実感するには、強力なGPUまたは複数のGPUが必要です。

2. ホストサービスの無料ティア

一部のプロバイダーは、支払いなしで1日または1ヶ月あたりの限られた数のリクエストを送信することを許可しています。これらのティアはプロトタイプや週末のスクリプトに役立ちます。ただし、低いレート制限、小さなコンテキストウィンドウ、プロバイダー独自のコンテンツルールを備えている傾向があります。利用規約は頻繁に変更されるため、それらに依存する計画を立てる前に、各プロバイダーの現在の料金と制限を確認してください。

3. 無料トライアル

トライアルは、実際の製品をテストできるようにするための少量のクレジットです。本番トラフィックを実行するための方法ではありません。私たちのトライアルは$0.50で、7日間有効、1人1回限りのトライアルです。それは小さく思えますが、次のセクションで、なぜそれが予想以上に長く続くのかをお見せします。

無料がもたらす他のコスト

無料モデルは運用にコストがかかります。コミットする前に、ドル以外の通貨で実際に支払う価格をメモしてください。

  • ハードウェア。 専用GPUのないラップトップでは、小さなモデルをゆっくり実行できます。秒あたり数トークンの返信は実験には適していますが、インタラクティブな用途には疲れます。より大きなモデルを望む場合、GPUを購入またはレンタルすることになり、それは実際の費用がかかります。
  • セットアップと保守。 量子化の選択、チャットテンプレートのマッチング、コンテキスト長の調整、ランナーの更新には数時間かかります。それが好きなら問題ありませんが、エンドポイントからテキストを取得するだけなら、見返りが悪い選択です。
  • レート制限。 無料のホストティアは、1分または1日あたりのリクエスト数を制限します。1000文書を処理するループは、早期に制限に達します。
  • 拒否。 ほとんどのメジャーなホストモデルは、一般的なフィクションやロールプレイを含む幅広いリクエストを拒否します。そのようなプロバイダーの無料ティアでもそれは変わりません。成人による適法な利用のためにコンテンツ拒否なしで応答するモデルが必要な場合、無料のオプションは自分で実行するローカルの無検閲モデルに限定されます。
  • データ。 ローカルモデルの場合、プロンプトはあなたのコンピュータ上に留まります。無料のホストティアの場合、利用規約をお読みください:一部のプロバイダーはプロンプトを使用して製品を改善します。私たちのAPIに送信されたプロンプトは、トレーニングには使用されません。

$0.50のトライアルで何ができるか

APIは1M入力トークンあたり$0.15、1M出力トークンあたり$0.50を課金します。それをイメージしやすい形に変換するために、小さなリクエストを考えてみましょう:1,000トークンの入力と500トークンの出力。入力のコストは1,000 / 1,000,000 x $0.15 = $0.00015です。出力のコストは500 / 1,000,000 x $0.50 = $0.00025です。リクエストの合計コストは$0.0004です。

$0.50のトライアルクレジットを$0.0004で割ると、1,250回分のそのサイズのリクエストになります。これは、クライアントを接続し、プロンプトをテストし、ストリーミングと関数呼び出しを確認し、モデルの出力があなたの用途に適合するかを判断するのに十分です。トライアルキーは、フルキーよりも制限が低く(同時リクエスト2件、1分あたり60リクエスト)、手動テストには十分です。

Googleまたはメールアドレスとパスワードでサインアップした後、APIキーページからクレジットを取得します。有効期間は7日で、1人1回限りのトライアルです。リクエストが失敗または拒否された場合、課金されません。

実際のワークロードが有料プランでどのくらいかかるか

トライアル後、$20から$500までの任意の金額をチャージできます。クレジットは期限切れにならず、サブスクリプションもないため、静かな月はコストがかかりません。ここでは、上記の価格に基づいて計算された4つのワークロードに対して$20がカバーする内容を示します。

ワークロードトークン数(入力/出力)リクエストあたりのコスト$20あたりのリクエスト数
短いチャット返信1,000 / 500$0.000450,000
長い履歴とのチャット3,000 / 700$0.000825,000
記事の要約8,000 / 400$0.0014約14,285
100,000トークンのウィンドウを埋める100,000 / 1,000$0.0155約1,290

1行を手動で確認してください。記事の要約の場合:8,000入力トークンは$0.0012、400出力トークンは$0.0002かかり、合計$0.0014です。$20を$0.0014で割ると、約14,285回のリクエストになります。

出力トークンは入力トークンの3倍以上のコストがかかるため、請求書を削減する最も安い方法は、短い回答を求めたり、max_tokensを設定したりすることです。長いプロンプトは比較的安価です。100万トークンの入力を処理するには$0.15かかり、双方向で100万トークンごとに$0.65かかります。

より大きなチャージにはボーナスが含まれます:$50から+5%、$100から+10%、$200から+15%。例えば、$100のチャージでクレジットが$110加算されます。詳細は料金ページに記載されています。

無料がより良い選択となる場合

有料APIが常に正しい選択とは限りません。以下の場合は無料オプションを選択してください:

  • すでにGPUを所有しており、ワークロードが小さく、プライベート、または必要に応じてオフラインである場合。
  • モデルの仕組みを学習しており、課金対象外で量子化、プロンプト、サンプリングを実験したい場合。
  • あなたのリクエスト数は週に数件であり、プロバイダーの無料プランでカバーできます。

有料APIを選ぶのは、以下の場合です:

  • ハードウェアを所有せずに会話速度で応答が必要な場合。
  • メモリを購入せずに100,000トークンのコンテキストウィンドウが必要な場合。
  • あなたのアプリは他のユーザーに提供されるため、予測可能な制限が必要です。完全なAPIキーは8つの同時リクエストと1分あたり300リクエストを許可します。
  • 法的な成人用途のためにコンテンツ拒否なしで応答するモデルが必要で、ホストしたくない場合。制限なしのLLMアクセスのページで、このサービスがそれをどのように処理するかを説明しています。

当社側の一つの明確なルールは、未成年者が関与する性的コンテンツは常に許可されないということです。この制限は価格ティアによって変更されません。

数行で試す

APIはOpenAI互換なので、ベースURLとAPI キーを変更するだけで、任意のOpenAI SDKが動作します。このPythonの例は1件のリクエストを送信し、回答とトークン使用量を出力します。これにより、上記の計算が自分の数値と一致するか確認できます。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredllmonline.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three plot hooks for a heist story."}],
    max_tokens=300,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

curlでの同じ呼び出し:

curl https://api.uncensoredllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

各レスポンスにはX-Balance-USDヘッダーが含まれるため、残高が実質的に減少する様子を確認できます。クイックスタートでは、ストリーミング、関数呼び出し、JSON モードについて解説しています。

質問と回答

制限のない完全に無料のLLMはありますか?

オープンウェイトモデルを自前のハードウェアで実行する場合のみです。その場合は、電気代、GPUメモリ、セットアップ時間で支払います。ホストされた無料ティアには、レート、コンテキスト、または使用量に制限が常にあります。

このAPIには無料プランがありますか?

いいえ。新規ユーザーは、API キーページでワンクリックで1回限りの$0.50トライアルクレジットを取得できます。カードは不要で、7日間有効で、1人あたり1回限りの制限があります。

$0.50の無料トライアルクレジットでどれくらいの利用ができますか?

1,000トークンの入力と500トークンの出力のリクエストの場合、約1,250件のリクエストをカバーできます。より長いプロンプトはクレジットをより早く消費します。例えば、8,000トークンの入力と400トークンの出力のリクエストは$0.0014かかり、約357件のリクエストになります。

トライアル後に最小限の支出額はどれくらいですか?

$20のトップアップ。$500までの任意の整数額でトップアップ可能です。クレジットは期限切れにならず、サブスクリプションもありません。

失敗したリクエストは課金されますか?

いいえ。失敗または拒否されたリクエストは、残高から差し引かれません。

キーはフォーム1つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

APIキーを取得ドキュメントを読む