LLM không kiểm duyệt miễn phí: Những gì bạn có thể dùng với $0
Nếu bạn muốn một LLM không kiểm duyệt miễn phí, bạn có ba lựa chọn thực tế: chạy mô hình trên phần cứng của riêng bạn, sử dụng gói miễn phí lưu trữ với các giới hạn của nó, hoặc nhận tín dụng dùng thử nhỏ và thử nghiệm API lưu trữ. Mỗi lựa chọn đều có chi phí, và bài viết này đưa ra các con số cụ thể.


Điểm chính
- Miễn phí thực sự nghĩa là bạn phải tự có phần cứng hoặc gói miễn phí giới hạn; GPU lưu trữ không bao giờ miễn phí mãi mãi.
- Gói dùng thử gồm $0,50 tín dụng, chỉ cần một cú nhấp chuột, không cần thẻ, có hiệu lực trong 7 ngày, mỗi người một lần.
- Ở mức giá $0,15 cho token đầu vào và $0,50 cho token đầu ra trên 1 triệu token, $0,50 chi trả cho khoảng 2.200 lượt hội thoại ngắn.
- Sau khi dùng thử, bạn trả tiền theo mức sử dụng từ $20; tín dụng không bao giờ hết hạn.
Ba cách để có LLM không kiểm duyệt miễn phí
Bắt đầu bằng việc hiểu "miễn phí" có nghĩa là gì. Ai đó phải trả tiền cho thời gian sử dụng GPU, nên tùy chọn miễn phí luôn đánh đổi điều gì đó: phần cứng của bạn, thời gian của bạn, giới hạn sử dụng hoặc dữ liệu của bạn. Dưới đây là ba lộ trình, theo thứ tự mà hầu hết mọi người thử.
- Chạy cục bộ. Các mô hình trọng số mở không mất phí tải. Bạn trả tiền cho máy và điện, và cần đủ RAM cho kích thước mô hình bạn chọn. Trang mô hình LLM không kiểm duyệt tốt nhất để chạy cục bộ của chúng tôi liệt kê các tùy chọn.
- Dùng gói miễn phí. Một số dịch vụ cho hạn ngạch hàng ngày. Hạn ngạch, hàng chờ và chính sách nội dung thay đổi thường xuyên, hãy kiểm tra điều khoản hiện tại. Nhiều gói miễn phí có lọc, không phù hợp nếu bạn cần mô hình không kiểm duyệt.
- Nhận dùng thử trên API lưu trữ. Bạn có GPU nhanh và endpoint tương thích OpenAI, nhưng chỉ nhận được một lượng tín dụng nhỏ.
Phần còn lại của bài viết nói về tùy chọn thứ ba, vì đó là thứ mọi người thường đánh giá sai. Một tín dụng nhỏ nghe có vẻ vô dụng cho đến khi bạn thực hiện các phép tính.
Gói dùng thử $0,50 thực chất là gì
Sau khi đăng ký bằng Google hoặc email/mật khẩu, trang khóa API có nút thêm $0,50 tín dụng dùng thử. Mỗi người chỉ nhận một lần, không cần thẻ. Tín dụng có hiệu lực 7 ngày. Khóa dùng thử giới hạn 2 yêu cầu đồng thời và 60 yêu cầu/phút, đủ cho chat, script và kiểm tra prompt.
Mô hình phía sau endpoint là một mô hình trọng số mở duy nhất do một nhà cung cấp độc lập vận hành và được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Nó không phải là API chính thức của bất kỳ phòng thí nghiệm lớn nào. Có một giới hạn cứng: nghiêm cấm tuyệt đối nội dung tình dục liên quan đến người chưa thành niên. Nó chỉ hỗ trợ văn bản, không có hình ảnh, âm thanh hay vector nhúng.
Bạn có thể lấy khóa trên trang khóa API. Prompt không dùng để huấn luyện, một câu hỏi hợp lý với bất kỳ ưu đãi miễn phí nào.
$0,50 dùng được bao xa: tính toán token
Giá là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Một token tương đương khoảng bốn ký tự tiếng Anh, vì vậy một tin nhắn 300 từ tương đương khoảng 400 token. Sử dụng các mức giá đó:
| Sử dụng | Theo yêu cầu | Yêu cầu cho $0,50 |
|---|---|---|
| Lượt chat ngắn: 500 vào, 300 ra | $0,000225 | khoảng 2,222 |
| Lượt hội thoại dài với lịch sử: 3.000 đầu vào, 400 đầu ra | $0,00065 | khoảng 769 |
| Đoạn truyện: 800 đầu vào, 1.500 đầu ra | $0,00087 | khoảng 574 |
| Mục hàng loạt: 300 đầu vào, 500 đầu ra | $0,000295 | khoảng 1.694 |
Kiểm tra hàng đầu tiên: 500 x $0,15 / 1M = $0,000075, và 300 x $0,50 / 1M = $0,00015, tổng cộng là $0,000225. Chia $0,50 cho số đó và bạn nhận được 2.222.
Các trường hợp cực đoan cũng giúp ích. Nếu bạn chỉ gửi token đầu vào và không đọc gì lại, $0.50 mua được 3,33 triệu token. Nếu bạn chỉ tạo dữ liệu, nó mua được 1 triệu token đầu ra, tương đương khoảng 750.000 từ. Việc sử dụng thực tế nằm ở giữa, và bạn có thể đọc số tiền chi tiêu chính xác sau mỗi yêu cầu từ tiêu đề phản hồi X-Balance-USD.
Dùng tín dụng cho một bài kiểm tra thực tế
Đừng đốt tín dụng vào các prompt hello-world. Hãy dùng nó để trả lời các câu hỏi quyết định xem API có phù hợp không: nó có từ chối những gì bạn cần nó trả lời, nó xử lý prompt dài nhất của bạn như thế nào, và client của bạn có hoạt động với nó không.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredllmonline.com/v1", api_key="YOUR_TRIAL_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short scene where two rival chefs argue about salt."}],
max_tokens=300,
)
print(resp.choices[0].message.content)
print("tokens:", resp.usage.prompt_tokens, resp.usage.completion_tokens)Yêu cầu đó tốn một phần nhỏ của một cent. Một kế hoạch hợp lý cho 7 ngày:
- Ngày 1: chạy năm prompt mà công cụ hiện tại của bạn từ chối hoặc làm loãng.
- Ngày 2: gửi prompt thực tế dài nhất của bạn. Cửa sổ ngữ cảnh là 100.000 token, bao gồm cả prompt và kết quả.
- Ngày 3: trỏ ứng dụng khách thực của bạn vào URL cơ sở. Hướng dẫn ứng dụng khách API cho biết cách thực hiện.
- Sau đó: ghi lại chi phí cho mỗi nhiệm vụ từ khối
usagevà ngoại suy.
Khi nào miễn phí là câu trả lời tốt hơn
Hãy trung thực về các trường hợp bạn không nên trả tiền. Nếu bạn trò chuyện vài lần một tuần, sở hữu một GPU khá tốt và sẵn sàng quản lý các mô hình, việc chạy cục bộ rẻ hơn về mặt tiền mặt và giữ mọi thứ trên máy của bạn. Nếu việc sử dụng của bạn nhẹ và đầu ra đã được kiểm duyệt là đủ, một gói miễn phí ở nơi khác sẽ hoạt động. Ghi chú của chúng tôi về các tùy chọn LLM miễn phí sẽ đi qua các trường hợp đó.
API lưu trữ thắng thế khi bạn không có phần cứng phù hợp, cần phản hồi nhanh, muốn gọi nó từ mã, hoặc chạy bot và ứng dụng mà người khác sử dụng. Gói dùng thử cho phép bạn kiểm tra điều đó trước khi chi tiêu bất kỳ khoản nào.
So sánh cũng phụ thuộc vào khối lượng. Một người dùng trò chuyện thông thường có thể chi vài xu mỗi ngày. Một pipeline gửi 100.000 mục batch với giá $0,000295 mỗi mục sẽ chi $29,50. Cả hai đều không vô hạn và không miễn phí, nhưng cả hai đều có thể dự đoán được.
Sau khi dùng thử: cách thức thanh toán
Không có gói đăng ký. Bạn nạp tiền tín dụng trả trước với bất kỳ số nguyên nào từ $20 đến $500, và các yêu cầu sẽ trừ dần nó theo các mức giá ở trên. Bonus áp dụng cho các lần nạp lớn hơn: +5% từ $50, +10% từ $100 và +15% từ $200. Thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base).
Với giá chat ngắn $0,000225, nạp $20 bao gồm khoảng 88.000 lượt. Tín dụng không bao giờ hết hạn, và các yêu cầu thất bại hoặc bị từ chối không bị tính phí, nên bạn không mất tiền do lỗi. Khóa đầy đủ cũng nâng giới hạn lên 8 yêu cầu đồng thời và 300 yêu cầu/phút. Xem trang giá cả để biết chi tiết.
Hướng dẫn khác
Hỏi đáp
Có một LLM không bộ lọc nào miễn phí mãi mãi không?
Chỉ khi bạn chạy mô hình trọng số mở trên phần cứng của chính mình. Các dịch vụ lưu trữ phải trả tiền cho GPU, nên họ chỉ cung cấp gói dùng thử nhỏ hoặc gói giới hạn.
Tôi có cần thẻ để dùng gói dùng thử không?
Không. Tín dụng dùng thử $0,50 được nhận chỉ bằng một cú nhấp chuột trên trang khóa API sau khi đăng ký, không cần thẻ và có hiệu lực trong 7 ngày.
Tôi có thể nhận gói dùng thử nhiều hơn một lần không?
Không. Mỗi người chỉ được một lần.
Mô hình có hoàn toàn không có quy tắc nào không?
Nó được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp. Nội dung tình dục liên quan đến người chưa thành niên không bao giờ được phép.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ quy trình thiết lập.