Các mô hình Abliterated trên OpenRouter so với API chuyên dụng
Tìm kiếm các mô hình abliterated trên OpenRouter thường có nghĩa là bạn muốn truy cập vào các mô hình không kiểm duyệt mà không cần tự lưu trữ. Một bộ tổng hợp và một API chuyên dụng đều giải quyết vấn đề này theo những cách khác nhau, và lựa chọn phù hợp phụ thuộc vào mức độ đa dạng mà bạn cần.

Điểm chính
- OpenRouter là một bộ tổng hợp định tuyến yêu cầu đến nhiều mô hình từ nhiều nhà cung cấp. Dịch vụ này chạy một mô hình dưới một ID.
- Một bộ tổng hợp thắng về sự đa dạng và dự phòng. Một endpoint chuyên dụng thắng về hành vi đơn nhất, có thể dự đoán được.
- Cả hai đều sử dụng định dạng chat của OpenAI, vì vậy việc chuyển đổi giữa chúng chỉ là thay đổi base URL và khóa API.
- Hãy tự kiểm tra danh sách mô hình và giá hiện tại của OpenRouter, vì cả hai đều thay đổi thường xuyên.
Hai hình dạng dịch vụ khác nhau
OpenRouter là một cổng theo kiểu chợ. Bạn có một tài khoản và một API duy nhất, và bạn có thể chọn trong một danh mục lớn các mô hình do nhiều nhà cung cấp khác nhau cung cấp. Những gì có trong danh mục, các mô hình nào khả dụng và giá của từng mô hình có thể thay đổi, vì vậy hãy coi bất kỳ danh sách nào bạn đọc được ở nơi khác chỉ là ảnh chụp nhanh và kiểm tra trực tiếp trang của họ.
Dịch vụ này hẹp hơn một cách có chủ đích. Nó chạy một mô hình trọng số mở, được lưu trữ bởi một nhà cung cấp độc lập và được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. ID của mô hình luôn là uncensored. Nó không phải là bộ định tuyến, nó không gửi yêu cầu của bạn đến một nhà cung cấp khác tùy thuộc vào tải, và nó không phải là API chính thức của bất kỳ nhà sản xuất mô hình nào.
Không có thiết kế nào tốt hơn về mặt lý thuyết. Một danh mục là điều tốt khi bạn muốn so sánh mười mô hình. Một endpoint đơn lẻ là điều tốt khi bạn muốn cuộc gọi thứ mười hoạt động giống như cuộc gọi đầu tiên.
So sánh những gì bạn có thể xác minh
| Câu hỏi | Bộ tổng hợp như OpenRouter | API chuyên dụng này |
|---|---|---|
| Số lượng mô hình | Nhiều, theo danh mục của họ | Một, ID uncensored |
| Các mô hình abliterated hoặc không kiểm duyệt nào tồn tại | Kiểm tra danh sách mô hình hiện tại của họ | Không áp dụng, một mô hình duy nhất |
| Hành vi theo thời gian | Phụ thuộc vào mô hình và nhà cung cấp mà bạn chọn | Cùng một mô hình trong mọi cuộc gọi |
| Bảng giá | Theo mô hình, hãy kiểm tra giá hiện tại của họ | $0,15 cho mỗi 1M token đầu vào, $0,50 cho mỗi 1M token đầu ra |
| Định dạng | Chat completions kiểu OpenAI | Tương thích OpenAI: chat completions và mô hình |
| Loại đầu ra | Tùy thuộc vào mô hình | Chỉ văn bản |
| Cửa sổ ngữ cảnh | Tùy thuộc vào mô hình | 100.000 token |
| Sử dụng dữ liệu | Kiểm tra chính sách của họ và của từng nhà cung cấp | Các prompt không được sử dụng để huấn luyện |
Các ô trống ở cột giữa không phải là dấu hiệu cho thấy có gì đó bị thiếu ở đó. Chúng phản ánh việc tôi sẽ không tuyên bố giá hoặc chính sách của công ty khác như một sự thật. Hãy đọc trang của họ trước khi quyết định.
Khi nào bộ tổng hợp phù hợp hơn
Chọn một cổng nếu bất kỳ điều nào sau đây mô tả dự án của bạn:
- Bạn vẫn đang chọn mô hình và muốn chạy cùng một prompt qua nhiều mô hình.
- Bạn cần nhiều loại mô hình đằng sau một khóa API duy nhất, chẳng hạn như một mô hình nhỏ nhanh cho phân loại và một mô hình lớn để viết.
- Bạn muốn dự phòng tự động sang nhà cung cấp khác khi một nhà cung cấp bị lỗi.
- Bạn cần các tính năng mà dịch vụ này không có: đầu vào hình ảnh, embedding hoặc fine-tuning.
Đây cũng là con đường hợp lý nếu bạn muốn thử một mô hình abliterated cụ thể theo tên. Một danh mục có thể liệt kê các biến thể cộng đồng cụ thể mà một dịch vụ một mô hình sẽ không bao giờ có.
Khi nào endpoint chuyên dụng hợp lý hơn
Một dịch vụ một mô hình phù hợp với một tập hợp các vấn đề khác.
- Tính nhất quán. Các prompt bạn đã tinh chỉnh cho một mô hình vẫn hoạt động. Không có bất ngờ khi một mô hình được định tuyến thay đổi dưới một tên nhìn ổn định.
- Tính toán chi phí đơn giản. Một giá input và một giá output. Bạn có thể ước tính chi phí tháng trong bảng tính.
- Hành vi từ chối không cần bạn phải kiểm toán. Không phải mọi mô hình trong một danh mục đều có cách phản ứng giống nhau với nội dung nhạy cảm nhưng hợp pháp, và bạn có thể mất thời gian kiểm tra từng cái.
- Dung lượng nhỏ gọn. Một phụ thuộc duy nhất với danh sách tham số ngắn: truyền phát, gọi hàm, chế độ JSON và các điều khiển lấy mẫu tiêu chuẩn.
Ví dụ chi phí. Một quy trình xử lý 5M token đầu vào và 1M token đầu ra trong một ngày sẽ trả 5 x $0,15 + 1 x $0,50 = $0,75 + $0,50 = $1,25 tại đây. Cùng phép tính với tỷ lệ của một mô hình khác rất dễ thực hiện từ trang của họ, đó là điểm mấu chốt của giá cố định.
Chuyển đổi giữa chúng trong mã nguồn
Vì cả hai bên đều sử dụng định dạng chat của OpenAI, bạn có thể giữ một đường dẫn mã nguồn và đọc endpoint từ cấu hình. Điều đó cũng cho phép bạn chạy kiểm tra A/B trên các prompt của riêng mình.
import os
from openai import OpenAI
PROVIDERS = {
"dedicated": {
"base_url": "https://api.abliteratedmodelhub.com/v1",
"key": os.environ["DEDICATED_KEY"],
"model": "uncensored",
},
# Add an aggregator entry here with its own base URL, key and model name.
}
def ask(name, prompt):
cfg = PROVIDERS[name]
client = OpenAI(base_url=cfg["base_url"], api_key=cfg["key"])
resp = client.chat.completions.create(
model=cfg["model"],
messages=[{"role": "user", "content": prompt}],
temperature=0.7,
)
return resp.choices[0].message.content
print(ask("dedicated", "Write a tense two-line cliffhanger for a noir story."))
Chạy cùng hai mươi prompt qua mỗi mục và so sánh tỷ lệ từ chối, phong cách và chi phí cho mỗi nghìn lần gọi. Chính các prompt của bạn sẽ quyết định người chiến thắng. Tài liệu bao gồm các tham số mà endpoint này chấp nhận.
Kế hoạch kiểm tra công bằng cho bất kỳ nhà cung cấp nào
Cách chuẩn xác nhất để đưa ra quyết định là đo lường, sử dụng các prompt của bạn và tiêu chí đánh giá chất lượng của bạn. Một bài kiểm tra công bằng mất khoảng một giờ.
- Thu thập 30 prompt. Sử dụng lưu lượng thực tế hoặc các prompt mô phỏng thực tế. Bao gồm 5 đến 10 prompt chạm vào nội dung nhạy cảm nhưng hợp pháp khiến bạn tìm kiếm một mô hình không kiểm duyệt.
- Cố định các cài đặt. Cùng nhiệt độ, cùng system prompt, cùng độ dài tối đa trên mọi ứng viên, và một seed cố định khi được hỗ trợ.
- Ghi lại các thông tin cơ bản. Với mỗi câu trả lời, hãy ghi lại xem nó có từ chối không, có thêm một bài giảng đạo đức không, số lượng token đầu ra và xem nó có tuân theo định dạng của bạn không.
- Lặp lại ba lần. Chạy mỗi prompt ít nhất ba lần trên mỗi ứng viên. Một mô hình từ chối một lần trong ba lần chạy không phải là một mô hình không bao giờ từ chối.
- Tính tổng chi phí. Nhân số token đầu vào và đầu ra với các mức giá hiện tại của từng nhà cung cấp, sau đó dự toán cho khối lượng hàng tháng của bạn.
- Kiểm tra lại sau. Chạy lại cùng bộ prompt sau một tháng, vì danh mục và các nhà cung cấp được định tuyến có thể thay đổi.
Tín dụng dùng thử $0,50 được thiết kế cho loại kiểm tra này ở phía chúng tôi. Với các mức giá trên, 30 prompt với 1.000 token đầu vào và 500 token đầu ra sử dụng 30.000 token đầu vào và 15.000 token đầu ra: $0,0045 + $0,0075 = $0,012. Ngay cả khi lặp lại ba lần, chi phí cũng chỉ khoảng 3,6 cent.
Những cạm bẫy khi so sánh
Một vài sai lầm khiến việc so sánh trở nên sai lệch.
- Cùng tên, khác mô hình. Một nhãn có chứa "uncensored" hoặc "abliterated" cho biết ý định của người tải lên, không phải cách mô hình hoạt động với các prompt của bạn. Hãy kiểm tra nó.
- Giới hạn ngữ cảnh khác nhau. Một prompt vừa với cấu hình này có thể bị cắt trong cấu hình khác. Hãy kiểm tra cửa sổ ngữ cảnh trước khi so sánh đầu ra với các đầu vào dài.
- System prompt ẩn. Một giao diện người dùng có thể thêm các hướng dẫn của riêng nó. Hãy so sánh thông qua API thô để bạn đo lường mô hình, không phải lớp bọc.
- Giá trên mỗi token không phải là giá trên mỗi tác vụ. Một mô hình dài dòng hơn có thể tốn nhiều chi phí hơn cho mỗi câu trả lời ngay cả khi có mức giá thấp hơn. Hãy so sánh chi phí trên mỗi công việc hoàn tất.
- Sử dụng hợp pháp là trách nhiệm của bạn. Bất kể bạn chọn đường nào, một mô hình không từ chối không thay đổi những gì là hợp pháp. Hãy giữ các nội dung dành cho người trưởng thành hợp pháp, và lưu ý rằng nội dung tình dục liên quan đến người chưa thành niên không bao giờ được phép ở đây.
Bắt đầu tại đây
Tạo tài khoản và lấy khóa của bạn trên trang API key. Người dùng mới có thể nhận $0,50 tín dụng dùng thử chỉ với một cú nhấp chuột, có hiệu lực trong 7 ngày, không cần thẻ. Đăng ký bằng Google hoặc bằng email và mật khẩu. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút; khóa đầy đủ cho phép 8 và 300.
Sau khi hết thời gian dùng thử, hãy nạp tiền với số nguyên bất kỳ từ $20 đến $500 bằng tiền mã hóa (USDT trên TRC20, USDC trên Base), với các khoản bonus +5% từ $50, +10% từ $100 và +15% từ $200. Tín dụng không bao giờ hết hạn. Trang giá cả có chi tiết, và trang về mô hình AI không giới hạn giải thích điều đó có nghĩa là gì trong thực tế, bao gồm một giới hạn cứng: không có nội dung tình dục liên quan đến người chưa thành niên.
Hướng dẫn khác
Hỏi đáp
Dịch vụ này có giống với OpenRouter không?
Không. OpenRouter là một bộ tổng hợp cho nhiều mô hình. Đây là một API chuyên dụng chạy một mô hình trọng số mở duy nhất với ID uncensored.
Dịch vụ cung cấp những mô hình abliterated nào?
Một. Đó là một mô hình trọng số mở duy nhất được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp, không phải là một danh mục.
Tôi có thể sử dụng cùng mã nguồn cho cả hai không?
Có. Cả hai đều tuân theo định dạng chat của OpenAI, vì vậy bạn chỉ cần thay đổi base URL, khóa và tên mô hình.
Tôi có thể xem giá của OpenRouter ở đâu?
Trên trang web của họ. Giá cả và các mô hình khả dụng thay đổi, vì vậy hãy kiểm tra bảng giá hiện tại của họ thay vì dựa vào danh sách của bên thứ ba.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi base URL. Đó là toàn bộ thiết lập.