繁中 ▾
取得 API 金鑰

OpenRouter 上的 Abliterated 模型與專用 API 比較

在 OpenRouter 上搜尋 abliterated 模型通常代表你想要取得無審查模型的存取權,而不必自行託管。聚合服務與專用 API 都能解決這個問題,但各有不同做法,正確的選擇取決於你需要多少多樣性。

更新於

一個指向多個小方塊的集線器與一條通往大方塊的直線路徑,聚合器與專用 API 的對比

重點摘要

  • OpenRouter 是一個聚合器,將請求路由到來自多個供應商的許多模型。此服務運行單一模型,具有一個 ID。
  • 聚合器在多樣性和備援方面勝出。專用端點在可預測的單一行為方面勝出。
  • 兩者都使用 OpenAI 聊天格式,因此在它們之間切換只需更改 Base URL 和金鑰。
  • 請自行查閱 OpenRouter 當前的模型列表和定價,因為兩者經常變動。

兩種不同的服務形態

OpenRouter 是類似市集的閘道器。你擁有一個帳戶和一個 API,並可從各種供應商提供的大量模型目錄中進行選擇。目錄中的內容、可用模型以及每個模型的費用可能會變更,因此請將你在其他地方讀到的任何清單視為快照,並直接檢查他們的清單。

此服務範圍較窄是出於刻意設計。它運行一個開放權重模型,由獨立供應商託管,並針對合法成人用途進行微調,以在不拒絕內容的情況下回答問題。模型 ID 始終為 uncensored。它不是路由器,不會根據負載將你的請求傳送至不同的供應商,也不是任何模型製造商的官方 API。

從抽象角度來看,兩種設計沒有優劣之分。當你想要比較十個模型時,目錄是一個好東西。當你想要第十次呼叫與第一次行為一致時,單一端點是一個好東西。

可驗證的比較

問題聚合器(如 OpenRouter)此專用 API
模型數量多個,依其目錄而定單一,ID 為 uncensored
有哪些abliterated 或無審查的模型查閱其當前模型列表不適用,單一模型
隨時間變化的行為取決於你選擇的模型和供應商每次呼叫使用相同的模型
定價依模型而定,請查看其當前定價每 1M 輸入 $0.15,每 1M 輸出 $0.50
介面格式OpenAI 風格的聊天完成與 OpenAI 相容:聊天完成和模型
輸出類型取決於模型僅文字
上下文視窗取決於模型100,000 token
數據使用查閱其政策及各供應商的規定提示詞不用於訓練

中間欄位的空白並非暗示那裡缺少內容。這反映了我不會將其他公司的價格或政策視為事實。在做出決定之前,請閱讀他們的頁面。

聚合器更適合的情況

如果以下任何一項描述你的專案,請選擇閘道器:

  • 你仍在選擇模型,並想將相同的提示詞通過許多模型進行測試。
  • 你需要一個金鑰背後的多種模型類型,例如用於分類的小型快速模型和用於撰寫的大型模型。
  • 當一個供應商宕機時,你希望自動備援到另一個供應商。
  • 你需要此服務不具備的功能:圖像輸入、嵌入或微調。

如果您想嘗試特定名稱的 abliterated 模型,這也是明智的選擇。目錄可能會列出特定的社區變體,而單一模型服務永遠不會提供這些變體。

專用端點更合適的情況

單一模型服務適合不同的問題集。

  • 一致性。 為單一模型調整的提示詞持續有效。路由模型在穩定名稱下變更時不會有意外。
  • 簡單的費用建模。 單一輸入速率與單一輸出速率。你可以在試算表中估算一個月的費用。
  • 不需稽核的拒絕行為。 目錄中的模型對敏感但合法內容的行為並不相同,你可能需要花時間逐一檢查。
  • 輕量級。 單一相依性,參數清單簡短:串流輸出、函式呼叫、JSON 模式與標準採樣控制。

成本範例。每天處理 500 萬輸入 token 和 100 萬輸出 token 的管線,在此需支付 5 x $0.15 + 1 x $0.50 = $0.75 + $0.50 = $1.25。使用不同模型的費率進行相同的計算很容易在其頁面上完成,這就是單一價格的重點。

程式碼中的切換

因為兩端都使用 OpenAI 聊天格式,你可以保持一個程式碼路徑,並從配置中讀取端點。這也讓你可以在自己的提示詞上運行 A/B 測試。

import os
from openai import OpenAI

PROVIDERS = {
    "dedicated": {
        "base_url": "https://api.abliteratedmodelhub.com/v1",
        "key": os.environ["DEDICATED_KEY"],
        "model": "uncensored",
    },
    # Add an aggregator entry here with its own base URL, key and model name.
}

def ask(name, prompt):
    cfg = PROVIDERS[name]
    client = OpenAI(base_url=cfg["base_url"], api_key=cfg["key"])
    resp = client.chat.completions.create(
        model=cfg["model"],
        messages=[{"role": "user", "content": prompt}],
        temperature=0.7,
    )
    return resp.choices[0].message.content

print(ask("dedicated", "Write a tense two-line cliffhanger for a noir story."))

將相同的二十個提示詞輸入每個入口並比較拒絕率、風格與每千次呼叫的成本。你自己的提示詞決定勝者。文件涵蓋此端點接受的參數。

任何供應商的公平測試計劃

最乾淨的決定方式是實際測量,使用你的提示詞與你對「良好」的定義。一次公平的測試大約需要一小時。

  1. 收集 30 個提示詞。 使用真實流量或具代表性的提示詞。包含 5 到 10 個觸及敏感但合法內容的提示詞,這些內容正是你尋找無審查模型的原因。
  2. 固定設定。 每個候選模型使用相同的 temperature、相同的系統提示詞、相同的最大長度,並在支援的情況下使用固定的 seed。
  3. 記錄基本資料。 對於每個回答,記錄是否遭到拒絕、是否附加了說教內容、輸出的 token 數量,以及是否遵循了你的格式。
  4. 重複三次。 每個提示詞在每個候選模型上至少執行三次。如果在三次測試中有一次遭到拒絕,就代表它不是「從不拒絕」的模型。
  5. 計算總價。 將輸入與輸出的 token 數量乘以各供應商的當前費率,然後根據你的每月用量進行預估。
  6. 稍後重新測試。 在一個月後再次執行相同的測試集,因為模型目錄與路由供應商可能會變更。

$0.50 的試用額度是為這種檢查而設計的。根據上述費率,30 個提示詞(每個包含 1,000 個輸入 token 與 500 個輸出 token)將消耗 30,000 個輸入 token 與 15,000 個輸出 token:$0.0045 + $0.0075 = $0.012。即使重複三次,成本也僅約 3.6 美分。

比較時的陷阱

一些陷阱會使比較結果產生誤導。

  • 名稱相同,模型不同。 標籤中包含「uncensored」或「abliterated」僅表示上傳者的意圖,而非模型在你提示詞下的實際行為。請進行測試。
  • 上下文限制不同。 一個提示詞可能在某種設定下可以完整處理,但在另一種設定下則會被截斷。在比較長輸入的輸出結果之前,請先檢查上下文視窗。
  • 隱藏的系統提示詞。 前端介面可能會加入自己的指令。請透過原始 API 進行比較,以便測量模型本身,而非封裝層。
  • 每個 token 的價格不等於每項任務的價格。 一個輸出較長的模型,即使費率較低,每個回答的成本也可能更高。請比較完成每項任務的成本。
  • 合法使用由你負責。 無論你選擇哪條路徑,沒有拒絕的模型並不會改變法律規範。請限於合法的成人使用,並注意此處對於涉及未成年人的性內容一律禁止。

在此開始

建立帳戶並在 API 金鑰頁面 領取你的金鑰。新用戶可以一鍵領取 $0.50 的免費試用額度,有效期為 7 天,無需信用卡。註冊方式為使用 Google 或電子郵件與密碼。試用金鑰允許 2 個並行請求與每分鐘 60 個請求;完整金鑰則允許 8 個並行請求與每分鐘 300 個請求。

試用期結束後,可透過加密貨幣(TRC20 上的 USDT、Base 上的 USDC)儲值任意整數金額,範圍從 $20 到 $500,並享有 +5%(滿 $50)、+10%(滿 $100)和 +15%(滿 $200)的額外額度。額度永不過期。定價頁面有詳細資訊,無限制 AI 模型頁面則說明實際運作方式,包含一項硬性限制:禁止涉及未成年人的性內容。

問答

此服務與 OpenRouter 相同嗎?

不相同。OpenRouter 是聚合多個模型的聚合器。此服務是專屬 API,運行單一開放權重模型,模型 ID 為 uncensored。

提供哪些 Abliterated 模型?

單一模型。這是單一開放權重模型,針對合法成人使用情境進行微調,使其在回答時不會因內容而拒絕,而非提供模型目錄。

我可以對兩者使用相同的程式碼嗎?

可以。兩者都遵循 OpenAI 的聊天格式,因此你只需更改 Base URL、金鑰與模型名稱即可。

我可以在哪裡看到 OpenRouter 的價格?

在其官方網站上。價格與可用模型會變動,因此請查看其當前的定價,而非依賴第三方列表。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改Base URL。這就是整個設定過程。

取得 API 金鑰