中文 ▾
获取 API 密钥

OpenRouter 上的abliterated 模型与专用 API

在 OpenRouter 上搜索abliterated 模型,通常意味着你希望在不自行托管的情况下访问无审查模型。聚合器和专用 API 以不同方式解决该问题,最佳选择取决于你对多样性的需求。

更新于

一个枢纽连接许多小方块,旁边是一条直达大方块的直线路径,聚合器与专用 API 对比

要点

  • OpenRouter 是聚合器,将请求路由到来自多个提供商的众多模型。该服务运行一个 ID 下的单一模型。
  • 聚合器在多样性和故障转移方面占优。专用接口在可预测的单一行为方面占优。
  • 两者均使用 OpenAI 聊天格式,因此在代码中切换只需更改 Base URL 和 API 密钥。
  • 请自行查看 OpenRouter 当前的模型列表和定价,因为两者都会经常变动。

两种不同的服务形态

OpenRouter 是类似市场的网关。你获得一个账户和一个 API,并从众多提供商提供的大型模型目录中进行选择。目录内容、可用模型及价格可能会变动,因此请将你在其他地方看到的列表视为快照,并直接查看其官方列表。

该服务范围较窄是出于有意设计。它运行一个开放权重模型,由独立提供商托管,并针对合法成人用途进行优化,以无内容审查的方式回答问题。模型 ID 始终为 uncensored。它不是路由器,不会根据负载将请求发送给不同的供应商,也不是任何模型制造商的官方 API。

从抽象角度看,两种设计没有优劣之分。当你希望比较十个模型时,目录是好事。当你希望第十次调用与第一次行为一致时,单一接口是好事。

可验证的对比

问题聚合器(如 OpenRouter)该专用 API
模型数量多个,依据其目录一个,ID 为 uncensored
存在哪些abliterated 或无审查模型查看其当前模型列表不适用,单一模型
随时间的行为取决于你选择的模型和提供商每次调用使用同一模型
定价按模型查看,请检查其当前定价每 1M 输入 token $0.15,每 1M 输出 token $0.50
接口格式OpenAI 风格聊天补全兼容 OpenAI:聊天补全和模型
输出类型取决于模型仅文本
上下文窗口取决于模型100,000 个 token
数据使用查看其政策及各提供商的政策提示词不用于训练

中间列的空白并非暗示那里缺少内容。这表示我不会将另一家公司的价格或政策陈述为事实。在做出决定前,请阅读他们的页面。

何时聚合器更合适

如果以下任何一项描述了你的项目,请选择网关:

  • 你仍在选择模型,并希望将同一提示词应用于多个模型。
  • 你需要一个密钥下的多种模型类型,例如用于分类的小型快速模型和用于写作的大型模型。
  • 你需要在一个提供商宕机时自动故障转移到另一个提供商。
  • 你需要该服务不具备的功能:图像输入、嵌入或微调。

如果你想尝试特定名称的abliterated 模型,这也是合理的选择。目录可能会列出特定的社区变体,而单一模型服务永远不会提供这些。

何时专用接口更合理

单一模型服务适合不同的问题集。

  • 一致性。 你针对某一模型调优的提示词将继续有效。不会出现路由模型在看似稳定的名称下发生变化的意外情况。
  • 简单的成本建模。 一个输入速率和一个输出速率。你可以在电子表格中估算一个月的成本。
  • 无需审计的拒绝行为。 目录中的每个模型对敏感但合法内容的处理方式可能不同,你可能需要花费时间检查每一个。
  • 占用空间小。 单一依赖项,参数列表简短:流式输出、函数调用、JSON 模式以及标准的采样控制。

成本示例。每天处理 500 万输入 token 和 100 万输出 token 的管道,在此处需支付 5 x $0.15 + 1 x $0.50 = $0.75 + $0.50 = $1.25。使用不同模型的费率进行相同计算很容易,这正是统一价格的优势。

代码中的切换

由于双方都使用 OpenAI 聊天格式,你可以保持一个代码路径,并从配置中读取接口。这也让你可以在自己的提示词上运行 A/B 测试。

import os
from openai import OpenAI

PROVIDERS = {
    "dedicated": {
        "base_url": "https://api.abliteratedmodelhub.com/v1",
        "key": os.environ["DEDICATED_KEY"],
        "model": "uncensored",
    },
    # Add an aggregator entry here with its own base URL, key and model name.
}

def ask(name, prompt):
    cfg = PROVIDERS[name]
    client = OpenAI(base_url=cfg["base_url"], api_key=cfg["key"])
    resp = client.chat.completions.create(
        model=cfg["model"],
        messages=[{"role": "user", "content": prompt}],
        temperature=0.7,
    )
    return resp.choices[0].message.content

print(ask("dedicated", "Write a tense two-line cliffhanger for a noir story."))

将相同的二十个提示词通过每个入口运行,并比较拒绝率、风格和每千次调用的成本。你自己的提示词决定胜负。文档涵盖了该接口接受的参数。

适用于任何供应商的公平测试计划

最清晰的决定方式是测量,使用你的提示词和你定义的标准。一次公平的测试大约需要一个小时。

  1. 收集 30 个提示词。 使用真实流量或逼真的提示词。包括 5 到 10 个触及敏感但合法内容的提示词,这些内容促使你寻找无审查模型。
  2. 固定设置。 相同的温度、相同的系统提示词、每个候选项的相同最大长度,以及在支持的情况下使用固定的随机种子。
  3. 记录基本信息。 对于每个回答,记录是否被拒绝、是否添加了说教、输出 token 数量以及是否遵循了你的格式。
  4. 重复三次。 每个提示词在每个候选项上至少运行三次。一个在三次中拒绝一次的模型,并不是一个从不拒绝的模型。
  5. 计算总价格。 将输入和输出 token 乘以每个供应商的当前费率,然后预测你的月度用量。
  6. 稍后重新测试。 一个月后再次运行相同的集合,因为目录和路由供应商会发生变化。

$0.50 的试用额度正好够我们这边做这类检查。按照上述费率,30 个包含 1,000 个输入 token 和 500 个输出 token 的提示词将使用 30,000 个输入 token 和 15,000 个输出 token:$0.0045 + $0.0075 = $0.012。即使重复三次,成本也约为 3.6 美分。

比较时的陷阱

一些陷阱会使比较产生误导。

  • 名称相同,模型不同。 带有“uncensored”或“abliterated”标签的模型仅表示上传者的意图,并不代表模型在你的提示词下的实际表现。请对其进行测试。
  • 上下文限制不同。 在一个设置中适合的一个提示词在另一个设置中可能会被截断。在比较长输入的输出之前,请先检查上下文窗口。
  • 隐藏的系统提示词。 前端可能会添加自己的指令。通过原始 API 进行比较,以便你测量的是模型本身,而不是包装器。
  • 每个 token 的价格不是每个任务的价格。 一个更啰嗦的模型即使费率较低,每个回答的成本也可能更高。比较完成每个任务的成本。
  • 合法使用由你负责。 无论你选择哪条路线,没有拒绝的模型不会改变什么是合法的。保持合法的成人使用,并注意未成年人参与的性内容在这里绝对不允许。

在此开始

创建一个账户并在 API 密钥页面 领取你的密钥。新用户只需点击一下即可获得 $0.50 的试用额度,有效期 7 天,无需信用卡。注册支持 Google 或电子邮件和密码。试用密钥允许 2 个并发请求和每分钟 60 个请求;完整密钥允许 8 个和 300 个。

试用结束后,可以通过加密货币(TRC20 上的 USDT、Base 上的 USDC)充值 $20 到 $500 的任意整数金额,充值 $50 及以上可获得 +5% 的奖励,$100 及以上 +10%,$200 及以上 +15%。额度永不失效。定价页面 有详细信息,无限制 AI 模型 页面解释了这在实践中的含义,包括一个硬性限制:不允许未成年人参与的性内容。

问答

此服务与 OpenRouter 相同吗?

不。OpenRouter 是许多模型的聚合器。这是一个专用的 API,运行一个 ID 为 uncensored 的开放权重模型。

它提供哪些abliterated 模型?

一个。它是一个单一的开放权重模型,经过调整以在法律允许的成人使用中无需内容拒绝即可回答,而不是一个目录。

我可以对两者使用相同的代码吗?

是的。两者均遵循 OpenAI 聊天格式,因此你只需更改Base URL、密钥和模型名称即可。

我可以在哪里查看 OpenRouter 的价格?

在他们的网站上。价格和可用模型会发生变化,因此请查看他们当前的定价,而不是依赖第三方列表。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改Base URL。这就是全部设置。

获取 API 密钥