TH ▾
รับคีย์ API

โมเดล Abliterated บน OpenRouter เทียบกับ API เฉพาะ

การค้นหาโมเดล Abliterated บน OpenRouter มักหมายถึงคุณต้องการเข้าถึงโมเดล uncensored โดยไม่ต้องโฮสต์เอง ทั้งตัวรวมและ API เฉพาะต่างแก้ปัญหานี้ในรูปแบบที่แตกต่างกัน และการเลือกที่ถูกต้องขึ้นอยู่กับความต้องการความหลากหลายของคุณ

อัปเดต

ศูนย์รวมที่กระจายไปยังกล่องเล็ก ๆ หลายกล่อง ข้างทางตรงไปยังกล่องใหญ่ ตัวรวมเทียบกับ API เฉพาะ

ประเด็นสำคัญ

  • OpenRouter เป็นตัวรวมที่ส่งคำขอไปยังโมเดลหลายตัวจากผู้ให้บริการหลายราย บริการนี้รันโมเดลหนึ่งตัวภายใต้ ID เดียว
  • ตัวรวมชนะด้านความหลากหลายและการสำรอง API เฉพาะชนะด้านพฤติกรรมเดียวที่คาดเดาได้
  • ทั้งสองใช้รูปแบบการสนทนาของ OpenAI ดังนั้นการสลับระหว่างกันคือการเปลี่ยน base URL และคีย์
  • ตรวจสอบรายการโมเดลและราคาปัจจุบันของ OpenRouter ด้วยตัวเอง เพราะทั้งสองเปลี่ยนแปลงบ่อย

รูปแบบบริการที่แตกต่างกันสองแบบ

OpenRouter เป็นเกตเวย์รูปแบบตลาด คุณมีบัญชีและ API เดียว แล้วเลือกจากแคตตาล็อกโมเดลขนาดใหญ่จากผู้ให้บริการหลากหลาย สิ่งที่อยู่ในแคตตาล็อก โมเดลที่มีอยู่ และราคาของแต่ละรายการอาจเปลี่ยนแปลงได้ ดังนั้นให้ถือรายการที่คุณอ่านจากแหล่งอื่นเป็นภาพ ณ ขณะนั้น และตรวจสอบโดยตรงกับพวกเขา

บริการนี้แคบลงโดยเจตนา มันรันโมเดล open-weight โมเดลเดียว ซึ่งโฮสต์โดยผู้ให้บริการอิสระและปรับแต่งเพื่อตอบกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รหัสโมเดลคือ uncensored เสมอ มันไม่ใช่เราเตอร์ มันไม่ได้ส่งคำขอของคุณไปยังผู้ขายรายอื่นขึ้นอยู่กับภาระงาน และไม่ใช่ API ทางการของผู้สร้างโมเดลใด

การออกแบบทั้งสองแบบไม่ได้ดีกว่ากันในเชิงนามธรรม แคตตาล็อกเป็นสิ่งที่ดีเมื่อคุณต้องการเปรียบเทียบสิบโมเดล เอนด์พอยต์เดียวเป็นสิ่งที่ดีเมื่อคุณต้องการให้คำขอครั้งที่สิบทำงานเหมือนคำขอแรก

การเปรียบเทียบในสิ่งที่คุณสามารถตรวจสอบได้

คำถามตัวรวมเช่น OpenRouterAPI เฉพาะนี้
จำนวนโมเดลหลายโมเดล ตามแคตตาล็อกของพวกเขาหนึ่งโมเดล รหัส uncensored
มีโมเดล abliterated หรือ uncensored แบบใดบ้างตรวจสอบรายการโมเดลปัจจุบันของพวกเขาไม่เกี่ยวข้อง โมเดลเดียว
พฤติกรรมเมื่อเวลาผ่านไปขึ้นอยู่กับโมเดลและผู้ให้บริการที่คุณเลือกโมเดลเดียวกันในทุกคำขอ
ราคาต่อโมเดล โปรดตรวจสอบราคาปัจจุบันของพวกเขา$0.15 ต่อ 1M input, $0.50 ต่อ 1M output
รูปแบบ APIการตอบกลับแชทสไตล์ OpenAIเข้ากันได้กับ OpenAI: การตอบกลับแชทและโมเดล
ประเภทผลลัพธ์ขึ้นอยู่กับโมเดลข้อความเท่านั้น
หน้าต่างบริบทขึ้นอยู่กับโมเดล100,000 โทเคน
การใช้ข้อมูลตรวจสอบนโยบายและนโยบายของผู้ให้บริการแต่ละรายพรอมต์ไม่ถูกใช้ในการฝึกฝน

ช่องว่างในคอลัมน์กลางไม่ใช่สัญญาณว่ามีอะไรหายไป แต่สะท้อนว่าฉันจะไม่อ้างราคาหรือนโยบายของบริษัทอื่นว่าเป็นความจริง อ่านหน้าเว็บของพวกเขาก่อนตัดสินใจ

เมื่อตัวรวมเป็นตัวเลือกที่เหมาะสมที่สุด

เลือกเกตเวย์หากโครงการของคุณเข้าข่ายข้อใดข้อหนึ่งต่อไปนี้:

  • คุณยังคงกำลังเลือกโมเดลและต้องการส่งพรอมต์เดียวกันไปยังโมเดลหลายตัว
  • คุณต้องการโมเดลหลายประเภทภายใต้คีย์เดียว เช่น โมเดลขนาดเล็กที่เร็วสำหรับการจัดประเภท และโมเดลขนาดใหญ่สำหรับการเขียน
  • คุณต้องการการเปลี่ยนเส้นทางอัตโนมัติไปยังผู้ให้บริการอื่นเมื่อผู้ให้บริการหนึ่งล่ม
  • คุณต้องการฟีเจอร์ที่บริการนี้ไม่มี: อินพุตรูปภาพ, embeddings หรือ fine-tuning

นี่เป็นเส้นทางที่สมเหตุสมผลหากคุณต้องการลองโมเดล abliterated เฉพาะชื่อ แคตตาล็อกอาจระบุรูปแบบชุมชนเฉพาะที่บริการโมเดลเดียวไม่มี

เมื่อเอนด์พอยต์เฉพาะเจาะจงสมเหตุสมผลกว่า

บริการโมเดลเดียวเหมาะกับชุดปัญหาที่แตกต่างออกไป

  • ความสอดคล้อง พรอมต์ที่คุณปรับแต่งสำหรับโมเดลหนึ่งจะทำงานต่อไป ไม่มีเหตุการณ์ไม่คาดคิดเมื่อโมเดลที่ถูกเปลี่ยนเส้นทางเปลี่ยนไปภายใต้ชื่อที่ดูเหมือนคงที่
  • การประมาณต้นทุนที่เรียบง่าย อัตราอินพุตหนึ่งอัตราและอัตราเอาต์พุตหนึ่งอัตรา คุณสามารถประมาณต้นทุนรายเดือนในสเปรดชีตได้
  • พฤติกรรมการปฏิเสธที่คุณไม่ต้องตรวจสอบ โมเดลทุกตัวในแคตตาล็อกไม่ได้มีพฤติกรรมเดียวกันกับเนื้อหาที่ละเอียดอ่อนแต่ถูกต้องตามกฎหมาย และคุณอาจใช้เวลาตรวจสอบแต่ละตัว
  • ขนาด footprint เล็ก การพึ่งพาเพียงอย่างเดียวพร้อมรายการพารามิเตอร์สั้นๆ: streaming, การเรียกใช้ฟังก์ชัน, โหมด JSON และการควบคุมการสุ่มมาตรฐาน

ตัวอย่างต้นทุน ไปป์ไลน์ที่ประมวลผล 5M input tokens และ 1M output tokens ในหนึ่งวัน จ่าย 5 x $0.15 + 1 x $0.50 = $0.75 + $0.50 = $1.25 ที่นี่ การคำนวณเดียวกันด้วยอัตราของโมเดลอื่นทำได้ง่ายจากหน้าเว็บของพวกเขา ซึ่งเป็นจุดประสงค์ของราคาคงที่

การสลับระหว่างพวกมันในโค้ด

เนื่องจากทั้งสองฝ่ายใช้รูปแบบการสนทนาของ OpenAI คุณสามารถรักษาเส้นทางโค้ดเดียวและอ่าน endpoint จากค่ากำหนดได้ สิ่งนี้ยังช่วยให้คุณทำการทดสอบ A/B บนพรอมต์ของคุณเองได้

import os
from openai import OpenAI

PROVIDERS = {
    "dedicated": {
        "base_url": "https://api.abliteratedmodelhub.com/v1",
        "key": os.environ["DEDICATED_KEY"],
        "model": "uncensored",
    },
    # Add an aggregator entry here with its own base URL, key and model name.
}

def ask(name, prompt):
    cfg = PROVIDERS[name]
    client = OpenAI(base_url=cfg["base_url"], api_key=cfg["key"])
    resp = client.chat.completions.create(
        model=cfg["model"],
        messages=[{"role": "user", "content": prompt}],
        temperature=0.7,
    )
    return resp.choices[0].message.content

print(ask("dedicated", "Write a tense two-line cliffhanger for a noir story."))

ส่งพรอมต์ยี่สิบตัวเดียวกันผ่านแต่ละรายการและเปรียบเทียบอัตราการปฏิเสธ สไตล์ และต้นทุนต่อการเรียกพันครั้ง พรอมต์ของคุณเป็นผู้ตัดสิน เอกสารประกอบ ครอบคลุมพารามิเตอร์ที่ endpoint นี้ยอมรับ

แผนการทดสอบที่ยุติธรรมสำหรับผู้ให้บริการใดๆ

วิธีที่ชัดเจนที่สุดในการตัดสินใจคือการวัดผล โดยใช้พรอมต์ของคุณและคำจำกัดความของคุณเกี่ยวกับคุณภาพ การทดสอบที่ยุติธรรมใช้เวลาประมาณหนึ่งชั่วโมง

  1. รวบรวมพรอมต์ 30 รายการ ใช้การจราจรจริงหรือแบบสมจริง รวม 5 ถึง 10 รายการที่แตะเนื้อหาที่ละเอียดอ่อนแต่ถูกกฎหมายซึ่งทำให้คุณมองหาโมเดลที่ไม่เซ็นเซอร์
  2. ตั้งค่าการตั้งค่าให้คงที่ temperature เดียวกัน system prompt เดียวกัน ความยาวสูงสุดเดียวกันในทุกตัวเลือก และ seed คงที่เมื่อรองรับ
  3. บันทึกข้อมูลพื้นฐาน สำหรับคำตอบแต่ละคำตอบ บันทึกว่ามันปฏิเสธหรือไม่ เพิ่มคำเทศนาหรือไม่ จำนวน output token และปฏิบัติตามรูปแบบของคุณหรือไม่
  4. ทำซ้ำสามครั้ง รันพรอมต์แต่ละตัวอย่างน้อยสามครั้งต่อตัวเลือก โมเดลที่ปฏิเสธหนึ่งครั้งในสามครั้ง ไม่ใช่โมเดลที่ไม่เคยปฏิเสธ
  5. คำนวณราคาทั้งหมด คูณจำนวนโทเคนอินพุตและเอาต์พุตด้วยอัตราปัจจุบันของผู้ให้บริการแต่ละราย แล้วประเมินเป็นปริมาณการใช้งานรายเดือนของคุณ
  6. ทดสอบซ้ำในภายหลัง รันชุดเดียวกันอีกครั้งในหนึ่งเดือน เนื่องจากแคตตาล็อกและผู้ให้บริการที่จัดเส้นทางอาจมีการเปลี่ยนแปลง

เครดิตทดลองใช้ขนาด $0.50 ถูกออกแบบมาสำหรับการตรวจสอบประเภทนี้ที่ฝั่งของเรา ที่อัตราข้างต้น พรอมต์ 30 รายการ ที่มีอินพุต 1,000 โทเคนและเอาต์พุต 500 โทเคน จะใช้โทเคนอินพุต 30,000 โทเคนและโทเคนเอาต์พุต 15,000 โทเคน: $0.0045 + $0.0075 = $0.012 แม้ทำซ้ำสามครั้งก็จะมีค่าใช้จ่ายประมาณ 3.6 เซนต์

กับดักเมื่อเปรียบเทียบ

กับดักบางประการทำให้การเปรียบเทียบคลาดเคลื่อน

  • ชื่อเดียวกัน แต่โมเดลต่างกัน ป้ายกำกับที่มีคำว่า "uncensored" หรือ "abliterated" บอกเจตนาของผู้อัปโหลด ไม่ใช่พฤติกรรมของโมเดลเมื่อคุณใช้พรอมต์ของคุณ ทดสอบดู
  • ขีดจำกัดหน้าต่างบริบทแตกต่างกัน พรอมต์ที่พอดีกับการตั้งค่าหนึ่งอาจถูกตัดออกในการตั้งค่าอื่น ตรวจสอบหน้าต่างบริบทก่อนที่คุณจะเปรียบเทียบเอาต์พุตกับอินพุตที่ยาว
  • system prompt ที่ซ่อนอยู่ ส่วนหน้า (front end) อาจเพิ่มคำสั่งของตัวเอง เปรียบเทียบผ่าน API ดิบเพื่อให้คุณวัดผลโมเดล ไม่ใช่ตัวห่อหุ้ม
  • ราคาต่อโทเคนไม่ใช่ราคาต่องาน โมเดลที่ใช้คำมากกว่าอาจมีค่าใช้จ่ายมากกว่าต่อคำตอบ แม้จะมีอัตราต่ำกว่า เปรียบเทียบต้นทุนต่องานที่เสร็จสมบูรณ์
  • การใช้งานที่ถูกต้องตามกฎหมายเป็นหน้าที่ของคุณ ไม่ว่าคุณจะเลือกเส้นทางใด โมเดลที่ไม่มีข้อปฏิเสธไม่ได้เปลี่ยนสิ่งที่ถูกต้องตามกฎหมาย ให้ยึดติดกับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย และสังเกตว่าเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ไม่ได้รับอนุญาตที่นี่เด็ดขาด

เริ่มต้นที่นี่

สร้างบัญชีและรับคีย์ของคุณที่หน้า คีย์ API ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกเดียว ใช้ได้เป็นเวลา 7 วัน ไม่ต้องใช้บัตร การสมัครสมาชิกทำผ่าน Google หรือด้วยอีเมลและรหัสผ่าน คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที; คีย์เต็มอนุญาตให้ทำ 8 และ 300

หลังจากทดลองใช้ เติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 ด้วยคริปโต (USDT บน TRC20, USDC บน Base) พร้อมโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 เครดิตไม่หมดอายุ หน้าราคา มีรายละเอียด และหน้า โมเดล AI ที่ไม่มีข้อจำกัด อธิบายความหมายในทางปฏิบัติ รวมถึงขีดจำกัดเดียว: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์

ถาม-ตอบ

บริการนี้เหมือนกับ OpenRouter หรือไม่?

ไม่ OpenRouter เป็นตัวรวมสำหรับโมเดลจำนวนมาก นี่คือ API เฉพาะที่รันโมเดล open-weight หนึ่งตัวภายใต้ ID uncensored

มีโมเดล abliterated อะไรบ้างที่ให้บริการ?

หนึ่งตัว เป็นโมเดลแบบเปิดน้ำหนักตัวเดียวที่ปรับแต่งเพื่อตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่แคตตาล็อก

ฉันสามารถใช้โค้ดเดียวกันสำหรับทั้งสองได้หรือไม่?

ใช่ ทั้งสองใช้รูปแบบแชทของ OpenAI ดังนั้นคุณจึงเปลี่ยน URL พื้นฐาน คีย์ และชื่อโมเดล

ฉันจะดูราคาของ OpenRouter ได้ที่ไหน?

บนเว็บไซต์ของพวกเขา ราคาและโมเดลที่มีให้มีการเปลี่ยนแปลง ดังนั้นตรวจสอบราคาปัจจุบันของพวกเขาแทนที่จะพึ่งพารายการจากบุคคลที่สาม

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API