โมเดล Abliterated บน OpenRouter เทียบกับ API เฉพาะ
การค้นหาโมเดล Abliterated บน OpenRouter มักหมายถึงคุณต้องการเข้าถึงโมเดล uncensored โดยไม่ต้องโฮสต์เอง ทั้งตัวรวมและ API เฉพาะต่างแก้ปัญหานี้ในรูปแบบที่แตกต่างกัน และการเลือกที่ถูกต้องขึ้นอยู่กับความต้องการความหลากหลายของคุณ

ประเด็นสำคัญ
- OpenRouter เป็นตัวรวมที่ส่งคำขอไปยังโมเดลหลายตัวจากผู้ให้บริการหลายราย บริการนี้รันโมเดลหนึ่งตัวภายใต้ ID เดียว
- ตัวรวมชนะด้านความหลากหลายและการสำรอง API เฉพาะชนะด้านพฤติกรรมเดียวที่คาดเดาได้
- ทั้งสองใช้รูปแบบการสนทนาของ OpenAI ดังนั้นการสลับระหว่างกันคือการเปลี่ยน base URL และคีย์
- ตรวจสอบรายการโมเดลและราคาปัจจุบันของ OpenRouter ด้วยตัวเอง เพราะทั้งสองเปลี่ยนแปลงบ่อย
รูปแบบบริการที่แตกต่างกันสองแบบ
OpenRouter เป็นเกตเวย์รูปแบบตลาด คุณมีบัญชีและ API เดียว แล้วเลือกจากแคตตาล็อกโมเดลขนาดใหญ่จากผู้ให้บริการหลากหลาย สิ่งที่อยู่ในแคตตาล็อก โมเดลที่มีอยู่ และราคาของแต่ละรายการอาจเปลี่ยนแปลงได้ ดังนั้นให้ถือรายการที่คุณอ่านจากแหล่งอื่นเป็นภาพ ณ ขณะนั้น และตรวจสอบโดยตรงกับพวกเขา
บริการนี้แคบลงโดยเจตนา มันรันโมเดล open-weight โมเดลเดียว ซึ่งโฮสต์โดยผู้ให้บริการอิสระและปรับแต่งเพื่อตอบกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รหัสโมเดลคือ uncensored เสมอ มันไม่ใช่เราเตอร์ มันไม่ได้ส่งคำขอของคุณไปยังผู้ขายรายอื่นขึ้นอยู่กับภาระงาน และไม่ใช่ API ทางการของผู้สร้างโมเดลใด
การออกแบบทั้งสองแบบไม่ได้ดีกว่ากันในเชิงนามธรรม แคตตาล็อกเป็นสิ่งที่ดีเมื่อคุณต้องการเปรียบเทียบสิบโมเดล เอนด์พอยต์เดียวเป็นสิ่งที่ดีเมื่อคุณต้องการให้คำขอครั้งที่สิบทำงานเหมือนคำขอแรก
การเปรียบเทียบในสิ่งที่คุณสามารถตรวจสอบได้
| คำถาม | ตัวรวมเช่น OpenRouter | API เฉพาะนี้ |
|---|---|---|
| จำนวนโมเดล | หลายโมเดล ตามแคตตาล็อกของพวกเขา | หนึ่งโมเดล รหัส uncensored |
| มีโมเดล abliterated หรือ uncensored แบบใดบ้าง | ตรวจสอบรายการโมเดลปัจจุบันของพวกเขา | ไม่เกี่ยวข้อง โมเดลเดียว |
| พฤติกรรมเมื่อเวลาผ่านไป | ขึ้นอยู่กับโมเดลและผู้ให้บริการที่คุณเลือก | โมเดลเดียวกันในทุกคำขอ |
| ราคา | ต่อโมเดล โปรดตรวจสอบราคาปัจจุบันของพวกเขา | $0.15 ต่อ 1M input, $0.50 ต่อ 1M output |
| รูปแบบ API | การตอบกลับแชทสไตล์ OpenAI | เข้ากันได้กับ OpenAI: การตอบกลับแชทและโมเดล |
| ประเภทผลลัพธ์ | ขึ้นอยู่กับโมเดล | ข้อความเท่านั้น |
| หน้าต่างบริบท | ขึ้นอยู่กับโมเดล | 100,000 โทเคน |
| การใช้ข้อมูล | ตรวจสอบนโยบายและนโยบายของผู้ให้บริการแต่ละราย | พรอมต์ไม่ถูกใช้ในการฝึกฝน |
ช่องว่างในคอลัมน์กลางไม่ใช่สัญญาณว่ามีอะไรหายไป แต่สะท้อนว่าฉันจะไม่อ้างราคาหรือนโยบายของบริษัทอื่นว่าเป็นความจริง อ่านหน้าเว็บของพวกเขาก่อนตัดสินใจ
เมื่อตัวรวมเป็นตัวเลือกที่เหมาะสมที่สุด
เลือกเกตเวย์หากโครงการของคุณเข้าข่ายข้อใดข้อหนึ่งต่อไปนี้:
- คุณยังคงกำลังเลือกโมเดลและต้องการส่งพรอมต์เดียวกันไปยังโมเดลหลายตัว
- คุณต้องการโมเดลหลายประเภทภายใต้คีย์เดียว เช่น โมเดลขนาดเล็กที่เร็วสำหรับการจัดประเภท และโมเดลขนาดใหญ่สำหรับการเขียน
- คุณต้องการการเปลี่ยนเส้นทางอัตโนมัติไปยังผู้ให้บริการอื่นเมื่อผู้ให้บริการหนึ่งล่ม
- คุณต้องการฟีเจอร์ที่บริการนี้ไม่มี: อินพุตรูปภาพ, embeddings หรือ fine-tuning
นี่เป็นเส้นทางที่สมเหตุสมผลหากคุณต้องการลองโมเดล abliterated เฉพาะชื่อ แคตตาล็อกอาจระบุรูปแบบชุมชนเฉพาะที่บริการโมเดลเดียวไม่มี
เมื่อเอนด์พอยต์เฉพาะเจาะจงสมเหตุสมผลกว่า
บริการโมเดลเดียวเหมาะกับชุดปัญหาที่แตกต่างออกไป
- ความสอดคล้อง พรอมต์ที่คุณปรับแต่งสำหรับโมเดลหนึ่งจะทำงานต่อไป ไม่มีเหตุการณ์ไม่คาดคิดเมื่อโมเดลที่ถูกเปลี่ยนเส้นทางเปลี่ยนไปภายใต้ชื่อที่ดูเหมือนคงที่
- การประมาณต้นทุนที่เรียบง่าย อัตราอินพุตหนึ่งอัตราและอัตราเอาต์พุตหนึ่งอัตรา คุณสามารถประมาณต้นทุนรายเดือนในสเปรดชีตได้
- พฤติกรรมการปฏิเสธที่คุณไม่ต้องตรวจสอบ โมเดลทุกตัวในแคตตาล็อกไม่ได้มีพฤติกรรมเดียวกันกับเนื้อหาที่ละเอียดอ่อนแต่ถูกต้องตามกฎหมาย และคุณอาจใช้เวลาตรวจสอบแต่ละตัว
- ขนาด footprint เล็ก การพึ่งพาเพียงอย่างเดียวพร้อมรายการพารามิเตอร์สั้นๆ: streaming, การเรียกใช้ฟังก์ชัน, โหมด JSON และการควบคุมการสุ่มมาตรฐาน
ตัวอย่างต้นทุน ไปป์ไลน์ที่ประมวลผล 5M input tokens และ 1M output tokens ในหนึ่งวัน จ่าย 5 x $0.15 + 1 x $0.50 = $0.75 + $0.50 = $1.25 ที่นี่ การคำนวณเดียวกันด้วยอัตราของโมเดลอื่นทำได้ง่ายจากหน้าเว็บของพวกเขา ซึ่งเป็นจุดประสงค์ของราคาคงที่
การสลับระหว่างพวกมันในโค้ด
เนื่องจากทั้งสองฝ่ายใช้รูปแบบการสนทนาของ OpenAI คุณสามารถรักษาเส้นทางโค้ดเดียวและอ่าน endpoint จากค่ากำหนดได้ สิ่งนี้ยังช่วยให้คุณทำการทดสอบ A/B บนพรอมต์ของคุณเองได้
import os
from openai import OpenAI
PROVIDERS = {
"dedicated": {
"base_url": "https://api.abliteratedmodelhub.com/v1",
"key": os.environ["DEDICATED_KEY"],
"model": "uncensored",
},
# Add an aggregator entry here with its own base URL, key and model name.
}
def ask(name, prompt):
cfg = PROVIDERS[name]
client = OpenAI(base_url=cfg["base_url"], api_key=cfg["key"])
resp = client.chat.completions.create(
model=cfg["model"],
messages=[{"role": "user", "content": prompt}],
temperature=0.7,
)
return resp.choices[0].message.content
print(ask("dedicated", "Write a tense two-line cliffhanger for a noir story."))
ส่งพรอมต์ยี่สิบตัวเดียวกันผ่านแต่ละรายการและเปรียบเทียบอัตราการปฏิเสธ สไตล์ และต้นทุนต่อการเรียกพันครั้ง พรอมต์ของคุณเป็นผู้ตัดสิน เอกสารประกอบ ครอบคลุมพารามิเตอร์ที่ endpoint นี้ยอมรับ
แผนการทดสอบที่ยุติธรรมสำหรับผู้ให้บริการใดๆ
วิธีที่ชัดเจนที่สุดในการตัดสินใจคือการวัดผล โดยใช้พรอมต์ของคุณและคำจำกัดความของคุณเกี่ยวกับคุณภาพ การทดสอบที่ยุติธรรมใช้เวลาประมาณหนึ่งชั่วโมง
- รวบรวมพรอมต์ 30 รายการ ใช้การจราจรจริงหรือแบบสมจริง รวม 5 ถึง 10 รายการที่แตะเนื้อหาที่ละเอียดอ่อนแต่ถูกกฎหมายซึ่งทำให้คุณมองหาโมเดลที่ไม่เซ็นเซอร์
- ตั้งค่าการตั้งค่าให้คงที่ temperature เดียวกัน system prompt เดียวกัน ความยาวสูงสุดเดียวกันในทุกตัวเลือก และ seed คงที่เมื่อรองรับ
- บันทึกข้อมูลพื้นฐาน สำหรับคำตอบแต่ละคำตอบ บันทึกว่ามันปฏิเสธหรือไม่ เพิ่มคำเทศนาหรือไม่ จำนวน output token และปฏิบัติตามรูปแบบของคุณหรือไม่
- ทำซ้ำสามครั้ง รันพรอมต์แต่ละตัวอย่างน้อยสามครั้งต่อตัวเลือก โมเดลที่ปฏิเสธหนึ่งครั้งในสามครั้ง ไม่ใช่โมเดลที่ไม่เคยปฏิเสธ
- คำนวณราคาทั้งหมด คูณจำนวนโทเคนอินพุตและเอาต์พุตด้วยอัตราปัจจุบันของผู้ให้บริการแต่ละราย แล้วประเมินเป็นปริมาณการใช้งานรายเดือนของคุณ
- ทดสอบซ้ำในภายหลัง รันชุดเดียวกันอีกครั้งในหนึ่งเดือน เนื่องจากแคตตาล็อกและผู้ให้บริการที่จัดเส้นทางอาจมีการเปลี่ยนแปลง
เครดิตทดลองใช้ขนาด $0.50 ถูกออกแบบมาสำหรับการตรวจสอบประเภทนี้ที่ฝั่งของเรา ที่อัตราข้างต้น พรอมต์ 30 รายการ ที่มีอินพุต 1,000 โทเคนและเอาต์พุต 500 โทเคน จะใช้โทเคนอินพุต 30,000 โทเคนและโทเคนเอาต์พุต 15,000 โทเคน: $0.0045 + $0.0075 = $0.012 แม้ทำซ้ำสามครั้งก็จะมีค่าใช้จ่ายประมาณ 3.6 เซนต์
กับดักเมื่อเปรียบเทียบ
กับดักบางประการทำให้การเปรียบเทียบคลาดเคลื่อน
- ชื่อเดียวกัน แต่โมเดลต่างกัน ป้ายกำกับที่มีคำว่า "uncensored" หรือ "abliterated" บอกเจตนาของผู้อัปโหลด ไม่ใช่พฤติกรรมของโมเดลเมื่อคุณใช้พรอมต์ของคุณ ทดสอบดู
- ขีดจำกัดหน้าต่างบริบทแตกต่างกัน พรอมต์ที่พอดีกับการตั้งค่าหนึ่งอาจถูกตัดออกในการตั้งค่าอื่น ตรวจสอบหน้าต่างบริบทก่อนที่คุณจะเปรียบเทียบเอาต์พุตกับอินพุตที่ยาว
- system prompt ที่ซ่อนอยู่ ส่วนหน้า (front end) อาจเพิ่มคำสั่งของตัวเอง เปรียบเทียบผ่าน API ดิบเพื่อให้คุณวัดผลโมเดล ไม่ใช่ตัวห่อหุ้ม
- ราคาต่อโทเคนไม่ใช่ราคาต่องาน โมเดลที่ใช้คำมากกว่าอาจมีค่าใช้จ่ายมากกว่าต่อคำตอบ แม้จะมีอัตราต่ำกว่า เปรียบเทียบต้นทุนต่องานที่เสร็จสมบูรณ์
- การใช้งานที่ถูกต้องตามกฎหมายเป็นหน้าที่ของคุณ ไม่ว่าคุณจะเลือกเส้นทางใด โมเดลที่ไม่มีข้อปฏิเสธไม่ได้เปลี่ยนสิ่งที่ถูกต้องตามกฎหมาย ให้ยึดติดกับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย และสังเกตว่าเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ไม่ได้รับอนุญาตที่นี่เด็ดขาด
เริ่มต้นที่นี่
สร้างบัญชีและรับคีย์ของคุณที่หน้า คีย์ API ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกเดียว ใช้ได้เป็นเวลา 7 วัน ไม่ต้องใช้บัตร การสมัครสมาชิกทำผ่าน Google หรือด้วยอีเมลและรหัสผ่าน คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที; คีย์เต็มอนุญาตให้ทำ 8 และ 300
หลังจากทดลองใช้ เติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 ด้วยคริปโต (USDT บน TRC20, USDC บน Base) พร้อมโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 เครดิตไม่หมดอายุ หน้าราคา มีรายละเอียด และหน้า โมเดล AI ที่ไม่มีข้อจำกัด อธิบายความหมายในทางปฏิบัติ รวมถึงขีดจำกัดเดียว: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์
คู่มือเพิ่มเติม
ถาม-ตอบ
บริการนี้เหมือนกับ OpenRouter หรือไม่?
ไม่ OpenRouter เป็นตัวรวมสำหรับโมเดลจำนวนมาก นี่คือ API เฉพาะที่รันโมเดล open-weight หนึ่งตัวภายใต้ ID uncensored
มีโมเดล abliterated อะไรบ้างที่ให้บริการ?
หนึ่งตัว เป็นโมเดลแบบเปิดน้ำหนักตัวเดียวที่ปรับแต่งเพื่อตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่แคตตาล็อก
ฉันสามารถใช้โค้ดเดียวกันสำหรับทั้งสองได้หรือไม่?
ใช่ ทั้งสองใช้รูปแบบแชทของ OpenAI ดังนั้นคุณจึงเปลี่ยน URL พื้นฐาน คีย์ และชื่อโมเดล
ฉันจะดูราคาของ OpenRouter ได้ที่ไหน?
บนเว็บไซต์ของพวกเขา ราคาและโมเดลที่มีให้มีการเปลี่ยนแปลง ดังนั้นตรวจสอบราคาปัจจุบันของพวกเขาแทนที่จะพึ่งพารายการจากบุคคลที่สาม
คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด