TH ▾
รับคีย์ API

โมเดล Abliterated ฟรี: ท้องถิ่น, เดโม และเครดิตทดลองใช้

คุณสามารถรับโมเดล abliterated ฟรีได้หลายวิธี แต่แต่ละวิธีมีข้อจำกัด: ฮาร์ดแวร์, คิว หรือเวลา นี่คือตัวเลือกต่างๆ ต้นทุนที่แท้จริง และสิ่งที่เครดิตทดลองใช้แบบไม่ต้องใช้บัตรทำได้

อัปเดต

กุญแจและโทเกนเรืองแสงหน้าประตูเปิด แสดงถึงการเข้าถึงโมเดล abliterated แบบทดลองใช้ฟรี
ศูนย์รวมที่กระจายไปยังกล่องเล็ก ๆ หลายกล่อง ข้างทางตรงไปยังกล่องใหญ่ ตัวรวมเทียบกับ API เฉพาะ

ประเด็นสำคัญ

  • น้ำหนักฟรีมีอยู่ แต่การรันต้องการ GPU หรือความอดทนสูงเมื่อใช้ CPU
  • เดโมฟรีเป็นแบบแชร์ มีขีดจำกัดอัตรา และเปลี่ยนแปลงได้โดยไม่แจ้งล่วงหน้า จึงเหมาะสำหรับการดูเร็วๆ ไม่ใช่สำหรับโปรเจกต์
  • เครดิตทดลองใช้ $0.50 นี้ใช้ได้ประมาณ 1,250 คำขอแชทสั้นๆ เพียงพอสำหรับการทดสอบ API จริง
  • ตัวเลือกฟรีดีสำหรับการประเมิน; การจ่ายตามการใช้งานเหมาะสำหรับสิ่งที่คุณพึ่งพา

ความหมายของโมเดลที่ผ่านการลบการเซ็นเซอร์

โมเดลที่ผ่านการลบการเซ็นเซอร์คือโมเดลภาษาแบบเปิดน้ำหนักที่ผ่านการแก้ไขเพื่อลดแนวโน้มการปฏิเสธคำขอ เทคนิคนี้ระบุทิศทางในการกระตุ้นภายในโมเดลที่เกี่ยวข้องกับการปฏิเสธแล้วนำมันออก ผลลัพธ์คือโมเดลจะตอบได้ตรงไปตรงมามากขึ้น แม้ว่าคุณภาพอาจแตกต่างจากต้นฉบับ และผู้อัปโหลดแต่ละรายจะได้ผลลัพธ์ที่แตกต่างกัน

เมื่อคนค้นหา โมเดล Abliterated ฟรี พวกเขามักต้องการสิ่งใดสิ่งหนึ่งจากสามอย่าง: weights เพื่อรันบนเครื่องของตัวเอง, หน้าเว็บเพื่อแชทกับโมเดล, หรือ API ที่เรียกจากโค้ดได้โดยไม่ต้องจ่ายเงินล่วงหน้า ปัญหาเหล่านี้ต่างกันและคำตอบก็ต่างกัน ส่วนด้านล่างจะอธิบายทีละส่วน

ตัวเลือกที่ 1: ดาวน์โหลด weights และรันบนเครื่องของคุณเอง

ชุมชนอัปโหลดโมเดล Abliterated ลงบนเว็บโฮสต์โมเดล มักเป็นไฟล์ที่ผ่านการ quantize แล้วเพื่อรันในเครื่องมือเช่น llama.cpp, Ollama หรือ LM Studio ซอฟต์แวร์ฟรีและการดาวน์โหลดก็ฟรี สิ่งที่คุณจ่ายคือเครื่องจักร

  • หน่วยความจำคือข้อจำกัด โดยประมาณ weights ต้องการพารามิเตอร์คูณบิตต่อ weight หารด้วยแปด โมเดล 8B ที่ 4-bit ใช้พื้นที่ประมาณ 4 GB โมเดล 70B ที่ 4-bit ใช้พื้นที่ประมาณ 35 GB รวมหน่วยความจำทำงานสำหรับ context
  • ไม่ใช้ GPU ก็รันได้แต่ช้า โมเดลเล็กรันบน CPU ที่มี RAM เพียงพอ ได้ความเร็วที่เหมาะกับการทดสอบมากกว่าแชทรายวัน
  • คุณภาพแตกต่างกัน อ่านการ์ดโมเดล ตรวจสอบใบอนุญาต และเลือกไฟล์จากผู้อัปโหลดที่อธิบายวิธีการสร้าง

ทางนี้ฟรีจริงถ้ามีฮาร์ดแวร์แล้ว ถ้าต้องซื้อไม่ใช่ฟรีเลย หน้า โมเดล Abliterated ที่ดีที่สุดสำหรับโค้ด บอกสิ่งที่ควรดูเมื่อใช้เขียนโปรแกรม

ตัวเลือกที่ 2: เดโมฟรีและพื้นที่แชร์

ผู้อัปโหลดและชุมชนบางรายโฮสต์หน้าเดโมที่คุณสามารถแชทกับโมเดลได้ฟรี เหมาะสำหรับสร้างภาพรวมเบื้องต้น คาดข้อจำกัดเหล่านี้:

  • คิวแชร์ เมื่อโหลดสูง คุณอาจต้องรอ หรือหน้าเว็บอาจหมดเวลา
  • ไม่มีความเสถียร เดโมอาจหายไป เปลี่ยนโมเดล หรือเพิ่มข้อจำกัดได้โดยไม่มีการแจ้งเตือน
  • ไม่มีการรับประกัน API แม้เมื่อเดโมเปิดเผยเอนด์พอยต์ มันไม่ได้ถูกออกแบบมาสำหรับแอปพลิเคชัน
  • การจัดการข้อมูลไม่ชัดเจน อ่านสิ่งที่หน้าเว็บกล่าวเกี่ยวกับการบันทึกข้อมูลก่อนที่คุณจะวางข้อมูลส่วนตัวใดๆ

ใช้เดโมเพื่อตัดสินใจว่าสไตล์ของโมเดลเหมาะกับคุณหรือไม่ อย่าสร้างแอปพลิเคชันบนเดโมนี้

ตัวเลือกที่ 3: เครดิตทดลองใช้บน API แบบจ่ายตามโทเคน

ทางที่สามคือ API แบบโฮสต์พร้อมเครดิตทดลองใหม่ ลงทะเบียนด้วย Google หรืออีเมล/รหัสผ่าน แล้วคลิก หน้าคีย์ API รับ เครดิตทดลอง $0.50 ไม่ต้องใช้บัตร ใช้ได้คนละ 1 ครั้ง ใช้ได้ 7 วัน คีย์ทดลองอนุญาตคำขอพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที

API นี้เข้ากันได้กับ OpenAI ดังนั้น SDK ของ OpenAI ใดๆ ก็ใช้ได้หลังจากเปลี่ยน base URL และ key ID ของโมเดลคือ uncensored เป็นโมเดล open-weight ตัวหนึ่งที่ให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รองรับเฉพาะข้อความ และมีข้อจำกัดแข็งคือห้ามมีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์

เครดิตทดลองใช้ $0.50 ซื้ออะไรได้บ้าง

ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน นี่คือคณิตศาสตร์สำหรับคำขอแชทสั้นๆ ทั่วไปที่มีโทเคนอินพุต 1,000 และโทเคนเอาต์พุต 500:

  • อินพุต: 1,000 / 1,000,000 x $0.15 = $0.00015
  • เอาต์พุต: 500 / 1,000,000 x $0.50 = $0.00025
  • ต่อคำขอ: $0.0004
  • $0.50 / $0.0004 = 1,250 คำขอ

การสนทนาที่ยาวนานขึ้นใช้โทเคนมากขึ้น การสนทนาที่แต่ละเทิร์นส่งประวัติกลับมาอาจมีค่าเฉลี่ย 5,000 โทเคนอินพุตและ 500 โทเคนเอาต์พุต: $0.00075 + $0.00025 = $0.001 ต่อคำขอ ดังนั้นเครดิตทดลองจึงครอบคลุมคำขอเหล่านั้นได้ประมาณ 500 คำขอ ไม่ว่ากรณีใด ๆ ก็เพียงพอที่จะทดสอบพรอมต์ น้ำเสียง และการเรียกใช้ฟังก์ชันตลอดโครงการจริง ซึ่งการสาธิตฟรีส่วนใหญ่ไม่สามารถให้ได้

วิธีที่ยุติธรรมในการใช้เครดิต: เขียนพรอมต์สิบอันที่สะท้อนการใช้งานจริงของคุณ รันพรอมต์เหล่านั้นครั้งละอันที่อุณหภูมิต่ำ และบันทึกจำนวนโทเคนในคำตอบ จากนั้นคูณด้วยปริมาณรายเดือนที่คาดหวังของคุณ หากพรอมต์สิบอันมีค่าใช้จ่ายรวม $0.004 ดังนั้นการใช้งานหนึ่งพันรายการต่อเดือนจะมีค่าใช้จ่ายประมาณ $0.40 การคำนวณเพียงครั้งเดียวนี้บอกคุณได้ว่าระดับการชำระเงินคุ้มค่าที่จะพิจารณาหรือไม่ และคุณทำมันโดยไม่ต้องป้อนรายละเอียดบัตร หากคุณหวังว่า API จะทำงานเหมือนกับการอัปโหลดจากชุมชนเฉพาะ ให้ทดสอบสิ่งนั้นด้วย เนื่องจากโมเดลที่ผ่านการลบการปฏิเสธที่แตกต่างกันให้คำตอบที่แตกต่างกัน

ลองในสองนาที

หลังจากที่คุณมีคีย์ API แล้ว นี่คือขั้นตอนการทดสอบทั้งหมด ตั้งค่า Base URL และโมเดล แล้วส่งพรอมต์

curl https://api.abliteratedmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Explain what a refusal direction is in two sentences."}]}'

หรือจาก Python:

from openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedmodelhub.com/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List three risks of running unvetted model weights."}],
)
print(r.choices[0].message.content)

ส่วนหัวของคำตอบ X-Balance-USD แสดงยอดคงเหลือหลังจากแต่ละการเรียกใช้ และ GET /v1/balance ก็ส่งค่านั้นเช่นกัน รายการใน docs ครอบคลุมการสตรีมมิง การเรียกใช้ฟังก์ชัน และโหมด JSON

การตรวจสอบก่อนที่คุณจะไว้วางใจการดาวน์โหลดหรือเดโมฟรี

ฟรียังหมายถึงการไม่ได้ผ่านการตรวจสอบ โดยนิสัยไม่กี่อย่างนี้จะช่วยให้คุณหลีกเลี่ยงปัญหา

สำหรับน้ำหนักที่ดาวน์โหลดมา

  • เลือกฟอร์แมตที่ไม่สามารถรันโค้ดเมื่อโหลด เช่น safetensors หรือ GGUF แทนที่ checkpoint แบบ pickled
  • อ่านใบอนุญาต ใบอนุญาตแบบ open-weight บางฉบับจำกัดการใช้งานเชิงพาณิชย์หรือต้องการการอ้างอิง และผู้อัปโหลดไม่สามารถเปลี่ยนแปลงใบอนุญาตเดิมได้
  • ตรวจสอบ chat template แม่แบบที่ผิดเป็นสาเหตุที่พบบ่อยที่สุดที่ทำให้โมเดลดูเหมือนเสียหรือพูดวกไปวนมา โดยทั่วไปแล้ว model card จะระบุแม่แบบที่ถูกต้อง
  • เปรียบเทียบการ quantization ไฟล์ 4-bit มีขนาดเล็กกว่าและเร็วกว่าแต่อาจสูญเสียความแม่นยำบางประการเมื่อเทียบกับ 8-bit ลองสองเวอร์ชันแล้วเก็บเวอร์ชันที่ทนทานต่อพรอมต์ของคุณ

สำหรับเดโมและแพ็กเกจฟรี

  • สมมติว่าพรอมต์อาจถูกบันทึกไว้ หลีกเลี่ยงการใส่ชื่อ คีย์ และเอกสารส่วนตัว
  • อย่าผูกผลิตภัณฑ์กับหน้าเว็บที่คุณไม่ได้ควบคุม
  • จดบันทึกพรอมต์ที่คุณได้ลองไว้ เพื่อให้คุณสามารถทดสอบซ้ำกับตัวเลือกอื่นและเปรียบเทียบได้อย่างยุติธรรม

Abliteration เปลี่ยนพฤติกรรมการปฏิเสธ ไม่ได้เพิ่มความรู้ โมเดลที่ผ่านการ abliteration แล้วยังสามารถประดิษฐ์ข้อมูลเท็จได้ และการปฏิเสธที่น้อยลงหมายถึงคุณต้องรับผิดชอบในการตัดสินว่าควรถามอะไรและใช้คำตอบอย่างไรอย่างไร ใช้โดยผู้ใหญ่ตามกฎหมายเท่านั้น และห้ามเกี่ยวข้องกับ ผู้เยาว์

ฟรีเทียบกับแบบจ่ายตามการใช้งาน: วิธีเลือก

ความต้องการความเหมาะสมที่สุด
ดูรูปแบบการทำงานเดโมฟรี
การใช้งานออฟไลน์ ควบคุมน้ำหนักโมเดลได้เต็มที่ดาวน์โหลดในเครื่อง หากมีฮาร์ดแวร์เพียงพอ
ทดสอบแอปพลิเคชันกับ APIเครดิตทดลองใช้ฟรี
สิ่งที่คุณพึ่งพาในชีวิตประจำวันจ่ายตามการใช้งาน เติมเงินล่วงหน้า ไม่มีแพ็กเกจรายเดือน

เมื่อระยะเวลาทดลองหมด การเติมเงินจะเป็นจำนวนเต็มตั้งแต่ $20 ถึง $500 พร้อมโบนัส 5% เมื่อเติมตั้งแต่ $50, 10% เมื่อเติมตั้งแต่ $100 และ 15% เมื่อเติมตั้งแต่ $200 เครดิตไม่หมดอายุ และคุณชำระเงินด้วยคริปโต ดูรายละเอียดได้ที่ หน้าราคา สำหรับภาพรวมที่กว้างขึ้นเกี่ยวกับโมเดลที่ไม่มีข้อจำกัด อ่าน หน้าเกี่ยวกับโมเดล AI ที่ไม่มีข้อจำกัดของเรา

ใช้สิ่งเหล่านี้เฉพาะเพื่อวัตถุประสงค์ทางกฎหมายสำหรับผู้ใหญ่ และหลีกเลี่ยงการใส่ข้อมูลส่วนบุคคลในพรอมต์

ถาม-ตอบ

มีโมเดล abliterated ฟรีให้ใช้ทางออนไลน์หรือไม่

หน้าเว็บดีโมจากชุมชนมีอยู่ แต่เป็นแบบแชร์กัน ไม่เสถียร และไม่ได้มีไว้สำหรับการใช้งานแอปพลิเคชัน เครดิตทดลองใช้บน API แบบโฮสต์ให้คุณทดสอบได้เสถียรกว่า

เครดิตทดลองให้ฉันเท่าไหร่

$0.50 ต่อหนึ่งครั้งต่อคน ใช้งานได้ 7 วัน ไม่ต้องใช้บัตร ที่อัตรา 1,000 โทเคนอินพุตและ 500 โทเคนเอาต์พุตต่อคำขอ นั่นคือประมาณ 1,250 คำขอ

ฉันสามารถรันโมเดล abliterated บนแล็ปท็อปได้หรือไม่

โมเดลขนาดเล็กแบบควอนไทซ์ สามารถรันบนแล็ปท็อปที่มี RAM เพียงพอ แต่จะทำงานช้าหากไม่มี GPU ที่เพียงพอ ตรวจสอบขนาดโมเดลเทียบกับหน่วยความจำของคุณก่อน

โมเดลโฮสต์เหมือนกับอัปโหลด abliterated บน Hugging Face หรือไม่

ไม่ นี่คือโมเดล open-weight โมเดลเดียวที่ให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหา อย่าสันนิษฐานว่ามันเหมือนกับโมเดลที่อัปโหลดเฉพาะใดๆ

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API