โมเดล Abliterated ฟรี: ท้องถิ่น, เดโม และเครดิตทดลองใช้
คุณสามารถรับโมเดล abliterated ฟรีได้หลายวิธี แต่แต่ละวิธีมีข้อจำกัด: ฮาร์ดแวร์, คิว หรือเวลา นี่คือตัวเลือกต่างๆ ต้นทุนที่แท้จริง และสิ่งที่เครดิตทดลองใช้แบบไม่ต้องใช้บัตรทำได้


ประเด็นสำคัญ
- น้ำหนักฟรีมีอยู่ แต่การรันต้องการ GPU หรือความอดทนสูงเมื่อใช้ CPU
- เดโมฟรีเป็นแบบแชร์ มีขีดจำกัดอัตรา และเปลี่ยนแปลงได้โดยไม่แจ้งล่วงหน้า จึงเหมาะสำหรับการดูเร็วๆ ไม่ใช่สำหรับโปรเจกต์
- เครดิตทดลองใช้ $0.50 นี้ใช้ได้ประมาณ 1,250 คำขอแชทสั้นๆ เพียงพอสำหรับการทดสอบ API จริง
- ตัวเลือกฟรีดีสำหรับการประเมิน; การจ่ายตามการใช้งานเหมาะสำหรับสิ่งที่คุณพึ่งพา
ความหมายของโมเดลที่ผ่านการลบการเซ็นเซอร์
โมเดลที่ผ่านการลบการเซ็นเซอร์คือโมเดลภาษาแบบเปิดน้ำหนักที่ผ่านการแก้ไขเพื่อลดแนวโน้มการปฏิเสธคำขอ เทคนิคนี้ระบุทิศทางในการกระตุ้นภายในโมเดลที่เกี่ยวข้องกับการปฏิเสธแล้วนำมันออก ผลลัพธ์คือโมเดลจะตอบได้ตรงไปตรงมามากขึ้น แม้ว่าคุณภาพอาจแตกต่างจากต้นฉบับ และผู้อัปโหลดแต่ละรายจะได้ผลลัพธ์ที่แตกต่างกัน
เมื่อคนค้นหา โมเดล Abliterated ฟรี พวกเขามักต้องการสิ่งใดสิ่งหนึ่งจากสามอย่าง: weights เพื่อรันบนเครื่องของตัวเอง, หน้าเว็บเพื่อแชทกับโมเดล, หรือ API ที่เรียกจากโค้ดได้โดยไม่ต้องจ่ายเงินล่วงหน้า ปัญหาเหล่านี้ต่างกันและคำตอบก็ต่างกัน ส่วนด้านล่างจะอธิบายทีละส่วน
ตัวเลือกที่ 1: ดาวน์โหลด weights และรันบนเครื่องของคุณเอง
ชุมชนอัปโหลดโมเดล Abliterated ลงบนเว็บโฮสต์โมเดล มักเป็นไฟล์ที่ผ่านการ quantize แล้วเพื่อรันในเครื่องมือเช่น llama.cpp, Ollama หรือ LM Studio ซอฟต์แวร์ฟรีและการดาวน์โหลดก็ฟรี สิ่งที่คุณจ่ายคือเครื่องจักร
- หน่วยความจำคือข้อจำกัด โดยประมาณ weights ต้องการพารามิเตอร์คูณบิตต่อ weight หารด้วยแปด โมเดล 8B ที่ 4-bit ใช้พื้นที่ประมาณ 4 GB โมเดล 70B ที่ 4-bit ใช้พื้นที่ประมาณ 35 GB รวมหน่วยความจำทำงานสำหรับ context
- ไม่ใช้ GPU ก็รันได้แต่ช้า โมเดลเล็กรันบน CPU ที่มี RAM เพียงพอ ได้ความเร็วที่เหมาะกับการทดสอบมากกว่าแชทรายวัน
- คุณภาพแตกต่างกัน อ่านการ์ดโมเดล ตรวจสอบใบอนุญาต และเลือกไฟล์จากผู้อัปโหลดที่อธิบายวิธีการสร้าง
ทางนี้ฟรีจริงถ้ามีฮาร์ดแวร์แล้ว ถ้าต้องซื้อไม่ใช่ฟรีเลย หน้า โมเดล Abliterated ที่ดีที่สุดสำหรับโค้ด บอกสิ่งที่ควรดูเมื่อใช้เขียนโปรแกรม
ตัวเลือกที่ 2: เดโมฟรีและพื้นที่แชร์
ผู้อัปโหลดและชุมชนบางรายโฮสต์หน้าเดโมที่คุณสามารถแชทกับโมเดลได้ฟรี เหมาะสำหรับสร้างภาพรวมเบื้องต้น คาดข้อจำกัดเหล่านี้:
- คิวแชร์ เมื่อโหลดสูง คุณอาจต้องรอ หรือหน้าเว็บอาจหมดเวลา
- ไม่มีความเสถียร เดโมอาจหายไป เปลี่ยนโมเดล หรือเพิ่มข้อจำกัดได้โดยไม่มีการแจ้งเตือน
- ไม่มีการรับประกัน API แม้เมื่อเดโมเปิดเผยเอนด์พอยต์ มันไม่ได้ถูกออกแบบมาสำหรับแอปพลิเคชัน
- การจัดการข้อมูลไม่ชัดเจน อ่านสิ่งที่หน้าเว็บกล่าวเกี่ยวกับการบันทึกข้อมูลก่อนที่คุณจะวางข้อมูลส่วนตัวใดๆ
ใช้เดโมเพื่อตัดสินใจว่าสไตล์ของโมเดลเหมาะกับคุณหรือไม่ อย่าสร้างแอปพลิเคชันบนเดโมนี้
ตัวเลือกที่ 3: เครดิตทดลองใช้บน API แบบจ่ายตามโทเคน
ทางที่สามคือ API แบบโฮสต์พร้อมเครดิตทดลองใหม่ ลงทะเบียนด้วย Google หรืออีเมล/รหัสผ่าน แล้วคลิก หน้าคีย์ API รับ เครดิตทดลอง $0.50 ไม่ต้องใช้บัตร ใช้ได้คนละ 1 ครั้ง ใช้ได้ 7 วัน คีย์ทดลองอนุญาตคำขอพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที
API นี้เข้ากันได้กับ OpenAI ดังนั้น SDK ของ OpenAI ใดๆ ก็ใช้ได้หลังจากเปลี่ยน base URL และ key ID ของโมเดลคือ uncensored เป็นโมเดล open-weight ตัวหนึ่งที่ให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รองรับเฉพาะข้อความ และมีข้อจำกัดแข็งคือห้ามมีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์
เครดิตทดลองใช้ $0.50 ซื้ออะไรได้บ้าง
ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน นี่คือคณิตศาสตร์สำหรับคำขอแชทสั้นๆ ทั่วไปที่มีโทเคนอินพุต 1,000 และโทเคนเอาต์พุต 500:
- อินพุต: 1,000 / 1,000,000 x $0.15 = $0.00015
- เอาต์พุต: 500 / 1,000,000 x $0.50 = $0.00025
- ต่อคำขอ: $0.0004
- $0.50 / $0.0004 = 1,250 คำขอ
การสนทนาที่ยาวนานขึ้นใช้โทเคนมากขึ้น การสนทนาที่แต่ละเทิร์นส่งประวัติกลับมาอาจมีค่าเฉลี่ย 5,000 โทเคนอินพุตและ 500 โทเคนเอาต์พุต: $0.00075 + $0.00025 = $0.001 ต่อคำขอ ดังนั้นเครดิตทดลองจึงครอบคลุมคำขอเหล่านั้นได้ประมาณ 500 คำขอ ไม่ว่ากรณีใด ๆ ก็เพียงพอที่จะทดสอบพรอมต์ น้ำเสียง และการเรียกใช้ฟังก์ชันตลอดโครงการจริง ซึ่งการสาธิตฟรีส่วนใหญ่ไม่สามารถให้ได้
วิธีที่ยุติธรรมในการใช้เครดิต: เขียนพรอมต์สิบอันที่สะท้อนการใช้งานจริงของคุณ รันพรอมต์เหล่านั้นครั้งละอันที่อุณหภูมิต่ำ และบันทึกจำนวนโทเคนในคำตอบ จากนั้นคูณด้วยปริมาณรายเดือนที่คาดหวังของคุณ หากพรอมต์สิบอันมีค่าใช้จ่ายรวม $0.004 ดังนั้นการใช้งานหนึ่งพันรายการต่อเดือนจะมีค่าใช้จ่ายประมาณ $0.40 การคำนวณเพียงครั้งเดียวนี้บอกคุณได้ว่าระดับการชำระเงินคุ้มค่าที่จะพิจารณาหรือไม่ และคุณทำมันโดยไม่ต้องป้อนรายละเอียดบัตร หากคุณหวังว่า API จะทำงานเหมือนกับการอัปโหลดจากชุมชนเฉพาะ ให้ทดสอบสิ่งนั้นด้วย เนื่องจากโมเดลที่ผ่านการลบการปฏิเสธที่แตกต่างกันให้คำตอบที่แตกต่างกัน
ลองในสองนาที
หลังจากที่คุณมีคีย์ API แล้ว นี่คือขั้นตอนการทดสอบทั้งหมด ตั้งค่า Base URL และโมเดล แล้วส่งพรอมต์
curl https://api.abliteratedmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Explain what a refusal direction is in two sentences."}]}'หรือจาก Python:
from openai import OpenAI
client = OpenAI(base_url="https://api.abliteratedmodelhub.com/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three risks of running unvetted model weights."}],
)
print(r.choices[0].message.content)ส่วนหัวของคำตอบ X-Balance-USD แสดงยอดคงเหลือหลังจากแต่ละการเรียกใช้ และ GET /v1/balance ก็ส่งค่านั้นเช่นกัน รายการใน docs ครอบคลุมการสตรีมมิง การเรียกใช้ฟังก์ชัน และโหมด JSON
การตรวจสอบก่อนที่คุณจะไว้วางใจการดาวน์โหลดหรือเดโมฟรี
ฟรียังหมายถึงการไม่ได้ผ่านการตรวจสอบ โดยนิสัยไม่กี่อย่างนี้จะช่วยให้คุณหลีกเลี่ยงปัญหา
สำหรับน้ำหนักที่ดาวน์โหลดมา
- เลือกฟอร์แมตที่ไม่สามารถรันโค้ดเมื่อโหลด เช่น safetensors หรือ GGUF แทนที่ checkpoint แบบ pickled
- อ่านใบอนุญาต ใบอนุญาตแบบ open-weight บางฉบับจำกัดการใช้งานเชิงพาณิชย์หรือต้องการการอ้างอิง และผู้อัปโหลดไม่สามารถเปลี่ยนแปลงใบอนุญาตเดิมได้
- ตรวจสอบ chat template แม่แบบที่ผิดเป็นสาเหตุที่พบบ่อยที่สุดที่ทำให้โมเดลดูเหมือนเสียหรือพูดวกไปวนมา โดยทั่วไปแล้ว model card จะระบุแม่แบบที่ถูกต้อง
- เปรียบเทียบการ quantization ไฟล์ 4-bit มีขนาดเล็กกว่าและเร็วกว่าแต่อาจสูญเสียความแม่นยำบางประการเมื่อเทียบกับ 8-bit ลองสองเวอร์ชันแล้วเก็บเวอร์ชันที่ทนทานต่อพรอมต์ของคุณ
สำหรับเดโมและแพ็กเกจฟรี
- สมมติว่าพรอมต์อาจถูกบันทึกไว้ หลีกเลี่ยงการใส่ชื่อ คีย์ และเอกสารส่วนตัว
- อย่าผูกผลิตภัณฑ์กับหน้าเว็บที่คุณไม่ได้ควบคุม
- จดบันทึกพรอมต์ที่คุณได้ลองไว้ เพื่อให้คุณสามารถทดสอบซ้ำกับตัวเลือกอื่นและเปรียบเทียบได้อย่างยุติธรรม
Abliteration เปลี่ยนพฤติกรรมการปฏิเสธ ไม่ได้เพิ่มความรู้ โมเดลที่ผ่านการ abliteration แล้วยังสามารถประดิษฐ์ข้อมูลเท็จได้ และการปฏิเสธที่น้อยลงหมายถึงคุณต้องรับผิดชอบในการตัดสินว่าควรถามอะไรและใช้คำตอบอย่างไรอย่างไร ใช้โดยผู้ใหญ่ตามกฎหมายเท่านั้น และห้ามเกี่ยวข้องกับ ผู้เยาว์
ฟรีเทียบกับแบบจ่ายตามการใช้งาน: วิธีเลือก
| ความต้องการ | ความเหมาะสมที่สุด |
|---|---|
| ดูรูปแบบการทำงาน | เดโมฟรี |
| การใช้งานออฟไลน์ ควบคุมน้ำหนักโมเดลได้เต็มที่ | ดาวน์โหลดในเครื่อง หากมีฮาร์ดแวร์เพียงพอ |
| ทดสอบแอปพลิเคชันกับ API | เครดิตทดลองใช้ฟรี |
| สิ่งที่คุณพึ่งพาในชีวิตประจำวัน | จ่ายตามการใช้งาน เติมเงินล่วงหน้า ไม่มีแพ็กเกจรายเดือน |
เมื่อระยะเวลาทดลองหมด การเติมเงินจะเป็นจำนวนเต็มตั้งแต่ $20 ถึง $500 พร้อมโบนัส 5% เมื่อเติมตั้งแต่ $50, 10% เมื่อเติมตั้งแต่ $100 และ 15% เมื่อเติมตั้งแต่ $200 เครดิตไม่หมดอายุ และคุณชำระเงินด้วยคริปโต ดูรายละเอียดได้ที่ หน้าราคา สำหรับภาพรวมที่กว้างขึ้นเกี่ยวกับโมเดลที่ไม่มีข้อจำกัด อ่าน หน้าเกี่ยวกับโมเดล AI ที่ไม่มีข้อจำกัดของเรา
ใช้สิ่งเหล่านี้เฉพาะเพื่อวัตถุประสงค์ทางกฎหมายสำหรับผู้ใหญ่ และหลีกเลี่ยงการใส่ข้อมูลส่วนบุคคลในพรอมต์
คู่มือเพิ่มเติม
ถาม-ตอบ
มีโมเดล abliterated ฟรีให้ใช้ทางออนไลน์หรือไม่
หน้าเว็บดีโมจากชุมชนมีอยู่ แต่เป็นแบบแชร์กัน ไม่เสถียร และไม่ได้มีไว้สำหรับการใช้งานแอปพลิเคชัน เครดิตทดลองใช้บน API แบบโฮสต์ให้คุณทดสอบได้เสถียรกว่า
เครดิตทดลองให้ฉันเท่าไหร่
$0.50 ต่อหนึ่งครั้งต่อคน ใช้งานได้ 7 วัน ไม่ต้องใช้บัตร ที่อัตรา 1,000 โทเคนอินพุตและ 500 โทเคนเอาต์พุตต่อคำขอ นั่นคือประมาณ 1,250 คำขอ
ฉันสามารถรันโมเดล abliterated บนแล็ปท็อปได้หรือไม่
โมเดลขนาดเล็กแบบควอนไทซ์ สามารถรันบนแล็ปท็อปที่มี RAM เพียงพอ แต่จะทำงานช้าหากไม่มี GPU ที่เพียงพอ ตรวจสอบขนาดโมเดลเทียบกับหน่วยความจำของคุณก่อน
โมเดลโฮสต์เหมือนกับอัปโหลด abliterated บน Hugging Face หรือไม่
ไม่ นี่คือโมเดล open-weight โมเดลเดียวที่ให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหา อย่าสันนิษฐานว่ามันเหมือนกับโมเดลที่อัปโหลดเฉพาะใดๆ
คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด