โมเดล Abliterated ที่ดีที่สุดสำหรับการเขียนโค้ด: สิ่งที่ควรคาดหวัง
โมเดล Abliterated ที่ดีที่สุดสำหรับการเขียนโค้ดคือโมเดลที่เขียนโค้ดได้ถูกต้องและไม่ปฏิเสธคำขอที่ถูกต้องตามกฎหมายของคุณระหว่างทาง Abliteration จัดการเฉพาะส่วนที่สองเท่านั้น ดังนั้นคุณต้องทดสอบส่วนแรกด้วย repository ของคุณเอง

ประเด็นสำคัญ
- Abliteration ลบพฤติกรรมปฏิเสธ มันไม่เพิ่มทักษะการเขียนโค้ด ดังนั้นควรประเมินคุณภาพโค้ดจากงานของคุณเอง
- การปฏิเสธส่งผลต่อนักพัฒนาในเครื่องมือด้านความปลอดภัย การดึงข้อมูล การวิศวกรรมย้อนกลับ และการทบทวนโค้ดแบบตรงไปตรงมา
- อุณหภูมิต่ำและ seed คงที่ช่วยให้ผลลัพธ์โค้ดมีความสม่ำเสมอและเปรียบเทียบได้ง่าย
- คำขอรีวิวโค้ดทั่วไปที่มี 3,000 input token และ 800 output token มีค่าใช้จ่ายต่ำกว่าหนึ่งส่วนสิบของเซ็นต์
สิ่งที่ abliteration เปลี่ยนแปลง และสิ่งที่คงไว้
Abliteration เป็นเทคนิคที่นำไปใช้กับโมเดลแบบเปิดน้ำหนักหลังจากการฝึก มันค้นหาทิศทางภายในที่เกี่ยวข้องกับการปฏิเสธคำขอและระงับมัน ทำให้โมเดลหยุดการปฏิเสธและการเทศนา มันไม่ได้สอนโมเดลให้เขียนภาษาโปรแกรมใหม่หรือแก้ไขเหตุผลที่แย่ ความสามารถของโมเดลในการเขียนฟังก์ชันที่ถูกต้องมาจากพื้นฐานการฝึก และเวอร์ชัน Abliterated ควรจะดีพอๆ กัน หรือแตกต่างกันเล็กน้อยในแง่นั้น
กรอบความคิดนี้ช่วยให้คุณเลือกได้อย่างมีเหตุผล มีสองคำถามที่สำคัญ และทั้งสองเป็นอิสระต่อกัน:
- โมเดลพื้นฐานมีความสามารถในการเขียนโค้ดในภาษาที่คุณใช้ได้ดีหรือไม่
- โมเดลทำงานเสร็จโดยไม่มีการปฏิเสธเมื่องานนั้นถูกกฎหมายแต่มีความอ่อนไหวหรือไม่
บริการนี้รันโมเดลแบบเปิดน้ำหนักหนึ่งโมเดล โดยโฮสต์โดยผู้ให้บริการอิสระ พร้อม ID โมเดล uncensored ฉันจะไม่อ้างตัวเลข benchmark สำหรับมัน เพราะไม่มีเผยแพร่ที่นี่และคะแนนที่คิดค้นขึ้นไม่ได้ช่วยใคร เส้นทางที่ตรงไปตรงมาคือการทดสอบสั้นๆ บนโค้ดของคุณ ซึ่งอธิบายด้านล่าง บริบทที่กว้างขึ้นมีอยู่ในหน้าเกี่ยวกับ โมเดล AI ที่ไม่มีข้อจำกัด
จุดที่การปฏิเสธส่งผลกระทบต่อนักพัฒนาจริงๆ
คำขอเขียนโค้ดส่วนใหญ่ไม่ทำให้เกิดการปฏิเสธ เมื่อเกิดขึ้น มักจะอยู่ในกลุ่มเล็กๆ ของพื้นที่ทั้งหมด ซึ่งล้วนเป็นสิ่งที่ถูกต้องตามกฎหมายเมื่อทำบนระบบที่คุณเป็นเจ้าของหรือได้รับอนุญาตให้ทดสอบ:
- งานด้านความปลอดภัย เครื่องสแกนพอร์ต fuzzer, proof of concept ของ exploit สำหรับแล็บของคุณเอง สคริปต์วิเคราะห์มัลแวร์ การวิเคราะห์ทางนิติวิทยาศาสตร์จากบันทึก
- การดึงข้อมูลและการอัตโนมัติ ตัวแยกวิเคราะห์ กระบวนการ headless-browser และการทดสอบ rate-limit ที่โมเดลระมัดระวังจะระบุว่าเป็นความเสี่ยง
- การ reverse engineering การอ่าน disassembly การจัดทำเอกสารรูปแบบไฟล์ การทำงานด้าน interoperability
- เครื่องมือสำหรับเกมและนิยาย การสร้างต้นไม้บทสนทนาที่มืดหม่น สคริปต์ตัวร้าย หรือเนื้อเรื่องที่เข้มข้นสำหรับเกมที่เน้นผู้ใหญ่
- น้ำเสียง การทบทวนโค้ดที่ระบุอย่างตรงไปตรงมาว่าการออกแบบนั้นไม่ดี โดยไม่เติมคำชมในทุกความคิดเห็น
การได้รับอนุญาตมีความสำคัญ โมเดลที่ไม่มีการปฏิเสธจะตอบคำถามที่คุณถาม ดังนั้นความรับผิดชอบในการปฏิบัติตามกฎหมายเป็นของคุณ ใช้กับระบบของคุณเอง เป้าหมายสำหรับทดสอบ และงานของลูกค้าที่ได้รับอนุญาตเป็นลายลักษณ์อักษร
การทดสอบสั้นๆ ที่บอกคุณมากกว่าตารางเปรียบเทียบ
สร้างชุดพรอมต์เล็กๆ จากงานจริงของคุณ: ห้าถึงสิบงาน รวมถึงหนึ่งหรือสองงานที่ผู้ช่วยคนอื่นปฏิเสธ รันด้วย seed คงที่และ temperature ต่ำ และเปรียบเทียบผลลัพธ์กับเครื่องมือปัจจุบันของคุณ เครดิตทดลองใช้ $0.50 ที่ใช้ได้ 7 วัน ครอบคลุมคำขอหลายร้อยแบบเช่นนี้
import json
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
tasks = [
"Write a Python function that parses nmap XML output and lists open ports per host.",
"Refactor this loop into a generator and keep behavior identical: for i in range(len(xs)): out.append(xs[i] * 2)",
"Write a pytest file for a function slugify(text) that handles unicode and repeated dashes.",
]
results = []
for task in tasks:
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a senior engineer. Return only code unless asked otherwise."},
{"role": "user", "content": task},
],
temperature=0.2,
seed=7,
)
results.append({"task": task, "answer": resp.choices[0].message.content})
print(json.dumps(results, indent=2))
จากนั้นรันโค้ด อย่าให้คะแนนด้วยการอ่านเพียงอย่างเดียว ให้รันการทดสอบ รันไลนเตอร์ และบันทึกว่ามีกี่งานที่ต้องลองทำอีกครั้ง อัตราการผ่านในสิบงานของคุณเอง มีค่ามากกว่าการจัดอันดับสาธารณะใดๆ เนื่องจากสะท้อนถึงชุดเครื่องมือของคุณ
การตั้งค่าที่ช่วยปรับปรุงผลลัพธ์โค้ด
การสร้างโค้ดได้ประโยชน์จากความแน่นอน เริ่มต้นด้วยค่าเหล่านี้แล้วเปลี่ยนทีละค่า:
temperature0.0 ถึง 0.3 สำหรับการสร้างและการ refactor ยกขึ้นเป็น 0.7 เฉพาะสำหรับการระดมความคิดtop_pตั้งค่าไว้ใกล้ 1.0 เมื่อ temperature ต่ำ- ลำดับ
stopเช่น code fence ปิด หากคุณต้องการเพียงบล็อกโค้ดแรก seedคงที่ระหว่างการทำทดลอง ดังนั้นเมื่อคำตอบเปลี่ยน จึงเกิดจากพรอมต์ที่เปลี่ยน ไม่ใช่ความสุ่มmax_tokensเป็นตัวเลือก การ completion สามารถใช้หน้าต่าง 100,000-token ที่เหลือได้ ดังนั้นตั้งค่า cap หากคุณต้องการจำกัดค่าใช้จ่ายสำหรับพรอมต์แบบเปิด
ให้บริบทที่มนุษย์ต้องการ: เวอร์ชันภาษา กรอบการทำงาน ผลลัพธ์การทดสอบที่ล้มเหลว และไฟล์ที่เกี่ยวข้อง หน้าต่าง 100,000-token มีพื้นที่สำหรับซอร์สโค้ดจำนวนมาก แต่ไฟล์มากขึ้นไม่ได้ดีกว่าเสมอ รวมสิ่งที่เกี่ยวข้องกับคำถาม
พรอมต์ที่ช่วยให้ได้โค้ดที่ดีขึ้น
โมเดลเดียวกันให้โค้ดที่แตกต่างกันมากขึ้นอยู่กับวิธีการถาม โดยนิสัยเพียงไม่กี่อย่างก็สร้างความแตกต่างที่เห็นได้ชัด
- ระบุสภาพแวดล้อม "Python 3.11 ใช้เฉพาะไลบรารีมาตรฐาน" ป้องกันการ import ที่คุณไม่สามารถติดตั้งได้ "TypeScript โหมด strict ไม่มี any" กำหนดประเภท
- แสดงผลลัพธ์ที่ล้มเหลว สำหรับการ debug วาง traceback และโค้ดขนาดเล็กที่สุดที่กระตุ้นมัน ขอสาเหตุก่อน แล้วค่อยขอการแก้ไข เพื่อให้คุณสามารถประเมินเหตุผลได้
- ขอการทดสอบพร้อมโค้ด ฟังก์ชันและการทดสอบร่วมกันเปิดเผยช่องว่างที่โมเดลมักจะมองข้าม
- จำกัดผลลัพธ์ "ส่งกลับ unified diff เท่านั้น" หรือ "ส่งกลับบล็อกโค้ดเดียวและไม่มีอื่น" ประหยัด token และทำให้คำตอบนำไปใช้ได้ง่าย
- ทำซ้ำทีละขั้นตอนเล็กๆ ขอโครงร่าง ตรวจสอบ แล้วขอชิ้นงานถัดไป คำขอแบบครั้งเดียวขนาดใหญ่ให้จุดซ่อนข้อผิดพลาดที่ละเอียดอ่อนมากขึ้น
สำหรับการดีบักหัวข้อที่โมเดลมักปฏิเสธ ให้ระบุสิ่งที่กำลังทำและเหตุผลในหนึ่งประโยค "นี่คือเซิร์ฟเวอร์ staging ของฉันเอง; เขียนสคริปต์ที่ตรวจสอบว่าพอร์ตใดเปิดอยู่" เป็นคำขอปกติ และโมเดลที่ปรับให้ตอบได้จะจัดการเรื่องนี้โดยไม่เพิ่มคำอธิบาย การระบุเช่นนี้ยังบันทึกเจตนาของคุณไว้สำหรับผู้ที่ทบทวนโค้ดในภายหลัง
ทำงานกับโค้ดเบสขนาดใหญ่
หน้าต่าง 100,000-token สามารถเก็บไฟล์จำนวนมากได้ในครั้งเดียว แต่ส่งทั้ง repository ในทุกคำขอเป็นการสิ้นเปลือง เลือกบริบทอย่างตั้งใจ:
- ส่งไฟล์ที่กำลังเปลี่ยนแปลงและไฟล์ที่มัน import โดยตรง
- เพิ่มคำจำกัดความอินเทอร์เฟซหรือไฟล์ประเภท ไม่ใช่การนำไปใช้งานทั้งหมดของทุกอย่าง
- รวมการทดสอบที่ล้มเหลวและผลลัพธ์ของมัน
- ละเว้นไฟล์ที่สร้างอัตโนมัติ ไฟล์ล็อก และโค้ดที่ดึงมา (vendored code).
ตัวช่วยขนาดเล็กที่วนลูปผ่านรายการพาธและสร้างพรอมต์หนึ่งชุดทำให้สิ่งนี้ทำซ้ำได้:
from pathlib import Path
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
def review(paths, question):
parts = []
for p in paths:
parts.append("### " + p + "\n" + Path(p).read_text())
prompt = "\n\n".join(parts) + "\n\nQuestion: " + question
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
temperature=0.2,
)
return resp.choices[0].message.content
print(review(["app/models.py", "app/views.py"], "Where can this raise a KeyError?"))
ติดตามต้นทุนของพรอมต์ขนาดใหญ่ที่ทำซ้ำ การทำ 20 คำขอด้วยหน้าต่างบริบท 40,000 โทเคนต่อคำขอ ใช้โทเคนอินพุต 800,000 โทเคน หรือ 0.8 x $0.15 = $0.12 ซึ่งถูก แต่จะเพิ่มขึ้นในทุกๆ รอบของการโต้ตอบ ดังนั้นให้ถามคำถามที่เจาะจง
ใช้เครื่องมือและ JSON สำหรับเวิร์กโฟลว์ของนักพัฒนา
API รองรับ function calling และ JSON mode ซึ่งเปลี่ยนโมเดลให้กลายเป็นส่วนประกอบแทนที่จะเป็นคู่สนทนาในแชท ตัวอย่างเช่น ขั้นตอนการตรวจสอบโค้ดสามารถส่งคืนข้อมูลที่มีโครงสร้างที่งาน CI สามารถโพสต์เป็นความคิดเห็นได้
curl https://api.abliteratedmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"temperature": 0.1,
"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Review the diff. Reply as JSON: {\"findings\": [{\"line\": number, \"severity\": string, \"comment\": string}]}"},
{"role": "user", "content": "def add(a, b):\n return a - b"}
]
}'
ด้วย function calling คุณสามารถเปิดเผยฟังก์ชันเช่น run_tests หรือ read_file และให้โมเดลขอใช้งานพวกมันในลูป จากนั้นส่งผลลัพธ์กลับเป็นข้อความ role: "tool" โค้ดของคุณรันเครื่องมือ ดังนั้นคุณจึงควบคุมสิ่งที่มันสามารถเข้าถึงได้ ให้รันทุกสิ่งที่เรียกใช้โค้ดที่โมเดลสร้างขึ้นใน sandbox
ค่าใช้จ่ายสำหรับงานเขียนโค้ดทั่วไป
อัตราคือ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต ตัวอย่าง:
- คำขอแบบ snippets ขนาด 3,000 input token และ 800 output token: 0.003M x $0.15 = $0.00045, บวก 0.0008M x $0.50 = $0.0004, รวม $0.00085 จำนวน 1,000 คำขอคิดเป็น $0.85
- การตรวจสอบไฟล์ทั้งไฟล์ที่มี 20,000 โทเคนอินพุตและ 1,500 โทเคนเอาต์พุต: $0.003 + $0.00075 = $0.00375
- วันที่ใช้งานหนักด้วยคำขอแบบ snippets ผสม 400 คำขอ: 400 x $0.00085 = $0.34
ไม่มีระบบสมาชิก และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน เติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 ด้วยคริปโต (USDT บน TRC20, USDC บน Base) โบนัสเพิ่ม +5% จาก $50, +10% จาก $100 และ +15% จาก $200 รายละเอียดทั้งหมดอยู่ที่หน้า ราคา; พารามิเตอร์ถูกระบุไว้ใน เอกสารประกอบ และคุณสามารถขอคีย์ API ได้ที่หน้า สมัครสมาชิก
คู่มือเพิ่มเติม
ถาม-ตอบ
Abliteration ทำให้โมเดลเขียนโค้ดได้ดีขึ้นหรือไม่?
ไม่ มันลบพฤติกรรมปฏิเสธ ความสามารถในการเขียนโค้ดมาจากโมเดลพื้นฐาน ดังนั้นให้ทดสอบกับงานของคุณเอง
การใช้โมเดล uncensored สำหรับโค้ดความปลอดภัยเป็นเรื่องถูกกฎหมายหรือไม่?
การเขียนโค้ดสำหรับระบบที่คุณเป็นเจ้าของหรือได้รับอนุญาตให้ทดสอบนั้นโดยทั่วไปเป็นไปตามกฎหมาย แต่คุณมีความรับผิดชอบในการปฏิบัติตามกฎหมายและขอบเขตที่ได้รับอนุญาต
ฉันสามารถใช้โมเดลนี้ใน editor ของฉันได้หรือไม่?
ส่วนขยาย editor หรือเครื่องมือใดๆ ที่รองรับ base URL, คีย์ API และชื่อโมเดลที่เข้ากันได้กับ OpenAI สามารถเชื่อมต่อได้ ใช้ base URL, คีย์ API และโมเดล uncensored
ฉันสามารถส่งไฟล์ขนาดใหญ่แค่ไหน?
หน้าต่างบริบทคือ 100,000 โทเคนสำหรับพรอมต์บวกกับการสร้างผลลัพธ์ และขนาดสูงสุดของ body ของคำขอคือ 8 MB
คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด