TH ▾
รับคีย์ API

โมเดล Abliterated ที่ดีที่สุดสำหรับการเขียนโค้ด: สิ่งที่ควรคาดหวัง

โมเดล Abliterated ที่ดีที่สุดสำหรับการเขียนโค้ดคือโมเดลที่เขียนโค้ดได้ถูกต้องและไม่ปฏิเสธคำขอที่ถูกต้องตามกฎหมายของคุณระหว่างทาง Abliteration จัดการเฉพาะส่วนที่สองเท่านั้น ดังนั้นคุณต้องทดสอบส่วนแรกด้วย repository ของคุณเอง

อัปเดต

เทอร์มินัลพร้อมโค้ดนามธรรม แม่กุญแจเปิด และแว่นขยายเหนือแผงวงจร สำหรับการช่วยเขียนโค้ดแบบไร้ข้อจำกัด

ประเด็นสำคัญ

  • Abliteration ลบพฤติกรรมปฏิเสธ มันไม่เพิ่มทักษะการเขียนโค้ด ดังนั้นควรประเมินคุณภาพโค้ดจากงานของคุณเอง
  • การปฏิเสธส่งผลต่อนักพัฒนาในเครื่องมือด้านความปลอดภัย การดึงข้อมูล การวิศวกรรมย้อนกลับ และการทบทวนโค้ดแบบตรงไปตรงมา
  • อุณหภูมิต่ำและ seed คงที่ช่วยให้ผลลัพธ์โค้ดมีความสม่ำเสมอและเปรียบเทียบได้ง่าย
  • คำขอรีวิวโค้ดทั่วไปที่มี 3,000 input token และ 800 output token มีค่าใช้จ่ายต่ำกว่าหนึ่งส่วนสิบของเซ็นต์

สิ่งที่ abliteration เปลี่ยนแปลง และสิ่งที่คงไว้

Abliteration เป็นเทคนิคที่นำไปใช้กับโมเดลแบบเปิดน้ำหนักหลังจากการฝึก มันค้นหาทิศทางภายในที่เกี่ยวข้องกับการปฏิเสธคำขอและระงับมัน ทำให้โมเดลหยุดการปฏิเสธและการเทศนา มันไม่ได้สอนโมเดลให้เขียนภาษาโปรแกรมใหม่หรือแก้ไขเหตุผลที่แย่ ความสามารถของโมเดลในการเขียนฟังก์ชันที่ถูกต้องมาจากพื้นฐานการฝึก และเวอร์ชัน Abliterated ควรจะดีพอๆ กัน หรือแตกต่างกันเล็กน้อยในแง่นั้น

กรอบความคิดนี้ช่วยให้คุณเลือกได้อย่างมีเหตุผล มีสองคำถามที่สำคัญ และทั้งสองเป็นอิสระต่อกัน:

  • โมเดลพื้นฐานมีความสามารถในการเขียนโค้ดในภาษาที่คุณใช้ได้ดีหรือไม่
  • โมเดลทำงานเสร็จโดยไม่มีการปฏิเสธเมื่องานนั้นถูกกฎหมายแต่มีความอ่อนไหวหรือไม่

บริการนี้รันโมเดลแบบเปิดน้ำหนักหนึ่งโมเดล โดยโฮสต์โดยผู้ให้บริการอิสระ พร้อม ID โมเดล uncensored ฉันจะไม่อ้างตัวเลข benchmark สำหรับมัน เพราะไม่มีเผยแพร่ที่นี่และคะแนนที่คิดค้นขึ้นไม่ได้ช่วยใคร เส้นทางที่ตรงไปตรงมาคือการทดสอบสั้นๆ บนโค้ดของคุณ ซึ่งอธิบายด้านล่าง บริบทที่กว้างขึ้นมีอยู่ในหน้าเกี่ยวกับ โมเดล AI ที่ไม่มีข้อจำกัด

จุดที่การปฏิเสธส่งผลกระทบต่อนักพัฒนาจริงๆ

คำขอเขียนโค้ดส่วนใหญ่ไม่ทำให้เกิดการปฏิเสธ เมื่อเกิดขึ้น มักจะอยู่ในกลุ่มเล็กๆ ของพื้นที่ทั้งหมด ซึ่งล้วนเป็นสิ่งที่ถูกต้องตามกฎหมายเมื่อทำบนระบบที่คุณเป็นเจ้าของหรือได้รับอนุญาตให้ทดสอบ:

  • งานด้านความปลอดภัย เครื่องสแกนพอร์ต fuzzer, proof of concept ของ exploit สำหรับแล็บของคุณเอง สคริปต์วิเคราะห์มัลแวร์ การวิเคราะห์ทางนิติวิทยาศาสตร์จากบันทึก
  • การดึงข้อมูลและการอัตโนมัติ ตัวแยกวิเคราะห์ กระบวนการ headless-browser และการทดสอบ rate-limit ที่โมเดลระมัดระวังจะระบุว่าเป็นความเสี่ยง
  • การ reverse engineering การอ่าน disassembly การจัดทำเอกสารรูปแบบไฟล์ การทำงานด้าน interoperability
  • เครื่องมือสำหรับเกมและนิยาย การสร้างต้นไม้บทสนทนาที่มืดหม่น สคริปต์ตัวร้าย หรือเนื้อเรื่องที่เข้มข้นสำหรับเกมที่เน้นผู้ใหญ่
  • น้ำเสียง การทบทวนโค้ดที่ระบุอย่างตรงไปตรงมาว่าการออกแบบนั้นไม่ดี โดยไม่เติมคำชมในทุกความคิดเห็น

การได้รับอนุญาตมีความสำคัญ โมเดลที่ไม่มีการปฏิเสธจะตอบคำถามที่คุณถาม ดังนั้นความรับผิดชอบในการปฏิบัติตามกฎหมายเป็นของคุณ ใช้กับระบบของคุณเอง เป้าหมายสำหรับทดสอบ และงานของลูกค้าที่ได้รับอนุญาตเป็นลายลักษณ์อักษร

การทดสอบสั้นๆ ที่บอกคุณมากกว่าตารางเปรียบเทียบ

สร้างชุดพรอมต์เล็กๆ จากงานจริงของคุณ: ห้าถึงสิบงาน รวมถึงหนึ่งหรือสองงานที่ผู้ช่วยคนอื่นปฏิเสธ รันด้วย seed คงที่และ temperature ต่ำ และเปรียบเทียบผลลัพธ์กับเครื่องมือปัจจุบันของคุณ เครดิตทดลองใช้ $0.50 ที่ใช้ได้ 7 วัน ครอบคลุมคำขอหลายร้อยแบบเช่นนี้

import json
from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodelhub.com/v1",
    api_key="YOUR_KEY",
)

tasks = [
    "Write a Python function that parses nmap XML output and lists open ports per host.",
    "Refactor this loop into a generator and keep behavior identical: for i in range(len(xs)): out.append(xs[i] * 2)",
    "Write a pytest file for a function slugify(text) that handles unicode and repeated dashes.",
]

results = []
for task in tasks:
    resp = client.chat.completions.create(
        model="uncensored",
        messages=[
            {"role": "system", "content": "You are a senior engineer. Return only code unless asked otherwise."},
            {"role": "user", "content": task},
        ],
        temperature=0.2,
        seed=7,
    )
    results.append({"task": task, "answer": resp.choices[0].message.content})

print(json.dumps(results, indent=2))

จากนั้นรันโค้ด อย่าให้คะแนนด้วยการอ่านเพียงอย่างเดียว ให้รันการทดสอบ รันไลนเตอร์ และบันทึกว่ามีกี่งานที่ต้องลองทำอีกครั้ง อัตราการผ่านในสิบงานของคุณเอง มีค่ามากกว่าการจัดอันดับสาธารณะใดๆ เนื่องจากสะท้อนถึงชุดเครื่องมือของคุณ

การตั้งค่าที่ช่วยปรับปรุงผลลัพธ์โค้ด

การสร้างโค้ดได้ประโยชน์จากความแน่นอน เริ่มต้นด้วยค่าเหล่านี้แล้วเปลี่ยนทีละค่า:

  • temperature 0.0 ถึง 0.3 สำหรับการสร้างและการ refactor ยกขึ้นเป็น 0.7 เฉพาะสำหรับการระดมความคิด
  • top_p ตั้งค่าไว้ใกล้ 1.0 เมื่อ temperature ต่ำ
  • ลำดับ stop เช่น code fence ปิด หากคุณต้องการเพียงบล็อกโค้ดแรก
  • seed คงที่ระหว่างการทำทดลอง ดังนั้นเมื่อคำตอบเปลี่ยน จึงเกิดจากพรอมต์ที่เปลี่ยน ไม่ใช่ความสุ่ม
  • max_tokens เป็นตัวเลือก การ completion สามารถใช้หน้าต่าง 100,000-token ที่เหลือได้ ดังนั้นตั้งค่า cap หากคุณต้องการจำกัดค่าใช้จ่ายสำหรับพรอมต์แบบเปิด

ให้บริบทที่มนุษย์ต้องการ: เวอร์ชันภาษา กรอบการทำงาน ผลลัพธ์การทดสอบที่ล้มเหลว และไฟล์ที่เกี่ยวข้อง หน้าต่าง 100,000-token มีพื้นที่สำหรับซอร์สโค้ดจำนวนมาก แต่ไฟล์มากขึ้นไม่ได้ดีกว่าเสมอ รวมสิ่งที่เกี่ยวข้องกับคำถาม

พรอมต์ที่ช่วยให้ได้โค้ดที่ดีขึ้น

โมเดลเดียวกันให้โค้ดที่แตกต่างกันมากขึ้นอยู่กับวิธีการถาม โดยนิสัยเพียงไม่กี่อย่างก็สร้างความแตกต่างที่เห็นได้ชัด

  • ระบุสภาพแวดล้อม "Python 3.11 ใช้เฉพาะไลบรารีมาตรฐาน" ป้องกันการ import ที่คุณไม่สามารถติดตั้งได้ "TypeScript โหมด strict ไม่มี any" กำหนดประเภท
  • แสดงผลลัพธ์ที่ล้มเหลว สำหรับการ debug วาง traceback และโค้ดขนาดเล็กที่สุดที่กระตุ้นมัน ขอสาเหตุก่อน แล้วค่อยขอการแก้ไข เพื่อให้คุณสามารถประเมินเหตุผลได้
  • ขอการทดสอบพร้อมโค้ด ฟังก์ชันและการทดสอบร่วมกันเปิดเผยช่องว่างที่โมเดลมักจะมองข้าม
  • จำกัดผลลัพธ์ "ส่งกลับ unified diff เท่านั้น" หรือ "ส่งกลับบล็อกโค้ดเดียวและไม่มีอื่น" ประหยัด token และทำให้คำตอบนำไปใช้ได้ง่าย
  • ทำซ้ำทีละขั้นตอนเล็กๆ ขอโครงร่าง ตรวจสอบ แล้วขอชิ้นงานถัดไป คำขอแบบครั้งเดียวขนาดใหญ่ให้จุดซ่อนข้อผิดพลาดที่ละเอียดอ่อนมากขึ้น

สำหรับการดีบักหัวข้อที่โมเดลมักปฏิเสธ ให้ระบุสิ่งที่กำลังทำและเหตุผลในหนึ่งประโยค "นี่คือเซิร์ฟเวอร์ staging ของฉันเอง; เขียนสคริปต์ที่ตรวจสอบว่าพอร์ตใดเปิดอยู่" เป็นคำขอปกติ และโมเดลที่ปรับให้ตอบได้จะจัดการเรื่องนี้โดยไม่เพิ่มคำอธิบาย การระบุเช่นนี้ยังบันทึกเจตนาของคุณไว้สำหรับผู้ที่ทบทวนโค้ดในภายหลัง

ทำงานกับโค้ดเบสขนาดใหญ่

หน้าต่าง 100,000-token สามารถเก็บไฟล์จำนวนมากได้ในครั้งเดียว แต่ส่งทั้ง repository ในทุกคำขอเป็นการสิ้นเปลือง เลือกบริบทอย่างตั้งใจ:

  1. ส่งไฟล์ที่กำลังเปลี่ยนแปลงและไฟล์ที่มัน import โดยตรง
  2. เพิ่มคำจำกัดความอินเทอร์เฟซหรือไฟล์ประเภท ไม่ใช่การนำไปใช้งานทั้งหมดของทุกอย่าง
  3. รวมการทดสอบที่ล้มเหลวและผลลัพธ์ของมัน
  4. ละเว้นไฟล์ที่สร้างอัตโนมัติ ไฟล์ล็อก และโค้ดที่ดึงมา (vendored code).

ตัวช่วยขนาดเล็กที่วนลูปผ่านรายการพาธและสร้างพรอมต์หนึ่งชุดทำให้สิ่งนี้ทำซ้ำได้:

from pathlib import Path
from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodelhub.com/v1",
    api_key="YOUR_KEY",
)

def review(paths, question):
    parts = []
    for p in paths:
        parts.append("### " + p + "\n" + Path(p).read_text())
    prompt = "\n\n".join(parts) + "\n\nQuestion: " + question
    resp = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        temperature=0.2,
    )
    return resp.choices[0].message.content

print(review(["app/models.py", "app/views.py"], "Where can this raise a KeyError?"))

ติดตามต้นทุนของพรอมต์ขนาดใหญ่ที่ทำซ้ำ การทำ 20 คำขอด้วยหน้าต่างบริบท 40,000 โทเคนต่อคำขอ ใช้โทเคนอินพุต 800,000 โทเคน หรือ 0.8 x $0.15 = $0.12 ซึ่งถูก แต่จะเพิ่มขึ้นในทุกๆ รอบของการโต้ตอบ ดังนั้นให้ถามคำถามที่เจาะจง

ใช้เครื่องมือและ JSON สำหรับเวิร์กโฟลว์ของนักพัฒนา

API รองรับ function calling และ JSON mode ซึ่งเปลี่ยนโมเดลให้กลายเป็นส่วนประกอบแทนที่จะเป็นคู่สนทนาในแชท ตัวอย่างเช่น ขั้นตอนการตรวจสอบโค้ดสามารถส่งคืนข้อมูลที่มีโครงสร้างที่งาน CI สามารถโพสต์เป็นความคิดเห็นได้

curl https://api.abliteratedmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "temperature": 0.1,
    "response_format": {"type": "json_object"},
    "messages": [
      {"role": "system", "content": "Review the diff. Reply as JSON: {\"findings\": [{\"line\": number, \"severity\": string, \"comment\": string}]}"},
      {"role": "user", "content": "def add(a, b):\n    return a - b"}
    ]
  }'

ด้วย function calling คุณสามารถเปิดเผยฟังก์ชันเช่น run_tests หรือ read_file และให้โมเดลขอใช้งานพวกมันในลูป จากนั้นส่งผลลัพธ์กลับเป็นข้อความ role: "tool" โค้ดของคุณรันเครื่องมือ ดังนั้นคุณจึงควบคุมสิ่งที่มันสามารถเข้าถึงได้ ให้รันทุกสิ่งที่เรียกใช้โค้ดที่โมเดลสร้างขึ้นใน sandbox

ค่าใช้จ่ายสำหรับงานเขียนโค้ดทั่วไป

อัตราคือ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต ตัวอย่าง:

  • คำขอแบบ snippets ขนาด 3,000 input token และ 800 output token: 0.003M x $0.15 = $0.00045, บวก 0.0008M x $0.50 = $0.0004, รวม $0.00085 จำนวน 1,000 คำขอคิดเป็น $0.85
  • การตรวจสอบไฟล์ทั้งไฟล์ที่มี 20,000 โทเคนอินพุตและ 1,500 โทเคนเอาต์พุต: $0.003 + $0.00075 = $0.00375
  • วันที่ใช้งานหนักด้วยคำขอแบบ snippets ผสม 400 คำขอ: 400 x $0.00085 = $0.34

ไม่มีระบบสมาชิก และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน เติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 ด้วยคริปโต (USDT บน TRC20, USDC บน Base) โบนัสเพิ่ม +5% จาก $50, +10% จาก $100 และ +15% จาก $200 รายละเอียดทั้งหมดอยู่ที่หน้า ราคา; พารามิเตอร์ถูกระบุไว้ใน เอกสารประกอบ และคุณสามารถขอคีย์ API ได้ที่หน้า สมัครสมาชิก

ถาม-ตอบ

Abliteration ทำให้โมเดลเขียนโค้ดได้ดีขึ้นหรือไม่?

ไม่ มันลบพฤติกรรมปฏิเสธ ความสามารถในการเขียนโค้ดมาจากโมเดลพื้นฐาน ดังนั้นให้ทดสอบกับงานของคุณเอง

การใช้โมเดล uncensored สำหรับโค้ดความปลอดภัยเป็นเรื่องถูกกฎหมายหรือไม่?

การเขียนโค้ดสำหรับระบบที่คุณเป็นเจ้าของหรือได้รับอนุญาตให้ทดสอบนั้นโดยทั่วไปเป็นไปตามกฎหมาย แต่คุณมีความรับผิดชอบในการปฏิบัติตามกฎหมายและขอบเขตที่ได้รับอนุญาต

ฉันสามารถใช้โมเดลนี้ใน editor ของฉันได้หรือไม่?

ส่วนขยาย editor หรือเครื่องมือใดๆ ที่รองรับ base URL, คีย์ API และชื่อโมเดลที่เข้ากันได้กับ OpenAI สามารถเชื่อมต่อได้ ใช้ base URL, คีย์ API และโมเดล uncensored

ฉันสามารถส่งไฟล์ขนาดใหญ่แค่ไหน?

หน้าต่างบริบทคือ 100,000 โทเคนสำหรับพรอมต์บวกกับการสร้างผลลัพธ์ และขนาดสูงสุดของ body ของคำขอคือ 8 MB

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API