ID ▾
Dapatkan kunci API

Model Abliterasi Terbaik untuk Pemrograman: Apa yang Harus Diharapkan

Model abliterasi terbaik untuk pemrograman adalah yang menulis kode yang benar dan tidak menolak permintaan sah Anda di tengah jalan. Abliterasi hanya menangani bagian kedua, jadi Anda perlu menguji bagian pertama pada repositori Anda sendiri.

Diperbarui

Terminal dengan kode abstrak, gembok terbuka, dan kaca pembesar di atas papan sirkuit, untuk bantuan pemrograman tanpa batas

Poin utama

  • Abliterasi menghilangkan perilaku penolakan. Abliterasi tidak menambah keterampilan pemrograman, jadi nilai kualitas kode pada tugas Anda sendiri.
  • Penolakan memengaruhi pengembang dalam alat keamanan, scraping, rekayasa balik, dan tinjauan kode yang blak-blakan.
  • Suhu rendah dan seed tetap membuat output kode dapat diulang dan mudah dibandingkan.
  • Permintaan tinjauan kode khas dengan 3.000 token input dan 800 token output biayanya di bawah sepersepuluh sen.

Apa yang diubah abliterasi, dan apa yang dibiarkan sendiri

Abliterasi adalah teknik yang diterapkan pada model bobot terbuka setelah pelatihan. Teknik ini menemukan arah internal yang terkait dengan penolakan permintaan dan menekannya, sehingga model berhenti menolak dan memberi ceramah. Abliterasi tidak mengajarkan bahasa pemrograman baru kepada model atau memperbaiki penalaran yang buruk. Kemampuan model untuk menulis fungsi yang benar berasal dari pelatihan dasarnya, dan versi yang telah diabliterasi seharusnya memiliki kemampuan yang sama baiknya atau sedikit berbeda dalam hal tersebut.

Kerangka kerja ini membantu Anda memilih dengan bijak. Dua pertanyaan penting, dan keduanya independen:

  • Apakah model dasarnya baik dalam pemrograman pada bahasa yang Anda gunakan?
  • Apakah model tersebut menyelesaikan tugas tanpa penolakan ketika tugasnya sah tetapi sensitif?

Layanan ini menjalankan satu model bobot terbuka, yang dihosting oleh penyedia independen, dengan ID model uncensored. Saya tidak akan mengklaim angka benchmark untuknya, karena tidak ada yang dipublikasikan di sini dan skor yang dibuat-buat tidak membantu siapa pun. Jalur yang jujur adalah tes singkat pada kode Anda, yang dijelaskan di bawah ini. Konteks yang lebih luas ada di halaman tentang model AI tanpa batasan.

Di mana penolakan sebenarnya memengaruhi pengembang

Sebagian besar permintaan pemrograman tidak pernah memicu penolakan. Ketika hal itu terjadi, biasanya terjadi di sejumlah kecil area, semuanya sah ketika dilakukan pada sistem yang Anda miliki atau berwenang untuk diuji:

  • Pekerjaan keamanan. Pemindai port, fuzzer, proof of concept eksploit untuk lab Anda sendiri, skrip analisis malware, forensik log.
  • Scraping dan otomatisasi. Parser, alur browser headless, dan tes batas laju yang oleh model hati-hati dianggap berisiko.
  • Rekayasa balik. Membaca disasembli, mendokumentasikan format file, pekerjaan interoperabilitas.
  • Alat game dan fiksi. Menghasilkan pohon dialog gelap, skrip penjahat, atau alur cerita dewasa untuk judul dewasa.
  • Nada. Tinjauan kode yang secara jelas menyatakan bahwa desainnya buruk, tanpa membumbui setiap komentar dengan pujian.

Otorisasi sangat penting. Model tanpa penolakan menjawab apa pun yang Anda minta, sehingga tanggung jawab untuk tetap legal adalah milik Anda. Gunakan pada sistem Anda sendiri, target uji, dan pekerjaan klien dengan izin tertulis.

Tes cepat yang memberi tahu Anda lebih banyak daripada papan peringkat

Buat set kecil prompt dari pekerjaan nyata Anda: lima hingga sepuluh tugas, termasuk satu atau dua yang ditolak oleh asisten lain. Jalankan dengan seed tetap dan suhu rendah, lalu bandingkan hasilnya dengan alat Anda saat ini. Kredit uji coba senilai $0,50 yang berlaku selama 7 hari mencakup ratusan panggilan seperti itu.

import json
from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodelhub.com/v1",
    api_key="YOUR_KEY",
)

tasks = [
    "Write a Python function that parses nmap XML output and lists open ports per host.",
    "Refactor this loop into a generator and keep behavior identical: for i in range(len(xs)): out.append(xs[i] * 2)",
    "Write a pytest file for a function slugify(text) that handles unicode and repeated dashes.",
]

results = []
for task in tasks:
    resp = client.chat.completions.create(
        model="uncensored",
        messages=[
            {"role": "system", "content": "You are a senior engineer. Return only code unless asked otherwise."},
            {"role": "user", "content": task},
        ],
        temperature=0.2,
        seed=7,
    )
    results.append({"task": task, "answer": resp.choices[0].message.content})

print(json.dumps(results, indent=2))

Kemudian jalankan kodenya. Jangan menilai hanya dengan membaca. Jalankan pengujian, jalankan linter, dan catat berapa banyak tugas yang memerlukan percobaan kedua. Tingkat kelulusan atas sepuluh tugas Anda sendiri lebih berharga daripada peringkat publik apa pun, karena itu mencerminkan stack Anda.

Pengaturan yang membantu output kode

Generasi kode menghargai determinisme. Mulailah dengan nilai-nilai ini dan ubah satu per satu:

  • temperature 0,0 hingga 0,3 untuk generasi dan refactoring. Naikkan menjadi 0,7 hanya untuk brainstorming pendekatan.
  • top_p dibiarkan dekat 1,0 ketika suhu rendah.
  • stop urutan seperti penutup fence kode, jika Anda hanya ingin blok kode pertama.
  • seed tetap selama eksperimen, sehingga prompt yang berubah, bukan keacakan, menjelaskan jawaban yang berubah.
  • max_tokens bersifat opsional. Penyelesaian dapat menggunakan sisa jendela 100.000 token, jadi atur batas jika Anda ingin membatasi biaya pada prompt terbuka.

Beri model konteks yang dibutuhkan manusia: versi bahasa, kerangka kerja, output pengujian yang gagal, dan file yang relevan. Jendela 100.000 token memberi ruang untuk banyak kode sumber, tetapi lebih banyak file tidak selalu lebih baik. Sertakan apa pun yang berkaitan dengan pertanyaan.

Prompt yang menghasilkan kode lebih baik

Model yang sama menghasilkan kode yang sangat berbeda tergantung pada bagaimana Anda meminta. Beberapa kebiasaan membuat perbedaan yang terlihat.

  • Nyatakan lingkungan kerja. "Python 3.11, hanya pustaka standar" mencegah impor yang tidak dapat Anda instal. "TypeScript, mode ketat, tanpa any" membentuk tipe data.
  • Tampilkan output yang gagal. Untuk debugging, tempelkan traceback dan kode terkecil yang memicu kesalahan. Minta penyebabnya terlebih dahulu, lalu perbaikannya, agar Anda dapat menilai penalarannya.
  • Minta pengujian bersama kode. Fungsi dan pengujinya bersama-sama mengungkapkan celah yang akan dilewati model.
  • Batasi output. "Kembalikan hanya diff terpadu" atau "kembalikan satu blok kode dan tidak ada yang lain" menghemat token dan membuat jawaban mudah diterapkan.
  • Iterasi dalam langkah kecil. Minta kerangka, tinjau, lalu minta bagian berikutnya. Permintaan satu kali yang besar memberikan lebih banyak tempat bagi kesalahan halus untuk bersembunyi.

Untuk debugging topik yang rentan penolakan, jelaskan apa yang Anda lakukan dan mengapa dalam satu kalimat. "Ini adalah server staging saya sendiri; tulis skrip yang memeriksa port mana di antaranya yang terbuka" adalah permintaan normal, dan model yang disesuaikan untuk menjawab akan menanganinya tanpa komentar. Pernyataan tersebut juga mendokumentasikan niat Anda untuk siapa pun yang meninjau kode nanti.

Bekerja dengan basis kode yang lebih besar

Jendela 100.000 token dapat menampung banyak file sekaligus, tetapi mengirim seluruh repositori pada setiap panggilan sia-sia. Pilih konteks secara sengaja:

  1. Kirim file yang sedang diubah dan file yang diimpornya secara langsung.
  2. Tambahkan definisi antarmuka atau file tipe, bukan implementasi lengkap dari semuanya.
  3. Sertakan pengujian yang gagal dan outputnya.
  4. Kecualikan file yang dihasilkan, file kunci, dan kode yang di-vendor-kan.

Pembantu kecil yang berjalan melalui daftar jalur dan membangun satu prompt membuat hal ini dapat diulang:

from pathlib import Path
from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodelhub.com/v1",
    api_key="YOUR_KEY",
)

def review(paths, question):
    parts = []
    for p in paths:
        parts.append("### " + p + "\n" + Path(p).read_text())
    prompt = "\n\n".join(parts) + "\n\nQuestion: " + question
    resp = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        temperature=0.2,
    )
    return resp.choices[0].message.content

print(review(["app/models.py", "app/views.py"], "Where can this raise a KeyError?"))

Pantau biaya prompt besar yang berulang. Dua puluh panggilan dengan konteks 40.000 token masing-masing menggunakan 800.000 token input, atau 0,8 x $0,15 = $0,12. Itu murah, tetapi bertambah dengan setiap putaran balik, jadi ajukan pertanyaan yang terfokus.

Gunakan alat dan JSON untuk alur kerja pengembang

API mendukung pemanggilan fungsi dan mode JSON, yang mengubah model menjadi komponen daripada mitra obrolan. Sebagai contoh, langkah tinjauan kode dapat mengembalikan temuan terstruktur yang dapat diposting sebagai komentar oleh pekerjaan CI.

curl https://api.abliteratedmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "temperature": 0.1,
    "response_format": {"type": "json_object"},
    "messages": [
      {"role": "system", "content": "Review the diff. Reply as JSON: {\"findings\": [{\"line\": number, \"severity\": string, \"comment\": string}]}"},
      {"role": "user", "content": "def add(a, b):\n    return a - b"}
    ]
  }'

Dengan pemanggilan fungsi, Anda dapat mengekspos fungsi seperti run_tests atau read_file dan membiarkan model memintanya dalam loop, lalu mengirim hasil kembali sebagai pesan role: "tool". Kode Anda menjalankan alat tersebut, sehingga Anda mengendalikan apa yang dapat disentuhnya. Jalankan apa pun yang mengeksekusi kode hasil generate di dalam sandbox.

Biaya untuk tugas pemrograman umum

Harga adalah $0,15 per 1 juta token input dan $0,50 per 1 juta token output. Contoh:

  • Permintaan cuplikan dengan 3.000 token input dan 800 token output: 0,003M x $0,15 = $0,00045, ditambah 0,0008M x $0,50 = $0,0004, sehingga totalnya $0,00085. Seribu permintaan seperti itu harganya $0,85.
  • Tinjauan seluruh file dengan 20.000 token input dan 1.500 token output: $0,003 + $0,00075 = $0,00375.
  • Hari sibuk dengan 400 permintaan campuran berukuran cuplikan: 400 x $0,00085 = $0,34.

Tidak ada langganan, dan permintaan yang gagal atau ditolak tidak dikenakan biaya. Isi saldo dengan jumlah bulat mulai dari $20 hingga $500 menggunakan kripto (USDT di TRC20, USDC di Base). Bonus memberikan tambahan +5% dari $50, +10% dari $100, dan +15% dari $200. Detail lengkap terdapat di halaman harga; parameter tersebut tercantum dalam dokumentasi, dan Anda dapat mengklaim kunci di halaman pendaftaran.

Tanya jawab

Apakah abliterasi membuat model lebih baik dalam pemrograman?

Tidak. Abliterasi menghilangkan perilaku penolakan. Kemampuan pemrograman berasal dari model dasar, jadi ujilah pada tugas Anda sendiri.

Apakah legal menggunakan model tanpa sensor untuk kode keamanan?

Menulis kode untuk sistem yang Anda miliki atau berwenang untuk diuji umumnya sah, tetapi Anda bertanggung jawab untuk tetap berada dalam batas hukum dan izin Anda.

Bisakah saya menggunakannya di dalam editor saya?

Ekstensi editor atau alat apa pun yang menerima URL dasar, kunci, dan nama model yang kompatibel dengan OpenAI dapat terhubung. Gunakan URL dasar, kunci Anda, dan model uncensored.

Seberapa besar file yang dapat saya kirimkan?

Jendela konteks adalah 100.000 token untuk prompt ditambah completion, dan body permintaan maksimum adalah 8 MB.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API