TR ▾
API anahtarı al

Kodlama İçin En İyi Abliterate Model: Ne Beklemeli

Kodlama için en iyi abliterate edilmiş model, doğru kodu yazan ve yasal isteğinizi yolda reddetmeyen modeldir. Abliteration yalnızca ikinci kısmı ele alır, bu yüzden ilk kısmı kendi deponuzda test etmeniz gerekir.

güncellendi

Sınırsız kodlama yardımı için soyut kod içeren terminal, açık kilit ve devre kartı üzerinde büyüteç

Temel noktalar

  • Abliteration reddetme davranışını kaldırır. Kodlama becerisi eklemez, bu yüzden kod kalitesini kendi görevlerinizde değerlendirin.
  • Reddetmeler, güvenlik araçlarında, web kazımada, tersine mühendislikte ve doğrudan kod incelemesinde geliştiricileri vurur.
  • Düşük sıcaklık ve sabit bir tohum, kod çıktısını tekrarlanabilir ve karşılaştırması kolay hale getirir.
  • 3.000 giriş ve 800 çıkış token'lı tipik bir kod inceleme isteği, bir santimin onda birinden daha az maliyetlidir.

Abliteration'ın neyi değiştirdiği ve neyi bıraktığı

Abliteration, eğitimden sonra açık ağırlıklı bir modele uygulanan bir tekniktir. İstek reddetmeyle ilişkili iç yönü bulur ve bastırır, böylece model reddetmeyi ve nasihat vermeyi bırakır. Modele yeni programlama dilleri öğretmez ve zayıf muhakemeyi de düzeltmez. Bir modelin doğru bir işlev yazma yeteneği temel eğitiminden gelir ve abliterate edilmiş sürüm bu konuda aynı derecede iyi veya biraz farklı olmalıdır.

Bu çerçeve, mantıklı seçim yapmanıza yardımcı olur. İki soru önemlidir ve bağımsızdırlar:

  • Temel model, kullandığınız dillerde kodda iyi mi?
  • Görev yasal ama hassas olduğunda, reddetmeler olmadan işi yapıyor mu?

Bu hizmet, bağımsız bir sağlayıcı tarafından barındırılan bir açık ağırlıklı modeli çalıştırır, model ID'si uncensored. Bunun için bir benchmark numarası iddia etmeyeceğim, çünkü burada yayınlanmış bir puan yok ve uydurma puanlar kimseye yardımcı olmaz. Dürüst yol, kodunuz üzerinde aşağıda açıklanan kısa bir testtir. Daha geniş bağlam, Kısıtlaması olmayan bir AI model sayfasında yer almaktadır.

Reddetmelerin geliştiricileri aslında nerede vurduğu

Çoğu kodlama isteği reddi tetiklemez. Tetiklediğinde, genellikle küçük bir alan kümesinde olur, bunların hepsi sizin sahip olduğunuz veya test etmeye yetkiniz olan sistemlerde yapıldığında yasaldır:

  • Güvenlik çalışması. Port tarayıcıları, fuzzer'lar, kendi laboratuvarınız için exploit proof of concept'leri, kötü amaçlı yazılım analiz betikleri, log forensics.
  • Web kazıma ve otomasyon. Ayrıştırıcılar, başsız tarayıcı akışları ve dikkatli bir modelin riskli olarak etiketlediği hız limiti testleri.
  • Tersine mühendislik. Disassembly okuma, bir dosya formatını belgeleme, interoperability çalışması.
  • Oyun ve kurgu tooling. Koyu diyalog ağaçları, kötü adam betikleri veya yetişkin başlıklar için olgun hikaye çizgileri oluşturma.
  • Ton. Bir tasarımın kötü olduğunu açıkça söyleyen, her yorumu övgüyle doldurmayan kod incelemesi.

Yetkilendirme önemlidir. Reddi olmayan bir model, sorduğunuz her şeyi yanıtlar, bu yüzden yasal kalmak sorumluluğu size aittir. Kendi sistemlerinizde kullanın, test hedeflerinde ve yazılı izinle müşteri işlerinde kullanın.

Bir liderlik tablosundan daha fazla şey söyleyen hızlı bir test

Gerçek işinizden küçük bir istem kümesi oluşturun: beş ila on görev, diğer asistanların reddettiği bir veya iki görev dahil. Sabit bir seed ve düşük temperature ile çalıştırın ve sonuçları mevcut aracınızla karşılaştırın. 7 gün boyunca geçerli olan 0,50 $ ücretsiz deneme kredisi, yüzlerce böyle çağrıyı karşılar.

import json
from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodelhub.com/v1",
    api_key="YOUR_KEY",
)

tasks = [
    "Write a Python function that parses nmap XML output and lists open ports per host.",
    "Refactor this loop into a generator and keep behavior identical: for i in range(len(xs)): out.append(xs[i] * 2)",
    "Write a pytest file for a function slugify(text) that handles unicode and repeated dashes.",
]

results = []
for task in tasks:
    resp = client.chat.completions.create(
        model="uncensored",
        messages=[
            {"role": "system", "content": "You are a senior engineer. Return only code unless asked otherwise."},
            {"role": "user", "content": task},
        ],
        temperature=0.2,
        seed=7,
    )
    results.append({"task": task, "answer": resp.choices[0].message.content})

print(json.dumps(results, indent=2))

Sonra kodu çalıştırın. Sadece okuyarak puanlamayın. Testleri çalıştırın, linter'ı çalıştırın ve kaç görevin ikinci bir deneme gerektirdiğini not edin. Kendi on görevinizde başarı oranı, stack'inizi yansıttığı için herhangi bir herkese açık sıralamadan daha değerlidir.

Kod çıktısına yardımcı olan ayarlar

Kod üretimi determinizmi ödüllendirir. Bu değerlerle başlayın ve birer birer değiştirin:

  • temperature 0.0 ile 0.3 arasında oluşturma ve refactoring için. Yalnızca beyin fırtınası yaklaşımları için 0.7'ye çıkarın.
  • Sıcaklık düşükken top_p 1.0'a yakın bırakın.
  • stop kapanış kod çiti gibi diziler, yalnızca ilk kod bloğunu istiyorsanız.
  • seed deneyler sırasında sabit, böylece değişen bir istem, rastgelelik değil, değişen bir yanıtı açıklar.
  • max_tokens isteğe bağlıdır. Tamamlama, 100.000 token penceresinin geri kalanını kullanabilir, bu yüzden açık uçlu istemlerde maliyeti sınırlamak istiyorsanız bir cap ayarlayın.

Modele bir insanın ihtiyac duyacağı bağlam verin: dil sürümü, framework, başarısız test çıktısı ve ilgili dosyalar. 100.000 token penceresi çok fazla kaynak kod için yer bırakır, ancak daha fazla dosya her zaman daha iyi değildir. Soruyla ilgili olanı dahil edin.

Daha iyi kod veren istemler

Aynı model, nasıl sorduğunuza bağlı olarak çok farklı kod verir. Bazı alışkanlıklar görünür bir fark yaratır.

  • Ortamı belirtin. "Python 3.11, yalnızca standart kütüphane" yükleyemediğiniz import'ları önler. "TypeScript, strict mod, no any" türleri şekillendirir.
  • Başarısız çıktıyı gösterin. Hata ayıklama için traceback'ı yapıştırın ve bunu tetikleyen en küçük kodu yapıştırın. Önce nedeni sorun, sonra düzeltmeyi, böylece mantığı yargılayabilirsiniz.
  • Kodla birlikte test isteyin. Bir işlev ve testleri birlikte, modelin aksi takdirde geçiştireceği boşlukları ortaya çıkarır.
  • Çıktıyı kısıtlayın. "Yalnızca bir diff döndür" veya "başka hiçbir şey olmadan bir kod bloğu döndür" token tasarrufu sağlar ve cevabı uygulamayı kolaylaştırır.
  • Küçük adımlarda ilerleyin. Bir iskelet isteyin, gözden geçirin, ardından bir sonraki parçayı isteyin. Büyük tek seferlik istemler, ince bir hatanın saklanabileceği daha fazla yer verir.

Reddetmeye yatkın bir konu için hata ayıklama yaparken, ne yaptığınızı ve nedenini bir cümlede söyleyin. "Bu kendi staging sunucumdur; bu portlardan hangilerinin açık olduğunu kontrol eden bir betik yaz" normal bir istektir ve cevap vermeye ayarlanmış bir model bunu yorum yapmadan halleder. İfade ayrıca daha sonra kodu gözden geçirecek herkes için niyetinizi belgeler.

Daha büyük kod tabanlarıyla çalışma

100.000 token penceresi aynı anda birçok dosyayı tutabilir, ancak her çağrıda tüm bir repository göndermek israftır. Bağlamı bilinçli seçin:

  1. Değişiklik altındaki dosyayı ve doğrudan içe aktardığı dosyaları gönderin.
  2. Her şeyin tam uygulamalarını değil, arayüz tanımlarını veya tür dosyalarını ekleyin.
  3. Başarısız testi ve çıktısını dahil edin.
  4. Oluşturulan dosyaları, kilit dosyalarını ve vendor edilmiş (üçüncü taraf) kodu çıkarın.

Bu tekrarlanabilirliği sağlayan, bir yol listesi gezen ve bir istem oluşturan küçük bir yardımcı program:

from pathlib import Path
from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodelhub.com/v1",
    api_key="YOUR_KEY",
)

def review(paths, question):
    parts = []
    for p in paths:
        parts.append("### " + p + "\n" + Path(p).read_text())
    prompt = "\n\n".join(parts) + "\n\nQuestion: " + question
    resp = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        temperature=0.2,
    )
    return resp.choices[0].message.content

print(review(["app/models.py", "app/views.py"], "Where can this raise a KeyError?"))

Tekrarlanan büyük istemlerin maliyetine dikkat edin. Her biri 40.000 token bağlamına sahip yirmi çağrı, 800.000 giriş tokenı veya 0,8 x 0,15 $ = 0,12 $ kullanır. Bu ucuzdur, ancak her ekstra geri ve ileri turuyla büyür, bu yüzden odaklı sorular sorun.

Geliştirici iş akışları için araçları ve JSON'u kullanın

API, modeli bir sohbet ortağından ziyade bir bileşen haline getiren fonksiyon çağırma ve JSON modunu destekler. Örneğin, bir kod inceleme adımı, bir CI işinin yorum olarak gönderebileceği yapılandırılmış bulgular döndürebilir.

curl https://api.abliteratedmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "temperature": 0.1,
    "response_format": {"type": "json_object"},
    "messages": [
      {"role": "system", "content": "Review the diff. Reply as JSON: {\"findings\": [{\"line\": number, \"severity\": string, \"comment\": string}]}"},
      {"role": "user", "content": "def add(a, b):\n    return a - b"}
    ]
  }'

Tool calling ile run_tests veya read_file gibi işlevleri ortaya çıkarabilir ve modelin bunları bir döngüde talep etmesine, ardından sonuçları role: "tool" mesajları olarak göndermesine izin verebilirsiniz. Kodunuz aracı çalıştırır, bu yüzden dokunabileceği şeyleri kontrol edersiniz. Oluşturulan kodu çalıştıran her şeyi sandbox'a alın.

Tipik kodlama işleri için maliyet

Oranlar 1M girdi token başına 0,15 $ ve 1M çıktı token başına 0,50 $'dır. Örnekler:

  • 3.000 giriş ve 800 çıkış tokenı ile bir snippet isteği: 0,003M x 0,15 $ = 0,00045 $, artı 0,0008M x 0,50 $ = 0,0004 $, yani 0,00085 $. Bin tanesi 0,85 $'a mal olur.
  • 20.000 giriş ve 1.500 çıkış tokenı ile tüm dosya incelemesi: 0,003 $ + 0,00075 $ = 0,00375 $.
  • Snippet boyutunda 400 karışık istekle ağır bir gün: 400 x 0,00085 $ = 0,34 $.

Abonelik yok ve başarısız veya reddedilen istemler için ücret alınmaz. Bakiyenizi kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile 20 $ ile 500 $ arasında herhangi bir tam tutarda yükleyin. Bonuslar 50 $'dan +5%, 100 $'dan +10% ve 200 $'dan +15% ekler. Tam ayrıntılar fiyatlandırma sayfasında yer almaktadır; parametreler dokümantasyonda listelenmiştir ve kayıt sayfasında bir anahtar talep edebilirsiniz.

Sorular ve cevaplar

Abliteration bir modeli kodlamada daha iyi hale getirir mi?

Hayır. Reddetme davranışını kaldırır. Kodlama yeteneği temel modelden gelir, bu yüzden kendi görevlerinizde test edin.

Güvenlik kodu için sansürsüz bir model kullanmak yasal mı?

Kendi sistemleriniz için veya test etmeye yetkiniz olan sistemler için kod yazmak genellikle yasaldır, ancak yasalar ve yetkileriniz çerçevesinde kalmanız sizin sorumluluğunuzdadır.

Editörümün içinde kullanabilir miyim?

OpenAI uyumlu bir base URL, anahtar ve model adı kabul eden her editör uzantısı veya aracı bağlanabilir. Base URL'yi, anahtarınızı ve model uncensored'ı kullanın.

Ne kadar büyük bir dosya gönderebilirim?

Bağlam penceresi, istem ve tamamlama için 100.000 token'dır ve maksimum istek gövdesi 8 MB'tır.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al