最佳程式碼編寫用無審查模型:預期結果
最佳程式碼編寫用無審查模型是能寫出正確程式碼且不會在半途拒絕您合法請求的模型。Abliteration 僅處理第二部分,因此您需要在自己的程式庫中測試第一部分。

重點摘要
- Abliteration 移除拒絕行為。它不會增加程式碼編寫技能,因此請根據您的任務評估程式碼品質。
- 拒絕行為會影響安全工具、爬蟲、逆向工程及直白的程式碼審查。
- 低 temperature 和固定 seed 能使程式碼輸出具重複性且易於比較。
- 一次典型的程式碼審查請求,包含 3,000 個輸入 token 與 800 個輸出 token,費用低於 0.1 美分。
Abliteration 改變了什麼,以及它保留了什麼
Abliteration 是一種應用於訓練後開放權重模型的技術。它找到與拒絕請求相關的內部方向並加以抑制,使模型停止拒絕和說教。它不會教導模型新的程式語言或修正糟糕的推理能力。模型撰寫正確函式的能力來自其基礎訓練,而經過 abliteration 的版本在此方面應與基礎模型相當或略有不同。
這種框架有助於您理性選擇。有兩個問題很重要,且彼此獨立:
- 基礎模型在您使用的程式語言中擅長程式碼編寫嗎?
- 在任務合法但敏感時,它能否在不拒絕的情況下完成工作?
此服務運行單一開放權重模型,由獨立供應商託管,模型 ID 為 uncensored。我不會為它宣稱基準分數,因為這裡沒有公布任何分數,且捏造的評分對任何人都沒有幫助。誠實的做法是進行一段針對你程式碼的短測試,詳情如下。更廣泛的資訊請參閱關於 無限制 AI 模型 的頁面。
拒絕行為實際影響開發者的地方
大多數程式碼請求從未觸發拒絕。當它們觸發時,通常是在一小組領域中,當在您擁有或獲授權測試的系統上執行時,這些領域都是合法的:
- 安全相關工作。 端口掃描器、模糊測試器、針對自有實驗室的概念驗證漏洞利用、惡意程式分析腳本、日誌鑑識。
- 爬蟲和自動化。 解析器、無頭瀏覽器流程和謹慎模型標記為風險的速率限制測試。
- 逆向工程。 閱讀反彙編、記錄檔案格式、互操作性工作。
- 遊戲與虛構作品工具。 生成黑暗對話樹、反派腳本或成人標題的成熟劇情。
- 語氣。 明確指出設計不佳的程式碼審查,不在每個評論中都用讚美來鋪墊。
授權很重要。沒有拒絕的模型會回答你提出的任何問題,因此保持合法的責任在你身上。請在自有系統、測試目標以及獲得書面授權的客戶工作中使用。
比排行榜更具參考價值的快速測試
從你的實際工作中建立一小組提示詞:五到十個任務,包含一兩個其他助手拒絕過的任務。使用固定的 seed 和低 temperature 執行它們,並將結果與你目前的工具進行比較。$0.50 的免費試用額度,有效期 7 天,足以覆蓋數百次此類請求。
import json
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
tasks = [
"Write a Python function that parses nmap XML output and lists open ports per host.",
"Refactor this loop into a generator and keep behavior identical: for i in range(len(xs)): out.append(xs[i] * 2)",
"Write a pytest file for a function slugify(text) that handles unicode and repeated dashes.",
]
results = []
for task in tasks:
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a senior engineer. Return only code unless asked otherwise."},
{"role": "user", "content": task},
],
temperature=0.2,
seed=7,
)
results.append({"task": task, "answer": resp.choices[0].message.content})
print(json.dumps(results, indent=2))
然後執行程式碼。不要只透過閱讀來評分。執行測試、運行 linter,並記錄需要第二次嘗試的任務數量。在您自己的十個任務上的通過率比任何公開排名都更有價值,因為它反映了您的技術堆疊。
有助於程式碼輸出的設定
程式碼生成獎勵確定性。從這些值開始,並一次更改一個:
temperature設為 0.0 到 0.3 用於生成和重構。僅在發想方法時才將其提高到 0.7。top_p在 temperature 低時保持在 1.0 附近。stop序列,例如程式碼區塊的結尾,如果你只想獲取第一個程式碼區塊。seed在實驗期間固定,因此更改的提示詞而非隨機性解釋了更改的答案。max_tokens是可選的。補全可以使用剩餘的 100,000-token 視窗,因此如果您想限制開放式提示詞的成本,請設置上限。
給模型人類所需的上下文:語言版本、框架、失敗的測試輸出和相關檔案。100,000-token 視窗為大量原始碼留下了空間,但更多檔案並不總是更好。包含與問題相關的內容。
能產生更好程式碼的提示詞
相同的模型根據您的提問方式會給出非常不同的程式碼。一些習慣會產生顯著的差異。
- 說明環境。 「Python 3.11,僅限標準函式庫」可防止匯入你無法安裝的套件。「TypeScript,嚴格模式,禁止 any」可規範類型。
- 顯示失敗的輸出。 除錯時,貼上追蹤資訊和觸發該問題的最小程式碼。先詢問原因,再詢問修復方法,以便你判斷推理過程。
- 要求程式碼包含測試。 函式及其測試共同暴露了模型通常會忽略的差距。
- 約束輸出。 "僅回傳 unified diff" 或 "回傳一個程式碼區塊且無其他內容" 節省 token 並使答案易於應用。
- 以小步驟迭代。 要求骨架,審查它,然後請求下一部分。大型一次性請求給出更多隱藏微妙錯誤的地方。
對於除錯容易拒絕的主題,用一句話說明您在做什麼以及為什麼。"這是我的預發伺服器;寫一個腳本來檢查這些埠中哪些是開啟的" 是一個正常的請求,而一個調整過以回答的模型將在不加評論的情況下處理它。該陳述也為稍後審查程式碼的任何人記錄了您的意圖。
處理較大的程式碼庫
100,000-token 視窗可以同時容納許多檔案,但在每次呼叫時傳送整個程式庫是浪費的。有意選擇上下文:
- 傳送變更的檔案與它直接匯入的檔案。
- 新增介面定義或型別檔案,而非所有內容的完整實作。
- 包含失敗的測試及其輸出。
- 排除生成的檔案、鎖定檔案和第三方程式碼。
一個走訪路徑清單並建構提示詞的小型輔助工具,可讓這個流程具可重複性:
from pathlib import Path
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
def review(paths, question):
parts = []
for p in paths:
parts.append("### " + p + "\n" + Path(p).read_text())
prompt = "\n\n".join(parts) + "\n\nQuestion: " + question
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
temperature=0.2,
)
return resp.choices[0].message.content
print(review(["app/models.py", "app/views.py"], "Where can this raise a KeyError?"))
注意重複大型提示詞的成本。二十次請求,每次使用 40,000 個 token 的上下文,將消耗 800,000 個輸入 token,即 0.8 x $0.15 = $0.12。這很便宜,但隨著每次來回互動而增長,因此請提出聚焦的問題。
在開發工作流程中使用工具和 JSON
API 支援函式呼叫和 JSON 模式,讓模型成為元件而非聊天夥伴。例如程式碼審查步驟可以回傳結構化的結果,讓 CI 作業將其作為註解發布。
curl https://api.abliteratedmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"temperature": 0.1,
"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Review the diff. Reply as JSON: {\"findings\": [{\"line\": number, \"severity\": string, \"comment\": string}]}"},
{"role": "user", "content": "def add(a, b):\n return a - b"}
]
}'
透過函式呼叫,你可以暴露如 run_tests 或 read_file 等函式,讓模型在迴圈中請求它們,然後以 role: "tool" 訊息傳回結果。你的程式碼執行工具,因此你控制它可以存取什麼。對任何執行生成程式碼的內容進行沙箱隔離。
典型程式設計工作的成本
費率為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。範例:
- 一段程式碼請求,包含 3,000 個輸入和 800 個輸出 token:0.003M x $0.15 = $0.00045,加上 0.0008M x $0.50 = $0.0004,總計 $0.00085。一千個這樣的請求成本為 $0.85。
- 整個檔案的審查,包含 20,000 個輸入和 1,500 個輸出 token:$0.003 + $0.00075 = $0.00375。
- 一天內 400 次混合請求,每個請求的程式碼片段大小:400 x $0.00085 = $0.34。
沒有訂閱制,失敗或遭拒的請求不會收費。透過加密貨幣(TRC20 上的 USDT、Base 上的 USDC)儲值任意整數金額,範圍從 $20 到 $500。儲值贈送加成為:$50 起 +5%,$100 起 +10%,$200 起 +15%。完整詳情請見 定價頁面;參數列於 文件中,你可以在 註冊頁面領取金鑰。
更多指南
問答
abliteration 是否讓模型更擅長程式碼?
不會。它移除了拒絕行為。程式設計能力來自基礎模型,因此請在你的任務上進行測試。
將 uncensored 模型用於安全程式碼是否合法?
為你擁有或獲授權測試的系統撰寫程式碼通常合法,但你需負責遵守法律並符合你的授權範圍。
我可以在編輯器中使用它嗎?
任何接受 OpenAI 相容 Base URL、金鑰和模型名稱的編輯器擴充功能或工具都可以連線。使用 Base URL、你的金鑰和模型 uncensored。
我可以傳送多大的檔案?
上下文視窗為 100,000 token(包含提示詞與完成內容),最大請求主體為 8 MB。
只差一張表單,即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。