Mô hình Abliterated tốt nhất cho lập trình: Những gì bạn cần biết
Mô hình Abliterated tốt nhất cho lập trình là mô hình viết mã chính xác và không từ chối yêu cầu hợp pháp của bạn giữa chừng. Abliteration chỉ xử lý phần thứ hai, vì vậy bạn cần tự kiểm tra phần thứ nhất trên kho lưu trữ của mình.

Điểm chính
- Abliteration loại bỏ hành vi từ chối. Nó không thêm kỹ năng lập trình, vì vậy bạn hãy tự đánh giá chất lượng mã trên các tác vụ của mình.
- Các từ chối ảnh hưởng đến nhà phát triển trong công cụ bảo mật, thu thập dữ liệu, kỹ thuật đảo ngược và review mã thẳng thắn.
- Nhiệt độ thấp và seed cố định giúp kết quả mã có thể lặp lại và dễ so sánh.
- Một yêu cầu xem xét mã điển hình với 3.000 token đầu vào và 800 token đầu ra tốn dưới một phần mười xu.
Abliteration thay đổi những gì và giữ nguyên những gì
Abliteration là một kỹ thuật được áp dụng cho mô hình trọng số mở sau khi huấn luyện. Nó tìm hướng nội bộ liên quan đến việc từ chối yêu cầu và vô hiệu hóa nó, giúp mô hình ngừng từ chối và giảng giải. Nó không dạy mô hình các ngôn ngữ lập trình mới hoặc sửa lỗi suy luận kém. Khả năng viết một hàm chính xác của mô hình đến từ quá trình huấn luyện cơ sở, và phiên bản đã qua Abliteration sẽ có chất lượng tương đương hoặc hơi khác biệt về mặt đó.
Cách tiếp cận này giúp bạn lựa chọn hợp lý. Hai câu hỏi quan trọng và chúng độc lập với nhau:
- Mô hình cơ sở có tốt trong việc lập trình bằng các ngôn ngữ bạn sử dụng không?
- Mô hình có hoàn thành công việc mà không từ chối khi tác vụ hợp pháp nhưng nhạy cảm không?
Dịch vụ này chạy một mô hình trọng số mở, do nhà cung cấp độc lập lưu trữ, với ID mô hình uncensored. Tôi sẽ không đưa ra một con số bảng xếp hạng cho nó, vì không có số nào được công bố ở đây và điểm số bịa ra không giúp ích cho ai. Cách trung thực nhất là một bài kiểm tra ngắn trên mã của bạn, được mô tả bên dưới. Ngữ cảnh rộng hơn có trên trang về mô hình AI không kiểm duyệt.
Nơi các từ chối thực sự ảnh hưởng đến nhà phát triển
Hầu hết các yêu cầu lập trình không bao giờ kích hoạt từ chối. Khi chúng xảy ra, thường là trong một tập hợp nhỏ các lĩnh vực, tất cả đều hợp pháp khi thực hiện trên các hệ thống bạn sở hữu hoặc được phép kiểm tra:
- Công việc bảo mật. Trình quét cổng, fuzzer, bản PoC khai thác cho phòng thí nghiệm của riêng bạn, các tập lệnh phân tích malware, điều tra pháp y log.
- Thu thập dữ liệu và tự động hóa. Các trình phân tích, quy trình trình duyệt không đầu và các bài kiểm tra giới hạn tốc độ mà một mô hình thận trọng sẽ đánh dấu là rủi ro.
- Kỹ thuật đảo ngược. Đọc mã disassembly, tài liệu hóa một định dạng tệp, công việc về khả năng tương tác.
- Công cụ cho game và tiểu thuyết. Tạo các cây hội thoại tối, kịch bản nhân vật phản diện hoặc các cốt truyện trưởng thành cho các tựa game dành cho người lớn.
- Giọng điệu. Đánh giá mã nói rõ rằng một thiết kế là kém, mà không đệm mỗi nhận xét bằng lời khen.
Việc được cho phép rất quan trọng. Một mô hình không có từ chối sẽ trả lời bất cứ điều gì bạn hỏi, vì vậy trách nhiệm tuân thủ pháp lý thuộc về bạn. Hãy sử dụng nó trên các hệ thống của riêng bạn, các mục tiêu thử nghiệm và công việc của khách hàng có sự cho phép bằng văn bản.
Một bài kiểm tra nhanh cho bạn biết nhiều hơn bảng xếp hạng
Xây dựng một tập hợp nhỏ các prompt từ công việc thực tế của bạn: năm đến mười nhiệm vụ, bao gồm một hoặc hai nhiệm vụ mà các trợ lý khác đã từ chối. Chạy chúng với một seed cố định và nhiệt độ thấp, và so sánh kết quả với công cụ hiện tại của bạn. Tín dụng dùng thử $0,50, có giá trị trong 7 ngày, bao gồm hàng trăm lệnh gọi như vậy.
import json
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
tasks = [
"Write a Python function that parses nmap XML output and lists open ports per host.",
"Refactor this loop into a generator and keep behavior identical: for i in range(len(xs)): out.append(xs[i] * 2)",
"Write a pytest file for a function slugify(text) that handles unicode and repeated dashes.",
]
results = []
for task in tasks:
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a senior engineer. Return only code unless asked otherwise."},
{"role": "user", "content": task},
],
temperature=0.2,
seed=7,
)
results.append({"task": task, "answer": resp.choices[0].message.content})
print(json.dumps(results, indent=2))
Sau đó, hãy chạy mã. Đừng đánh giá bằng cách đọc đơn thuần. Hãy chạy các bài kiểm tra, chạy linter và ghi lại số lượng tác vụ cần thử lại. Tỷ lệ vượt qua trên mười tác vụ của riêng bạn có giá trị hơn bất kỳ xếp hạng công khai nào, vì nó phản ánh ngăn xếp công nghệ của bạn.
Các cài đặt giúp cải thiện kết quả mã
Việc tạo mã ưu tiên tính xác định. Bắt đầu với các giá trị này và thay đổi từng cái một:
temperature0.0 đến 0.3 cho việc tạo và tái cấu trúc. Tăng nó lên 0.7 chỉ để brainstorming các phương pháp.top_pgiữ gần 1.0 khi nhiệt độ thấp.stopcác chuỗi dừng như code fence đóng, nếu bạn chỉ muốn khối mã đầu tiên.seedcố định trong quá trình thí nghiệm, để một prompt thay đổi, không phải ngẫu nhiên, giải thích cho câu trả lời thay đổi.max_tokenslà tùy chọn. Phần completion có thể sử dụng phần còn lại của cửa sổ 100.000 token, vì vậy hãy đặt giới hạn nếu bạn muốn kiểm soát chi phí trên các prompt mở rộng.
Cung cấp cho mô hình bối cảnh mà một người sẽ cần: phiên bản ngôn ngữ, framework, kết quả kiểm tra thất bại và các tệp liên quan. Cửa sổ 100.000 token để lại chỗ cho rất nhiều mã nguồn, nhưng nhiều tệp hơn không phải lúc nào cũng tốt hơn. Chỉ đưa vào những gì liên quan đến câu hỏi.
Các prompt tạo ra mã tốt hơn
Cùng một mô hình sẽ tạo ra mã rất khác nhau tùy thuộc vào cách bạn yêu cầu. Một vài thói quen sẽ tạo ra sự khác biệt rõ rệt.
- Nêu rõ môi trường. "Python 3.11, chỉ thư viện chuẩn" ngăn các lệnh import bạn không thể cài đặt. "TypeScript, chế độ strict, không dùng any" định hình các kiểu dữ liệu.
- Hiển thị kết quả thất bại. Để gỡ lỗi, hãy dán traceback và đoạn mã nhỏ nhất kích hoạt nó. Hỏi về nguyên nhân trước, sau đó là cách sửa, để bạn có thể đánh giá lý luận.
- Yêu cầu các bài kiểm tra kèm mã. Một hàm và các bài kiểm tra của nó cùng nhau làm lộ ra các thiếu sót mà mô hình sẽ bỏ qua nếu không có chúng.
- Ràng buộc đầu ra. "Chỉ trả về unified diff" hoặc "trả về một khối mã và không có gì khác" tiết kiệm token và làm cho câu trả lời dễ áp dụng.
- Lặp lại theo các bước nhỏ. Yêu cầu một khung sườn, xem xét nó, sau đó yêu cầu phần tiếp theo. Các yêu cầu một lần lớn cho ra nhiều chỗ hơn cho một lỗi tinh vi ẩn náu.
Để gỡ lỗi một chủ đề dễ bị từ chối, hãy nói bạn đang làm gì và tại sao trong một câu. "Đây là máy chủ staging của riêng tôi; hãy viết một tập lệnh kiểm tra xem các cổng nào trong số này đang mở" là một yêu cầu bình thường, và một mô hình được tinh chỉnh để trả lời sẽ xử lý nó mà không cần bình luận. Câu phát biểu cũng ghi lại ý định của bạn cho bất kỳ ai xem xét mã sau này.
Làm việc với các codebase lớn hơn
Cửa sổ 100.000 token có thể chứa nhiều tệp cùng một lúc, nhưng gửi toàn bộ kho lưu trữ trong mỗi lệnh gọi là lãng phí. Hãy chọn bối cảnh một cách có chủ đích:
- Hãy gửi tệp đang thay đổi và các tệp mà nó import trực tiếp.
- Thêm các định nghĩa giao diện hoặc tệp kiểu, không phải toàn bộ các triển khai.
- Bao gồm bài kiểm tra thất bại và kết quả của nó.
- Loại bỏ các tệp được tạo, tệp khóa và mã vendor (bên thứ ba).
Một trợ lý nhỏ duyệt qua danh sách các đường dẫn và tạo một prompt giúp quá trình này có thể lặp lại:
from pathlib import Path
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
def review(paths, question):
parts = []
for p in paths:
parts.append("### " + p + "\n" + Path(p).read_text())
prompt = "\n\n".join(parts) + "\n\nQuestion: " + question
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
temperature=0.2,
)
return resp.choices[0].message.content
print(review(["app/models.py", "app/views.py"], "Where can this raise a KeyError?"))
Theo dõi chi phí của các prompt lớn lặp lại. Hai mươi lệnh gọi với bối cảnh 40.000 token mỗi lệnh sử dụng 800.000 token đầu vào, hoặc 0,8 x $0,15 = $0,12. Điều đó rẻ, nhưng nó tăng lên với mỗi vòng trao đổi thêm, vì vậy hãy đặt các câu hỏi tập trung.
Sử dụng công cụ và JSON cho quy trình làm việc của nhà phát triển
API hỗ trợ gọi hàm và chế độ JSON, biến mô hình thành một thành phần hơn là một đối tác trò chuyện. Ví dụ: một bước xem lại mã nguồn có thể trả về các kết quả có cấu trúc mà một công việc CI có thể đăng dưới dạng nhận xét.
curl https://api.abliteratedmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"temperature": 0.1,
"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Review the diff. Reply as JSON: {\"findings\": [{\"line\": number, \"severity\": string, \"comment\": string}]}"},
{"role": "user", "content": "def add(a, b):\n return a - b"}
]
}'
Với việc gọi công cụ, bạn có thể hiển thị các hàm như run_tests hoặc read_file và để mô hình yêu cầu chúng trong một vòng lặp, sau đó gửi kết quả lại dưới dạng các tin nhắn role: "tool". Mã của bạn chạy công cụ, vì vậy bạn kiểm soát những gì nó có thể chạm vào. Hãy chạy trong sandbox mọi thứ thực thi mã được tạo.
Chi phí cho các công việc lập trình điển hình
Giá là $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra. Ví dụ:
- Một yêu cầu đoạn mã với 3.000 token đầu vào và 800 token đầu ra: 0,003M x $0,15 = $0,00045, cộng 0,0008M x $0,50 = $0,0004, vậy $0,00085. Một nghìn yêu cầu như vậy tốn $0,85.
- Một bài đánh giá toàn bộ tệp với 20.000 token đầu vào và 1.500 token đầu ra: $0,003 + $0,00075 = $0,00375.
- Một ngày nặng với 400 yêu cầu hỗn hợp ở kích thước đoạn mã: 400 x $0,00085 = $0,34.
Không có đăng ký, và các yêu cầu thất bại hoặc bị từ chối không bị tính phí. Nạp tiền bất kỳ số nguyên nào từ $20 đến $500 bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Phần thưởng cộng thêm +5% từ $50, +10% từ $100 và +15% từ $200. Chi tiết đầy đủ có trên trang giá cả; các tham số được liệt kê trong tài liệu, và bạn có thể nhận khóa trên trang đăng ký.
Hướng dẫn khác
Hỏi đáp
Abliteration có làm cho mô hình tốt hơn trong việc lập trình không?
Không. Nó loại bỏ hành vi từ chối. Khả năng lập trình đến từ mô hình cơ sở, vì vậy bạn hãy thử nghiệm nó trên các tác vụ của riêng mình.
Có hợp pháp khi sử dụng mô hình không kiểm duyệt cho mã bảo mật không?
Viết mã cho các hệ thống bạn sở hữu hoặc được phép kiểm tra thường là hợp pháp, nhưng bạn chịu trách nhiệm tuân thủ pháp luật và các quyền hạn của mình.
Tôi có thể sử dụng nó bên trong trình soạn thảo của tôi không?
Mọi tiện ích mở rộng hoặc công cụ trình soạn thảo chấp nhận URL cơ sở tương thích OpenAI, khóa và tên mô hình đều có thể kết nối. Sử dụng URL cơ sở, khóa của bạn và mô hình uncensored.
Tôi có thể gửi tệp lớn đến mức nào?
Cửa sổ ngữ cảnh là 100.000 token cho prompt cộng với completion, và kích thước tối đa của thân yêu cầu là 8 MB.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.