코딩용 최고 아블리테이션 모델: 기대할 것
코딩용 최고 아블리테이션 모델은 올바른 코드를 작성하고 합법적인 요청을 중간에 거절하지 않는 모델입니다. 아블리테이션은 두 번째 부분만 처리하므로 첫 번째 부분은 자체 저장소로 테스트해야 합니다.

주요 포인트
- 아블리테이션은 거절 행동을 제거합니다. 코딩 기술을 추가하지 않으므로 코드 품질은 자체 작업으로 판단하세요.
- 보안 도구, 스크래핑, 리버스 엔지니어링 및 직설적인 코드 검토에서 거절이 개발자에게 영향을 미칩니다.
- 낮은 온도 값과 고정 시드 값은 코드 출력을 반복 가능하게 만들어 비교하기 쉽게 합니다.
- 3,000 입력 토큰과 800 출력 토큰을 사용하는 일반적인 코드 검토 요청은 10분의 1센트 미만입니다.
아블리테이션이 바꾸는 것과 바꾸지 않는 것
아블리테이션은 훈련된 오픈 웨이트 모델에 적용하는 기법입니다. 요청을 거부하는 내부 방향을 찾아 억제하여 모델이 더 이상 거절하거나 교훈적인 태도를 보이지 않도록 합니다. 이 기법은 모델에 새로운 프로그래밍 언어를 가르치거나 추론 능력을 개선하지 않습니다. 올바른 함수를 작성하는 모델의 능력은 기본 훈련에서 비롯되며, 아블리테이션된 버전은 그 점에서 비슷하거나 약간 다를 수 있습니다.
이러한 설명은 합리적으로 선택하는 데 도움이 됩니다. 두 가지 질문이 중요하며 서로 독립적입니다:
- 사용하는 언어로 코딩에 적합한 베이스 모델입니까?
- 작업이 합법적이지만 민감할 때 거절 없이 작업을 수행합니까?
이 서비스는 독립적인 제공자가 호스팅하는 하나의 오픈 웨이트 모델을 실행하며, 모델 ID는 uncensored입니다. 여기에 대한 벤치마크 수치를 주장하지 않겠습니다. 여기서 공개된 수치가 없으며, 가짜 점수는 아무에게도 도움이 되지 않기 때문입니다. 가장 정직한 방법은 아래에 설명된 대로 코드에 대한 짧은 테스트를 수행하는 것입니다. 더 넓은 맥락은 제약이 없는 AI 모델 페이지에서 확인할 수 있습니다.
거절이 실제로 개발자에게 미치는 영향
대부분의 코딩 요청은 거절을 트리거하지 않습니다. 트리거하는 경우 일반적으로 작은 영역에서 발생하며, 모두 자신의 시스템에서 수행하거나 테스트 권한이 있는 경우 합법적입니다:
- 보안 작업. 포트 스캐너, 퍼저, 자체 랩용 익스플로이트 개념 증명, 말웨어 분석 스크립트, 로그 포렌식.
- 스크래핑 및 자동화. 신중한 모델이 위험하다고 판단하는 파서, 헤드리스 브라우저 흐름 및 속도 제한 테스트.
- 리버스 엔지니어링. 디스어셈블리 읽기, 파일 형식 문서화, 상호 운용성 작업.
- 게임 및 픽션 도구. 성인 타이틀을 위한 다크 대화 트리, 악역 스크립트 또는 성숙한 스토리라인 생성.
- 톤. 디자인이 나쁘다고 명확히 말하며 모든 코멘트에 찬사를 넣지 않는 코드 검토.
허가가 중요합니다. 거절 없는 모델은 묻는 모든 것에 답변하므로 합법적으로 유지할 책임은 귀하에게 있습니다. 자신의 시스템에서 사용하고, 테스트 대상 및 서면 권한이 있는 클라이언트 작업에 사용하세요.
리더보드보다 더 많은 정보를 제공하는 빠른 테스트
실제 작업에서 작은 프롬프트 세트를 만드세요: 5~10개의 작업으로, 다른 어시스턴트가 거부한 작업 하나 또는 두 개를 포함하세요. 고정 시드 값과 낮은 온도 값으로 실행하고 결과를 현재 도구와 비교하세요. 7일 동안 유효한 $0.50 무료 체험 크레딧는 수백 번의 호출을 커버할 수 있습니다.
import json
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
tasks = [
"Write a Python function that parses nmap XML output and lists open ports per host.",
"Refactor this loop into a generator and keep behavior identical: for i in range(len(xs)): out.append(xs[i] * 2)",
"Write a pytest file for a function slugify(text) that handles unicode and repeated dashes.",
]
results = []
for task in tasks:
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a senior engineer. Return only code unless asked otherwise."},
{"role": "user", "content": task},
],
temperature=0.2,
seed=7,
)
results.append({"task": task, "answer": resp.choices[0].message.content})
print(json.dumps(results, indent=2))
그런 다음 코드를 실행하세요. 읽기만으로 점수를 매기지 마세요. 테스트를 실행하고 린터를 실행하며, 두 번째 시도가 필요한 작업이 얼마나 많은지 기록하세요. 자체 10개 작업에 대한 통과율은 스택을 반영하므로 어떤 공개 순위보다 가치가 있습니다.
코드 출력에 도움이 되는 설정
코드 생성은 결정론을 보상합니다. 이러한 값으로 시작하고 하나씩 변경하세요:
- 생성 및 리팩토링에는
temperature0.0~0.3을 사용하세요. 브레인스토밍 접근 방식에만 0.7로 높입니다. top_ptemperature가 낮을 때 1.0 근처에 둡니다.stop첫 번째 코드 블록만 원하는 경우 닫는 코드 펜스와 같은 시퀀스.seed실험 중 고정하여 답변이 달라졌다면 무작위성이 아니라 프롬프트 변경 때문임을 알 수 있습니다.max_tokens은 선택 사항입니다. 생성은 100,000개 토큰 창의 나머지를 사용할 수 있으므로, 오픈 엔드 프롬프트에서 비용을 제한하려면 캡을 설정하세요.
사람이 필요로 할 컨텍스트를 모델에 제공하세요: 언어 버전, 프레임워크, 실패한 테스트 출력 및 관련 파일. 100,000 토큰 창은 많은 소스 코드를 담을 공간을 남기지만, 더 많은 파일이 항상 더 나은 것은 아닙니다. 질문과 관련이 있는 것만 포함하세요.
더 나은 코드를 얻는 프롬프트
동일한 모델은 요청하는 방식에 따라 매우 다른 코드를 제공합니다. 몇 가지 습관이 눈에 띄는 차이를 만듭니다.
- 환경을 명시하세요. "Python 3.11, 표준 라이브러리만 사용"은 설치할 수 없는 임포트를 방지합니다. "TypeScript, strict 모드, no any"는 타입을 형성합니다.
- 실패한 출력을 보여주세요. 디버깅을 위해 traceback과 이를 트리거하는 가장 작은 코드를 붙여넣으세요. 먼저 원인을 묻고 그 다음 수정을 요청하여 추론을 판단하세요.
- 코드와 함께 테스트를 요청하세요. 함수와 테스트를 함께 제공하면 모델이 그렇지 않으면 넘어갈 수 있는 빈틈를 드러냅니다.
- 출력을 제한하세요. "unified diff만 반환" 또는 "코드 블록 하나만 반환하고 다른 내용은 포함하지 마세요"는 토큰을 절약하고 답변을 쉽게 적용할 수 있게 합니다.
- 작은 단계로 반복하세요. 뼈대를 요청하고 검토한 후 다음 부분을 요청하세요. 큰 일괄 요청은 미묘한 오류가 숨을 수 있는 더 많은 지점을 제공합니다.
거절하기 쉬운 주제에 대한 디버깅할 때 한 문장으로 무엇을 하고 있는지 그리고 왜 하는지 말하세요. "이것은 자체 스테이징 서버입니다. 이러한 포트 중 어떤 것이 열려 있는지 확인하는 스크립트를 작성하세요"는 정상적인 요청이며, 답변하도록 조정된 모델은 코멘트 없이 처리할 것입니다. 이 진술은 나중에 코드를 검토하는 모든 사람을 위해 의도를 문서화합니다.
더 큰 코드베이스로 작업하기
100,000개 토큰 창은 여러 파일을 한 번에 담을 수 있지만, 모든 호출에 전체 저장소를 보내는 것은 낭비입니다. 컨텍스트를 신중하게 선택하세요:
- 변경 중인 파일과 해당 파일이 임포트하는 파일을 직접 보내세요.
- 모든 것의 전체 구현이 아닌 인터페이스 정의 또는 타입 파일을 추가하세요.
- 실패한 테스트와 그 출력을 포함하세요.
- 생성된 파일, 잠금 파일 및 벤더 코드를 제외하세요.
경로 목록을 순회하고 하나의 프롬프트를 만드는 작은 도우미는 이를 반복 가능하게 유지합니다:
from pathlib import Path
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodelhub.com/v1",
api_key="YOUR_KEY",
)
def review(paths, question):
parts = []
for p in paths:
parts.append("### " + p + "\n" + Path(p).read_text())
prompt = "\n\n".join(parts) + "\n\nQuestion: " + question
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
temperature=0.2,
)
return resp.choices[0].message.content
print(review(["app/models.py", "app/views.py"], "Where can this raise a KeyError?"))
반복적인 큰 프롬프트의 비용을 확인하세요. 컨텍스트가 40,000개 토큰인 20번의 호출은 800,000 입력 토큰을 사용하며, 이는 0.8 x $0.15 = $0.12입니다. 이는 저렴하지만, 추가적인 왕복마다 증가하므로 집중적인 질문을 하세요.
개발자 워크플로우를 위해 도구와 JSON을 사용하세요
API는 함수 호출과 JSON 모드를 지원하여 모델을 채팅 파트너가 아닌 구성 요소로 만듭니다. 예를 들어 코드 검토 단계는 CI 작업이 코멘트로 게시할 수 있는 구조화된 결과를 반환할 수 있습니다.
curl https://api.abliteratedmodelhub.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"temperature": 0.1,
"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Review the diff. Reply as JSON: {\"findings\": [{\"line\": number, \"severity\": string, \"comment\": string}]}"},
{"role": "user", "content": "def add(a, b):\n return a - b"}
]
}'
함수 호출을 사용하면 run_tests 또는 read_file과 같은 함수를 노출하여 모델이 루프에서 이를 요청하도록 하고, 결과를 role: "tool" 메시지로 다시 보낼 수 있습니다. 귀하의 코드가 도구를 실행하므로, 도구가 접근할 수 있는 범위를 직접 제어할 수 있습니다. 생성된 코드를 실행하는 모든 것은 샌드박스 처리하세요.
일반적인 코딩 작업의 비용
요율은 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50입니다. 예시:
- 입력 토큰 3,000개, 출력 토큰 800개의 스니펫 요청: 0.003M x $0.15 = $0.00045, 더하기 0.0008M x $0.50 = $0.0004, 따라서 $0.00085. 1,000개의 비용은 $0.85입니다.
- 전체 파일 검토 (입력 20,000개, 출력 1,500개): $0.003 + $0.00075 = $0.00375.
- 코드 조각 크기의 400회 혼합 요청으로 하루를 보낼 경우: 400 x $0.00085 = $0.34.
구독이 없으며, 실패하거나 거부된 요청에는 요금이 부과되지 않습니다. $20부터 $500까지의 정수 금액을 암호화폐(TRC20의 USDT, Base의 USDC)로 충전할 수 있습니다. $50부터는 +5%, $100부터는 +10%, $200부터는 +15%의 보너스가 제공됩니다. 전체 세부 정보는 가격 책정 페이지에 있으며, 매개변수는 문서에 나열되어 있습니다. 가입 페이지에서 API 키를 발급받을 수 있습니다.
더 많은 가이드
질문과 답변
아블리테이션이 모델을 코딩에 더 잘하게 만듭니까?
아닙니다. 거부 행동을 제거할 뿐입니다. 코딩 능력은 베이스 모델에서 나오므로 자체 작업으로 테스트하세요.
보안 코드를 위해 무검열 모델을 사용하는 것이 합법입니까?
귀하가 소유하거나 테스트할 권한이 있는 시스템에 코드를 작성하는 것은 일반적으로 합법적이지만, 법과 귀하의 권한 범위 내에서 유지할 책임은 귀하에게 있습니다.
편집기 내에서 사용할 수 있습니까?
OpenAI 호환 Base URL, 키 및 모델 이름을 허용하는 모든 편집기 확장 프로그램이나 도구로 연결할 수 있습니다. Base URL, 귀하의 키 및 모델 uncensored을 사용하세요.
얼마나 큰 파일을 보낼 수 있습니까?
컨텍스트 창은 프롬프트와 컴플리션을 합쳐 100,000개 토큰이며, 최대 요청 본문은 8 MB입니다.
키는 양식 하나만 작성하면 받을 수 있습니다
계정을 생성하고 키를 복사한 후 Base URL을 변경하세요. 설정은 이것으로 끝입니다.