HI ▾
API कुंजी पाएँ

OpenRouter पर एबलिटरेटेड मॉडल बनाम समर्पित API

OpenRouter पर एबलिटरेटेड मॉडल खोजना आमतौर पर इसका संकेत देता है कि आप स्वयं होस्ट किए बिना बिना-सेंसर वाले मॉडल तक पहुँचना चाहते हैं। एक एग्रीगेटर और एक समर्पित API दोनों अलग-अलग तरीकों से उस समस्या को हल करते हैं, और सही विकल्प इस बात पर निर्भर करता है कि आपको कितनी विविधता चाहिए।

अपडेट किया गया

एक हब जो कई छोटे घनों की ओर फैलता है, एक बड़े घन की ओर एक सीधी राह के बगल में, एग्रीगेटर बनाम समर्पित API

मुख्य बिंदु

  • OpenRouter एक एग्रीगेटर है जो अनुरोधों को कई प्रदाताओं से कई मॉडल की ओर रूट करता है। यह सेवा एक ID के तहत एक मॉडल चलाती है।
  • एक एग्रीगेटर विविधता और फॉलबैक में जीतता है। एक समर्पित एंडपॉइंट एक अनुमान योग्य, एकल व्यवहार में जीतता है।
  • दोनों OpenAI चैट फॉर्मेट का उपयोग करते हैं, इसलिए उनके बीच स्विच करना एक बेस URL और कुंजी परिवर्तन है।
  • चूंकि दोनों अक्सर बदलते हैं, इसलिए OpenRouter की वर्तमान मॉडल सूची और मूल्य स्वयं जांचें।

सेवा के दो अलग-अलग स्वरूप

OpenRouter एक मार्केटप्लेस-शैली गेटवे है। आपको एक खाता और एक API मिलता है, और आप विभिन्न प्रदाताओं द्वारा प्रदान किए जाने वाले मॉडल के बड़े कैटलॉग में से चुनते हैं। कैटलॉग में क्या है, कौन से मॉडल उपलब्ध हैं, और प्रत्येक की लागत क्या है, यह बदल सकता है, इसलिए किसी सूची को एक स्नैपशॉट के रूप में देखें और उनकी वेबसाइट पर जाँच करें।

यह सेवा जानबूझकर संकीर्ण है। यह एक ओपन-वेट मॉडल चलाता है, जिसे एक स्वतंत्र प्रदाता होस्ट करता है और इसे वयस्कों के कानूनी उपयोग के लिए सामग्री प्रत्याख्यान के बिना उत्तर देने के लिए ट्यून किया गया है। मॉडल ID हमेशा uncensored होती है। यह एक राउटर नहीं है, यह लोड के आधार पर आपका अनुरोध किसी अन्य विक्रेता को नहीं भेजता है, और यह किसी भी मॉडल निर्माता की आधिकारिक API नहीं है।

कोई भी डिज़ाइन अमूर्त रूप से बेहतर नहीं है। जब आप दस मॉडल की तुलना करना चाहते हैं, तो एक कैटलॉग अच्छा होता है। जब आप चाहते हैं कि दसवां कॉल पहले की तरह व्यवहार करे, तो एक एकल एंडपॉइंट अच्छा होता है।

जिसे आप सत्यापित कर सकते हैं, उस पर तुलना

प्रश्नएग्रीगेटर जैसे OpenRouterयह समर्पित API
मॉडलों की संख्याकई, उनके कैटलॉग के अनुसारएक, ID uncensored
कौन से एबलिटरेटेड या बिना सेंसर मॉडल मौजूद हैंउनकी वर्तमान मॉडल सूची जाँचेंलागू नहीं, एकल मॉडल
समय के साथ व्यवहारआपके द्वारा चुने गए मॉडल और प्रदाता पर निर्भर करता हैहर कॉल पर समान मॉडल
मूल्यप्रति मॉडल, उनकी वर्तमान कीमत जांचेंप्रति 1M इनपुट $0.15, प्रति 1M आउटपुट $0.50
API फ़ॉर्मेटOpenAI-शैली की चैट पूर्णताएँOpenAI-सुसंगत: चैट पूर्णताएँ और मॉडल
आउटपुट प्रकारमॉडल पर निर्भर करता हैकेवल टेक्स्ट
कॉन्टेक्स्ट विंडोमॉडल पर निर्भर करता है100,000 टोकन
डेटा उपयोगउनकी नीति और प्रत्येक प्रदाता कीप्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता

मध्य स्तंभ में खाली जगहें इस बात का संकेत नहीं हैं कि वहाँ कुछ गायब है। वे दर्शाती हैं कि मैं किसी अन्य कंपनी की कीमतों या नीतियों को तथ्य के रूप में नहीं बताऊंगा। निर्णय लेने से पहले उनकी वेबसाइट पढ़ें।

जब एग्रीगेटर अधिक उपयुक्त होता है

एक गेटवे चुनें यदि निम्नलिखित में से कोई भी आपकी परियोजना का वर्णन करता है:

  • आप अभी भी एक मॉडल चुन रहे हैं और एक ही प्रॉम्प्ट को कई मॉडल के माध्यम से चलाना चाहते हैं।
  • आपको एक ही कुंजी के पीछे कई प्रकार के मॉडल की आवश्यकता है, जैसे कि वर्गीकरण के लिए एक छोटा तेज़ मॉडल और लेखन के लिए एक बड़ा मॉडल।
  • आप चाहते हैं कि जब एक प्रदाता बंद हो जाए, तो स्वचालित रूप से फॉलबैक किसी अन्य प्रदाता पर हो जाए।
  • आपको ऐसी सुविधाएँ चाहिए जो इस सेवा में नहीं हैं: इमेज इनपुट, एम्बेडिंग्स या फाइन-ट्यूनिंग।

यह एक विशिष्ट एबलिटरेटेड मॉडल का नाम लेकर उसे आज़माने का भी समझदारी भरा तरीका है। एक कैटलॉग विशिष्ट सामुदायिक वेरिएंट्स की सूची बना सकता है जिसे एकल-मॉडल सेवा कभी नहीं देगी।

जब एक समर्पित एंडपॉइंट अधिक समझदारी भरा लगता है

एक सिंगल-मॉडल सेवा समस्याओं के एक अलग सेट के लिए फिट बैठती है।

  • स्थिरता। एक मॉडल के लिए ट्यून्ड प्रॉम्प्ट काम करते रहते हैं। एक स्थिर दिखने वाले नाम के तहत रूटेड मॉडल बदलने पर कोई हैरानी नहीं।
  • सरल लागत मॉडलिंग। एक इनपुट दर और एक आउटपुट दर। आप एक स्प्रेडशीट में एक महीने का अनुमान लगा सकते हैं।
  • अस्वीकृति व्यवहार जिसे आपको जाँचने की आवश्यकता नहीं है। कैटलॉग में हर मॉडल संवेदनशील लेकिन कानूनी सामग्री पर एक ही तरह व्यवहार नहीं करता है, और आपको प्रत्येक की जाँच करने में समय लग सकता है।
  • छोटा फुटप्रिंट। एक एकल निर्भरता जिसमें पैरामीटर की छोटी सूची है: स्ट्रीमिंग, टूल कॉलिंग, JSON मोड, और मानक सैंपलिंग नियंत्रण।

लागत उदाहरण। एक पाइपलाइन जो एक दिन में 5M इनपुट टोकन और 1M आउटपुट टोकन प्रोसेस करती है, 5 x $0.15 + 1 x $0.50 = $0.75 + $0.50 = $1.25 यहाँ चुकाती है। एक अलग मॉडल की दरों के साथ वही अंकगणित उनके पृष्ठ से आसानी से की जा सकती है, जो कि एक फ्लैट कीमत का उद्देश्य है।

कोड में उनके बीच स्विच करना

चूँकि दोनों पक्ष OpenAI चैट प्रारूप बोलते हैं, आप एक कोड पथ बनाए रख सकते हैं और एंडपॉइंट कॉन्फ़िगरेशन से पढ़ सकते हैं। यह आपको अपने प्रॉम्प्ट्स पर A/B टेस्ट चलाने की भी अनुमति देता है।

import os
from openai import OpenAI

PROVIDERS = {
    "dedicated": {
        "base_url": "https://api.abliteratedmodelhub.com/v1",
        "key": os.environ["DEDICATED_KEY"],
        "model": "uncensored",
    },
    # Add an aggregator entry here with its own base URL, key and model name.
}

def ask(name, prompt):
    cfg = PROVIDERS[name]
    client = OpenAI(base_url=cfg["base_url"], api_key=cfg["key"])
    resp = client.chat.completions.create(
        model=cfg["model"],
        messages=[{"role": "user", "content": prompt}],
        temperature=0.7,
    )
    return resp.choices[0].message.content

print(ask("dedicated", "Write a tense two-line cliffhanger for a noir story."))

प्रत्येक एंट्री के माध्यम से समान बीस प्रॉम्प्ट्स चलाएँ और अस्वीकृति दर, शैली और प्रति हज़ार कॉल लागत की तुलना करें। आपका अपना प्रॉम्प्ट विजेता तय करता है। दस्तावेज़ीकरण उस एंडपॉइंट द्वारा स्वीकार किए जाने वाले पैरामीटरों को कवर करता है।

किसी भी प्रदाता के लिए एक निष्पक्ष परीक्षण योजना

निर्णय लेने का सबसे साफ़ तरीका मापना है, अपने प्रॉम्प्ट्स और अपनी अच्छी परिभाषा का उपयोग करके। एक निष्पक्ष टेस्ट में लगभग एक घंटा लगता है।

  1. 30 प्रॉम्प्ट्स एकत्र करें। असली ट्रैफ़िक या यथार्थवादी प्रॉम्प्ट्स का उपयोग करें। 5 से 10 प्रॉम्प्ट्स शामिल करें जो उस संवेदनशील लेकिन कानूनी सामग्री को छूते हैं जिसने आपको एक uncensored मॉडल खोजने के लिए भेजा था।
  2. सेटिंग्स ठीक करें। हर उम्मीदवार पर समान तापमान, समान सिस्टम प्रॉम्प्ट, समान अधिकतम लंबाई, और जहाँ समर्थित हो, एक स्थिर बीज।
  3. मूल बातें रिकॉर्ड करें। प्रत्येक उत्तर के लिए, लॉग करें कि क्या उसने रिफ्यूज किया, क्या उसने एक लेक्चर जोड़ा, आउटपुट टोकन की संख्या और क्या उसने आपके फॉर्मेट का पालन किया।
  4. तीन बार दोहराएं। प्रत्येक प्रॉम्प्ट को प्रत्येक उम्मीदवार के लिए कम से कम तीन बार चलाएं। एक मॉडल जो तीन में से एक बार रिफ्यूज करता है, वह मॉडल नहीं है जो कभी रिफ्यूज नहीं करता।
  5. कुल लागत का अनुमान लगाएँ। इनपुट और आउटपुट टोकन को प्रत्येक प्रदाता की वर्तमान दरों से गुणा करें, फिर अपने मासिक वॉल्यूम के लिए प्रक्षेपित करें।
  6. बाद में पुनः परीक्षण करें। कैटलॉग और रूटेड प्रदाता बदल जाते हैं, इसलिए एक महीने में उसी सेट को फिर से चलाएं।

ट्रायल क्रेडिट $0.50 इस तरह की जाँच के लिए हमारी ओर से तय किया गया है। ऊपर दी गई दरों पर, 1,000 इनपुट टोकन और 500 आउटपुट टोकन वाले 30 प्रॉम्प्ट्स 30,000 इनपुट टोकन और 15,000 आउटपुट टोकन का उपयोग करते हैं: $0.0045 + $0.0075 = $0.012। तीन बार दोहराने पर भी लागत लगभग 3.6 सेंट आती है।

तुलना करते समय सावधानियां

कुछ जाल तुलनाओं को भ्रामक बना देते हैं।

  • समान नाम, अलग मॉडल। "uncensored" या "abliterated" वाला लेबल बताता है कि अपलोडर क्या चाहता है, न कि मॉडल आपके प्रॉम्प्ट्स पर कैसे व्यवहार करता है। इसे टेस्ट करें।
  • कॉन्टेक्स्ट विंडो की सीमाएँ अलग-अलग होती हैं। एक सेटअप में फिट होने वाला प्रॉम्प्ट दूसरे में कट सकता है। लंबे इनपुट पर आउटपुट की तुलना करने से पहले विंडो की जाँच करें।
  • छिपे सिस्टम प्रॉम्प्ट्स। एक फ्रंट एंड अपने निर्देश जोड़ सकता है। मॉडल को मापने के लिए, न कि रैपर को, कच्ची API के माध्यम से तुलना करें।
  • प्रति टोकन मूल्य, प्रति कार्य मूल्य नहीं है। एक अधिक विस्तृत मॉडल कम दर के बावजूद प्रति उत्तर में अधिक खर्च कर सकता है। पूर्ण कार्य की लागत की तुलना करें।
  • कानूनी उपयोग आपकी जिम्मेदारी है। आप जिस मार्ग का चयन करते हैं, उसमें रिफ्यूज़ल बिना वाला मॉडल कानूनी स्थिति को नहीं बदलता। वयस्कों के कानूनी उपयोग में रहें, और ध्यान दें कि नाबालिगों से जुड़ी यौन सामग्री यहाँ कभी भी अनुमत नहीं है।

यहाँ शुरुआत कैसे करें

API कुंजी पृष्ठ पर खाता बनाएं और अपनी कुंजी प्राप्त करें। नए उपयोगकर्ता एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट ले सकते हैं, जो 7 दिनों के लिए मान्य है, बिना कार्ड के। साइन इन Google या ईमेल और पासवर्ड से होता है। ट्रायल कुंजी 2 समानांतर अनुरोध और प्रति मिनट 60 अनुरोध की अनुमति देती है; पूर्ण कुंजी 8 और 300 की अनुमति देती है।

ट्रायल के बाद, क्रिप्टो (TRC20 पर USDT, Base पर USDC) से $20 से $500 तक किसी भी पूर्णांक राशि का टॉप-अप करें, जिसमें $50 से +5%, $100 से +10% और $200 से +15% बोनस मिलता है। क्रेडिट कभी नहीं खत्म होता। मूल्य निर्धारण पेज पर विवरण है, और बिना सेंसर वाले AI मॉडल का पेज व्यावहारिक रूप से इसका अर्थ समझाता है, जिसमें एक कठोर सीमा भी शामिल है: नाबालिगों से जुड़ी कोई यौन सामग्री नहीं।

प्रश्न और उत्तर

क्या यह सेवा OpenRouter जैसी ही है?

नहीं। OpenRouter कई मॉडल के लिए एक एग्रीगेटर है। यह एक समर्पित API है जो uncensored ID वाले एक ओपन-वेट मॉडल पर चलती है।

कौन से एबलिटरेटेड मॉडल उपलब्ध हैं?

एक। यह एक अकेला ओपन-वेट मॉडल है जिसे वयस्कों के कानूनी उपयोग के लिए बिना सामग्री रिफ्यूज़ल के उत्तर देने के लिए ट्यून्ड किया गया है, यह एक कैटलॉग नहीं है।

क्या मैं दोनों के लिए समान कोड का उपयोग कर सकता हूँ?

हाँ। दोनों OpenAI चैट फॉर्मेट का पालन करते हैं, इसलिए आपको बेस URL, कुंजी और मॉडल नाम बदलना होगा।

OpenRouter की कीमतें कहाँ देखें?

उनकी अपनी साइट पर। कीमतें और उपलब्ध मॉडल बदल जाते हैं, इसलिए किसी थर्ड-पार्टी लिस्ट पर भरोसा करने के बजाय उनकी वर्तमान प्राइसिंग जाँचें।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ