AR ▾
احصل على مفتاح API

نماذج أبليتريتد على Hugging Face مقابل الوصول المستضاف

يُرجع البحث عن النماذج المُزيلة للرقابة على huggingface مئات التحميلات من المجتمع. اختيار واحد وتشغيله أمر ممكن، لكنه يختلف عن استدعاء نقطة نهاية مستضافة. تقارن هذه الصفحة بين الطريقتين للمطورين.

تم التحديث

مكعبات تمثل نماذج صغيرة بجانب خادم سحابي واحد مرتبط بجهاز كمبيوتر محمول، لمقارنة الأوزان المُحملة مع الوصول المستضاف
مركز يوزع على العديد من المكعبات الصغيرة بجانب مسار مستقيم إلى مكعب كبير، وسيط مقابل API مخصص

نقاط رئيسية

  • Hugging Face هو المكان الذي تعيش فيه الأوزان: العديد من التحميلات، وجودة مختلطة، وتراخيص متنوعة.
  • تشغيلها بنفسك يكلف الأجهزة، ووقت الإعداد، والاهتمام بالتكميم وقوالب الدردشة.
  • تتخطي نقطة النهاية المتوافقة مع OpenAI المستضافة كل ذلك، بسعر $0.15 و $0.50 لكل مليون رمز هنا.
  • استخدم الأوزان للتحكم والعمل دون اتصال؛ استخدم واجهة برمجة التطبيقات للتكامل السريع.

يُظهر البحث عن نماذج مُعدّلة في huggingface تحميلاتٍ للنماذج مفتوحة الأوزان الشائعة مع تعديل سلوك الرفض، بعدة أحجام وتنسيقات. بعضها أوزان بدقة كاملة، وبعضها ملفات GGUF مُكمّأة لأدوات قائمة على llama.cpp، وبعضها نسخ مُدمجة أو مُعدّلة أكثر. غالباً ما تحمل الأسماء لاحقة مثل "مُعدّل" أو "بدون رقابة"، وقد يكون للنموذج الأساسي نفسه عشرات النسخ من أشخاص مختلفين.

هذا التنوع هو الجانبان الجيد والسيئ للنظام البيئي. يمكنك اختيار الحجم الذي يناسب عتادك. لكن لا يضمن أحد أن التحميل يعمل كما هو موصوف، ولا يخبرك مصطلح "abliterated" بمدى جودة إجراء التعديل أو مقدار القدرة المفقودة. تعامل مع كل نموذج كمرشح للاختبار.

كيفية قراءة بطاقة النموذج

بطاقة النموذج هي الصفحة التي تصل إليها لمستودع معين. اقرأ هذه العناصر قبل تحميل جيجابايت من البيانات.

  1. النموذج الأساسي. من أي نموذج أصلي تم بناؤه، وأي إصدار؟ أنت ترث نقاط قوته، وطول نافذة السياق، والتراخيص.
  2. الطريقة. هل يشرح المؤلف كيفية إجراء الإزالة وما الذي تم تقييمه؟ الصمت علامة تحذير.
  3. الترخيص. تحقق من شروط الاستخدام التجاري. لا يمكن للمحمّل منح حقوق لا يمنحها الترخيص الأساسي.
  4. تنسيق الملف. يُعد Safetensors و GGUF خيارات أكثر أماناً من ملفات الحفظ المُجمّدة (pickled checkpoints).
  5. قالب الدردشة. يجب أن يظهر البطاقة أو تكوين المرمّز تنسيق الموجّه. قالب خاطئ يعطي مخرجات غريبة ومتشعبة.
  6. التبويب المجتمعي. اطّلع على المناقشات لقراءة تقارير عن الملفات التالفة أو جودة المخرجات المتدهورة.
  7. الأحجام والتكميم. قائمة الملفات تخبرك بما يناسب ذاكرة الوصول العشوائي لديك.

ما يتطلبه تشغيل الأوزان محلياً

ثلاثة موارد تحدد ذلك: الذاكرة، وقت الإعداد والصيانة.

  • الذاكرة. تأخذ الأوزان مساحة تساوي عدد المعاملات مضروباً في عدد البتات لكل معامل مقسوماً على ثمانية. نموذج بحجم 8 مليار معامل بدقة 4 بت يتطلب حوالي 4 جيجابايت، ونموذج بحجم 70 مليار معامل بدقة 4 بت يتطلب حوالي 35 جيجابايت. إضافة ذاكرة التخزين المؤقت للسياق الطويل تزيد من هذا الحجم.
  • الإعداد. اختر محرك تشغيل، حمّل ملفاً، اضبط حجم السياق، والقالب، وعدد الطبقات المُحمّلة على وحدة معالجة الرسومات، ثم اختبر.
  • الصيانة. تظهر نماذج جديدة باستمرار. إعادة الاختبار وإعادة التحميل جزء من الروتين.

خادم محلي بسيط باستخدام llama.cpp يبدو هكذا، بعد تحميل ملف GGUF:

llama-server -m ./model-Q4_K_M.gguf -c 8192 --port 8080

يوفر واجهة برمجة تطبيقات على طراز OpenAI على جهازك الخاص. هذا يعمل بشكل جيد للتجارب. لكن سياق بـ 8,192 رمزاً، وهو ما تستخدمه العديد من الإعدادات الاستهلاكية لتوفير الذاكرة، أصغر بكثير من الـ 100,000 رمز التي تقدمها واجهة برمجة التطبيقات المستضافة في هذا الموقع.

مقارنة في الوصول المستضاف

تتخطى نقطة النهاية المستضافة عملية التحميل، ووحدة معالجة الرسومات، والقالب. إنها واجهة برمجة تطبيقات متوافقة مع OpenAI: أي SDK لـ OpenAI يعمل بعد تغيير عنوان URL الأساسي والمفتاح.

  • عنوان URL الأساسي: https://api.abliteratedmodelhub.com/v1
  • معرف النموذج: uncensored
  • المصادقة: Authorization: Bearer YOUR_KEY
  • نقاط النهاية: POST /v1/chat/completions، POST /v1/responses و GET /v1/models
from openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedmodelhub.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize what a GGUF file is in two sentences."}],
)
print(resp.choices[0].message.content)

كن واضحاً بشأن ما هو عليه. إنه نموذج واحد مفتوح الأوزان تشغله جهة مستقلة ومُعدّ للإجابة دون رفض المحتوى للاستخدام القانوني للبالغين. إنه ليس تحميل Hugging Face محدداً، ولا يمكنك اختيار أو تبديل الأوزان. هو للنصوص فقط: لا صور، ولا صوت، ولا تضمينات، ولا ضبط دقيق.

مقارنة جنباً إلى جنب

أوزان Hugging Face، تشغيل ذاتيواجهة برمجة التطبيقات المستضافة
اختيار النموذجمئات النماذج الفرعيةنموذج واحد، ID uncensored
الأجهزةأنت توفرهالا شيء
التكلفةالأجهزة والكهرباء$0.15 لكل مليون رمز مدخل، $0.50 لكل مليون رمز مخرج
السياقمحدود بذاكرة جهازك100,000 رمز (token)
الميزاتيعتمد على محركك والنموذجالبث المتدفق، استدعاء الدوال، وضع JSON
الطلبات المتزامنةعادةً طلب واحد في كل مرة على سطح المكتب8 طلبات متزامنة على مفتاح كامل
بدون اتصالنعملا
التحكم في الأوزانكامللا شيء
وقت الإعدادساعات إلى أيامدقائق

الاستضافة الذاتية ليست الخيار الأقل قيمة. إذا كنت بحاجة إلى فحص الأوزان أو دمجها أو ضبطها بدقة، أو التشغيل بدون شبكة، فهو الخيار الوحيد. واجهة برمجة التطبيقات المستضافة هي الأداة المناسبة عندما تريد دمج نموذج في تطبيقك اليوم.

مشاكل ستواجهها على الأرجح

النموذج يتشعب أو يكرر نفسه

عادةً ما يكون قالب المحادثة خاطئاً، أو رموز التوقف (stop tokens) مفقودة. استخدم القالب المذكور في بطاقة النموذج، واضبط تسلسل التوقف إذا لم يقرأه المحرك من الملف.

المخرج أقل جودة من النموذج الأساسي

تُعدّل الإزالة الأوزان، وقد تؤدي التعديلات الكبيرة إلى فقدان بعض جودة الاستدلال. يمكن أن يضيف التكميم إلى 4 بت مزيداً من الفقد. جرب ملفاً بدقة أعلى لنفس النموذج قبل أن تعزو المشكلة للطريقة.

نفاد الذاكرة

قلل حجم نافذة السياق، أو اختر تكميماً أصغر، أو حمّل عدداً أقل من الطبقات إلى وحدة معالجة الرسومات (GPU). تتوسع ذاكرة KV مع زيادة السياق، لذا قد يفشل نموذج يعمل بشكل جيد مع النصوص الطويلة.

لا يزال يرفض أحياناً

تقلل Abliteration من حالات الرفض، لكنها لا تضمن الصفر المطلق. غالباً ما يساعد تحديد سياق المهمة المشروع في رسالة النظام (system prompt). ينطبق هذا على أي نموذج، سواء كان مستضافاً أو محلياً.

استدعاء الأدوات لا يعمل

لم يتم تدريب كل تحميل على ذلك، ولا يطبّقه كل محرك على كل قالب. جرّب استدعاء دالة بسيط قبل أن تصمّم وكيلًا حوله. تدعم واجهة API المستضافة tools، وtool_choice، وtool_calls البث المتدفق، ووضع JSON، مما يجعلها طريقة سريعة للتحقق من سلوك موجّهاتك ومخططاتك الخاصة.

سير عمل معقول

يستخدم العديد من المطورين كليهما. ابدأ بمحاولة تحميل بعض النماذج من Hugging Face لترى نمط المخرجات الذي تفضله. دوّن ملاحظات حول الموجهات المهمة لك. ثم اختبر نفس الموجهات عبر واجهة API باستخدام الرصيد التجريبي: $0.50، يُستحصل عليه بنقرة واحدة على صفحة مفتاح API بعد تسجيل الدخول، بدون بطاقة، صالح لمدة 7 أيام. إذا كان النموذج المستضاف جيدًا بما يكفي للتطبيق، تتجنب مسألة العترة بالكامل. إذا لم يكن كذلك، لديك قائمة بما يجب البحث عنه في الأوزان.

تغطي صفحة أفضل نموذج معدل بـ Abliteration للبرمجة معايير خاصة بالبرمجة، وتنظر صفحة النماذج المعدلة بـ Abliteration على OpenRouter في طريقة أخرى للحصول على وصول مستضاف. توجد المعاملات والحدود الكاملة في الوثائق.

التكلفة لمطور يريد فقط نقطة نهاية

لنفترض أن تطبيقًا يرسل 20 مليون رمز إدخال و4 ملايين رمز إخراج شهريًا. الفاتورة هي 20 × $0.15 = $3.00 زائد 4 × $0.50 = $2.00، أي $5.00. إنفاق بهذا المبلغ لا يبرر شراء بطاقة رسومات. في الطرف الآخر، تطبيق يحتاج نموذجًا مُحمّلاً محددًا، أو يرسل حركة مرور على مدار الساعة لعدة أشهر، قد يبرر امتلاك جهاز خاص به. انظر الأسعار لمبالغ الشحن من $20 إلى $500 والمكافآت على المبالغ الأكبر. الرصيد لا ينتهي، ولا تُحتسب رسوم على الطلبات الفاشلة أو المرفوضة.

لا تُستخدم الموجّهات المرسلة إلى واجهة برمجة التطبيقات المستضافة للتدريب. استخدم أيًا من هذه الخيارات لأغراض قانونية للبالغين فقط، ولا تستخدمها أبدًا للمحتوى الجنسي الذي يتضمن قاصرين.

أسئلة وأجوبة

أين أجد نماذج Abliterated على Hugging Face؟

ابحث في مركز النماذج عن كلمة abliterated مع اسم النموذج الأساسي، ثم اقرأ بطاقة كل نموذج. تحقق من الترخيص والتنسيق وقالب الدردشة قبل التنزيل.

هل نماذج Abliterated على Hugging Face آمنة للتنزيل؟

فضّل ملفات safetensors أو GGUF من المرفعين الذين يوثقون منهجيتهم، واقرأ مناقشات المجتمع. تجنب نقاط التفتل المحفوظة (pickled checkpoints) من مصادر غير معروفة.

هل يمكنني استخدام نموذج Hugging Face Abliterated عبر هذه الواجهة؟

لا. تخدم الواجهة نموذجًا مفتوح الأوزان ثابتًا واحدًا بمعرف uncensored. لا يمكنك رفع أو اختيار الأوزان.

هل المسار المستضاف أرخص من تشغيل النموذج بنفسي؟

عند حجم منخفض أو متوسط، عادةً ما يكون الأمر كذلك، لأنه لا يوجد معدات يجب شراؤها. عند الحمل الثقيل المستمر، قد يكون تشغيل النموذج الخاص بك أرخص.

مفتاحك على بُعد نموذج واحد

أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.

احصل على مفتاح API