TR ▾
API anahtarı al

Abliterate Edilmiş Model Ücretsiz: Yerel, Demolar ve Deneme Kredisi

Bir abliterate modelini ücretsiz olarak birkaç yolla elde edebilirsiniz ancak her seçeneğin bir bedeli vardır: donanım, kuyruklar veya zaman. Seçenekler nelerdir, gerçekten neye mal oldukları ve kartsız bir denemenin neler yapabileceği aşağıda açıklanmıştır.

güncellendi

Bir abliterate modele ücretsiz deneme erişimini temsil eden, açık bir kapının önünde parlayan anahtar ve token
Birçok küçük küpün etrafına yayılan bir merkez ile büyük bir küpe giden tek bir doğru yol; toplayıcıya karşı özel API

Temel noktalar

  • Ücretsiz ağırlıklar mevcuttur ancak bunları çalıştırmak bir GPU veya CPU üzerinde çok sabır gerektirir.
  • Ücretsiz demolar paylaşımlıdır, hız limitine tabidir ve haber verilmeden değişebilir; bu nedenle hızlı bir bakış için uygundur ancak bir proje için değil.
  • Buradaki $0,50 deneme kredisi yaklaşık 1.250 kısa sohbet isteğine eşdeğerdir ve bir API için gerçek bir test için yeterlidir.
  • Ücretsiz seçenekler değerlendirmeler için iyidir; bağımlı olduğunuz her şey için kullandıkça öde ödeme modeli uygundur.

Ücretsiz abliterate model ile kastedilen

Bir abliterate model, istekleri reddetme eğilimini kaldırmak için düzenlenmiş açık ağırlıklı bir dil modelidir. Teknik, reddetmelerle ilişkili modelin içsel aktivasyonlarındaki bir yönü belirler ve onu kaldırır. Sonuç daha doğrudan yanıt verir ancak kalite orijinalinden farklı olabilir ve farklı yükleyiciler farklı sonuçlar elde eder.

Kullanıcılar bir abliterate model ücretsiz aradığında genellikle üç şey ister: kendi makinenizde çalıştırmak için ağırlıklar, bir modelle sohbet etmek için bir web sayfası veya önceden ödeme yapmadan kodunuzdan çağırabileceğiniz bir API. Bunlar farklı sorunlardır ve farklı çözümler gerektirir. Aşağıdaki bölümler bu konuları tek tek ele alır.

Seçenek 1: Ağırlıkları indirip yerel olarak çalıştırmak

abliterate modellerinin topluluk yüklemeleri, model barındırma sitelerinde yayımlanır; genellikle llama.cpp, Ollama veya LM Studio gibi araçlarda çalışan quantize dosyalar olarak bulunur. Yazılım ücretsizdir ve indirme de ücretsizdir. Ödediğiniz şey makinedir.

  • Bellek sınırı belirler. Kabaca bir kural olarak, ağırlıkların parametre sayısı çarpı ağırlık başına bit sayısı bölü sekiz kadar yer kaplaması gerekir. 4-bit bir 8B model yaklaşık 4 GB yer kaplar, 4-bit bir 70B model yaklaşık 35 GB yer kaplar, ayrıca bağlam penceresi için çalışma belleği gerekir.
  • GPU olmadan da mümkündür ancak yavaştır. Küçük modeller yeterli RAM ile bir CPU üzerinde çalışabilir ancak bu hız günlük sohbet için değil daha çok test için uygundur.
  • Kalite değişkenlik gösterir. Model kartını okuyun, lisansı kontrol edin ve nasıl oluşturduklarını açıklayan yükleyicilerin dosyalarını tercih edin.

Bu yol, donanımı zaten sahipseniz gerçekten ücretsizdir. Satın almak zorunda kalacaksanız, hiç de ücretsiz değildir. kodlama için en iyi abliterate model sayfamız, kullanım alanı programlama olduğunda dikkat edilmesi gerekenleri kapsar.

Seçenek 2: Ücretsiz demolar ve paylaşılan alanlar

Bazı yükleyiciler ve topluluklar, bir modelle ücretsiz sohbet edebileceğiniz demo sayfaları barındırır. İlk izlenim edinmek için iyidirler. Ancak şu sınırlamaları bekleyin:

  • Paylaşılmış kuyruklar. Yük altında beklersiniz veya sayfa zaman aşımına uğrar.
  • Stabilite yok. Bir demo kaybolabilir, modelleri değiştirebilir veya uyarı olmadan kısıtlamalar ekleyebilir.
  • API garantisi yok. Bir demo bir uç nokta bile sunsa, bu bir uygulama için tasarlanmamıştır.
  • Belirsiz veri işleme. Özel bir şey yapıştırmadan önce sayfanın loglama hakkında ne söylediğini okuyun.

Bir model stilinin size uygun olup olmadığını karar vermek için bir demo kullanın. Üzerine inşa etmeyin.

Seçenek 3: Token başı ücretli bir API'de deneme kredisi

Üçüncü yol, ücretsiz deneme içeren barındırılan bir API'dir. Burada, yeni kullanıcılar Google veya e-posta ve şifre ile kayıt olduktan sonra API anahtarı sayfasında tek bir tıklama ile $0,50 deneme kredisi talep edebilir. Kart gerekmez, kişi başı bir tanedir ve 7 gün boyunca geçerlidir. Bir deneme anahtarı 2 eşzamanlı istek ve dakikada 60 istek izni verir.

API, OpenAI ile uyumludur; bu nedenle temel URL ve anahtarınızı değiştirdikten sonra herhangi bir OpenAI SDK'sı çalışır. Model kimliği uncensored şeklindedir. Bağımsız bir sağlayıcı tarafından yönetilen, yasal yetişkin kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı modeldir. Sadece metin destekler ve katı sınır olarak reşit olmayanları içeren cinsel içerik yasaktır.

$0,50 deneme kredisi ne sağlar

Fiyatlar 1M girdi token başına $0,15 ve 1M çıktı token başına $0,50'dir. Başarısız veya reddedilen istekler için ücret alınmaz. 1.000 girdi token ve 500 çıktı token tipik bir kısa sohbet isteği için matematik şöyledir:

  • Girdi: 1.000 / 1.000.000 x $0,15 = $0,00015
  • Çıktı: 500 / 1.000.000 x $0,50 = $0,00025
  • İstek başına: $0,0004
  • $0,50 / $0,0004 = 1.250 istek

Daha uzun etkileşimler daha fazla token kullanır. Her dönüş geçmişi yeniden gönderen bir konuşma ortalama 5.000 girdi ve 500 çıktı token kullanabilir: $0,00075 + $0,00025 = $0,001 bir istek başına, yani deneme kredisi yaklaşık 500 tanesini karşılar. Her iki durumda da bu, çoğu ücretsiz demonun size veremeyeceği gerçek bir proje boyunca istemleri, tonu ve fonksiyon çağırma test etmeniz için yeterlidir.

Bunu harcamanın adil bir yolu: Gerçek kullanımınızı temsil eden on istem yazın, bunları düşük bir temperature ile bir kez çalıştırın ve yanıtta token sayılarını not edin. Ardından beklenen aylık hacmiyle çarpın. On istem toplam $0,004'e mal oluyorsa, ayda bin tane yaklaşık $0,40'a mal olur. Bu tek hesaplama, ücretli katmanın değerlendirilmeye değer olup olmadığını gösterir ve kart detaylarınızı vermeden bunu yaptınız. API'nin belirli bir topluluk yüklemesi gibi davranmasını umuyorsanız, farklı abliterate modellerin farklı şekilde yanıt verdiğini göz önünde bulundurarak bunu da test edin.

İki dakikada deneyin

Bir anahtar aldıktan sonra, tüm test budur. Base URL ve modeli ayarlayın ve bir istem gönderin.

curl https://api.abliteratedmodelhub.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Explain what a refusal direction is in two sentences."}]}'

Veya Python ile:

from openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedmodelhub.com/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List three risks of running unvetted model weights."}],
)
print(r.choices[0].message.content)

Yanıt başlığı X-Balance-USD her çağrıdan sonra ne kadar kaldığını gösterir ve GET /v1/balance bunu da döndürür. dokümantasyon akış, fonksiyon çağırma ve JSON modunu listeler.

Ücretsiz bir indirme veya demoya güvenmeden önce kontroller

Ücretsiz aynı zamanda denetlenmemiş anlamına gelir. Sizi zor durumdan kurtaracak birkaç alışkanlık:

İndirilen ağırlıklar için

  • Yüklendiğinde kod çalıştıramayan formatları (safetensors veya GGUF gibi) seçili checkpointlerden tercih edin.
  • Lisansı okuyun. Bazı açık ağırlıklı lisanslar ticari kullanımı sınırlayabilir veya atıf gerektirebilir ve bir yükleyici orijinal lisansı geçersiz kılamaz.
  • Sohbet şablonunu kontrol edin. Yanlış şablon, bir modelin bozuk gibi görünmesinin veya gereğinden fazla uzatıp dağınık konuşmasının en yaygın nedenidir. Model kartı genellikle doğru şablonu belirtir.
  • Nicelleştirmeleri karşılaştırın. Bir 4-bit dosya daha küçük ve daha hızlıdır ancak 8-bit'e kıyasla bazı doğruluğu kaybedebilir. İkinizi de deneyin ve istemlerinizde dayanıklı olanı seçin.

Demolar ve ücretsiz katmanlar için

  • İstemlerin loglanabileceğini varsayın. İsimleri, anahtarları ve özel belgeleri hariç tutun.
  • Bir ürünü kontrol etmediğiniz bir sayfaya bağlamayın.
  • Hangi istemleri denediğinizi yazın, böylece başka bir seçenekte aynı testi tekrarlayabilir ve adil bir karşılaştırma yapabilirsiniz.

Abliteration, reddetme davranışını değiştirir; bilgi eklemez. Bir abliterate model hala gerçekleri uydurabilir ve daha az reddedilme, ne sorulacağı ve cevabın nasıl kullanılacağı konusunda yargıyı size bırakır. Yalnızca yasal yetişkin kullanımı için; reşit olmayanları içeren hiçbir şey kesinlikle yasaktır.

Ücretsiz versus kullandıkça öde: nasıl seçilir

İhtiyaçEn iyi uyum
Stilinin nasıl olduğunu görünÜcretsiz bir demo
Çevrimdışı kullanım, ağırlıklar üzerinde tam kontrolDonanımınız varsa yerel indirme
Bir uygulamayı bir API'ye karşı test edinÜcretsiz deneme
Günlük hayatta güvendiğiniz bir şeyKullandıkça öde, ön ödemeli, abonelik yok

Deneme süresi bittiğinde, yüklemeler $20 ile $500 arasında herhangi bir tam tutarda olabilir; $50'den itibaren %5, $100'den itibaren %10 ve $200'den itibaren %15 bonus sağlanır. Kredi asla sona ermez ve kripto ile ödeme yapabilirsiniz. Detaylar için fiyatlandırma sayfasına bakın. Kısıtlamaları olmayan modeller hakkında daha geniş bir bakış için kısıtlaması olmayan AI modelleri sayfamızı okuyun.

Bunları yalnızca yasal yetişkin amaçlar için kullanın ve istemlerde kişisel verilerden kaçının.

Sorular ve cevaplar

Çevrimiçi kullanabileceğim ücretsiz bir abliterate model var mı?

Topluluk demo sayfaları mevcuttur ancak bunlar paylaşımlıdır, güvenilir değildir ve uygulamalar için tasarlanmamıştır. Barındırılan bir API'deki ücretsiz deneme kredisi size daha stabil bir test imkanı sağlar.

Ücretsiz deneme kredisi bana ne kadar verir?

$0,50, kişi başı bir tane, 7 gün boyunca geçerlidir, kart gerekmez. İstek başına 1.000 girdi ve 500 çıktı token ile bu yaklaşık 1.250 istek anlamına gelir.

Bir abliterate modeli dizüstü bilgisayarımda çalıştırabilir miyim?

Küçük nicemlenmiş modeller, yeterli RAM'e sahip bir dizüstü bilgisayarda çalışabilir ancak yetkin bir GPU olmadan yavaş çalışır. Model boyutunu önce bellek kapasitenizle karşılaştırın.

Barındırılan model, bir Hugging Face abliterate yüklemesiyle aynı mı?

Hayır. Bu, bağımsız bir sağlayıcı tarafından çalıştırılan ve içerik reddetmeleri olmadan yanıt verecek şekilde ince ayarlanmış tek bir açık ağırlıklı modeldir. Herhangi bir spesifik yükleme ile eşleştiğini varsaymayın.

Anahtarınız için tek bir formu doldurmanız yeterlidir

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al