LLM bez cenzury dla programistów

Czym są modele Abliterated?

Modele abliterated to modele językowe o otwartych wagach, które zostały przetworzone w celu usunięcia warstw odpowiedzialnych za wzorce odmowy. W przeciwieństwie do standardowych modeli komercyjnych, które są dostrojane, aby być uprzejmymi i ostrożnymi, wagi abliterated pozwalają modelowi odpowiadać na tematy kontrowersyjne, dorosłe lub nietypowe bez mówienia 'Nie mogę tego zrobić'. Osiąga się to poprzez matematyczną edycję wag modelu w celu stłumienia zachowania 'odmowy', zachowując jednocześnie jego podstawową inteligencję i zdolności rozumowania.

Te modele abliterated nie są 'bez cenzury' w sensie binarnym; są dostrojone do użytku dla dorosłych i badań bezpieczeństwa, gdzie wymagane są uczciwe, niefiltrowane wyniki. Hostujemy te konkretne wagi na własnych serwerach GPU, zapewniając pojedynczy, spójny endpoint. Cieszysz się pełnymi korzyściami z llm bez cenzury bez konieczności rozumienia architektury modelu bazowego lub zarządzania kosztami wnioskowania GPU.

Dlaczego użyć hostowanego API bez cenzury?

Uruchomienie lokalnego llm bez cenzury wymaga znacznych zasobów sprzętowych, a w szczególności dużych GPU z VRAM. Korzystając z naszego hostowanego API, przenosisz ciężar obliczeniowy na naszą infrastrukturę. Otrzymujesz standardowy interfejs kompatybilny z OpenAI, co oznacza, że możesz używać tego samego kodu, który już znasz, tylko wskazując na inny base URL.

Nasz endpoint obsługuje strumieniowanie przez SSE, pozwalając na otrzymywanie tokenów w czasie rzeczywistym. Jest to kluczowe dla budowania responsywnych interfejsów czatu lub przepływów pracy agentów. W przeciwieństwie do marketplace'ów agregujących dziesiątki modeli o zróżnicowanej jakości, skupiamy się wyłącznie na jednym modelu bez cenzury stworzonym do konkretnego celu. Zapewnia to spójną opóźnienie i zachowanie, co jest kluczowe dla aplikacji produkcyjnych, gdzie liczy się przewidywalność.

Specyfikacja techniczna: Kontekst i kompatybilność

API obsługuje okno kontekstu 100 000 tokenów zarówno dla promptu, jak i uzupełnienia. Pozwala to na przetwarzanie dużych dokumentów, długich baz kodu lub rozszerzonych historii konwersacji w jednym zapytaniu. Endpoint ściśle przestrzega format OpenAI Chat Completions, zapewniając szeroką kompatybilność z istniejącym narzędziem.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedmodelhub.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Żądania są ograniczone do 8 MB w rozmiarze ciała, a każdy klucz API może obsłużyć 300 zapytań na minutę. Jeśli musisz rotować klucze dla bezpieczeństwa lub równoważenia obciążenia, możesz wygenerować ponownie swój klucz w dowolnym momencie, co natychmiast unieważnia poprzedni. ID modelu to po prostu 'uncensored'. Nie ma endpointów embeddingów, generowania obrazów ani dostrajania — tylko czyste uzupełnianie tekstu.

Cennik: Przejrzysta płatność za użycie

Nie pobieramy miesięcznych opłat ani nie wymagamy subskrypcji. Kupujesz przedpłacony kredyt, który nigdy nie wygasa. Cennik jest prosty: $0.25 za 1 milion tokenów wejściowych i $1.00 za 1 milion tokenów wyjściowych. Możesz doładować kryptowalutą (USDT lub USDC), zaczynając od zaledwie $10.

Dla większych doładowań oferujemy bonusowe kredyty: +5% przy doładowaniu $50 lub więcej oraz +10% przy doładowaniu $100 lub więcej. Ten model płatności za użycie jest idealny dla programistów, którzy chcą precyzyjnie kontrolować koszty bez zobowiązań do cyklicznego rachunku. Nowe konta otrzymują $0.50 kredytu próbnego ważnego przez 7 dni, bez wymagania karty kredytowej.

Dla kogo to NIE JEST

To API jest zaprojektowane dla programistów, którzy rozumieją działanie LLM i chcą uzyskać dostęp do endpointu bez cenzury. Nie jest przeznaczone dla użytkowników końcowych szukających gotowego interfejsu czatu lub ogólnego asystenta, takiego jak ChatGPT. Nie oferujemy routingu modeli, więc jesteś ograniczony do naszego jednego modelu bez cenzury. Jeśli potrzebujesz embeddingów, generowania obrazów lub konkretnych gwarancji SLA, to nie jest to odpowiedni produkt. Dodatkowo, mimo że model jest bez cenzury, narzucamy ścisły limit: treści dotyczące małoletnich są blokowane. Jeśli Twój przypadek użycia wymaga absolutnie, niefiltrowanej treści we wszystkich kategoriach, w tym w tym konkretnym przypadku brzegowym, może być konieczne skorzystanie z innego rozwiązania.