Szybki start: Zintegruj swoje API LLM bez cenzury

Wymagania wstępne i konfiguracja konta

Pobierz swoje dane logowania i skonfiguruj zmienne środowiskowe. Utwórz konto, klikając „Kontynuuj z Google” lub używając e-maila i hasła na Pobierz klucz API strony. Otrzymujesz $0.50 kredytu próbnej ważnego przez 7 dni, więc możesz zweryfikować łączność przed doładowaniem. Adres bazowy dla wszystkich żądań to https://api.alternativelitellm.com/v1. Użyj tego adresu URL jako swojego base_url w dowolnym SDK kompatybilnym z OpenAI.

Wysyłanie twojego pierwszego żądania

Wykonaj standardowe wywołanie uzupełniania czatu używając oficjalnego polecenia curl. Zastąp YOUR_API_KEY z Twoim kluczem z panelu. ID modelu jest zawsze uncensoredTo zwraca odpowiedź tekstową pozwalającą na tematy dla dorosłych, fikcyjne lub kontrowersyjne bez standardowych odrzuceń. System akceptuje parametry takie jak temperature i top_p dla zmienności odpowiedzi.

Copycurl https://api.alternativelitellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate this Python script to Java"}]
  }'

Struktura odpowiedzi jest zgodna ze standardowym formatem OpenAI. Tokeny wejściowe są rozliczane po $0.15 za 1M, a tokeny wyjściowe po $0.50 za 1M. Błędy i odmowy nie obciążają Twojego kredytu zaliczkowego.

Integracja Python SDK

Zainicjuj klienta, podając adres bazowy oraz klucz. Ten OpenAI Pakiet Python działa bezpośrednio z tym API. Ustaw model na uncensored dla wszystkich interakcji. Podejście to eliminuje potrzebę tworzenia własnych wrapperów lub warstwy pośredniej. Skonfiguruj parametry takie jak max_tokens do kontrolowania długości wyjścia. Maksymalna domyślna wartość wyjścia to 2 048 tokenów, chyba że określisz wyższy limit.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.alternativelitellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Sprawdź połączenie, sprawdzając choices pole w obiekcie odpowiedzi. Ta metoda jest idealna dla usług backendowych i agentów zautomatyzowanych.

Integracja SDK Node

Zainicjuj klienta OpenAI z odpowiednim adresem bazowym. Użyj uncensored identyfikator modelu dla wszystkich uzupełnień. SDK Node automatycznie obsługuje nagłówki uwierzytelniające, gdy jest poprawnie skonfigurowane. To ustawienie jest idealne dla serwerów sieciowych i funkcji brzegowych. Możesz przekazywać standardowe parametry takie jak stop sekwencje do kontroli wyjścia. Upewnij się, że obsługujesz dane odpowiedzi asynchronicznie.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.alternativelitellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Sprawdź usage obiekt do monitorowania konsumpcji tokenów. Metoda ta zapewnia spójne zachowanie w aplikacjach JavaScript lub TypeScript.

Strumieniowanie odpowiedzi z SSE

Włącz strumieniowanie, ustawiając stream: true w Twoim żądaniu. API zwraca zdarzenia wysyłane przez serwer (SSE) dla dostarczania tokenów w czasie rzeczywistym. Każda cząstka zawiera częściową zawartość tekstową. Ostatnia cząstka zawiera kompletne statystyki użycia tokenów. Ta funkcja zmniejsza postrzeganą latencję dla użytkowników końcowych. Skonfiguruj handler strumienia, aby przetwarzać każde zdarzenie w miarę jego przybywania. Użyj tego dla interfejsów czatu lub generowania danych w czasie rzeczywistym.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Upewnij się, że Twój klient poprawnie obsługuje zdarzenie końca strumienia, aby zamknąć połączenia w sposób czysty. Zapobiega to wyciekom zasobów w procesach długotrwałych.

Obsługa tokenów, limitów i błędów

Monitoruj swoje użycie i obsługuj błędy w sposób elegancki. Okno kontekstowe wynosi 100,000 tokenów dla podpowiedzi plus uzupełnienie. Maksymalne wyjście na żądanie to 16,000 tokenów. Jeśli max_tokens jest nieustawione, limit domyślnie wynosi 2,048 tokenów. Jesteś ograniczony do 300 żądań na minutę i 8 żądań współbieżnych na klucz. Błąd 401 oznacza nieprawidłowy klucz. Błąd 402 oznacza, że musisz doładować środki kryptowalutą. Błąd 429 sygnalizuje ograniczenie szybkości. Kredyty nigdy nie wygasają, więc możesz ich użyć w dowolnym momencie.