Швидкий старт: Інтегруйте API вашої необмеженої LLM

Передумови та налаштування облікового запису

Отримайте свої облікові дані та налаштуйте змінні середовища. Створіть обліковий запис, натиснувши "Увійти через Google" або використовуючи електронну пошту та пароль на Отримати API-ключ сторінка. Ви отримуєте $0.50 пробного кредиту, дійсного протягом 7 днів, тому ви можете перевірити з’єднання перед поповненням. Базовий URL для всіх запитів: https://api.alternativelitellm.com/v1. Використовуйте цей URL як ваш base_url в будь-якому SDK, сумісному з OpenAI.

Надсилання вашого першого запиту

Зробіть стандартний запит на завершення чату, використовуючи офіційну команду curl. Замініть YOUR_API_KEY з вашим ключем з панелі керування. Ідентифікатор моделі завжди uncensored. Це повертає текстову відповідь, що дозволяє дорослі, художні або дискусійні теми без стандартних відмов. Система приймає параметри, такі як temperature та top_p для варіативності виводу.

Copycurl https://api.alternativelitellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate this Python script to Java"}]
  }'

Структура відповіді відповідає стандартному формату OpenAI. Вхідні токени коштують $0.15 за 1M, а вихідні токени коштують $0.50 за 1M. Помилки та відмови не споживають ваш попередньо оплачений кредит.

Інтеграція Python SDK

Ініціалізуйте клієнта, вказавши базовий URL та ключ. Цей OpenAI Python-пакет працює напряму з цим API. Встановіть модель на uncensored для всіх взаємодій. Цей підхід усуває необхідність у користувацьких обгортках або проміжному програмному забезпеченні. Налаштуйте такі параметри, як max_tokens для контролю довжини виводу. Максимальний вивід за замовчуванням становить 2 048 токенів, якщо не вказано вищий ліміт.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.alternativelitellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Перевірте з'єднання, перевіривши choices field в об’єкті відповіді. Цей метод ідеальний для бекенд-сервісів та автоматизованих агентів.

Інтеграція Node SDK

Ініціалізуйте клієнт OpenAI з правильною базовою URL-адресою. Використовуйте uncensored ідентифікатор моделі для всіх завершень. Node SDK автоматично обробляє заголовки аутентифікації при правильній конфігурації. Ця конфігурація ідеально підходить для веб-серверів та edge-функцій. Ви можете передавати стандартні параметри як stop послідовності для контролю виводу. Переконайтеся, що ви обробляєте дані відповіді асинхронно.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.alternativelitellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Перевірте usage об'єкт для моніторингу споживання токенів. Цей метод забезпечує послідовну поведінку у ваших JavaScript або TypeScript додатках.

Потокова передача відповідей з SSE

Увімкніть потокову передачу, встановивши stream: true у вашому запиті. API повертає Server-Sent Events (SSE) для доставки токенів у реальному часі. Кожен чанк містить частковий текстовий вміст. Фінальний чанк включає повну статистику використання токенів. Ця функція знижує сприйняту затримку для кінцевих користувачів. Налаштуйте обробник потоку, щоб обробляти кожну подію по мірі її надходження. Використовуйте це для чат-інтерфейсів або генерації даних у реальному часі.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Переконайтеся, що ваш клієнт правильно обробляє подію кінця потоку, щоб коректно закрити з'єднання. Це запобігає виток ресурсів у довгоживучих процесах.

Обробка токенів, лімітів та помилок

Моніторьте використання та коректно обробляйте помилки. Контекстне вікно становить 100,000 токенів для промпту плюс завершення. Максимальний вивід за запит — 16,000 токенів. Якщо max_tokens не встановлено, ліміт за замовчуванням становить 2,048 токенів. Ви обмежені 300 запитами на хвилину та 8 одночасними запитами на ключ. Помилка 401 вказує на недійсний ключ. Помилка 402 означає, що вам потрібно поповнити баланс криптовалютою. Помилка 429 сигналізує про обмеження швидкості. Кредити не мають строку дії, тому ви можете використовувати їх у будь-який час.