Pengenalan: Integrasikan API LLM tanpa sensor anda

Prasyarat dan persediaan akaun

Dapatkan kelayakan anda dan konfigurasikan pembolehubah persekitaran anda. Cipta akaun dengan mengklik "Teruskan dengan Google" atau menggunakan e-mel dan kata laluan pada Dapatkan kunci API halaman. Anda menerima $0.50 kredit percubaan sah selama 7 hari, supaya anda boleh mengesahkan sambungan sebelum menambah baki. URL asas untuk semua permintaan ialah https://api.alternativelitellm.com/v1. Gunakan URL ini sebagai base_url dalam mana-mana SDK yang serasi dengan OpenAI.

Menghantar permintaan pertama anda

Buat panggilan penyelesaian chat standard menggunakan arahan curl rasmi. Gantikan YOUR_API_KEY dengan kunci anda dari papan pemuka. ID model sentiasa uncensored. Ini mengembalikan respons teks yang membolehkan topik dewasa, fiksyen, atau kontroversi tanpa penolakan piawai. Sistem menerima parameter seperti temperature dan top_p untuk variasi output.

Copycurl https://api.alternativelitellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate this Python script to Java"}]
  }'

Struktur respons kekal konsisten dengan piawaian OpenAI. Token input ditadbir pada $0.15 per 1M, dan token output pada $0.50 per 1M. Ralat dan penolakan tidak menggunakan kredit pra-dibayar anda.

Python SDK integration

Mulakan klien dengan URL asas dan kunci anda. The OpenAI Python package works directly with this API. Set the model to uncensored untuk semua interaksi. Pendekatan ini menghapuskan keperluan untuk pembungkus atau perantara khusus. Konfigurasikan parameter seperti max_tokens untuk mengawal panjang output. Maksimum output lalai ialah 2,048 token melainkan anda menentukan had yang lebih tinggi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.alternativelitellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Sahkan sambungan dengan memeriksa choices field in the response object. This method is ideal for backend services and automated agents.

Integrasi SDK Node

Sediakan klien OpenAI dengan URL asas yang betul. Gunakan uncensored ID model untuk semua penyelesaian. SDK Node mengendalikan header pengesahan secara automatik apabila dikonfigurasi dengan betul. Persediaan ini sempurna untuk pelayan web dan fungsi tepi. Anda boleh menghantar parameter standard seperti stop jujukan untuk mengawal output. Pastikan anda mengendalikan data respons secara tidak selari.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.alternativelitellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Semak usage object untuk memantau penggunaan token. Kaedah ini memastikan tingkah laku yang konsisten dalam aplikasi JavaScript atau TypeScript anda.

Respons penstriman dengan SSE

Aktifkan aliran dengan menetapkan stream: true dalam permintaan anda. API mengembalikan Acara Dihantar Pelayan (SSE) untuk penghantaran token masa nyata. Setiap potongan mengandungi kandungan teks separa. Potongan akhir termasuk statistik penggunaan token lengkap. Ciri ini mengurangkan latensi yang dirasakan untuk pengguna akhir. Konfigurasikan pengendali aliran untuk memproses setiap acara semasa ia tiba. Gunakan ini untuk antara muka sembang atau penjanaan data masa nyata.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pastikan klien anda mengendalikan acara akhir aliran dengan betul untuk menutup sambungan dengan bersih. Ini mencegah kebocoran sumber dalam proses jangka panjang.

Menangani token, had, dan ralat

Pantau penggunaan anda dan tangani ralat dengan baik. Jendela konteks ialah 100,000 token untuk prompt ditambah penyelesaian. Output maksimum setiap permintaan ialah 16,000 token. Jika max_tokens tidak ditetapkan, had lalai ialah 2,048 token. Anda terhad kepada 300 permintaan setiap minit dan 8 permintaan serentak per kunci. Ralat 401 menunjukkan kunci tidak sah. Ralat 402 bermaksud anda perlu menambah baki dengan kripto. Ralat 429 menandakan had kadar. Kredit tidak lupus, jadi anda boleh menggunakannya bila-bila masa.