क्विकस्टार्ट: अपनी अनसेंसर्ड LLM API इंटीग्रेट करें

आवश्यकताएँ और खाता सेटअप

अपने क्रेडेंशियल्स प्राप्त करें और अपने एनवायरनमेंट वेरिएबल्स कॉन्फ़िगर करें। "Google के साथ जारी रखें" पर क्लिक करके या ईमेल और पासवर्ड का उपयोग करके एक खाता बनाएं API कुंजी प्राप्त करें पेज। आपको $0.50 का परीक्षण क्रेडिट 7 दिनों के लिए मिलता है, ताकि आप टॉप अप करने से पहले कनेक्टिविटी की जांच कर सकें। सभी अनुरोधों के लिए बेस यूआरएल है https://api.alternativelitellm.com/v1. इस URL को अपने base_url किसी भी OpenAI-संगत SDK में।

अपनी पहली रिक्वेस्ट भेजना

आधिकारिक curl कमांड का उपयोग करके एक मानक चैट कंप्लीशन कॉल करें। बदलें YOUR_API_KEY डैशबोर्ड से अपनी कुंजी के साथ। मॉडल id हमेशा uncensored. यह एक टेक्स्ट रिस्पॉन्स लौटाता है जो मानक रिफ्यूजल के बिना वयक्त, काल्पनिक या विवादास्पद विषयों की अनुमति देता है। सिस्टम पैरामीटर जैसे temperature और top_p आउटपुट विविधता के लिए।

Copycurl https://api.alternativelitellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate this Python script to Java"}]
  }'

प्रतिक्रिया संरचना मानक OpenAI प्रारूप से मेल खाती है। इनपुट टोकन $0.15 प्रति 1M के हिसाब से चार्ज किए जाते हैं, और आउटपुट टोकन $0.50 प्रति 1M के हिसाब से। त्रुटियां और अस्वीकृतियां आपके पूर्वभुगतान वाले क्रेडिट का उपभोग नहीं करतीं।

Python SDK एकीकरण

अपने बेस URL और कुंजी के साथ क्लाइंट को इनिशियलाइज़ करें। OpenAI Python पैकेज सीधे इस API के साथ काम करता है। मॉडल को uncensored सभी इंटरैक्शन के लिए। इस दृष्टिकोण से कस्टम व्रैपर्स या मीडिलवेयर की आवश्यकता समाप्त हो जाती है। पैरामीटर को कॉन्फ़िगर करें जैसे कि max_tokens आउटपुट की लंबाई को नियंत्रित करने के लिए। यदि आप उच्च सीमा निर्दिष्ट नहीं करते हैं, तो अधिकतम आउटपुट डिफ़ॉल्ट रूप से 2,048 टोकन है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.alternativelitellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

कनेक्शन की जांच करें जांच करके choices field प्रतिक्रिया ऑब्जेक्ट में। यह विधि बैकएंड सेवाओं और स्वचालित एजेंट्स के लिए आदर्श है।

Node SDK एकीकरण

सही बेस यूआरएल के साथ OpenAI क्लाइंट को इंस्टैंशिएट करें। उपयोग करें uncensored सभी कंप्लीशंस के लिए मॉडल आईडी। Node SDK सही ढंग से कॉन्फ़िगर करने पर प्रमाणीकरण हेडर्स को स्वचालित रूप से संभालता है। यह सेटअप वेब सर्वर और एज फंक्शंस के लिए आदर्श है। आप मानक पैरामीटर पास कर सकते हैं जैसे stop सीक्वेंस का उपयोग आउटपुट को नियंत्रित करने के लिए। सुनिश्चित करें कि आप प्रतिक्रिया डेटा को असिंक्रोनously संभालें।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.alternativelitellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

जांचें usage object टोकन खपत की निगरानी के लिए। यह विधि आपके जावास्क्रिप्ट या टाइपस्क्रिप्ट एप्लिकेशन में संगत व्यवहार सुनिश्चित करती है।

SSE के साथ स्ट्रीमिंग प्रतिक्रियाएं

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true अपने अनुरोध में। API रियल-टाइम टोकन डिलीवरी के लिए सर्वर-सेंटेड इवेंट्स (SSE) लौटाता है। प्रत्येक चंक आंशिक टेक्स्ट सामग्री रखता है। अंतिम चंक में पूर्ण टोकन उपयोग आंकड़े शामिल होते हैं। यह सुविधा अंत-उपयोगकर्ताओं के लिए अनुभवगत विलंबता को कम करती है। स्ट्रीम हैंडलर को कॉन्फ़िगर करें ताकि प्रत्येक इवेंट को आने पर प्रोसेस किया जा सके। इसका उपयोग चैट इंटरफेस या रियल-टाइम डेटा जनरेशन के लिए करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

सुनिश्चित करें कि आपका क्लाइंट कनेक्शन को स्वच्छ रूप से बंद करने के लिए स्ट्रीम-ऑफ-इवेंट को सही ढंग से संभालता है। यह लंबे चलने वाले प्रोसेस में रिसोर्स लीक को रोकता है।

टोकन, सीमाओं और त्रुटियों का प्रबंधन

अपने उपयोग की निगरानी करें और त्रुटियों को सहजता से संभालें। प्रॉम्प्ट प्लस कंप्लीशन के लिए कॉन्टेक्स्ट विंडो 100,000 टोकन है। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है। यदि max_tokens अनसेट है, लिमिट 2,048 टोकन पर डिफ़ॉल्ट होती है। आपको प्रति मिनट 300 अनुरोध और प्रति कुंजी 8 समवर्ती अनुरोधों की सीमा है। 401 त्रुटि अमान्य कुंजी को दर्शाती है। 402 त्रुटि का अर्थ है कि आपको क्रिप्टो के साथ टॉप-अप करने की आवश्यकता है। 429 त्रुटि रेट लिमिटिंग को संकेत देती है। क्रेडिट कभी समाप्त नहीं होता, इसलिए आप इसे कभी भी उपयोग कर सकते हैं।