Pika-aloitus: Integroi oma uncensored LLM -API

Edellytykset ja tilin määritys

Hanki kirjautumistiedot ja määritä ympäristömuuttujasi. Luo tili napsauttamalla "Jatka Googlessa" tai käyttämällä sähköpostia ja salasanaa osoitteessa Hanki API-avain sivu. Saat $0.50 kokeilukrediittiä, joka on voimassa 7 päivää, joten voit varmistaa yhteyden ennen täydennystä. Kaikkien pyyntöjen base URL -osoite on https://api.alternativelitellm.com/v1. Käytä tätä URL-osoitetta base_url mihin tahansa OpenAI-yhteensopivaan SDK:hin.

Lähettämällä ensimmäinen pyyntö

Tee vakio chat-täydennyskutsu virallista curl-komentoa käyttäen. Korvaa YOUR_API_KEY avaimellasi hallintapaneelista. Mallin id on aina uncensored. Tämä palauttaa tekstivastauksen, joka sallii aikuis, fiktiiviset tai kiistanalaiset aiheet ilman tyypillisiä hylkäyksiä. Järjestelmä hyväksyy parametreja kuten temperature ja top_p tulosten vaihtelulle.

Copycurl https://api.alternativelitellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate this Python script to Java"}]
  }'

Vastauksen rakenne vastaa standardia OpenAI-muotoa. Syötetokennejä laskutetaan hintaan $0,15 per 1M, ja tulostokennejä hintaan $0,50 per 1M. Virheet ja hylkäykset eivät kuluta esimaksukrediittiäsi.

Python SDK -integraatio

Alusta asiakas base URLilla ja avaimella. The OpenAI Python-paketti toimii suoraan tämän API:n kanssa. Aseta malli muotoon uncensored kaikkiin vuorovaikutuksiin. Tämä lähestymistapa poistaa tarpeen mukautettuille kääreille tai välityspalvelimille. Määritä parametreja kuten max_tokens hallitsemaan tuotoksen pituutta. Oletusarvoinen maksimituotos on 2 048 tokeniä, ellei määritetä korkeampaa rajaa.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.alternativelitellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Varmista yhteys tarkistamalla choices kenttä vastausobjektissa. Tämä menetelmä on ihanteellinen taustapalveluille ja automaattisille agenteille.

Node SDK -integraatio

Alusta OpenAI-asiakasohjelmisto oikealla base URL -arvolla. Käytä uncensored mallin tunnus kaikille täydennyksille. Node SDK käsittelee todennusotsakkeet automaattisesti, kun se on määritetty oikein. Tämä kokoonpano on täydellinen web-palvelimille ja reunaustoimintoille. Voit välittää vakio-parametreja kuten stop sekvenssit tulosten hallintaan. Varmista, että käsittelet vastausdatan asynkronisesti.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.alternativelitellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tarkista usage object seurata tokenien kulutusta. Tämä menetelmä varmistaa johdonmukaisen käyttäytymisen JavaScript- tai TypeScript-sovelluksissasi.

Strimausvastaukset SSE:n kautta

Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API palauttaa palvelimen lähettämiä tapahtumia (SSE) reaaliaikaiseen tokenitoimitukseen. Jokainen palanen sisältää osittaista tekstisisältöä. Viimeinen palanen sisältää täydet tokenkäyttötilastot. Tämä toiminto vähentää koettua viivettä loppukäyttäjille. Määritä stream-käsittelijä käsittelemään jokaista tapahtumaa sen saapuessa. Käytä tätä keskusteluliittimiin tai reaaliaikaiseen datagenerointiin.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Varmista, että asiakasohjelmisto käsittelee streamin lopputapahtuman oikein sulkeaksesa yhteydet siististi. Tämä estää resurssivuodon pitkään käyvissä prosesseissa.

Tokenien, rajojen ja virheiden käsittely

Seuraa käyttöäsi ja käsittele virheet sujuvasti. Kontekstiikkuna on 100 000 tokenia syötettä plus tuotantoa varten. Maksimituotanto pyyntöä kohden on 16 000 tokenia. Jos max_tokens ei ole asetettu, raja on oletusarvoisesti 2 048 tokenia. Voit tehdä 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä avainta kohti. Virhekoodi 401 tarkoittaa virheellistä avainta. Virhekoodi 402 tarkoittaa, että sinun täytyy lisätä saldoa kryptorahayksiköillä. Virhekoodi 429 merkitsee nopeusrajoitusta. Saldo ei vanhene, joten voit käyttää sitä milloin tahansa.