Hướng dẫn nhanh: Tích hợp API LLM không kiểm duyệt của bạn

Điều kiện tiên quyết và thiết lập tài khoản

Lấy thông tin xác thực của bạn và định cấu hình các biến môi trường của bạn. Tạo tài khoản bằng cách nhấp vào "Tiếp tục với Google" hoặc sử dụng email và mật khẩu trên Lấy khóa API trang. Bạn nhận được $0.50 tín dụng dùng thử có giá trị trong 7 ngày, vì vậy bạn có thể xác minh kết nối trước khi nạp thêm. URL cơ sở cho tất cả các yêu cầu là https://api.alternativelitellm.com/v1. Sử dụng URL này làm base_url trong bất kỳ SDK tương thích OpenAI nào.

Gửi yêu cầu đầu tiên của bạn

Thực hiện lệnh gọi hoàn thành trò chuyện tiêu chuẩn bằng lệnh curl chính thức. Thay thế YOUR_API_KEY với khóa của bạn từ bảng điều khiển. Định danh mô hình luôn là uncensored. Điều này trả về một phản hồi văn bản cho phép các chủ đề người lớn, hư cấu hoặc gây tranh cãi mà không có các từ chối tiêu chuẩn. Hệ thống chấp nhận các tham số như temperature và top_p cho sự biến đổi đầu ra.

Copycurl https://api.alternativelitellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Translate this Python script to Java"}]
  }'

Cấu trúc phản hồi nhất quán với các tiêu chuẩn OpenAI tiêu chuẩn. Token đầu vào được tính phí ở mức $0.15 cho mỗi 1M, và token đầu ra là $0.50 cho mỗi 1M. Lỗi và từ chối không tiêu tốn tín dụng trả trước của bạn.

Tích hợp Python SDK

Khởi tạo client với URL cơ sở và khóa. Cái OpenAI Gói Python hoạt động trực tiếp với API này. Đặt mô hình thành uncensored cho tất cả các tương tác. Phương pháp này loại bỏ nhu cầu về các lớp bọc tùy chỉnh hoặc middleware. Cấu hình các tham số như max_tokens để kiểm soát độ dài đầu ra. Giá trị tối đa đầu ra mặc định là 2,048 token trừ khi bạn chỉ định giới hạn cao hơn.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.alternativelitellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Xác minh kết nối bằng cách kiểm tra choices field trong đối tượng phản hồi. Phương pháp này lý tưởng cho các dịch vụ backend và các tác nhân tự động.

Tích hợp SDK Node

Khởi tạo khách hàng OpenAI với URL cơ sở đúng. Sử dụng uncensored ID mô hình cho tất cả các lần hoàn thành. SDK Node xử lý các tiêu đề xác thực tự động khi được cấu hình đúng. Cấu hình này hoàn hảo cho máy chủ web và các hàm biên. Bạn có thể chuyển các tham số tiêu chuẩn như stop chuỗi để kiểm soát đầu ra. Đảm bảo bạn xử lý dữ liệu phản hồi một cách không đồng bộ.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.alternativelitellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Kiểm tra usage object để theo dõi việc tiêu thụ token. Phương pháp này đảm bảo hành vi nhất quán trong các ứng dụng JavaScript hoặc TypeScript của bạn.

Phản hồi dạng stream với SSE

Bật phát trực tiếp bằng cách đặt stream: true trong yêu cầu của bạn. API trả về các Sự kiện gửi từ máy chủ (SSE) để phân phối token theo thời gian thực. Mỗi chunk chứa nội dung văn bản từng phần. Chunk cuối cùng bao gồm thống kê sử dụng token đầy đủ. Tính năng này làm giảm độ trễ cảm nhận cho người dùng cuối. Cấu hình trình xử lý luồng để xử lý từng sự kiện khi nó đến. Sử dụng điều này cho các giao diện trò chuyện hoặc tạo dữ liệu theo thời gian thực.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Đảm bảo khách hàng của bạn xử lý đúng sự kiện cuối luồng để đóng kết nối một cách sạch sẽ. Điều này ngăn ngừa rò rỉ tài nguyên trong các quy trình chạy dài.

Xử lý token, giới hạn và lỗi

Theo dõi mức sử dụng và xử lý lỗi một cách khéo léo. Cửa sổ ngữ cảnh là 100,000 token cho prompt cộng với kết quả hoàn thành. Đầu ra tối đa cho mỗi yêu cầu là 16,000 token. Nếu max_tokens chưa được đặt, giới hạn mặc định là 2.048 token. Bạn bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời trên mỗi khóa. Lỗi 401 cho biết khóa không hợp lệ. Lỗi 402 có nghĩa là bạn cần nạp thêm tiền điện tử. Lỗi 429 báo hiệu giới hạn tốc độ. Tín dụng không bao giờ hết hạn, vì vậy bạn có thể sử dụng nó bất cứ lúc nào.