Tài liệu API & Bắt đầu nhanh

Thiết lập Base URL và Xác thực

Khóa API xác thực mọi yêu cầu. Tạo nó qua bảng điều khiển bằng thông tin đăng nhập Google hoặc email. Truyền nó trong Authorization header dưới dạng mã Bearer.

• Base URL: https://api.unrestrictedlocalaimodels.com/v1
• Tiêu đề: Authorization: Bearer YOUR_API_KEY

Không mệt mỏi vì đăng ký hoặc chu kỳ tính phí hàng tháng. Tín dụng được trả trước và không bao giờ hết hạn.

Điểm cuối /v1/chat/completions

Gửi yêu cầu trò chuyện tiêu chuẩn để tạo văn bản mà không có logic từ chối nội dung.

Điểm cuối chấp nhận cùng cấu trúc JSON như OpenAI. Đặt model để uncensored. Hệ thống xử lý đầu vào của bạn và trả về đầu ra thô.

Lỗi trong quá trình xử lý không tiêu tốn tín dụng. Các trường hợp từ chối đều miễn phí. Chỉ việc tạo token thành công mới bị trừ vào số dư của bạn.

Tích hợp SDK Python

Sử dụng thư viện Python chính thức của OpenAI. Trỏ nó đến base URL của chúng tôi.

Điều này cho phép bạn tận dụng mã nguồn hiện có. Thư viện tự động xử lý việc tuần tự hóa JSON.

Đặt api_key đến khóa của bạn. Đặt base_url đến điểm cuối của chúng tôi. Truyền model="uncensored" trong yêu cầu của bạn.

Tích hợp SDK Node.js

Khởi tạo client OpenAI với URL cơ sở của chúng tôi. Điều này hoạt động với bất kỳ SDK tương thích nào.

Cấu hình đối tượng client. Truyền khóa API của bạn. Thư viện quản lý vòng đời yêu cầu.

Gọi chat.completions.create(). Đặt ID model. Nhận đối tượng phản hồi chứa văn bản đã tạo.

Phản hồi luồng và sử dụng token

Bật phát trực tiếp bằng cách đặt stream: true. Máy chủ gửi Các sự kiện được gửi bởi máy chủ.

Dữ liệu sử dụng token xuất hiện trong chunk cuối cùng. Điều này cho phép theo dõi tính phí chính xác.

Xử lý các cập nhật từng phần. Cập nhật giao diện người dùng của bạn theo thời gian thực. Luồng SSE kết thúc sạch sẽ.

Xử lý lỗi và Giới hạn tốc độ

Giới hạn tốc độ áp dụng cho mỗi khóa. Bạn có thể gửi 300 yêu cầu mỗi phút. Độ đồng thời bị giới hạn ở 8 yêu cầu đồng thời.

Mã trạng thái 401 có nghĩa là khóa không hợp lệ. Mã trạng thái 402 cho biết số dư không đủ. Mã trạng thái 429 báo hiệu giới hạn tốc độ.

Cửa sổ ngữ cảnh là 100,000 token. Output bị giới hạn ở 16,000 token. Thân yêu cầu phải dưới 8 MB.

cURL

Copycurl https://api.unrestrictedlocalaimodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the three main dependencies for this rust crate"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.unrestrictedlocalaimodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.unrestrictedlocalaimodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)