Hướng dẫn bắt đầu nhanh với API

Base URL và Xác thực

Kết nối với API LLM không kiểm duyệt của chúng tôi bằng URL cơ sở tương thích OpenAI tiêu chuẩn. Khóa API của bạn xác thực mọi yêu cầu, vì vậy hãy giữ nó bảo mật nhưng vẫn dễ truy cập cho ứng dụng của bạn. Chúng tôi sử dụng một tiêu đề đơn giản để xác thực, đảm bảo các gợi ý của bạn đạt đến mô hình mà không có ma sát.

Copycurl https://api.modelsaiuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all available endpoint urls"}]
  }'

Bạn chỉ cần một khóa hoạt động cho mỗi tài khoản. Nếu bạn xoay khóa, khóa cũ sẽ ngừng hoạt động ngay lập tức. Điều này ngăn ngừa việc tính phí trùng lặp do các tập lệnh cũ chạy ngầm. Số dư trả trước của bạn bao gồm mọi lượt sử dụng, vì vậy hãy theo dõi số dư qua bảng điều khiển nếu cần.

Endpoint Hoàn thành Trò chuyện

Gửi tin nhắn đến mô hình "uncensored" qua endpoint hoàn thành chat tiêu chuẩn. Endpoint này xử lý các tương tác vào-ra văn bản với cửa sổ ngữ cảnh 100,000 token. Bạn có thể bao gồm hướng dẫn system để xác định hành vi, hoặc chỉ gửi tin nhắn user để tương tác trực tiếp.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.modelsaiuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mô hình không từ chối nội dung người lớn hợp pháp hoặc các chủ đề gây tranh cãi theo mặc định. Đặt các tham số như nhiệt độ cho tính sáng tạo hoặc top_p cho sự đa dạng. Nếu bạn bỏ qua max_tokens, đầu ra mặc định là 2.048 token. Yêu cầu tối đa 16.000 token cho các phản hồi dài hơn. Điểm cuối này là tất cả những gì bạn cần cho hầu hết các nhiệm vụ tự động hóa.

Phản hồi luồng (SSE)

Nhận tạo token thời gian thực bằng Server-Sent Events (SSE). Đây là giải pháp lý tưởng cho các giao diện trò chuyện nơi bạn muốn hiển thị văn bản khi nó xuất hiện. Chunk cuối của luồng bao gồm tổng mức sử dụng token để tính phí. Điều này cho phép ứng dụng của bạn theo dõi chi phí chính xác theo thời gian thực.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming làm giảm độ trễ cảm nhận cho người dùng cuối, khiến trải nghiệm AI không kiểm duyệt trở nên phản hồi nhanh. Xử lý lỗi kết nối một cách khéo léo, vì các gián đoạn mạng có thể làm gián đoạn luồng. Việc kết nối lại rất đơn giản vì trạng thái mô hình được duy trì theo từng yêu cầu, không phải qua các phiên. Sử dụng tính năng này cho việc tạo nội dung động.

Function Calling và chế độ JSON

Tích hợp trích xuất dữ liệu có cấu trúc bằng cách gọi hàm hoặc chế độ JSON. Chỉ định các công cụ trong yêu cầu để hướng định dạng đầu ra của mô hình. Điều này rất quan trọng đối với các quy trình tự động hóa cần các cấu trúc dữ liệu đáng tin cậy từ LLM không kiểm duyệt. Chế độ JSON bắt buộc phản hồi phải là JSON hợp lệ, giảm lỗi phân tích cú pháp.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.modelsaiuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Định nghĩa các lược đồ công cụ với mô tả rõ ràng để cải thiện độ chính xác. Mô hình tôn trọng các định nghĩa công cụ, trả về các đối số ở định dạng dự kiến. Điều này giúp dễ dàng kết nối các lệnh gọi API hoặc kích hoạt các hành động bên ngoài. Sử dụng điều này để xây dựng các agent hoặc quy trình xử lý dữ liệu mà không cần các bước xác minh thủ công.

Giới hạn tốc độ và Ràng buộc

API của chúng tôi áp dụng các giới hạn nghiêm ngặt để đảm bảo tính ổn định cho tất cả người dùng. Bạn được phép 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Mỗi thân yêu cầu phải dưới 8 MB để ngăn ngừa các vấn đề do tải trọng quá lớn. Các giới hạn này áp dụng cho mỗi khóa API, vì vậy hãy phân phối tải trọng qua nhiều khóa nếu cần.

Lỗi như 401 cho biết khóa không hợp lệ hoặc thiếu. Lỗi 402 có nghĩa là tín dụng trả trước của bạn đã cạn kiệt. Mã trạng thái 429 cho biết bạn đã đạt giới hạn tốc độ. Hãy tạm dừng và thử lại sau một khoảng thời gian ngắn. Các ràng buộc này minh bạch, không có việc hạn chế ẩn trong thời gian cao điểm.

Cửa sổ ngữ cảnh và giới hạn đầu ra

Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token, bao gồm cả prompt và completion. Điều này cho phép phân tích tài liệu chuyên sâu hoặc lưu trữ lịch sử hội thoại dài. Tuy nhiên, đầu ra tối đa mỗi yêu cầu được giới hạn ở 16.000 token. Nếu bạn không chỉ định max_tokens, giá trị mặc định là 2.048 token.

Đối với các đầu ra rất dài, hãy cân nhắc chia nhỏ yêu cầu hoặc sử dụng streaming. Điều này đảm bảo bạn vẫn nằm trong giới hạn mỗi yêu cầu. Cửa sổ ngữ cảnh được chia sẻ, vì vậy thiết kế prompt hiệu quả là chìa khóa. Hãy sử dụng dung lượng này cho các tác vụ suy luận sâu, không giới hạn mà không chạm vào các giới hạn cứng.