Посібник швидкого старту API

Базова URL-адреса та аутентифікація

Підключіться до нашого API неконтрольованих LLM, використовуючи стандартний базовий URL, сумісний з OpenAI. Ваш API-ключ автентифікує кожен запит, тому зберігайте його в безпеці, але забезпечте доступ до нього для вашого додатка. Ми використовуємо простий заголовок для перевірки, що гарантує безперешкодний доступ ваших промптів до моделі.

Copycurl https://api.modelsaiuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all available endpoint urls"}]
  }'

На один акаунт потрібен лише один активний ключ. Якщо ви змінюєте ключі, старий перестає працювати миттєво. Це запобігає випадковому подвійному списанню коштів через старі скрипти, що працюють у фоновому режимі. Ваші передоплачені кошти покривають усі витрати, тому за потреби ви можете відстежувати баланс через панель керування.

Ендпоінт Chat Completions

Надсилайте повідомлення до моделі "uncensored" через стандартний ендпоінт завершення чату. Цей ендпоінт обробляє взаємодії "текст на вхід, текст на вихід" з вікном контексту на 100 000 токенів. Ви можете додати системні інструкції для визначення поведінки або просто надіслати повідомлення користувача для прямої взаємодії.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.modelsaiuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Модель не відхиляє законний дорослий або суперечливий контент за замовчуванням. Встановіть параметри, такі як температура для креативності або top_p для різноманітності. Якщо ви не вказали max_tokens, вивід за замовчуванням становить 2,048 токенів. Запитуйте до 16,000 токенів для довших відповідей. Цей ендпоінт — все, що вам потрібно для більшості задач автоматизації.

Потокові відповіді (SSE)

Отримуйте генерацію токенів в реальному часі за допомогою Server-Sent Events (SSE). Це ідеально підходить для чат-інтерфейсів, де ви хочете відображати текст по мірі його появи. Фінальний чанк потоку містить загальне використання токенів для цілей билінгу. Це дозволяє вашому додатку точно відстежувати витрати в реальному часі.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Потокова передача зменшує сприйнятну затримку для кінцевих користувачів, роблячи досвід взаємодії з uncensored AI відчутно реактивним. Обробляйте помилки з’єднання коректно, оскільки перерви в мережі можуть перервати потік. Перепідключення є простим, оскільки стан моделі підтримується для кожного запиту окремо, а не між сесіями. Використовуйте це для генерації динамічного контенту.

Function Calling та режим JSON

Інтегруйте витягування структурованих даних за допомогою виклику функцій або режиму JSON. Вкажіть інструменти в запиті, щоб керувати форматом виведення моделі. Це критично важливо для конвеєрів автоматизації, яким потрібні надійні структури даних від uncensored LLM. Режим JSON змушує відповідь бути дійсним JSON, зменшуючи помилки парсингу.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.modelsaiuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Визначте схеми інструментів з чіткими описами для покращення точності. Модель поважає визначення інструментів, повертаючи аргументи у очікуваному форматі. Це спрощує ланцюжкові API-виклики або запуск зовнішніх дій. Використовуйте це для створення агентів або робочих процесів обробки даних без кроків ручної валідації.

Ліміти частоти та обмеження

Наш API встановлює суворі ліміти для забезпечення стабільності для всіх користувачів. Вам дозволено 300 запитів на хвилину та 8 паралельних запитів на ключ. Тіло запиту має бути менше 8 МБ, щоб запобігти проблемам із надмірним корисним навантаженням. Ці ліміти застосовуються до кожного API-ключа, тому розподіляйте навантаження між ключами, якщо це необхідно.

Помилки, такі як 401, вказують на недійсний або відсутній ключ. Помилка 402 означає, що ваш кредит передоплати вичерпано. Статус 429 сигналізує, що ви досягли ліміту швидкості. Зупиніться та повторіть спробу після короткої затримки. Ці обмеження є прозорими, без прихованого обмеження продуктивності під час пікових навантажень.

Контекстне вікно та обмеження виводу

Модель підтримує вікно контексту на 100,000 токенів, що включає як запит, так і відповідь. Це дозволяє проводити глибокий аналіз документів або зберігати довгі історії розмов. Однак максимальний обсяг виводу за один запит обмежено 16,000 токенами. Якщо ви не вказали max_tokens, значення за замовчуванням становить 2,048 токенів.

Для дуже довгих відповідей розгляньте можливість розбиття запиту або використання стримінгу. Це гарантує, що ви залишатиметеся в межах лімітів на запит. Вікно контексту є спільним, тому ефективний дизайн промптів є ключовим. Використовуйте цей потенціал для глибоких, необмежених завдань міркування, не стикаючись із жорсткими обмеженнями.