Покроковий посібник з інтеграції uncensored AI

Чому вам потрібна виділена точка доступу без цензури

Стандартні кінцеві точки LLM часто впроваджують логіку відмови, яка порушує користувацький досвід під час рольової гри або задач із витягування даних. Використовуючи uncensored API, ви гарантуєте, що модель реагує на промпт, а не на приховану політику безпеки. Це критично важливо для розробників, які створюють чатботів, яким потрібно підтримувати послідовність персонажа без раптових змін теми.

Багато користувачів виявляють, що локальні моделі, що працюють на їхньому власному залізі, пропонують справжню свободу, але не мають зручності API. Наш сервіс заповнює цю прогалину, надаючи аблітеровані моделі через стандартний HTTP-інтерфейс. Ви отримуєте сирі результати налаштованої великої мовної моделі без накладних витрат на керування ресурсами GPU.

Передумови: Встановлення SDK та змінні середовища

Почніть із встановлення офіційного SDK для вашої бажаної мови програмування. Для Python виконайте pip install openai щоб отримати необхідні бібліотеки. Користувачі Node.js повинні виконати npm install openai. Ці пакети автоматично обробляють HTTP-запити та парсинг JSON.

Далі налаштуйте змінні середовища, щоб зберегти облікові дані в безпеці. Збережіть API ключ та базовий URL у .env файл, замість того щоб жортко прописувати їх. Ця практика запобігає випадковому розголошенню при відправці коду в системи контролю версій, такі як GitHub.

Переконайтеся, що ваше середовище виконання підтримує необхідну версію Python або Node.js. Більшість сучасних SDK добре працюють із версіями, випущеними за останні два роки. Це створює стабільну основу для всіх наступних кроків інтеграції.

Налаштування базового URL та API-ключа

Базовий URL визначає, який сервер обробляє ваші запити. Встановіть це на https://api.unrestrictedlocalaimodels.com/v1 у конфігурації вашого SDK. Це спрямовує трафік на нашу uncensored інфраструктуру замість стандартних ендпоінтів постачальника.

Передавайте свій API-ключ у заголовку авторизації. Ключ генерується миттєво під час реєстрації і не має терміну дії, доки ви його не використаєте. На відміну від місячних підписок, ваш кредит не зникає в кінці розрахункового періоду.

• Встановити base_url до необмеженого ендпоінту.
• Встановити api_key вашому згенерованому токену.
• Перевірте з'єднання, викликавши /v1/models endpoint.

Ця конфігурація забезпечує, що всі наступні виклики використовують правильні правила маршрутизації. Вона також дозволяє вам легко перемикатися між постачальниками, якщо вам потрібно порівняти результати.

Відправка вашого першого запиту Chat Completion

Створіть POST-запит до /v1/chat/completions. Вкажіть ідентифікатор моделі uncensored у тілі запиту. Це вказує серверу, яку налаштовану модель використовувати для інференсу.

Визначте повідомлення користувача в messages масив. Модель обробить текст і поверне завершення. Ви можете встановити max_tokens параметр для керування довжиною виводу. Значення за замовчуванням становить 2,048 токенів, але ви можете збільшити його до 16,000 на запит.

Перевірте код статусу відповіді. Статус 200 OK вказує на успіх. Будь-які помилки повертають об'єкт JSON із деталями про невдачу. Цей стандартний формат спрощує налагодження.

Увімкнення потокової передачі для виводу в реальному часі

Потокова передача зменшує сприйнятну затримку, надсилаючи токени по мірі їх генерації. Встановіть stream параметр на true у вашому запиті. SDK буде повертати події по мірі їх надходження через Server-Sent Events.

Ефективно обробляйте кожен фрагмент даних. Об’єднуйте частини вмісту, щоб сформувати остаточну відповідь. Цей підхід підтримує відгуковість інтерфейсу користувача навіть для довгих виводів.

Моніторьте використання токенів у останньому чанку потоку. Сервер повідомляє загальну кількість вхідних і вихідних токенів у останньому заході. Ці дані допомагають точно відстежувати витрати проти вашого передоплаченого балансу.

Реалізація виклику функцій (Інструменти)

Виклик функцій дозволяє моделі повертати структуровані дані замість звичайного тексту. Визначте інструменти в тілі запиту з конкретними схемами. Модель вирішить, коли викликати ці інструменти на основі контексту.

Ця функція бездоганно працює з абліберованими моделями. Тонінг забезпечує пріоритет виконання інструментів, коли це доречно. Ви можете визначити кілька інструментів для різних завдань, таких як пошук погоди або запити до бази даних.

Розпарсіть виклики інструментів із відповіді. Виконайте відповідні функції на своєму сервері. Потім надішліть результати назад моделі для отримання фінальної відповіді. Цей цикл дозволяє реалізовувати складну поведінку агентів без зовнішньої оркестрації.

Режим JSON для структурованих даних

Змушуйте модель виводити валідний JSON, встановивши response_format до {"type": "json_object"}. Це запобігає додаванню моделлю розмовного заповнювача до або після даних.

Використовуйте цей режим при парсингу відповідей для інших систем. Він гарантує, що ваш код отримує послідовні, придатні для парсингу структури. Помилки форматування JSON рідкісні, коли цей прапорець активний.

Перевіряйте схему вихідних даних на своєму боці. Навіть у суворому режимі гарною практикою є перевірка типів даних. Цей крок виявляє будь-які граничні випадки, коли модель може галюцинувати назву поля.

Моніторинг використання токенів та витрат

Витрати розраховуються на мільйон токенів. Вхідні токени коштують $0.15 за мільйон, тоді як вихідні токени коштують $0.50 за мільйон. Помилки та відмови не споживають кредит, тому ви платите лише за успішні завершення.

Відстежуйте використання через заголовки відповіді API або останню подію потоку. Відніміть ці суми з вашого передоплаченого балансу. Оскільки кредит ніколи не закінчується, ви можете накопичувати використання з часом без тиску.

Налаштуйте сповіщення про низькі залишки за потреби. Попередня модель оплати означає, що ви точно контролюєте свої витрати. Жодних несподіваних платежів наприкінці місяця. Ця прозорість є життєво важливою для планування бюджету в середовищах виробництва.