Пошаговое руководство по интеграции uncensored AI

Почему вам нужна выделенная конечная точка без цензуры

Стандартные конечные точки LLM часто внедряют логику отказа, которая нарушает пользовательский опыт во время ролевых игр или задач извлечения данных. Используя uncensored API, вы гарантируете, что модель реагирует на промпт, а не на скрытую политику безопасности. Это критично для разработчиков, создающих чат-ботов, которым нужно поддерживать согласованность персонажа без внезапных смен тем.

Многие пользователи обнаруживают, что локальные модели, работающие на их собственном оборудовании, предлагают настоящую свободу, но не имеют удобства API. Наш сервис заполняет эту нишу, предоставляя аблибрисированные модели через стандартный HTTP-интерфейс. Вы получаете сырой вывод настроенной большой языковой модели без накладных расходов на управление ресурсами GPU.

Предварительные требования: Установка SDK и переменные окружения

Начните с установки официального SDK для выбранного вами языка программирования. Для Python выполните pip install openai для получения необходимых библиотек. Пользователи Node.js должны выполнить npm install openai. Эти пакеты автоматически обрабатывают HTTP-запросы и парсинг JSON.

Далее настройте переменные окружения, чтобы сохранить учетные данные в безопасности. Сохраните API-ключ и базовый URL в .env файл, а не хардкодите их. Эта практика предотвращает случайное раскрытие при отправке кода в системы контроля версий, такие как GitHub.

Убедитесь, что ваша среда выполнения поддерживает требуемую версию Python или Node.js. Большинство современных SDK хорошо работают с версиями, выпущенными за последние два года. Эта настройка создает стабильную основу для всех последующих шагов интеграции.

Настройка базового URL и API-ключа

Базовый URL определяет, какой сервер обрабатывает ваши запросы. Установите это значение на https://api.unrestrictedlocalaimodels.com/v1 в вашей конфигурации SDK. Это направляет трафик на нашу uncensored инфраструктуру вместо стандартных эндпоинтов провайдера.

Передавайте ваш API-ключ в заголовке авторизации. Ключ генерируется мгновенно при регистрации и не истекает, пока вы его используете. В отличие от ежемесячных подписок, ваш кредит не исчезает в конце расчетного периода.

• Установить base_url к эндпоинту без цензуры.
• Установить api_key вашему сгенерированному токену.
• Проверьте подключение, вызвав /v1/models endpoint.

Эта конфигурация гарантирует, что все последующие вызовы используют правильные правила маршрутизации. Она также позволяет вам легко переключаться между провайдерами, если вам нужно сравнить результаты.

Отправка вашего первого запроса на завершение чата

Сформируйте запрос POST на /v1/chat/completions. Укажите идентификатор модели uncensored в полезной нагрузке. Это указывает серверу, какую настроенную модель использовать для инференса.

Определите сообщение пользователя в messages массив. Модель обработает текст и вернет завершение. Вы можете установить max_tokens параметр для управления длиной вывода. По умолчанию установлено 2 048 токенов, но вы можете увеличить это значение до 16 000 токенов на запрос.

Проверьте код статуса ответа. Статус 200 OK указывает на успех. Любые ошибки возвращают объект JSON с подробностями о сбое. Этот стандартный формат упрощает отладку.

Включение потоковой передачи для вывода в реальном времени

Потоковая передача снижает воспринимаемую задержку, отправляя токены по мере их генерации. Установите stream параметр на true в вашем запросе. SDK будет выдавать события по мере их поступления через Server-Sent Events.

Эффективно обрабатывайте каждый фрагмент данных. Объединяйте части содержимого, чтобы построить итоговый ответ. Этот подход поддерживает отзывчивость пользовательского интерфейса даже для длинных выводов.

Отслеживайте использование токенов в последнем чанке потока. Сервер сообщает общее количество входных и выходных токенов в последнем событии. Эти данные помогают точно отслеживать расходы против вашего предоплаченного баланса.

Реализация вызова функций (Инструменты)

Вызов функций позволяет модели возвращать структурированные данные вместо обычного текста. Определите инструменты в полезной нагрузке запроса с конкретными схемами. Модель будет решать, когда вызывать эти инструменты на основе контекста.

Эта функция бесшовно работает с аблибированными моделями. Настройка гарантирует, что модель будет отдавать приоритет выполнению инструментов, когда это уместно. Вы можете определить несколько инструментов для разных задач, таких как поиск погоды или запросы к базе данных.

Разбирайте вызовы инструментов из ответа. Выполняйте соответствующие функции на вашем сервере. Затем отправляйте результаты обратно модели для получения окончательного ответа. Этот цикл позволяет реализовывать сложное поведение агентов без внешней оркестровки.

Обработка режима JSON для структурированных данных

Принудительно заставляйте модель выводить корректный JSON, установив response_format для {"type": "json_object"}. Это предотвращает добавление моделью разговорных заполнителей до или после данных.

Используйте этот режим при разборе ответов для других систем. Он гарантирует, что ваш код получает согласованные, пригодные для парсинга структуры. Ошибки в формате JSON редки, когда этот флаг активен.

Проверяйте схему вывода на своей стороне. Даже в строгом режиме хорошей практикой является проверка типов данных. Этот шаг выявляет любые крайние случаи, когда модель может галлюцинировать имя поля.

Мониторинг использования токенов и расходов

Затраты рассчитываются на миллион токенов. Входные токены стоят $0.15 за миллион, а выходные — $0.50 за миллион. Ошибки и отказы не расходуют кредит, поэтому вы платите только за успешные завершения.

Отслеживайте использование через заголовки ответа API или последнее потоковое событие. Вычитайте эти суммы из своего предоплаченного баланса. Поскольку кредит не истекает, вы можете накапливать использование со временем без давления.

Настройте оповещения о низких балансах, если необходимо. Предоплаченная модель означает, что вы точно контролируете свои расходы. Никаких неожиданных счетов в конце месяца. Эта прозрачность жизненно важна для бюджетирования в производственных средах.