Stap-voor-stap handleiding voor het integreren van uncensored AI

Waarom je een dedicated ongefilterd endpoint nodig hebt

Standaard LLM-eindpunten injecteren vaak weigeringlogica die de gebruikerservaring verstoort tijdens roleplay- of datatask-extracties. Door een ongecensureerde API te gebruiken, zorg je ervoor dat het model reageert op de prompt in plaats van een verbonden veiligheidsbeleid. Dit is cruciaal voor ontwikkelaars die chatbots bouwen die personageconsistentie moeten handhaven zonder plotselinge onderwerpverschuivingen.

Veel gebruikers merken dat lokale modellen die op hun eigen hardware draaien, echte vrijheid bieden, maar het gemak van een API missen. Onze service overbrugt deze kloof door geablitreerde modellen aan te bieden via een standaard HTTP-interface. Je krijgt de ruwe output van een getune large language model zonder de overhead van het beheren van GPU-bronnen.

Vereisten: SDK-installatie en omgevingsvariabelen

Installeer eerst de officiële SDK voor uw voorkeurstal. Voor Python voert u pip install openai om de benodigde bibliotheken te krijgen. Gebruikers van Node.js moeten npm install openai. Deze pakketten verwerken de HTTP-verzoeken en JSON-parsing automatisch.

Configureer vervolgens je omgevingsvariabelen om je referenties veilig te houden. Sla de API-sleutel en de base URL op in een .env bestand in plaats van ze hard te coderen. Deze praktijk voorkomt onbedoelde blootstelling wanneer u code naar versiebeheersystemen zoals GitHub pushen.

Zorg ervoor dat je runtime-omgeving de vereiste Python- of Node.js-versie ondersteunt. De meeste moderne SDK's werken goed met versies die in de afgelopen twee jaar zijn uitgebracht. Deze opstelling creëert een stabiele basis voor alle daaropvolgende integratiestappen.

De basis-URL en API-sleutel configureren

De base URL bepaalt welke server je verzoeken verwerkt. Stel dit in op https://api.unrestrictedlocalaimodels.com/v1 in uw SDK-configuratie. Dit leidt het verkeer naar onze uncensored-infrastructuur in plaats van de standaard provider-eindpunten.

Voer uw API-sleutel in de autorisatieheader. De sleutel wordt direct gegenereerd bij het aanmaken en verloopt niet totdat u deze gebruikt. In tegenstelling tot maandelijkse abonnementen, vervalt uw tegoed niet aan het einde van een factureringscyclus.

• Instellen base_url aan de uncensored endpoint.
• Instellen api_key naar je gegenereerde token.
• Verifieer de verbinding door de /v1/models endpoint.

Deze configuratie zorgt ervoor dat alle daaropvolgende aanroepen de juiste routeregels gebruiken. Het stelt je ook in staat om eenvoudig tussen aanbieders te schakelen als je output wilt vergelijken.

Je eerste chat-completieverzoek versturen

Maak een POST-verzoek aan /v1/chat/completions. Voeg de modelidentifier uncensored in de payload. Dit vertelt de server welk afgestemd model moet worden gebruikt voor inferentie.

Definieer de user message in de messages array. Het model verwerkt de tekst en retourneert een voltooiing. Je kunt de max_tokens parameter om de uitvoerlengte te bepalen. De standaardwaarde is 2.048 tokens, maar je kunt tot 16.000 tokens per verzoek gaan.

Controleer de response-statuscode. Een 200 OK geeft succes aan. Fouten retourneren een JSON-object met details over de mislukking. Deze standaardindeling maakt foutopspelen eenvoudig.

Streaming inschakelen voor realtime uitvoer

Streaming vermindert de waargenomen latentie door tokens te verzenden zodra ze worden gegenereerd. Stel de stream parameter naar true in je verzoek. De SDK levert events zodra ze aankomen via Server-Sent Events.

Verwerk elke gegevenschunk efficiënt. Concateneer de inhoudsonderdelen om de uiteindelijke respons op te bouwen. Deze aanpak houdt de gebruikersinterface responsief, zelfs voor lange outputs.

Monitor tokengebruik in het laatste chunk van de stream. De server rapporteert totale invoer- en uitvoertokens in het laatste evenement. Deze data helpt je kosten nauwkeurig te volgen tegen je vooruitbetaalde saldo.

Functieaanroep implementeren (Tools)

Function calling stelt het model in staat gestructureerde data terug te geven in plaats van platte tekst. Definieer tools in de request payload met specifieke schema's. Het model beslist wanneer het deze tools moet aanroepen op basis van de context.

Deze functie werkt naadloos samen met geablitereerde modellen. De tuning zorgt ervoor dat het model prioriteit geeft aan tool-executie wanneer dit relevant is. Je kunt meerdere tools definiëren voor verschillende taken, zoals het opvragen van weersinformatie of databasequeries.

Parseer de toolaanroepen uit het antwoord. Voer de bijbehorende functies uit op uw server. Stuur de resultaten vervolgens terug naar het model voor een definitief antwoord. Deze lus maakt complexe agentgedragingen mogelijk zonder externe orkestratie.

Afhandeling van JSON-modus voor gestructureerde gegevens

Forceer het model om geldige JSON uit te geven door response_format naar {"type": "json_object"}. Dit voorkomt dat het model conversatievuller toevoegt voor of na de data.

Gebruik deze modus bij het parseren van responses voor andere systemen. Het zorgt ervoor dat je code consistente, parsebare structuren ontvangt. Fouten in JSON-indeling zijn zeldzaam wanneer deze vlag actief is.

Valideer het uitvoerschema aan je kant. Zelfs met de strikte modus is het een goede gewoonte om de gegevenstypen te verifiëren. Deze stap vangt elke randgeval op waar het model een veldnaam zou kunnen hallucineren.

Monitoring van tokengebruik en kosten

Kosten worden berekend per miljoen tokens. Inputtokens kosten $0.15 per miljoen, terwijl outputtokens $0.50 per miljoen kosten. Fouten en weigeringen verbruiken geen tegoed, dus je betaalt alleen voor succesvolle voltooiingen.

Volg gebruik via de API-antwoordheaders of het laatste streamgebeuren. Trek deze bedragen af van uw vooruitbetaalde saldo. Aangezien credit nooit vervalt, kunt u gebruik over tijd accumuleren zonder druk.

Stel meldingen in voor lage saldi indien nodig. Bij het prepaid-model bepaal je je uitgaven precies. Geen verrassingen aan het einde van de maand. Deze transparantie is essentieel voor budgettering in productieomgevingen.