Průvodce krok za krokem pro integraci uncensored AI

Proč potřebujete vyhrazený koncový bod bez omezení

Endpointy standardních LLM často vkládají logiku odmítnutí, která narušuje uživatelský zážitek během roleplay nebo úloh extrakce dat. Použitím API bez omezení zajistíte, že model odpoví na prompt, nikoliv na skrytou bezpečnostní politiku. To je kritické pro vývojáře budující chatboty, kteří potřebují udržovat konzistenci postavy bez náhlých změn témat.

Mnoho uživatelů zjišťuje, že lokální modely běžící na vlastním hardwaru nabízejí skutečnou svobodu, ale postrádají pohodlí API. Naše služba tento propast překonává poskytováním abliterovaných modelů prostřednictvím standardního HTTP rozhraní. Získáte surový výstup vyladěného velkého jazykového modelu bez režie správy GPU zdrojů.

Požadavky: Instalace SDK a proměnné prostředí

Začněte instalací oficiálního SDK pro váš preferovaný programovací jazyk. Pro Python spusťte pip install openai získat potřebné knihovny. Uživatelé Node.js by měli provést npm install openai. Tyto balíčky automaticky zpracovávají HTTP požadavky a parsování JSON.

Další krok je konfigurace proměnných prostředí pro zabezpečení přihlašovacích údajů. Uložte API klíč a základní URL do .env soubor místo jejich hardcodování. Tato praxe zabraňuje náhodnému odhalení při odesílání kódu do systémů pro správu verzí, jako je GitHub.

Ujistěte se, že vaše běhové prostředí podporuje požadovanou verzi Pythonu nebo Node.js. Většina moderních SDK funguje dobře s verzemi vydanými za posledních dva roky. Toto nastavení vytváří stabilní základ pro všechny následující kroky integrace.

Konfigurace základní URL a API klíče

Základní URL určuje, který server zpracovává vaše požadavky. Nastavte toto na https://api.unrestrictedlocalaimodels.com/v1 ve vaší konfiguraci SDK. To směřuje provoz do naší uncensored infrastruktury místo výchozích endpointů poskytovatele.

Předávejte svůj klíč API v hlavičce autorizace. Klíč se vygeneruje okamžitě při registraci a nevyprší, dokud jej nepoužijete. Na rozdíl od měsíčních předplatných vaše prostředky nezmizí na konci fakturačního období.

• Nastavit base_url na endpoint bez omezení.
• Nastavit api_key na váš vygenerovaný token.
• Ověřte připojení voláním /v1/models endpoint.

Tato konfigurace zajišťuje, že všechny následující volání používají správná pravidla směrování. Také vám umožňuje snadno přepínat mezi poskytovateli, pokud potřebujete porovnat výstupy.

Odeslání vašeho prvního požadavku na Chat Completion

Sestavte požadavek POST na /v1/chat/completions. Zahrňte identifikátor modelu uncensored v payloadu. To říká serveru, který vyladěný model má použít pro inference.

Definujte zprávu uživatele v messages pole. Model zpracuje text a vrátí dokončení. Můžete nastavit max_tokens parametr pro řízení délky výstupu. Výchozí hodnota je 2 048 tokenů, ale můžete jít až na 16 000 na požadavek.

Zkontrolujte stavový kód odpovědi. Stav 200 OK znamená úspěch. Jakékoli chyby vrátí objekt JSON s podrobnostmi o selhání. Tento standardní formát usnadňuje ladění.

Povolování streamování pro výstup v reálném čase

Streaming snižuje vnímanou latenci odesíláním tokenů, jak jsou generovány. Nastavte stream parameter na true ve vaší žádosti. SDK bude vracet události, jakmile přijdou prostřednictvím Server-Sent Events.

Zpracovávejte každou část dat efektivně. Spojte části obsahu pro sestavení finální odpovědi. Tento přístup udržuje uživatelské rozhraní responzivní i pro dlouhé výstupy.

Sledujte využití tokenů v posledním bloku streamu. Server hlásí celkový počet vstupních a výstupních tokenů v poslední události. Tato data vám pomáhají přesně sledovat náklady vůči vašemu předplacenému zůstatku.

Implementace volání funkcí (Nástroje)

Volání funkcí umožňuje modelu vrátit strukturovaná data místo prostého textu. Definujte nástroje v payloadu požadavku s konkrétními schématy. Model rozhodne, kdy tyto nástroje zavolat na základě kontextu.

Tato funkce bezproblémově funguje s modely abliterated. Doladění zajišťuje, že model upřednostňuje provádění nástrojů, když je to relevantní. Můžete definovat více nástrojů pro různé úkoly, jako je vyhledávání počasí nebo dotazy do databáze.

Parsovejte volání nástrojů z odpovědi. Proveďte příslušné funkce na svém serveru. Poté odešlete výsledky zpět modelu pro finální odpověď. Tento cyklus umožňuje komplexní chování agentů bez externí orchestrace.

Zvládání režimu JSON pro strukturovaná data

Vynutit na modelu platný JSON nastavením response_format na {"type": "json_object"}.Tohle zabraňuje modelu přidávat konverzačné plýtvání před nebo za data.

Použijte tento režim při parsování odpovědí pro jiné systémy. Zajišťuje, že váš kód obdrží konzistentní, parsovatelné struktury. Chyby ve formátování JSON jsou vzácné, když je tento příznak aktivní.

Ověřte schéma výstupu na vaší straně. I s přísným režimem je dobré praxí ověřit datové typy. Tento krok zachytí hraniční případy, kdy model může halucinovat název pole.

Sledování využití tokenů a nákladů

Náklady jsou počítány na milion tokenů. Vstupní tokeny stojí $0.15 za milion, zatímco výstupní tokeny stojí $0.50 za milion. Chyby a odmítnutí nespotřebovávají kredit, takže platíte pouze za úspěšná dokončení.

Sledujte využití přes hlavičky odpovědi API nebo poslední streamovací událost. Odečtěte tyto částky ze svého předplaceného zůstatku. Protože kredit nevyprší, můžete hromadit využití v čase bez tlaku.

Nastavte upozornění na nízké zůstatky, pokud je to potřeba. Předplacený model znamená, že máte přesnou kontrolu nad výdaji. Žádná překvapivá poplatky na konci měsíce. Tato transparentnost je zásadní pro plánování rozpočtu v produkčních prostředích.