Moderasyonsuz AI Entegrasyonu İçin Adım Adım Rehber

Neden Özel Bir Uncensored Endpoint'e İhtiyacınız Var

Standart LLM uç noktaları genellikle rol yapma veya veri çıkarma görevleri sırasında kullanıcı deneyimini bozan reddetme mantığı enjekte eder. Uncensored bir API kullanarak modelin gizli bir güvenlik politikasına değil, prompt'a yanıt vermesini sağlarsınız. Karakter tutarlılığını ani konu kaymalarından yoksun koruması gereken sohbet botları geliştiren geliştiriciler için bu kritiktir.

Birçok kullanıcı, kendi donanımında çalışan yerel modellerin gerçek özgürlük sunduğunu ancak bir API'nin rahatlığını eksik bıraktığını fark eder. Hizmetimiz, standart bir HTTP arayüzü aracılığıyla abliterated modeller sağlayarak bu boşluğu doldurur. GPU kaynaklarını yönetme yükü olmadan, ince ayar yapılmış büyük dil modelinin ham çıktısını alırsınız.

Önkoşullar: SDK Kurulumu ve Ortam Değişkenleri

Tercih ettiğiniz programlama dili için resmi SDK'yı yükleyin. Python için, çalıştırın pip install openai gerekli kütüphaneleri almak için. Node.js kullanıcıları npm install openai. Bu paketler HTTP isteklerini ve JSON ayrıştırmasını otomatik olarak halleder.

Sonra, kimlik bilgilerinizi güvende tutmak için ortam değişkenlerinizi yapılandırın. API anahtarını ve base URL'yi bir .env dosyasını kullanın ve bunları kodda sabitlemeyin. Bu uygulama, kodu GitHub gibi sürüm kontrol sistemlerine gönderirken yanlışlıkla açığa çıkmayı önler.

Çalışma ortamınızın gerekli Python veya Node.js sürümünü desteklediğinden emin olun. Çoğu modern SDK, son iki yılda yayınlanan sürümlerle iyi çalışır. Bu kurulum, sonraki tüm entegrasyon adımları için sağlam bir temel oluşturur.

Temel URL ve API Anahtarını Yapılandırma

Temel URL, isteklerinizi işleyen sunucuyu belirler. Bunu şuna ayarlayın: https://api.unrestrictedlocalaimodels.com/v1 SDK yapılandırmanızda. Bu, trafiği varsayılan sağlayıcı uç noktaları yerine uncensored altyapımıza yönlendirir.

API anahtarınızı authorization başlığında iletin. Anahtar kayıt sırasında anında oluşturulur ve kullanılana kadar süresi dolmaz. Aylık aboneliklerin aksine, bakiyeniz bir faturalandırma döngüsünün sonunda kaybolmaz.

• Ayarla base_url sansürsüz endpoint'e.
• Ayarla api_key oluşturulan tokeninize.
• Bağlantıyı /v1/models endpoint.

Bu yapılandırma, sonraki tüm çağrıların doğru yönlendirme kurallarını kullanmasını sağlar. Ayrıca çıktıları karşılaştırmak gerekirse sağlayıcılar arasında kolayca geçiş yapmanıza olanak tanır.

İlk Sohbet Tamamlama İsteğinizi Gönderme

Şu adrese POST isteği oluşturun: /v1/chat/completions. Model tanımlayıcısını uncensored payload'da. Bu, sunucuya çıkarım için hangi özelleştirilmiş modeli kullanacağını söyler.

Kullanıcı mesajını messages dizi. Model metni işleyecek ve bir tamamlama döndürecektir. Ayarlayabilirsiniz max_tokens çıktı uzunluğunu kontrol eden parametre. Varsayılan değer 2.048 tokendir, ancak istek başına 16.000 tokene kadar çıkabilirsiniz.

Yanıt durum kodunu kontrol edin. 200 OK başarılı olduğunu gösterir. Herhangi bir hata, başarısızlık hakkında ayrıntılar içeren bir JSON nesnesi döndürür. Bu standart format, hata ayıklamayı kolaylaştırır.

Gerçek Zamanlı Çıktı İçin Akışın Etkinleştirilmesi

Akış, belirtiler oluşturuldukça göndererek algılanan gecikmeyi azaltır. Ayarlayın stream parametresi true istekinizde. SDK, Sunucu Gönderilen Olaylar aracılığıyla olayları geldiği gibi verir.

Veri parçalarını verimli bir şekilde yönetin. Son yanıtı oluşturmak için içerik parçalarını birleştirin. Bu yaklaşım, uzun çıktılar için bile kullanıcı arayüzünün yanıt vermesini sağlar.

Akışın son parçasında token kullanımını izleyin. Sunucu, toplam giriş ve çıkış token sayısını son olayda bildirir. Bu veri, ön ödemeli bakiyenize karşı maliyetleri doğru bir şekilde izlemenize yardımcı olur.

İşlev Çağırma (Araçlar) Uygulama

Fonksiyon çağırma, modelin düz metin yerine yapılandırılmış veri döndürmesine olanak tanır. Araçları, belirli şemalarla istek yükünde tanımlayın. Model, bağlama dayanarak bu araçları ne zaman çağıracağına karar verecektir.

Bu özellik, abliterate edilmiş modellerle sorunsuz çalışır. İnce ayar, modelin ilgili durumlarda araç yürütme önceliği vermesini sağlar. Hava durumu sorgulama veya veritabanı sorguları gibi farklı görevler için birden fazla araç tanımlayabilirsiniz.

Yanıtından araç çağrılarını ayrıştırın. İlgili işlevleri sunucunuzda yürütün. Ardından, nihai bir yanıt almak için sonuçları modele gönderin. Bu döngü, harici düzenleme olmadan karmaş ajan davranışlarını mümkün kılar.

Yapılandırılmış Veriler İçin JSON Modunu İşleme

response_format parametresini ayarlayarak modelin geçerli JSON çıktısı vermesini sağlayın. response_format için {"type": "json_object"}. Bu, modelin veriden önce veya sonra konuşma dolgu metni eklemesini önler.

Diğer sistemler için yanıtları ayrıştırırken bu modu kullanın. Kodunuzun tutarlı, ayrıştırılabilir yapılar almasını sağlar. Bu bayrak aktifken JSON formatlama hataları nadirdir.

Çıktı şemasını tarafınızda doğrulayın. Sıkı modda bile veri türlerini doğrulamak iyi bir uygulamadır. Bu adım, modelin bir alan adını halüsinasyonla ürettiği kenar durumları yakalar.

Token Kullanımının ve Maliyetlerin İzlenmesi

Maliyetler milyon token başına hesaplanır. Giriş tokenları milyon başına $0.15, çıkış tokenları ise milyon başına $0.50'dir. Hatalar ve reddetmeler kredi tüketmez, bu nedenle yalnızca başarılı tamamlamalar için ödeme yaparsınız.

API yanıt başlıkları veya son akış olayı üzerinden kullanımı izleyin. Bu tutarları peşin bakiyenizden düşün. Kredi süresi dolmadığı için, baskı olmadan kullanım biriktirebilirsiniz.

Gerekirse düşük bakiyeler için uyarılar kurun. Ön ödemeli model, harcamalarınızı tam olarak kontrol etmenizi sağlar. Ay sonunda sürpriz ücretler yok. Bu şeffaflık, üretim ortamlarında bütçe planlama için hayati önem taşır.