คู่มือทีละขั้นตอนสำหรับการผสานรวม Uncensored AI

ทำไมคุณจึงต้องการ Endpoint แบบ Uncensored เฉพาะ

จุดสิ้นสุด LLM มาตรฐานมักฉีดลอจิกการปฏิเสธที่รบกวนประสบการณ์ผู้ใช้ระหว่างการเล่นบทบาทหรือการดึงข้อมูล การใช้ API ไร้การเซ็นเซอร์ช่วยให้มั่นใจว่าโมเดลจะตอบสนองต่อคำสั่งแทนนโยบายความปลอดภัยที่ซ่อนอยู่ สิ่งนี้สำคัญมากสำหรับนักพัฒนาที่สร้างแชทบอทที่ต้องการรักษาความสอดคล้องของตัวละครโดยไม่มีการเปลี่ยนหัวข้อกะทันหัน

ผู้ใช้จำนวนมากพบว่าโมเดลท้องถิ่นที่รันบนฮาร์ดแวร์ของตนเองให้ความอิสระที่แท้จริง แต่ขาดความสะดวกของ API บริการของเราเชื่อมช่องว่างนั้นโดยการจัดหาโมเดลที่ผ่านการลบตัวกรองผ่านอินเทอร์เฟซ HTTP มาตรฐาน คุณได้รับผลลัพธ์ดิบจากโมเดลภาษาขนาดใหญ่ที่ปรับแต่งแล้ว โดยไม่ต้องแบกรับภาระในการจัดการทรัพยากร GPU

ข้อกำหนดเบื้องต้น: การติดตั้ง SDK และตัวแปรสภาพแวดล้อม

เริ่มด้วยการติดตั้ง official SDK สำหรับภาษาการเขียนโปรแกรมที่คุณต้องการ สำหรับ Python รัน pip install openai เพื่อรับไลบรารีที่จำเป็น ผู้ใช้ Node.js ควรดำเนินการ npm install openai. แพ็กเกจเหล่านี้จัดการคำขอ HTTP และการแยกวิเคราะห์ JSON โดยอัตโนมัติ

ถัดไป กำหนดค่าตัวแปรสภาพแวดล้อมของคุณเพื่อรักษาความลับของข้อมูลประจำตัว เก็บคีย์ API และ URL ฐานไว้ใน .env ไฟล์แทนการกำหนดค่าโดยตรง วิธีนี้ช่วยป้องกันการเปิดเผยข้อมูลโดยไม่ตั้งใจเมื่อคุณอัปโหลดโค้ดไปยังระบบควบคุมเวอร์ชันเช่น GitHub

ตรวจสอบให้แน่ใจว่าสภาพแวดล้อมการทำงานของคุณรองรับเวอร์ชัน Python หรือ Node.js ที่จำเป็น SDK ส่วนใหญ่ทำงานได้ดีกับเวอร์ชันที่ออกในช่วงสองปีที่ผ่านมา การตั้งค่านี้สร้างพื้นฐานที่มั่นคงสำหรับขั้นตอนการผสานรวมทั้งหมดต่อไป

กำลังกำหนดค่า URL พื้นฐานและคีย์ API

URL พื้นฐานกำหนดเซิร์ฟเวอร์ที่ประมวลผลคำขอของคุณ ตั้งค่าสิ่งนี้ไปยัง https://api.unrestrictedlocalaimodels.com/v1 ในการกำหนดค่า SDK ของคุณ สิ่งนี้จะกำหนดเส้นทางการจราจรไปยังโครงสร้างพื้นฐานแบบไม่มีเซ็นเซอร์ของเราแทนเอนด์พอยต์ของผู้ให้บริการเริ่มต้น

ส่งคีย์ API ของคุณในหัว authorization คีย์จะถูกสร้างทันทีหลังจากสมัครสมาชิกและไม่หมดอายุจนกว่าคุณจะใช้งาน ต่างจากสมาชิกแบบรายเดือน ยอดเงินของคุณจะไม่หายไปเมื่อสิ้นสุดรอบบิล

• ตั้งค่า base_url ไปยังเอนด์พอยต์ uncensored
• ตั้งค่า api_key ไปยัง token ที่สร้างของคุณ
• ตรวจสอบการเชื่อมต่อโดยการเรียกใช้ /v1/models endpoint.

การกำหนดค่านี้ทำให้แน่ใจว่าการเรียกครั้งถัดไปทั้งหมดใช้กฎการเปลี่ยนเส้นทางที่ถูกต้อง นอกจากนี้ยังช่วยให้คุณสลับระหว่างผู้ให้บริการได้ง่ายหากคุณต้องการเปรียบเทียบผลลัพธ์

ส่งคำขอ Chat Completion ครั้งแรกของคุณ

สร้างคำขอ POST ไปยัง /v1/chat/completions. รวมตัวระบุโมเดล uncensored ใน payload สิ่งนี้บอกเซิร์ฟเวอร์ว่าใช้โมเดลที่ปรับแต่งแล้วตัวใดสำหรับการอนุมาน

กำหนดข้อความผู้ใช้ใน messages array. โมเดลจะประมวลผลข้อความและส่งกลับข้อความที่สร้างขึ้นมา คุณสามารถตั้งค่า max_tokens พารามิเตอร์สำหรับควบคุมความยาวของผลลัพธ์ ค่าเริ่มต้นคือ 2,048 tokens แต่คุณสามารถเพิ่มได้สูงสุด 16,000 ต่อคำขอ

ตรวจสอบ status code ของ response ค่า 200 OK บ่งชี้ว่าสำเร็จ ข้อผิดพลาดใดๆ จะส่งวัตถุ JSON พร้อมรายละเอียดความผิดพลาด รูปแบบมาตรฐานนี้ทำให้การ debug ง่ายขึ้น

เปิดใช้งานการสตรีมสำหรับการส่งออกแบบเรียลไทม์

การสตรีมลดการรับรู้ความล่าช้าโดยการส่งโทเค็นเมื่อถูกสร้าง ตั้งค่า stream พารามิเตอร์นี้เพื่อ true ในการร้องขอของคุณ SDK จะส่งคืนเหตุการณ์ทันทีที่ได้รับผ่าน Server-Sent Events

จัดการแต่ละชิ้นส่วนข้อมูลอย่างมีประสิทธิภาพ รวมส่วนเนื้อหาเพื่อสร้างการตอบสนองสุดท้าย วิธีนี้ทำให้ส่วนติดต่อผู้ใช้ตอบสนองได้แม้สำหรับการส่งออกที่ยาวนาน

ติดตามการใช้งานโทเค็นในชิ้นส่วนสุดท้ายของสตรีม เซิร์ฟเวอร์รายงานจำนวนโทเคอินพุตและเอาต์พุตรวมในเหตุการณ์สุดท้าย ข้อมูลนี้ช่วยให้คุณติดตามต้นทุนได้อย่างแม่นยำเทียบกับยอดเงินเติมเงินของคุณ

การดำเนินการเรียกใช้ฟังก์ชัน (เครื่องมือ)

การเรียกใช้ฟังก์ชันช่วยให้โมเดลส่งข้อมูลที่มีโครงสร้างแทนข้อความธรรมดา กำหนดเครื่องมือใน payload ของคำขอพร้อมสคีมาเฉพาะ โมเดลจะตัดสินใจเมื่อจะเรียกใช้เครื่องมือเหล่านี้โดยอิงจากบริบท

ฟีเจอร์นี้ทำงานร่วมกับโมเดล abliterated ได้อย่างราบรื่น การปรับแต่งช่วยให้โมเดลให้ความสำคัญกับการเรียกใช้เครื่องมือเมื่อเกี่ยวข้อง คุณสามารถกำหนดเครื่องมือหลายอย่างสำหรับงานต่างๆ เช่น การค้นหาสภาพอากาศหรือการสอบถามฐานข้อมูล

แยก tool calls จากการตอบกลับ แล้วเรียกใช้ฟังก์ชันที่สอดคล้องกันบนเซิร์ฟเวอร์ของคุณ จากนั้นส่งผลลัพธ์กลับไปยังโมเดลเพื่อรับคำตอบสุดท้าย วงจรนี้เปิดใช้งานพฤติกรรม agent ที่ซับซ้อนโดยไม่ต้องมีการจัดลำดับการทำงานภายนอก

Handling JSON Mode for Structured Data

บังคับให้โมเดลส่งออก JSON ที่ถูกต้องโดยการตั้งค่า response_format เพื่อ {"type": "json_object"}. สิ่งนี้ป้องกันไม่ให้โมเดลเพิ่มคำพูดนำหรือคำพูดปิดก่อนหรือหลังข้อมูล

ใช้โหมดนี้เมื่อแยกวิเคราะห์การตอบกลับสำหรับระบบอื่น ๆ มันรับประกันว่าโค้ดของคุณจะได้รับโครงสร้างที่สอดคล้องกันและแยกวิเคราะห์ได้ ข้อผิดพลาดในการจัดรูปแบบ JSON พบน้อยมากเมื่อเปิดใช้งานแฟลกนี้

ตรวจสอบสคีมาผลลัพธ์ที่ฝั่งของคุณ แม้จะมีโหมดเข้มงวด ก็เป็นแนวทางปฏิบัติที่ดีในการตรวจสอบประเภทข้อมูล ขั้นตอนนี้จับกรณีขอบเขตใดๆ ที่โมเดลอาจหลอกลวงชื่อฟิลด์

การตรวจสอบการใช้งาน token และค่าใช้จ่าย

ต้นทุนคำนวณต่อล้านโทเค็น โทเค็นอินพุตราคา $0.15 ต่อล้าน ในขณะที่โทเค็นเอาต์พุตราคา $0.50 ต่อล้าน ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต ดังนั้นคุณจ่ายเฉพาะการเสร็จสิ้นที่สำเร็จเท่านั้น

ติดตามการใช้งานผ่าน response headers ของ API หรือ event streaming สุดท้าย หักจำนวนเหล่านี้จากยอดเครดิตเติมล่วงหน้าของคุณ เนื่องจากเครดิตไม่หมดอายุ คุณสามารถสะสมการใช้งานได้ตลอดเวลาโดยไม่มีความกดดัน

ตั้งค่าการแจ้งเตือนสำหรับยอดคงเหลือต่ำหากจำเป็น โมเดลแบบเติมเงินหมายความว่าคุณควบคุมการใช้จ่ายได้อย่างแม่นยำ ไม่มีค่าใช้จ่ายที่ไม่คาดคิดในตอนสิ้นเดือน ความโปร่งใสนี้สำคัญมากสำหรับการจัดงบประมาณในสภาพแวดล้อมการผลิต