เริ่มต้นใช้งาน: ผสานรวม apertus ai chat

ข้อกำหนดเบื้องต้นและการตั้งค่า

เริ่มต้นด้วยการสร้างบัญชีและรับคีย์ API ลงทะเบียนโดยใช้ Google หรือรหัสผ่านอีเมลในหน้าสร้างคีย์ ระบบจะแสดงคีย์ของคุณทันที ดังนั้นคุณสามารถคัดลอกได้ทันที ไม่จำเป็นต้องใช้หมายเลขโทรศัพท์สำหรับการลงทะเบียน คุณได้รับเครดิตทดลอง $0.50 ที่มีอายุเจ็ดวัน ดังนั้นคุณสามารถทดสอบการเชื่อมต่อได้โดยไม่ต้องเพิ่มเงิน

กำหนดค่าตัวแปรสภาพแวดล้อมหรือไคลเอนต์ SDK ของคุณให้ชี้ไปยัง URL พื้นฐานที่ถูกต้อง URL นี้ใช้งานได้กับไลบรารี OpenAI มาตรฐาน เปลี่ยนเฉพาะ URL พื้นฐานและคีย์ของคุณ ID โมเดลคือ "uncensored" จุดปลายเดียวนี้จัดการการเติมข้อความทั้งหมด คุณไม่จำเป็นต้องจัดการการจัดเส้นทางหรือเลือกโมเดลที่แตกต่างกัน

ตรวจสอบให้แน่ใจว่าไลบรารีไคลเอนต์ของคุณรองรับโปรโตคอลการเสร็จสิ้นแชทของ OpenAI ไลบรารีสมัยใหม่ส่วนใหญ่ใช้งานได้ทันที ตรวจสอบว่าเครือข่ายของคุณอนุญาตคำขอ HTTPS แบบออก บริการยอมรับโหลด JSON มาตรฐาน ไม่จำเป็นต้องใช้ส่วนหัวพิเศษนอกเหนือจากการตรวจสอบสิทธิ์

การตรวจสอบสิทธิ์ด้วยคีย์ API

ส่งคีย์ API ของคุณในหัว Authorization สำหรับการร้องขอทุกครั้ง ใช้รูปแบบ Bearer ตามด้วยสตริงคีย์ของคุณ บริการจะตรวจสอบคีย์กับบัญชีของคุณ คีย์ที่ไม่ถูกต้องจะส่งข้อผิดพลาด 401 Unauthorized การหมดอายุหรือยอดเงินไม่เพียงพอจะส่งการตอบสนอง 402 Payment Required ตรวจสอบยอดเงินของคุณในแดชบอร์ดหากการร้องขอล้มเหลว

รักษาความมั่นคงปลอดภัยของคีย์ของคุณ บัญชีแต่ละบัญชีมีคีย์ที่ใช้งานเพียงคีย์เดียว การสร้างคีย์ใหม่จะทำให้คีย์ก่อนหน้าหมดอายุ อย่าแชร์คีย์ของคุณในที่เก็บสาธารณะ คีย์ API เป็นตัวระบุเพียงอย่างเดียวสำหรับการใช้งานของคุณ ขีดจำกัดอัตราถูกกำหนดต่อคีย์ ไม่ใช่ต่อบัญชี

Copycurl https://api.apertusaichat.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set role to assistant"}]
  }'

การตรวจสอบสิทธิ์เป็นแบบ stateless เซิร์ฟเวอร์ตรวจสอบโทเค็นในทุกการเรียก หากคุณหมุนคีย์ของคุณ ให้อัปเดตไคลเอนต์ที่ทำงานอยู่ทั้งหมดทันที การขาด header จะส่งผลให้ถูกปฏิเสธทันที ข้อความข้อผิดพลาดจะระบุความล้มเหลวในการตรวจสอบสิทธิ์อย่างชัดเจน

การส่งคำขอครั้งแรกของคุณ

ส่งคำขอ POST ไปยัง endpoint chat completions รวมรหัสโมเดล "uncensored" และประวัติข้อความของคุณ API ส่งข้อความตอบกลับ คุณสามารถสตรีมผลลัพธ์หรือรอการเสร็จสิ้นเต็มรูปแบบ แต่ละคำขอใช้โทเค็นอินพุตและเอาต์พุต ข้อผิดพลาดไม่คิดค่าเครดิต การปฏิเสธไม่เสียค่าใช้จ่าย

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apertusaichat.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การตอบกลับรวมถึงสถิติการใช้งาน ติดตามการบริโภคโทเค็นเพื่อจัดการเครดิตที่เติมเงินล่วงหน้า โมเดลตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย คุณสามารถส่งคำสั่งระบบเพื่อกำหนดพฤติกรรม ข้อความของผู้ใช้ขับเคลื่อนการสนทนา หน้าต่างบริบทรองรับโทเค็นรวม 100,000 โทเค็น

เริ่มต้นด้วยการแลกเปลี่ยนข้อความสองข้อความง่ายๆ สิ่งนี้ตรวจสอบการเชื่อมต่อและคุณภาพการตอบกลับ ปรับอุณหภูมิและ top_p สำหรับผลลัพธ์เชิงสร้างสรรค์หรือแม่นยำ API รองรับพารามิเตอร์มาตรฐาน ลำดับการหยุดทำงานทำงานตามที่คาดไว้ ค่า seed รับประกันผลลัพธ์ที่ทำซ้ำได้

การตอบกลับแบบสตรีมมิ่งผ่าน SSE

เปิดใช้งานการสตรีมโดยการตั้งค่าพารามิเตอร์ stream เป็น true API จะส่ง Server-Sent Events (SSE) แทนวัตถุ JSON เดียว แต่ละชิ้นส่วนประกอบด้วยข้อความที่สร้างบางส่วน อ่านชิ้นส่วนจนกว่าสตรีมจะสิ้นสุด ชิ้นส่วนสุดท้ายรวมถึงการใช้โทเค็นทั้งหมด

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การสตรีมช่วยลดความล่าช้า ผู้ใช้เห็นข้อความปรากฏแบบเรียลไทม์ สิ่งนี้เหมาะสำหรับอินเทอร์เฟซแชท จัดการโทเค็นบางส่วนอย่างระมัดระวัง รวมชิ้นส่วนเพื่อสร้างคำตอบที่สมบูรณ์ เซิร์ฟเวอร์จะปิดการเชื่อมต่อเมื่อการสร้างเสร็จสิ้น

ติดตาม stream errors การขัดข้องของเครือข่ายอาจทำให้ stream หยุดลง ให้ใช้ logic การเชื่อมต่อใหม่หากจำเป็น API ไม่ส่งประวัติซ้ำ เริ่ม request ใหม่หาก stream ล้ม จำนวน token ใน chunk สุดท้ายสะท้อนถึงการสร้างทั้งหมด

การจัดการพารามิเตอร์และโหมด

ใช้พารามิเตอร์มาตรฐานเพื่อควบคุมการสร้าง ตั้ง temperature สำหรับความสุ่ม ปรับ top_p สำหรับการสุ่มแบบ nucleus กำหนด stop sequences เพื่อหยุดการสร้างก่อนกำหนด ส่ง seed สำหรับผลลัพธ์ที่ทำซ้ำได้ เปิดโหมด JSON โดยตั้ง response_format เป็น json_object โมเดลจะส่งคืน JSON ที่ถูกต้องเมื่อร้องขอ

รองรับ Function Calling กำหนดเครื่องมือในคำขอ โมเดลจะส่งคืนการเรียกเครื่องมือเมื่อเหมาะสม แยกวิเคราะห์อาร์กิวเมนต์เครื่องมือในโค้ดของคุณ ส่งผลลัพธ์กลับเพื่อดำเนินการสนทนาต่อ สิ่งนี้เปิดใช้งานเวิร์กโฟลว์ของเอเจนต์ที่ซับซ้อน

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apertusaichat.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

max_tokens จำกัดความยาวเอาต์พุต ค่าเริ่มต้นคือ 2,048 โทเค็น ตั้งค่าค่าที่สูงขึ้นหากจำเป็น ขีดจำกัดสูงสุดต่อคำขอคือ 16,000 โทเค็น หน้าต่างบริบทคือ 100,000 โทเค็น โปรดวางแผนความยาวประวัติของคุณตามนั้น ค่าปรับความถี่และการปรากฏตัวช่วยลดการทำซ้ำ

ทำความเข้าใจขีดจำกัดและข้อผิดพลาด

อัตราจำกัดการใช้งานปกป้องความเสถียรของบริการ คุณสามารถส่งคำขอได้ 300 คำขอต่อนาที ความพร้อมใช้งานพร้อมกันจำกัดอยู่ที่แปดคำขอ simultaneous ต่อคีย์ ขนาดของข้อมูลคำขอต้องไม่เกิน 8 MB การเกินขีดจำกัดจะส่งข้อผิดพลาด 429 Too Many Errors กลับมา รอสักครู่ก่อนลองใหม่

ตรวจสอบรหัสข้อผิดพลาดสำหรับการวินิจฉัย 401 หมายถึงคีย์ไม่ถูกต้องหรือหายไป 402 แสดงว่าเครดิตเติมเงินไม่เพียงพอ เติมเงินผ่านคริปโตเพื่อดำเนินการบริการต่อ 429 บ่งชี้ถึงการจำกัดอัตรา 400 หมายถึงรูปแบบคำขอไม่ถูกต้อง ตรวจสอบข้อความข้อผิดพลาดเพื่อดูรายละเอียด

การจัดการ context window มีความสำคัญอย่างยิ่ง ควรนับจำนวน token ของ prompt และ completion รวมกัน และพยายามใช้งานให้ต่ำกว่า 100,000 tokens อย่างมาก หากจำเป็นให้ตัดข้อความเก่าออก เนื่องจาก API ไม่ได้ทำการ truncate ให้โดยอัตโนมัติ คุณจึงต้องควบคุมความยาวของประวัติการสนทนาเอง การใช้ context อย่างมีประสิทธิภาพจะช่วยลดต้นทุน