Gyors bevezetés: Integálja az apertus ai chat-et

Előfeltételek és beállítás

Kezdje egy fiók létrehozásával és az API kulcs beszerzésével. Regisztráljon Google-fiókkal vagy e-mail jelszóval a kulcsgenerálás oldalon. A rendszer azonnal megjeleníti a kulcsot, így azonnal másolhatja. Nem szükséges telefonszám a regisztrációhoz. $0.50 próbaidős kreditet kap, amely 7 napig érvényes, így tesztelheti a kapcsolatot alapok feltöltése nélkül.

Konfigurálja a környezeti változót vagy az SDK ügyfélprogramot a helyes alap URL-címre. Ez az URL-cím a szabványos OpenAI könyvtárakkal működik. Csak az alap URL-címet és a kulcsot kell megváltoztatnia. A modell azonosító "uncensored". Ez az egyetlen végpont kezeli az összes szövegkiegészítést. Nem kell kezelnie az irányítást, vagy különböző modelleket választania.

Győződjön meg arról, hogy az ügyfél könyvtár támogatja az OpenAI Chat Completions protokollt. A legtöbb modern SDK azonnal működik. Ellenőrizze, hogy a hálózat engedélyezi-e a kimenő HTTPS kéréseket. A szolgáltatás elfogadja a szabványos JSON terheléseket. Nincs szükség speciális fejlécekre az autentikáción túl.

Hitelesítés API-kulcsokkal

Adja át API-kulcsát az Authorization fejlében minden kérésnél. Használja a Bearer sémát a kulcs karakterlánccal. A szolgáltatás ellenőrzi a kulcsot a fiókjához képest. Az érvénytelen kulcsok 401 Unauthorized hibát adnak vissza. A lejárt vagy elégtelen egyenleg 402 Payment Required választ eredményez. Ha a kérések sikertelenek, ellenőrizze egyenlegét a műszerfalon.

Tartsa a kulcsot biztonságban. Minden fiók egy aktív kulcsot tart. Egy új kulcs generálása érvényteleníti a korábbit. Ne ossza meg a kulcsot nyilvános tárolókban. Az API kulcs az egyetlen azonosító a használatához. Kulcsonkénti sebességkorlátok érvényesek, nem fiókonként.

Copycurl https://api.apertusaichat.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set role to assistant"}]
  }'

A hitelesítés állapot nélküli. A szerver minden hívásnál ellenőrzi a tokent. Ha forgatja a kulcsot, frissítse az összes futó klienst azonnal. A fejléc hiánya azonnali elutasításhoz vezet. A hibaüzenet egyértelműen jelzi a hitelesítési hibát.

Az első kélem küldése

Küldjön egy POST kérést a chat completions végpontra. Tartalmazza a "uncensored" modellazonosítót és az üzenetelőzményeket. Az API szöveges választ ad vissza. Az eredményt streamelheti vagy várhatja a teljes befejeződést. Minden kérés bemeneti és kimeneti tokeneket fogyaszt. A hibák nem számítanak fel kreditet. A visszautasítások ingyenesek.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apertusaichat.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

A válasz tartalmazza a felhasználási statisztikákat. Kövesse nyomon a tokenfogyasztást az előre fizetett kreditjeinek kezeléséhez. A modell tartalom-elutasítások nélkül válaszol, jogszerű felnőtt tartalmakhoz. Rendszerüzeneteket küldhet a viselkedés meghatározásához. A felhasználói üzenetek vezérlik a párbeszédet. A kontextusablak összesen 100,000 token támogatásával rendelkezik.

Kezdjen egy egyszerű kétüzenetes cserével. Ez ellenőrzi a kapcsolódást és a válaszminőséget. Állítsa be a temperature és top_p értékeket kreatív vagy precíz kimenetekhez. Az API támogatja a szabványos paramétereket. A stop szekvenciák várt módon működnek. A seed értékek biztosítják a reprodukálható eredményeket.

Streamelési válaszok SSE-n keresztül

A streamelés engedélyezéséhez állítsa a stream paramétert true értékre. Az API Server-Sent Events (SSE) formátumban ad vissza választ egyetlen JSON objektum helyett. Minden darab a generált szöveg egy részét tartalmazza. Olvassa el a darabokat, amíg a stream véget nem ér. A végső darab tartalmazza a teljes token-felhasználást.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

A streamelés csökkenti az észlelt késleltetést. A felhasználók valós időben látják a szöveg megjelenését. Ez ideális chat felületekhez. Óvatosan kezelje a részleges tokeneket. Fűzze össze a darabokat a teljes válasz létrehozásához. A szerver lezárja a kapcsolatot a generálás befejezésekor.

Figyelje a stream hibákat. A hálózati megszakítások megszakíthatják a streamet. Implementáljon újra csatlakozási logikát, ha szükséges. Az API nem küldi újra a történetet. Indítson új kérést, ha a stream elbukik. A token számok az utolsó töredékben a teljes generálást tükrözik.

Paraméterek és módok kezelése

Használja a standard paramétereket a generálás vezérléséhez. Állítsa be a temperature-t a véletlenszerűséghez. Állítsa be a top_p-t a nucleus mintavételezéshez. Határozza meg a stop szekvenciákat a korai generálás leállításához. Adjon meg seed-et a determinisztikus kimenetekhez. Engedélyezze a JSON módot a response_format beállításával json_object értékre. A modell érvényes JSON-t ad vissza kérelemre.

A function calling támogatott. Definiáljon eszközöket a kérésben. A modell eszközhívásokat ad vissza, ha szükséges. Elemezze az eszköz argumentumait a kódjában. Adja vissza az eredményeket a beszélgetés folytatásához. Ez lehetővé teszi az összetett ügynök munkafolyamatokat.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apertusaichat.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

A max token korlátozza a válasz hosszát. Az alapértelmezett 2 048 token. Állítson be magasabb értéket, ha szükséges. A kérésenkénti hard korlát 16 000 token. A kontextusablak 100 000 token. Tervezze meg a történelem hosszát ennek megfelelően. A frequency és presence penalty segít csökkenteni az ismétléseket.

A korlátok és hibák megértése

A sebességkorlátok védik a szolgáltatás stabilitását. Percenként 300 kérést küldhetsz. A párhuzamosság kulcsonként nyolc egyidejű kérésre van korlátozva. A kérések törzse nem haladhatja meg a 8 MB-ot. A korlátok túllépése 429 Too Many Errors hibát ad vissza. Várj az újrapróbálkozás előtt.

Tekintse meg a hibakódokat a hibakereséshez. A 401 érvénytelen vagy hiányzó kulcsot jelent. A 402 elégtelen előre fizetett hitelt jelez. Töltse fel kriptovalutával a szolgáltatás folytatásához. A 429 sebességkorlátozást jelez. A 400 hibás kérésszintaxist jelent. Tekintse meg a hibaüzenetet a részletekért.

A kontextusablak kezelése kritikus fontosságú. Számítsa össze a prompt és a completion tokeneket. Maradjon jelentősen az 100 000 token alatt. Szükség esetén vágja le a régebbi üzeneteket. Az API nem végez automatikus levágást. Ön szabja meg a történelem hosszát. A hatékony kontextusfelhasználás csökkenti a költségeket.