Pika-aloitus: Integroi apertus ai -chat

Edellytykset ja määritys

Aloita luomalla tili ja hankkimalla API-avain. Rekisteröidy Google-tilillä tai sähköpostisalasanalla avaimen luontisivulla. Järjestelmä näyttää avaimen välittömästi, joten voit kopioida sen viivyttelemättä. Puhelinnumeroa ei tarvita rekisteröitymiseen. Saat $0.50 kokeilusaldo, joka on voimassa seitsemän päivän ajan, joten voit testata yhteyttä lisäämättä varoja.

Määritä ympäristömuuttujasi tai SDK-asiakasohjelmasi osoittamaan oikeaan perus-URL-osoitteeseen. Tämä URL-osoite toimii standardien OpenAI-kirjastojen kanssa. Muuta vain perus-URL-osoite ja avain. Mallitunnus on "uncensored". Tämä yksittäinen päätepiste käsittelee kaikki tekstin täydennykset. Sinun ei tarvitse hallita reititystä tai valita eri malleja.

Varmista, että asiakasohjelmistokirjastosi tukee OpenAI Chat Completions -protokollaa. Useimmat nykyaikaiset SDK:t toimivat suoraan. Varmista, että verkko sallii ulospäin suuntautuvat HTTPS-pyynnöt. Palvelu hyväksyy standardit JSON-kuormat. Ei tarvita erityisiä otsakkeita autentikoinnin lisäksi.

Todennus API-avaimilla

Vie API-avaimesi Authorization-headeriin jokaisen pyynnön yhteydessä. Käytä Bearer-skeemaa avaintenimesi jälkeen. Palvelu tarkistaa avaimen jäsenyydestäsi. Virheelliset avaimet palauttavat virhekoodin 401 Unauthorized. Vanhentuneet tai riittämättömät varat aiheuttavat virhekoodin 402 Payment Required. Tarkista saldo ohjaamosta, jos pyynnöt epäonnistuvat.

Pidä avaimesi turvassa. Jokaisessa tilissä on yksi aktiivinen avain. Uuden avaimen luominen mitätöi edellisen. Älä jaa avaintasi julkisissa varastoissa. API-avain on ainoa tunnus käytöllesi. Nopeusrajoitukset koskevat avainta, ei tilia.

Copycurl https://api.apertusaichat.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set role to assistant"}]
  }'

Todennus on tilatonta. Palvelin tarkistaa tokenin jokaisessa kutsussa. Jos kierrätät avainta, päivitä kaikki käynnissä olevat asiakasohjelmat välittömästi. Otsikkotietojen puuttuminen johtaa välittömään hylkäämiseen. Virheilmoitus kertoo selvästi todennusvirheen.

Ensimmäisen pyynnön lähettäminen

Lähetä POST-pyyntö chat completions -päätepisteeseen. Sisällytä mallin ID "uncensored" ja viestihistoriasi. API palauttaa tekstivastauksen. Voit streamata tuloksen tai odottaa koko täydennystä. Jokainen pyyntö kuluttaa syöte- ja tulostokennejä. Virheet eivät veloita krediittejä. Kieltoilmoitukset ovat ilmaisia.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apertusaichat.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Vastauksessa on käyttötilastot. Seuraa tokenien kulutusta hallitaksesi esimaksukrediittiäsi. Malli vastaa ilman sisältökieltoja lailliseen aikuissisältöön. Voit lähettää järjestelmäkehotteita määrittääksesi käyttäytymisen. Käyttäjäviestit ohjaavat keskustelua. Konteksti-ikkuna tukee yhteensä 100 000 tokenia.

Aloita yksinkertaiseen kahden viestin vaihtoon. Tämä varmistaa yhteyden ja vastauksen laadun. Säädä lämpötilaa ja top_p:tä luoviin tai tarkkoihin tuloksiin. API tukee standardiparametreja. Lopetussekvenssit toimivat odotusten mukaisesti. Siemenarvot varmistavat toistettavat tulokset.

Streamausvastaukset SSE:n kautta

Ota käyttöön streamaus asettamalla stream-parametri arvoksi true. API palauttaa Server-Sent Events -tapahtumia (SSE) yhden JSON-objektin sijaan. Jokainen lohko sisältää osan tuotetusta tekstistä. Lue lohkoja, kunnes streami päättyy. Viimeinen lohko sisältää kokonaistokenkäytön.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streamaus vähentää viivettä. Käyttäjät näkevät tekstin ilmestyvän reaaliajassa. Tämä on ihanteellinen chatrajapinnoille. Käsittele osittaiset tokenit huolellisesti. Yhdistä lohkot muodostaaksesi täydellisen vastauksen. Palvelin sulkee yhteyden tuotannon päättyessä.

Seuraa stream-virheitä. Verkkokatkot voivat keskeyttää streamin. Toteuta yhdistämispäätös tarvittaessa. API ei lähetä historiaa uudelleen. Aloita uusi pyyntö, jos stream epäonnistuu. Tokenimäärät viimeisessä palikassa heijastavat koko generointia.

Parametrien ja tilojen käsittely

Käytä vakioparametreja ohjataksesi luontia. Aseta temperature satunnaisuutta varten. Säädä top_p ydinotantaan. Määritä stop-sekvenssit lopettaaksesi luonnin ajoissa. Anna siemenarvo deterministisiin tuloksiin. Ota JSON-tila käyttöön asettamalla response_format arvoon json_object. Malli palauttaa validin JSON:n pyydettäessä.

Function calling tuetaan. Määritä työkalut pyynnössä. Malli palauttaa työkalukutsuja sopivissa tilanteissa. Jäsennä työkalujen argumentit koodissasi. Välitä tulokset takaisin jatkaaksesi keskustelua. Tämä mahdollistaa monimutkaisten agenttivuorovaikutusten luomisen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apertusaichat.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Max_tokens rajoittaa tulosteen pituutta. Oletusarvo on 2 048 tokenia. Aseta korkeampi arvo tarvittaessa. Kova raja pyyntöä kohden on 16 000 tokenia. Kontekstiikkuna on 100 000 tokenia. Suunnittele historyksen pituus sen mukaisesti. Frequency- ja presence-penaltyt auttavat vähentämään toistoa.

Ymmärrä rajat ja virheet

Nopeusrajoitukset suojaavat palvelun vakautta. Voit lähettää 300 pyyntöä minuutissa. Samanaikaisuus on rajoitettu kahdeksaan yhtäaikaiseen pyyntöön avainta kohden. Pyyntörungon koko ei saa ylittää 8 Mt:a. Rajojen ylittäminen palauttaa virheen 429 Liian monta virhettä. Odota ennen uudelleenkäynnistystä.

Tarkista virhekoodit vianmääritykseen. 401 tarkoittaa virheellistä tai puuttuvaa avainta. 402 osoittaa riittämätöntä esimaksukrediittiä. Päivitä kryptolla jatkaaksesi palvelua. 429 merkitsee nopeusrajoitusta. 400 tarkoittaa huonoa pyynnön syntaksia. Tarkista virheilmoitus yksityiskohtien saamiseksi.

Kontekstuikkon hallinta on kriittistä. Laske promptin ja vastauksen tokenit. Pidä käytetty määrä selvästi alle 100 000 tokenin. Lyhennä vanhoja viestejä tarvittaessa. API ei tee automaattista lyhennystä. Hallitse muistia itse. Tehokas kontekstinkäyttö vähentää kustannuksia.