Szybki start: Zintegruj czat apertus ai

Wymagania wstępne i konfiguracja

Zacznij od utworzenia konta i uzyskania klucza API. Zarejestruj się za pomocą Google lub adresu e-mail z hasłem na stronie generowania kluczy. System wyświetla Twój klucz natychmiast, więc możesz go skopiować bez opóźnień. Nie jest wymagany numer telefonu do rejestracji. Otrzymujesz $0.50 kredytu próbnej ważnego przez siedem dni, więc możesz przetestować łączność bez dodawania środków.

Skonfiguruj zmienną środowiskową lub klienta SDK, aby wskazywał na właściwy bazowy adres URL. Ten adres URL działa ze standardowymi bibliotekami OpenAI. Zmień tylko bazowy adres URL i swój klucz. Identyfikator modelu to "uncensored". Ten pojedynczy punkt końcowy obsługuje wszystkie uzupełnienia tekstu. Nie musisz zarządzać trasami ani wybierać różnych modeli.

Upewnij się, że Twoja biblioteka klienta obsługuje protokół OpenAI Chat Completions. Większość nowoczesnych SDK działa od razu. Zweryfikuj, czy Twoja sieć pozwala na połączenia HTTPS wychodzące. Usługa akceptuje standardowe ładunki JSON. Nie są potrzebne specjalne nagłówki poza uwierzytelnianiem.

Uwierzytelnianie kluczami API

Przekazuj swój klucz API w nagłówku Authorization przy każdym żądaniu. Użyj schematu Bearer wraz z ciągiem Twojego klucza. Usługa weryfikuje klucz względem Twojego konta. Nieprawidłowe klucze zwracają błąd 401 Unauthorized. Wygaśnięcie lub niewystarczające środki powodują odpowiedź 402 Payment Required. Sprawdź swoje saldo w panelu, jeśli żądania nie powiodą się.

Chroń swój klucz. Każde konto obsługuje jeden aktywny klucz. Wygenerowanie nowego klucza unieważnia poprzedni. Nie udostępniaj swojego klucza w publicznych repozytoriach. Klucz API jest jedynym identyfikatorem Twojego użycia. Limity szybkości dotyczą klucza, a nie konta.

Copycurl https://api.apertusaichat.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set role to assistant"}]
  }'

Uwierzytelnianie jest bezstanowe. Serwer sprawdza token przy każdym wywołaniu. Jeśli zmienisz klucz, zaktualizuj wszystkie działające klienty natychmiast. Brak nagłówka powoduje natychmiastowe odrzucenie żądania. Komunikat o błędzie jasno wskazuje na problem z uwierzytelnieniem.

Wysyłanie pierwszej prośby

Wyślij żądanie POST do endpointu chat completions. Dołącz identyfikator modelu "uncensored" i historię swoich wiadomości. API zwraca odpowiedź tekstową. Możesz strumieniować wynik lub czekać na pełne ukończenie. Każde żądanie zużywa tokeny wejściowe i wyjściowe. Błędy nie obciążają kredytów. Odmowy są darmowe.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apertusaichat.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

W odpowiedzi zawarte są statystyki użycia. Śledź konsumpcję tokenów, aby zarządzać kredytem zaliczkowym. Model odpowiada bez odmów treści dla legalnego użytku dorosłego. Możesz wysyłać polecenia systemowe, aby zdefiniować zachowanie. Wiadomości użytkownika napędniają rozmowę. Okno kontekstowe obsługuje łącznie 100,000 tokenów.

Zacznij od prostej wymiany dwóch wiadomości. To weryfikuje łączność i jakość odpowiedzi. Dostosuj temperaturę i top_p dla kreatywnych lub precyzyjnych wyników. API obsługuje standardowe parametry. Sekwencje zatrzymywania działają zgodnie z oczekiwaniami. Wartości nasienia zapewniają odtwarzalne wyniki.

Odpowiedzi strumieniowe przez SSE

Włącz strumieniowanie, ustawiając parametr stream na true. API zwraca zdarzenia wysyłane serwerowo (SSE) zamiast pojedynczego obiektu JSON. Każdy fragment zawiera część wygenerowanego tekstu. Czytaj fragmenty, aż strumień się zakończy. Ostatni fragment zawiera całkowite zużycie tokenów.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Strumieniowanie zmniejsza postrzeganą latencję. Użytkownicy widzą pojawiający się tekst w czasie rzeczywistym. Jest to idealne dla interfejsów czatu. Ostrożnie obsługuj częściowe tokeny. Łącz fragmenty, aby utworzyć kompletną odpowiedź. Serwer zamyka połączenie, gdy generowanie się zakończy.

Monitoruj błędy strumienia. Przerwania sieciowe mogą przerwać strumień. Zaimplementuj logikę ponownego łączenia, jeśli jest to konieczne. API nie ponownie wysyła historii. Rozpocznij nowe żądanie, jeśli strumień zawiedzie. Liczby tokenów w ostatnim chunku odzwierciedlają całe generowanie.

Obsługa parametrów i trybów

Korzystaj ze standardowych parametrów do kontrolowania generowania. Ustaw temperaturę dla losowości. Dostosuj top_p dla próbkowania jądra. Zdefiniuj sekwencje stop, aby zatrzymać generowanie wcześniej. Przekaż ziarno dla deterministycznych wyników. Włącz tryb JSON, ustawiając response_format na json_object. Model zwraca poprawny JSON, gdy jest o to poproszony.

Wywoływanie funkcji jest obsługiwane. Zdefiniuj narzędzia w żądaniu. Model zwraca wywołania narzędzi, gdy jest to stosowne. Sparsuj argumenty narzędzi w swoim kodzie. Przekaż wyniki z powrotem, aby kontynuować rozmowę. Pozwala to na złożone przepływy pracy agentów.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apertusaichat.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tokeny max ograniczają długość wyjściową. Domyślna wartość to 2 048 tokenów. Ustaw wyższą wartość, jeśli jest to konieczne. Miękki limit na żądanie wynosi 16 000 tokenów. Okno kontekstowe wynosi 100 000 tokenów. Zaplanuj długość historii odpowiednio. Kary za częstotliwość i obecność pomagają zmniejszyć powtarzalność.

Zrozumienie limitów i błędów

Limity szybkości chronią stabilność usługi. Możesz wysyłać 300 żądań na minutę. Współbieżność jest ograniczona do ośmiu jednoczesnych żądań na klucz. Ciała żądań nie mogą przekraczać 8 MB. Przekroczenie limitów zwraca błąd 429 Too Many Errors. Poczekaj przed ponowną próbą.

Sprawdź kody błędów w celu diagnostyki. 401 oznacza nieprawidłowy lub brakujący klucz. 402 wskazuje na niewystarczające środki na koncie. Doładuj kryptowalutą, aby wznowić usługę. 429 sygnalizuje przekroczenie limitu. 400 oznacza błędną składnię żądania. Przeczytaj komunikat o błędzie, aby uzyskać szczegóły.

Zarządzanie oknem kontekstowym jest kluczowe. Sumuj tokeny promptu i odpowiedzi. Pozostawaj znacznie poniżej 100 000 tokenów. Obetnij stare wiadomości, jeśli to konieczne. API nie obcina automatycznie. Ty kontrolujesz długość historii. Efektywne wykorzystanie kontekstu zmniejsza koszty.