pl ▾
Twórz klucze

Dokumentacja API

Kompatybilność typu Plug-and-Play dla Twojego istniejącego stosu technologicznego. Zmień adres bazowy i klucz, zachowaj kod.

Szybki start: Zmień base_url

Zacznij od zaktualizowania dwóch zmiennych. Wskaż swojego klienta na https://api.proxyllm.cc/v1 i użyj wygenerowanego klucza. Punkt końcowy dokładnie naśladuje strukturę chat completions OpenAI. Nie potrzebujesz nowych bibliotek ani złożonych adapterów. Po prostu zamień punkt końcowy i token, a następnie uruchom istniejącą logikę.

curl https://api.proxyllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
  }'

Uwierzytelnianie i klucze

Wygeneruj klucz przez panel i przekaż go w Authorization Nagłówek. Każde konto posiada jeden aktywny klucz; utworzenie nowego unieważnia stary. Użyj Bearer your_api_key dla standardowych żądań. System odrzuca nieprawidłowe tokeny natychmiast.

Punkt końcowy Uzupełnień Czat

Wysyłaj żądania POST do /v1/chat/completions z tablicą messages. Identyfikator modelu to uncensored.Obsługuje generowanie tekstu bez standardowych odmów dla treści dorosłych zgodnych z prawem. Ustaw max_tokens do kontrolowania długości wyjścia; domyślna wartość to 2 048 tokenów.

from openai import OpenAI

client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Strumieniowanie i SSE

Włącz strumieniowanie, ustawiając stream: true w ciele żądania. API zwraca zdarzenia wysyłane serwerowo (SSE) dla dostarczania tokenów w czasie rzeczywistym. Statystyki zużycia tokenów pojawiają się w ostatnim fragmencie strumienia. Zmniejsza to postrzeganą opóźnienie dla dużych odpowiedzi.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Wywoływanie funkcji i tryb JSON

Zdefiniuj narzędzia w tools parametr dla wyjść strukturalnych. Model obsługuje zarówno wywoływanie funkcji, jak i ścisłe formatowanie JSON poprzez response_format. Użyj json_object wymuszenie struktur JSON. Parametry temperature i top_p pozwalają na precyzyjne dostosowanie stopnia kreatywności.

Limity szybkości i błędy

Oczekuj 401 dla nieprawidłowych kluczy i 402, gdy skończy się kredyt. Limit to 300 żądań na minutę na klucz. Żądania współbieżne są ograniczone do ośmiu jednocześnie. Okno kontekstowe obejmuje 100 000 tokenów łącznie. Obsłuż błędy 429, implementując wykładnicze backoff w logice klienta.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
01

Typowe pytania

Jaki jest rozmiar okna kontekstowego dla tego proxy LLM?

Całkowite okno kontekstowe wynosi 100,000 tokenów, obejmując zarówno prompt, jak i uzupełnienie. Możesz zażądać do 16,000 tokenów wyjściowych na wywołanie. Jeśli pominiesz parametr max_tokens, system domyślnie ustawia 2,048 tokenów.

Czy API obsługuje wywoływanie funkcji?

Tak, model obsługuje używanie narzędzi i wywoływanie funkcji. Możesz również wymusić ścisły output JSON za pomocą parametru response_format. Zapewnia to dane strukturalne do integracji programistycznej.

Jak radzić sobie z odpowiedziami strumieniowymi?

Ustaw parametr stream na true w ciele żądania. API zwraca Server-Sent Events (SSE) zawierające fragmenty częściowego tekstu. Szczegóły użycia tokenów pojawiają się w ostatnim fragmencie strumienia.

Twój klucz API jest tylko formularzem

Zarejestruj się, pobierz klucz i zaktualizuj adres URL bazowy punktu końcowego. Prosta integracja.