Dokumentacja API
Kompatybilność typu Plug-and-Play dla Twojego istniejącego stosu technologicznego. Zmień adres bazowy i klucz, zachowaj kod.
Szybki start: Zmień base_url
Zacznij od zaktualizowania dwóch zmiennych. Wskaż swojego klienta na https://api.proxyllm.cc/v1 i użyj wygenerowanego klucza. Punkt końcowy dokładnie naśladuje strukturę chat completions OpenAI. Nie potrzebujesz nowych bibliotek ani złożonych adapterów. Po prostu zamień punkt końcowy i token, a następnie uruchom istniejącą logikę.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Uwierzytelnianie i klucze
Wygeneruj klucz przez panel i przekaż go w Authorization Nagłówek. Każde konto posiada jeden aktywny klucz; utworzenie nowego unieważnia stary. Użyj Bearer your_api_key dla standardowych żądań. System odrzuca nieprawidłowe tokeny natychmiast.
Punkt końcowy Uzupełnień Czat
Wysyłaj żądania POST do /v1/chat/completions z tablicą messages. Identyfikator modelu to uncensored.Obsługuje generowanie tekstu bez standardowych odmów dla treści dorosłych zgodnych z prawem. Ustaw max_tokens do kontrolowania długości wyjścia; domyślna wartość to 2 048 tokenów.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Strumieniowanie i SSE
Włącz strumieniowanie, ustawiając stream: true w ciele żądania. API zwraca zdarzenia wysyłane serwerowo (SSE) dla dostarczania tokenów w czasie rzeczywistym. Statystyki zużycia tokenów pojawiają się w ostatnim fragmencie strumienia. Zmniejsza to postrzeganą opóźnienie dla dużych odpowiedzi.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Wywoływanie funkcji i tryb JSON
Zdefiniuj narzędzia w tools parametr dla wyjść strukturalnych. Model obsługuje zarówno wywoływanie funkcji, jak i ścisłe formatowanie JSON poprzez response_format. Użyj json_object wymuszenie struktur JSON. Parametry temperature i top_p pozwalają na precyzyjne dostosowanie stopnia kreatywności.
Limity szybkości i błędy
Oczekuj 401 dla nieprawidłowych kluczy i 402, gdy skończy się kredyt. Limit to 300 żądań na minutę na klucz. Żądania współbieżne są ograniczone do ośmiu jednocześnie. Okno kontekstowe obejmuje 100 000 tokenów łącznie. Obsłuż błędy 429, implementując wykładnicze backoff w logice klienta.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Typowe pytania
Jaki jest rozmiar okna kontekstowego dla tego proxy LLM?
Całkowite okno kontekstowe wynosi 100,000 tokenów, obejmując zarówno prompt, jak i uzupełnienie. Możesz zażądać do 16,000 tokenów wyjściowych na wywołanie. Jeśli pominiesz parametr max_tokens, system domyślnie ustawia 2,048 tokenów.
Czy API obsługuje wywoływanie funkcji?
Tak, model obsługuje używanie narzędzi i wywoływanie funkcji. Możesz również wymusić ścisły output JSON za pomocą parametru response_format. Zapewnia to dane strukturalne do integracji programistycznej.
Jak radzić sobie z odpowiedziami strumieniowymi?
Ustaw parametr stream na true w ciele żądania. API zwraca Server-Sent Events (SSE) zawierające fragmenty częściowego tekstu. Szczegóły użycia tokenów pojawiają się w ostatnim fragmencie strumienia.
Twój klucz API jest tylko formularzem
Zarejestruj się, pobierz klucz i zaktualizuj adres URL bazowy punktu końcowego. Prosta integracja.