API Dokumentation
Drop-In compatibility for your existing stack. Change the base URL and key, keep the code.
Hurtigstart: Skift base_url
Opdater to variabler. Peger din klient til https://api.proxyllm.cc/v1 og brug din genererede nøgle. Endepunktet efterligner OpenAI chat-completions-strukturen præcis. Du behøver ikke nye biblioteker eller komplekse adapters. Bare udskift endepunktet og tokenet, og kør din eksisterende logik.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Autentificering og nøgler
Generér en nøgle via dashboardet og send den i Authorization header. Hver konto har én aktiv nøgle; oprettelse af en ny hæver den gamle. Brug Bearer your_api_key for standard anmodninger. Systemet afviser ugyldige tokens øjeblikkeligt.
Chat Completions Endpoint
Send POST-anmodninger til /v1/chat/completions med en messages-array. Model ID er uncensored. Den håndterer tekstgenerering uden standardafslag for lovligt voksenindhold. Indstil max_tokens til at kontrollere outputlængden; standardværdien er 2,048 tokens.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streaming og SSE
Aktivér streaming ved at indstille stream: true i din request payload. API'et returnerer Server-Sent Events (SSE) til realtidslevering af tokens. Token-brugsstatistikker vises i den sidste chunk af streamen. Dette reducerer den opfattede latens for store svar.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Function Calling og JSON-tilstand
Definer værktøjer i tools parameter til strukturerede outputs. Modellen understøtter både funktionssamtale og streng JSON-formatning via response_format. Brug json_object tvinge gyldige JSON-strukturer. Temperatur- og top_p-parametrene giver mulighed for finjustering af kreativitet.
Rate Limits og Fejl
Forvent 401 for ugyldige nøgler og 402, når kreditten løber ud. Grænsen er 300 anmodninger i minuttet per nøgle. Samtidige anmodninger er begrænset til otte samtidigt. Kontekstvinduet strækker sig over 100.000 tokens i alt. Håndter 429-fejl ved at implementere eksponentiel backoff i din klientlogik.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Almindelige spørgsmål
Hvad er kontekstvinduets størrelse for denne LLM-proxy?
Det totale kontekstvindue er 100.000 tokens, der kombinerer både prompt og completion. Du kan anmode om op til 16.000 output-tokens per kald. Hvis du udelader max_tokens-parameteren, defaultes systemet til 2.048 tokens.
Understøtter API'et function calling?
Ja, modellen understøtter værktøjsbrug og function calling. Du kan også tvinge streng JSON-output ved hjælp af response_format-parametrene. Dette sikrer strukturerede data til programmatisk integration.
Hvordan håndterer jeg streaming-svar?
Angiv stream-parameteren til true i din request body. API'et returnerer Server-Sent Events (SSE) med delvise tekstchunks. Tokenforbrugsoplysninger vises i den sidste chunk af streamen.
Din API-nøgle er et skema væk
Registrer, hent din nøgle, og opdater din endpoint base-URL. Simpel integration.