Dokumentace API
Kompatibilita typu Drop-In pro váš stávající zásobník. Změňte základní URL a klíč, zachovejte kód.
Rychlý start: Změna base_url
Začněte aktualizací dvou proměnných. Směrujte svého klienta na https://api.proxyllm.cc/v1 a použijte svůj vygenerovaný klíč. Endpoint přesně imituje strukturu chatových dokončení OpenAI. Nepotřebujete nové knihovny ani složité adaptéry. Stačí vyměnit endpoint a token a spustit existující logiku.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Ověření a klíče
Vygenerujte klíč prostřednictvím dashboardu a předáte ho v Authorization hlavička. Každý účet má jeden aktivní klíč; vytvořením nového se zruší ten starý. Použijte Bearer your_api_key pro standardní požadavky. Systém okamžitě zamítá neplatné tokeny.
Endpoint Chat Completions
Odesílejte požadavky POST na /v1/chat/completions s polem messages. ID modelu je uncensored.Zvládá generování textu bez standardních odmítnutí pro legální obsah pro dospělé. Nastavte max_tokens pro ovládání délky výstupu; výchozí hodnota je 2 048 tokenů.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streamování a SSE
Povolte streamování nastavením stream: true v těle požadavku. API vrací Server-Sent Events (SSE) pro doručování tokenů v reálném čase. Statistiky spotřeby tokenů se objeví v poslední části streamu. To snižuje vnímanou latenci u velkých odpovědí.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Volání funkcí a režim JSON
Definujte nástroje v tools parameter pro strukturované výstupy. Model podporuje jak volání funkcí, tak přísné formátování JSON přes response_format. Použijte json_object donutit model k platným strukturám JSON. Parametry teploty a top_p umožňují jemné ladění kreativity.
Limity rychlosti a chyby
Očekávejte 401 pro neplatné klíče a 402, když dojde kredit. Limit je 300 požadavků za minutu na klíč. Souběžné požadavky jsou omezeny na osm současně. Okno kontextu má celkem 100 000 tokenů. Zvládněte chyby 429 implementací exponenciálního zpětného odstupování v logice klienta.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Časté otázky
Jaká je velikost kontextového okna pro tento proxy LLM?
Celkové kontextové okno má 100,000 tokenů, kombinujících jak prompt, tak completion. Můžete požadovat až 16,000 výstupních tokenů na volání. Pokud vynecháte parametr max_tokens, systém výchozím způsobem použije 2,048 tokenů.
Podporuje API volání funkcí?
Ano, model podporuje používání nástrojů a volání funkcí. Můžete také vynutit přísný výstup JSON pomocí parametru response_format. To zajišťuje strukturovaná data pro programovou integraci.
Jak řešit odpovědi ve formátu streamování?
Nastavte parametr stream na true v těle požadavku. API vrací Server-Sent Events (SSE) obsahující částečné textové části. Detaily o využití tokenů se objeví v poslední části streamu.
Váš klíč API je o formulář dále
Zaregistrujte se, získejte svůj klíč a aktualizujte svou koncovou základní URL. Jednoduchá integrace.