cs ▾
Vytvářejte klíč

Dokumentace API

Kompatibilita typu Drop-In pro váš stávající zásobník. Změňte základní URL a klíč, zachovejte kód.

Rychlý start: Změna base_url

Začněte aktualizací dvou proměnných. Směrujte svého klienta na https://api.proxyllm.cc/v1 a použijte svůj vygenerovaný klíč. Endpoint přesně imituje strukturu chatových dokončení OpenAI. Nepotřebujete nové knihovny ani složité adaptéry. Stačí vyměnit endpoint a token a spustit existující logiku.

curl https://api.proxyllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
  }'

Ověření a klíče

Vygenerujte klíč prostřednictvím dashboardu a předáte ho v Authorization hlavička. Každý účet má jeden aktivní klíč; vytvořením nového se zruší ten starý. Použijte Bearer your_api_key pro standardní požadavky. Systém okamžitě zamítá neplatné tokeny.

Endpoint Chat Completions

Odesílejte požadavky POST na /v1/chat/completions s polem messages. ID modelu je uncensored.Zvládá generování textu bez standardních odmítnutí pro legální obsah pro dospělé. Nastavte max_tokens pro ovládání délky výstupu; výchozí hodnota je 2 048 tokenů.

from openai import OpenAI

client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamování a SSE

Povolte streamování nastavením stream: true v těle požadavku. API vrací Server-Sent Events (SSE) pro doručování tokenů v reálném čase. Statistiky spotřeby tokenů se objeví v poslední části streamu. To snižuje vnímanou latenci u velkých odpovědí.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Volání funkcí a režim JSON

Definujte nástroje v tools parameter pro strukturované výstupy. Model podporuje jak volání funkcí, tak přísné formátování JSON přes response_format. Použijte json_object donutit model k platným strukturám JSON. Parametry teploty a top_p umožňují jemné ladění kreativity.

Limity rychlosti a chyby

Očekávejte 401 pro neplatné klíče a 402, když dojde kredit. Limit je 300 požadavků za minutu na klíč. Souběžné požadavky jsou omezeny na osm současně. Okno kontextu má celkem 100 000 tokenů. Zvládněte chyby 429 implementací exponenciálního zpětného odstupování v logice klienta.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
01

Časté otázky

Jaká je velikost kontextového okna pro tento proxy LLM?

Celkové kontextové okno má 100,000 tokenů, kombinujících jak prompt, tak completion. Můžete požadovat až 16,000 výstupních tokenů na volání. Pokud vynecháte parametr max_tokens, systém výchozím způsobem použije 2,048 tokenů.

Podporuje API volání funkcí?

Ano, model podporuje používání nástrojů a volání funkcí. Můžete také vynutit přísný výstup JSON pomocí parametru response_format. To zajišťuje strukturovaná data pro programovou integraci.

Jak řešit odpovědi ve formátu streamování?

Nastavte parametr stream na true v těle požadavku. API vrací Server-Sent Events (SSE) obsahující částečné textové části. Detaily o využití tokenů se objeví v poslední části streamu.

Váš klíč API je o formulář dále

Zaregistrujte se, získejte svůj klíč a aktualizujte svou koncovou základní URL. Jednoduchá integrace.