hu ▾
Hozzon kulcsot

API dokumentáció

Beillesztési Kompatibilitás a meglévő stack-edhez. Módosítsd a base URL-t és a kulcsot, tartsd meg a kódot.

Gyors beállítások: Módosítsa a base_url-t

Kezdje két változó frissítésével. Irányítsa a kliensét a https://api.proxyllm.cc/v1 és használja a generált kulcsot. Az endpoint pontosan utánozza az OpenAI chat completions struktúráját. Nem kell új könyvtárak vagy komplex adapterek. Csak cserélje ki az endpointot és a tokent, majd futtassa a meglévő logikát.

curl https://api.proxyllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
  }'

Hitelesítés és kulcsok

Generáljon egy kulcsot az irányítópulton, és adja meg a Authorization header. Minden fiókban egy aktív kulcs van; az új kulcs generálása érvényteleníti a régit. Használja Bearer your_api_key szabványos kérésekhez. A rendszer azonnal elutasítja az érvénytelen tokeneket.

Chat Completions végpont

Küldjön POST kéréseket a /v1/chat/completions üzenetek tömbjével. A modell azonosítója uncensored.Kezeli a szöveggenerálást a jogszerű felnőtt tartalomhoz jellemző visszautasítások nélkül. Állítsa max_tokens a kimeneti hosszúság vezérléséhez; az alapértelmezett érték 2 048 token.

from openai import OpenAI

client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming és SSE

Engedélyezze a streamelést úgy, hogy stream: true a kérés payloadjában. Az API Server-Sent Events (SSE)-t ad vissza a valós idejű tokenátvitelhez. A tokenfelhasználási statisztikák a stream utolsó darabjában jelennek meg. Ez csökkenti az érzékelt késleltetést nagy válaszok esetén.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Függvényhívás és JSON mód

Határozzon meg eszközöket a tools paraméter a strukturált kimenetekhez. A modell támogatja a függvényhívást és a szigorú JSON formázást a response_format. Használja a json_object az érvényes JSON struktúrák kikényszerítésére. A hőmérséklet és a top_p paraméterek lehetővé teszik a kreativitás finomhangolását.

Sebességkorlátok és hibák

Várható 401-es hiba érvénytelen kulcsok esetén és 402-es hiba, ha elfogy a kredit. A korlát percenként 300 kérés kulcsonként. A párhuzamos kérések száma nyolcban maximált. A kontextusablak 100 000 tokenből áll összesen. Kezelje a 429-es hibákat exponenciális backoff implementálásával az ügyfélkódjában.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
01

Gyakori kérdések

Mekkora a kontextusablak-méret ehhez az LLM proxyhoz?

A teljes kontextusablak 100,000 token, a promptot és a kiegészítést együttvéve. Egy hívás során akár 16,000 kimeneti token kérhető. Ha elhagyod a max_tokens paramétert, a rendszer 2,048 tokenre áll be alapértelmezetten.

Támogatja az API a funkcióhívást?

Igen, a modell támogatja az eszközhasználatot és a függvényhívást. Szigorú JSON kimenetet is érvényesíthet a response_format paraméter segítségével. Ez biztosítja a strukturált adatokat a programozott integrációhoz.

Hogyan kezelje a streamelt válaszokat?

Állítsa be a stream paramétert true értékre a kérelemtörzsben. Az API Server-Sent Events (SSE) formátumban ad vissza részleges szövegdarabokat. A token-használati részletek a stream végső darabjában jelennek meg.

Az API-kulcsod csak egy űrlapnyira van

Regisztrálj, szerezd be a kulcsot, és frissítsd az endpoint base URL-t. Egyszerű integráció.