ro ▾
Creează chei

Documentație API

Compatibilitate Drop-In pentru stiva dvs. existentă. Modificați URL-ul de bază și cheia, păstrați codul.

Începe rapid: Modifică base_url

Începe prin a actualiza două variabile. Pointează clientul tău către https://api.proxyllm.cc/v1 și folosește cheia generată. Endpoint-ul imită exact structura completărilor de chat OpenAI. Nu ai nevoie de biblioteci noi sau adaptatori complecși. Doar înlocuiește endpoint-ul și tokenul, apoi execută logica ta existentă.

curl https://api.proxyllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
  }'

Autentificare și Chei

Generează o cheie prin panoul de control și transmite-o în Authorization header. Fiecare cont deține o singură cheie activă; crearea uneia noi revocă pe cea veche. Folosește Bearer your_api_key pentru solicitări standard. Sistemul respinge tokenii nevalizi imediat.

Endpoint Completări Chat

Trimiteți solicitări POST la /v1/chat/completions cu un array de mesaje. ID-ul modelului este uncensored. It handles text generation without standard refusals for lawful adult content. Set max_tokens pentru a controla lungimea outputului; implicit este de 2.048 de tokeni.

from openai import OpenAI

client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streaming și SSE

Activați streaming-ul setând stream: true în payload-ul solicitării. API-ul returnează Evenimente trimise de server (SSE) pentru livrarea tokenilor în timp real. Statisticile de utilizare a tokenilor apar în ultima bucată a fluxului. Acest lucru reduce latența percepută pentru răspunsurile mari.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Apelarea funcțiilor și modul JSON

Definește instrumente în tools parametrul pentru ieșiri structurate. Modelul suportă atât apelarea funcțiilor, cât și formatarea JSON strictă prin response_format. Folosiți json_object forțarea structurilor JSON valide. Parametrii temperatură și top_p permit ajustarea creativității.

Limite de rată și erori

Așteptați-vă la 401 pentru chei invalide și 402 când creditul se epuizează. Limita este de 300 de cereri pe minut per cheie. Cererile concurente sunt limitate la opt simultan. Fereastra de context are 100.000 de tokeni în total. Gestionați erorile 429 implementând o backoff exponențială în logica clientului.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
01

Întrebări frecvente

Care este dimensiunea ferestrei de context pentru acest proxy LLM?

Fereastra totală de context este de 100,000 de tokeni, combinând atât promptul, cât și completarea. Poți solicita până la 16,000 de tokeni de ieșire per apel. Dacă omiți parametrul max_tokens, sistemul utilizează implicit 2,048 de tokeni.

API suportă apelarea de funcții?

Da, modelul suportă utilizarea de tool-uri și function calling. Poți forța, de asemenea, un output JSON strict folosind parametrul response_format. Acest lucru asigură date structurate pentru integrarea programatică.

Cum gestionez răspunsurile de streaming?

Setează parametrul stream la true în corpul solicitării. API-ul returnează Server-Sent Events (SSE) care conțin bucăți de text parțial. Detaliile de utilizare a tokenurilor apar în ultima bucată a fluxului.

Cheia ta API este la o formulă distanță

Înregistrează-te, obține cheia și actualizează URL-ul de bază al endpoint-ului. Integrare simplă.