API-Dokumentation
Drop-In-Kompatibilität für Ihren bestehenden Stack. Ändern Sie die Basis-URL und den Schlüssel, behalten Sie den Code.
Schnellstart: base_url ändern
Starten Sie, indem Sie zwei Variablen aktualisieren. Zeigen Sie Ihren Client auf https://api.proxyllm.cc/v1 und verwenden Sie Ihren generierten Schlüssel. Der Endpunkt imitiert die Struktur der OpenAI-Chat-Vervollständigungen genau. Sie benötigen keine neuen Bibliotheken oder komplexen Adapter. Tauschen Sie einfach den Endpunkt und das Token aus und führen Sie Ihre bestehende Logik aus.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Authentifizierung und Schlüssel
Generieren Sie einen Schlüssel über das Dashboard und übergeben Sie ihn im Authorization header. Jedes Konto hat einen aktiven Schlüssel; das Erstellen eines neuen widerruft den alten. Verwenden Bearer your_api_key für Standardanfragen. Das System verwirft ungültige Tokens sofort.
Chat-Vervollständigungs-Endpunkt
Senden Sie POST-Anfragen an /v1/chat/completions mit einem Nachrichten-Array. Die Modell-ID ist uncensored. Es verarbeitet Textgenerierung ohne Standard-Ablehnungen für legale Erwachseneninhalte. Legen max_tokens um die Ausgabelänge zu steuern; der Standardwert beträgt 2.048 Token.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streaming und SSE
Aktivieren Sie Streaming, indem Sie stream: true in Ihrem Anfrage-Payload. Die API gibt Server-Sent Events (SSE) für die Echtzeit-Token-Auslieferung zurück. Token-Nutzungsstatistiken erscheinen im letzten Chunk des Streams. Dies reduziert die wahrgenommene Latenz für große Antworten.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Function Calling und JSON-Modus
Definieren Sie Tools in der tools Parameter für strukturierte Ausgaben fest. Das Modell unterstützt sowohl Function-Calling als auch striktes JSON-Formatierung über response_format. Verwenden Sie json_object gültige JSON-Strukturen zu erzwingen. Die Parameter Temperature und top_p ermöglichen eine Feinabstimmung der Kreativität.
Ratenbegrenzungen und Fehler
Erwarten Sie 401 für ungültige Schlüssel und 402, wenn das Guthaben aufgebraucht ist. Das Limit liegt bei 300 Anfragen pro Minute pro Schlüssel. Gleichzeitige Anfragen sind auf acht gleichzeitig begrenzt. Der Kontextfenster umfasst 100.000 Token insgesamt. Behandeln Sie 429-Fehler durch Implementierung von exponentiellem Backoff in Ihrer Client-Logik.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Häufige Fragen
Wie groß ist der Kontextfenster für diesen LLM-Proxy?
Das gesamte Kontextfenster beträgt 100.000 Tokens, sowohl Prompt als auch Completion kombinierend. Sie können bis zu 16.000 Output-Tokens pro Aufruf anfordern. Wenn Sie den Parameter max_tokens weglassen, verwendet das System standardmäßig 2.048 Tokens.
Unterstützt die API Function Calling?
Ja, das Modell unterstützt Tool-Nutzung und Function Calling. Du kannst auch strenge JSON-Ausgaben mit dem response_format-Parameter erzwingen. Dies gewährleistet strukturierte Daten für die programmatische Integration.
Wie handle ich Streaming-Antworten?
Legen Sie den Parameter stream auf true im Anfragekörper fest. Die API gibt Server-Sent Events (SSE) zurück, die teilweise Text-Chunks enthalten. Details zur Token-Nutzung erscheinen im letzten Chunk des Streams.
Ihr API-Schlüssel ist nur noch ein Formular aus
Registrieren Sie sich, rufen Sie Ihren Schlüssel ab und aktualisieren Sie Ihre Endpunkt-Basis-URL. Einfache Integration.