Τεκμηρίωση API
Συμβατότητα Plug-in για το υπάρχον σύστημά σας. Αλλάξτε τη βάση URL και το κλειδί, κρατήστε τον κώδικα.
Γρήγορη Έναρξη: Αλλαγή base_url
Ξεκινήστε ενημερώνοντας δύο μεταβλητές. Κατευθύνετε τον client σας στο https://api.proxyllm.cc/v1 και χρησιμοποιήστε το κλειδί που δημιουργήσατε. Το endpoint μιμείται ακριβώς τη δομή ολοκληρώσεων συνομιλίας OpenAI. Δεν χρειάζεστε νέες βιβλιοθήκες ή πολύπλοκες προσαρμογείς. Απλά αλλάξτε το endpoint και το token, τότε εκτελέστε τη υπάρχουσα λογική σας.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Πιστοποίηση και Keys
Δημιουργήστε ένα κλειδί μέσω του dashboard και περάστε το στο Authorization header. Κάθε λογαριασμός κατέχει ένα ενεργό κλειδί· η δημιουργία ενός νέου ακυρώνει το παλιό. Χρησιμοποιήστε Bearer your_api_key για τυπικά αιτήματα. Το σύστημα απορρίπτει άμεσα τα μη έγκυρα tokens.
Τερματικό Συμπληρώματος Συζήτησης
Στείλτε αιτήματα POST στο /v1/chat/completions με ένα array messages. Το model ID είναι uncensored. Διαχειρίζεται παραγωγή κειμένου χωρίς τυπικές απορρίψεις για νόμιμο περιεχόμενο ενηλίκων. Ορίστε max_tokens για τον έλεγχο του μήκους εξόδου· η προεπιλογή είναι 2.048 tokens.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Ροή και SSE
Ενεργοποιήστε streaming ρυθμίζοντας stream: true στο σώμα του αιτήματός σας. Το API επιστρέφει Server-Sent Events (SSE) για παράδοση tokens σε πραγματικό χρόνο. Τα στατιστικά χρήσης tokens εμφανίζονται στο τελευταίο κομμάτι της ροής. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για μεγάλες απαντήσεις.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Function Calling και JSON Mode
Ορίστε εργαλεία στο tools η παράμετρος για δομημένες εξόδους. Το μοντέλο υποστηρίζει τόσο κλήση συναρτήσεων όσο και αυστηρή μορφοποίηση JSON μέσω response_format. Χρησιμοποιήστε json_object να αναγκάσει έγκυρες δομές JSON. Οι παράμετροι Temperature και top_p επιτρέψουν τον λεπτομερή έλεγχο της δημιουργικότητας.
Όρια Ρυθμού και Σφάλματα
Αναμένεται 401 για μη έγκυρα κλειδιά και 402 όταν εξαντληθεί το υπόλοιπο. Το όριο είναι 300 αιτήματα ανά λεπτό ανά κλειδί. Τα ταυτόχρονα αιτήματα περιορίζονται σε οκτώ ταυτόχρονα. Το παράθυρο συμφραζομένων καλύπτει 100.000 tokens συνολικά. Διαχειριστείτε τα σφάλματα 429 εφαρμόζοντας εκθετική backoff στη λογική του πελάτη σας.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Συχνές ερωτήσεις
Ποιο είναι το μέγεθος του παραθύρου συμφραζομένων για αυτόν τον LLM proxy;
Το συνολικό παράθυρο context είναι 100,000 tokens, συνδυάζοντας τόσο την εντολή (prompt) όσο και την ολοκλήρωση (completion). Μπορείτε να ζητήσετε έως 16,000 output tokens ανά κλήση. Αν παραλείψετε την παράμετρο max_tokens, το σύστημα προεπιλέγει 2,048 tokens.
Η API υποστηρίζει function calling;
Ναι, το μοντέλο υποστηρίζει χρήση εργαλείων και function calling. Μπορείτε επίσης να επιβάλετε αυστηρή JSON έξοδο χρησιμοποιώντας την παράμετρο response_format. Αυτό διασφαλίζει δομημένα δεδομένα για προγραμματιστική ενσωμάτωση.
Πώς διαχειρίζομαι αποκρίσεις streaming;
Ορίστε την παράμετρο stream σε true στο σώμα της αίτησής σας. Το API επιστρέφει Server-Sent Events (SSE) που περιέχουν chunks μερικού κειμένου. Οι λεπτομέρειες χρήσης tokens εμφανίζονται στο τελευταίο chunk της ροής.
Το κλειδί API σας είναι μια φόρμα μακριά
Εγγραφείτε, αποκτήστε το κλειδί σας και ενημερώστε τη βάση URL του τερματικού. Απλή ενσωμάτωση.