API दस्तावेज़ीकरण
अपने मौजूदा स्टैक के लिए ड्रॉप-इन कम्पैटिबिलिटी। बेस यूआरएल और कुंजी बदलें, कोड रखें।
क्विकस्टार्ट: base_url बदलें
दो चरों को अपडेट करके शुरू करें। अपने क्लाइंट को https://api.proxyllm.cc/v1 और अपनी जनरेट की गई कुंजी का उपयोग करें। एंडपॉइंट OpenAI chat completions संरचना की बिल्कुल नकल करता है। आपको नई लाइब्रेरी या जटिल एडाप्टर्स की आवश्यकता नहीं है। बस एंडपॉइंट और टोकन स्वैप करें, फिर अपने मौजूदा लॉजिक को चलाएं।
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
प्रमाणीकरण और कुंजियां
डैशबोर्ड के माध्यम से एक कुंजी जनरेट करें और इसे में पास करें Authorization हेडर। प्रत्येक खाते में एक सक्रिय कुंजी होती है; एक नई बनाकर पुरानी रद्द कर दी जाती है। उपयोग करें Bearer your_api_key मानक अनुरोधों के लिए। सिस्टम अमान्य टोकन को तुरंत अस्वीकार कर देता है।
चैट कंप्लीशंस एंडपॉइंट
POST अनुरोध भेजें /v1/chat/completions संदेशों के एक सरणी के साथ। मॉडल ID है uncensored. यह कानूनी वयस्कों के सामग्री के लिए मानक अस्वीकृतियों के बिना पाठ जनरेशन संभालता है। सेट max_tokens आउटपुट की लंबाई को नियंत्रित करने के लिए; प्रति अनुरोध डिफ़ॉल्ट 2,048 टोकन है।
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
स्ट्रीमिंग और SSE
सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true अपने अनुरोध पेलोड में। API रियल-टाइम टोकन डिलीवरी के लिए सर्वर-संदेशित इवेंट्स (SSE) लौटाता है। टोकन उपयोग आंकड़े स्ट्रीम के अंतिम चंक में प्रकट होते हैं। यह बड़े प्रतिक्रियाओं के लिए अनुभवगत विलंबता को कम करता है।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
फंक्शन कॉलिंग और JSON मोड
में टूल्स परिभाषित करें tools संरचित आउटपुट के लिए पैरामीटर। मॉडल फ़ंक्शन कॉलिंग और सख्त JSON फॉर्मेटिंग दोनों का समर्थन करता है response_format. उपयोग करें json_object मान्य JSON संरचनाएं सुनिश्चित करने के लिए। तापमान और top_p पैरामीटर रचनात्मकता को सूक्ष्म रूप से समायोजित करने की अनुमति देते हैं।
रेट लिमिट्स और त्रुटियाँ
अमान्य की के लिए 401 और क्रेडिट खत्म होने पर 402 की अपेक्षा करें। सीमा प्रति की 300 अनुरोध प्रति मिनट है। समानांतर अनुरोध आठ एक साथ अधिकतम हैं। संदर्भ विंडो कुल 100,000 टोकन तक फैली हुई है। अपने क्लाइंट लॉजिक में एक्सपोनेंशियल बैकऑफ लागू करके 429 त्रुटियों को संभालें।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)सामान्य प्रश्न
इस LLM प्रॉक्सी के लिए कॉन्टेक्स्ट विंडो साइज़ क्या है?
कुल संदर्भ विंडो 100,000 टोकन है, जिसमें प्रॉम्प्ट और कंप्लीशन दोनों शामिल हैं। आप प्रत्येक कॉल के लिए 16,000 आउटपुट टोकन तक अनुरोध कर सकते हैं। यदि आप max_tokens पैरामीटर छोड़ देते हैं, तो सिस्टम 2,048 टोकन पर डिफ़ॉल्ट हो जाता है।
क्या API फ़ंक्शन कॉलिंग का समर्थन करता है?
हाँ, मॉडल टूल उपयोग और फंक्शन कॉलिंग का समर्थन करता है। आप response_format पैरामीटर का उपयोग करके कठोर JSON आउटपुट लागू कर सकते हैं। यह प्रोग्रामेटिक एकीकरण के लिए संरचित डेटा सुनिश्चित करता है।
मैं स्ट्रीमिंग प्रतिक्रियाओं को कैसे हैंडल करूं?
अपने अनुरोध बॉडी में stream पैरामीटर को true पर सेट करें। API टोकन चंक वाले Server-Sent Events (SSE) लौटाता है। टोकन उपयोग विवरण स्ट्रीम के अंतिम चंक में दिखाई देते हैं।
आपका API कुंजी एक फॉर्म की दूरी पर है
रजिस्टर करें, अपनी कुंजी प्राप्त करें, और अपना एंडपॉइंट बेस यूआरएल अपडेट करें। सरल एकीकरण।