مستندات API
سازگاری Drop-in برای استک موجود شما. URL پایه و کلید را تغییر دهید، کد را حفظ کنید.
شروع سریع: تغییر base_url
بهروزرسانی دو متغیر را شروع کنید. کلاینت خود را به https://api.proxyllm.cc/v1 و از کلید ایجاد شده خود استفاده کنید. نقطه پایانی دقیقاً ساختار تکمیلهای چت OpenAI را تقلید میکند. به کتابخانههای جدید یا سازگارکنندههای پیچیده نیازی ندارید. فقط نقطه پایانی و توکن را جایگزین کنید، سپس منطق موجود خود را اجرا کنید.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
کلیدهای احراز هویت
یک کلید از طریق داشبورد تولید کنید و آن را در ارسال کنید Authorization هدر. هر حساب کاربری یک کلید فعال دارد؛ ایجاد یکی جدید، کلید قدیمی را لغو میکند. از Bearer your_api_key برای درخواستهای استاندارد. سیستم توکنهای نامعتبر را بلافاصله رد میکند.
نقطه پایانی تکمیل چت
درخواستهای POST را به /v1/chat/completions با یک آرایه پیام. شناسه مدل uncensored. تولید متن را بدون رد شدنهای استاندارد برای محتوای بزرگسالان قانونی مدیریت میکند. تنظیم max_tokens برای کنترل طول خروجی؛ پیشفرض ۲,۰۴۸ توکن است.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
استریمینگ و SSE
استریمینگ را با تنظیم stream: true در پیکربندی درخواست. API رویدادهای ارسالشده توسط سرور (SSE) را برای تحویل بلادرنگ توکن برمیگرداند. آمار مصرف توکن در قطعه نهایی جریان ظاهر میشود. این تاخیر ادراکشده را برای پاسخهای بزرگ کاهش میدهد.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
فراخوانی تابع و حالت JSON
ابزارها را در تعریف کنید tools پارامتر را برای خروجیهای ساختاریافته تنظیم کنید. مدل هم فراخوانی تابع و هم قالببندی دقیق JSON را از طریق response_format. از json_object برای مجبور کردن ساختارهای JSON معتبر. پارامترهای دما (Temperature) و top_p امکان تنظیم دقیق خلاقیت را فراهم میکنند.
محدودیتهای نرخ و خطاها
انتظار خطای 401 برای کلیدهای نامعتبر و 402 وقتی اعتبار تمام میشود را داشته باشید. محدودیت ۳۰۰ درخواست در دقیقه به ازای هر کلید است. درخواستهای همزمان به هشت درخواست همزمان محدود میشوند. پنجره زمینه ۱۰۰,۰۰۰ توکن در مجموع است. خطاهای 429 را با پیادهسازی backoff نمایی در منطق کلاینت خود مدیریت کنید.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)پرسشهای رایج
اندازه پنجره زمینه برای این پروکسی LLM چقدر است؟
پنجره زمینه کل ۱۰۰,۰۰۰ توکن است، که هر دو بخش پرامپت و تکمیل را ترکیب میکند. شما میتوانید تا ۱۶,۰۰۰ توکن خروجی را در هر فراخوان درخواست دهید. اگر پارامتر max_tokens را حذف کنید، سیستم به طور پیشفرض روی ۲,۰۴۸ توکن تنظیم میشود.
آیا API فراخوانی تابع را پشتیبانی میکند؟
بله، مدل از استفاده از ابزار و فراخوانی تابع پشتیبانی میکند. همچنین میتوانید خروجی JSON دقیق را با استفاده از پارامتر response_format اعمال کنید. این تضمینکننده دادههای ساختاریافته برای یکپارچهسازی برنامهنویسی است.
چگونه پاسخهای جریان را مدیریت کنم؟
پارامتر stream را روی true در بدنه درخواست خود تنظیم کنید. API رویدادهای ارسالی سرور (SSE) شامل قطعات متن جزئی را برمیگرداند. جزئیات استفاده از توکن در قطعه نهایی جریان ظاهر میشود.
کلید API شما فقط یک فرم فاصله دارد
ثبتنام کنید، کلید خود را دریافت کنید و URL نقطه پایانی خود را بهروزرسانی کنید. یکپارچهسازی ساده.