Dokumentasi API
Keserasian Sambil untuk tumpuan sedia ada anda. Tukar URL asas dan kunci, kekalkan kod.
Mula Cepat: Tukar base_url
Mula dengan mengemas kini dua pembolehubah. Arahkan klien anda ke https://api.proxyllm.cc/v1 dan guna kunci yang anda jana. Hujung meniru struktur penyelesaian sembang OpenAI dengan tepat. Anda tidak memerlukan perpustakaan baru atau penyesuai kompleks. Hanya tukar hujung dan token, kemudian jalankan logik sedia ada anda.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Pengesahan dan Kunci
Jana kunci melalui papan pemuka dan hantar dalam Authorization header. Setiap akaun memegang satu kunci aktif; mencipta yang baharu membatalkan yang lama. Gunakan Bearer your_api_key untuk permintaan piawai. Sistem menolak token tidak sah serta-merta.
Hujung Sambungan Penyelesaian Sembang
Hantar permintaan POST ke /v1/chat/completions dengan array mesej. ID model ialah uncensored. Ia mengendalikan penjanaan teks tanpa penolakan piawai untuk kandungan dewasa yang sah. Tetapkan max_tokens untuk mengawal panjang output; lalaiannya ialah 2,048 token.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streaming dan SSE
Aktifkan aliran dengan menetapkan stream: true dalam payload permintaan anda. API mengembalikan Server-Sent Events (SSE) untuk penghantaran token masa nyata. Statistik penggunaan token muncul dalam blok akhir aliran. Ini mengurangkan latensi yang dirasakan untuk respons besar.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Panggilan Fungsi dan Mod JSON
Takrifkan alat dalam tools parameter untuk output terstruktur. Model menyokong kedua-dua panggilan fungsi dan pemformatan JSON ketat melalui response_format. Gunakan json_object untuk memaksa struktur JSON yang sah. Parameter suhu dan top_p membolehkan penalaan kreativiti.
Had had laju dan ralat
Jangka 401 untuk kunci tidak sah dan 402 apabila kredit habis. Hadnya ialah 300 permintaan setiap minit per kunci. Permintaan serentak disekat pada lapan serentak. Tetingkap konteks merangkumi 100,000 token jumlah. Tangani ralat 429 dengan melaksanakan backoff eksponen dalam logik klien anda.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Soalan biasa
Apakah saiz tetingkap konteks untuk proksi LLM ini?
Jendela konteks jumlah ialah 100,000 token, menggabungkan kedua-dua prompt dan penyelesaian. Anda boleh meminta sehingga 16,000 token output setiap panggilan. Jika anda memintas parameter max_tokens, sistem akan menggunakan lalai 2,048 token.
Adakah API menyokong pemanggilan fungsi?
Ya, model ini menyokong penggunaan alat dan panggilan fungsi. Anda juga boleh memaksakan output JSON ketat menggunakan parameter response_format. Ini memastikan data terstruktur untuk integrasi pengaturcaraan.
Bagaimana cara mengendalikan respons aliran?
Tetapkan parameter stream kepada true dalam badan permintaan anda. API mengembalikan Server-Sent Events (SSE) yang mengandungi chunk teks separa. Butiran penggunaan token muncul dalam chunk akhir penstriman.
Kunci API anda hanya satu borang jauh
Daftar, dapatkan kunci anda, dan kemas kini URL asas endpoint anda. Integrasi mudah.