Dokumentasi API
Kompatibilitas Drop-In untuk tumpukan yang sudah ada Anda. Ubah URL dasar dan kunci, pertahankan kode.
Memulai: Ubah base_url
Mulai dengan memperbarui dua variabel. Arahkan klien Anda ke https://api.proxyllm.cc/v1 dan gunakan kunci yang Anda hasilkan. Titik akhir meniru struktur penyelesaian obrolan OpenAI secara persis. Anda tidak memerlukan pustaka baru atau adaptor kompleks. Cukup ganti titik akhir dan token, lalu jalankan logika yang sudah ada.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Autentikasi dan Kunci
Buat kunci melalui dasbor dan masukkan dalam Authorization header. Setiap akun memegang satu kunci aktif; membuat yang baru mencabut yang lama. Gunakan Bearer your_api_key untuk permintaan standar. Sistem menolak token yang tidak valid segera.
Endpoint Chat Completions
Kirim permintaan POST ke /v1/chat/completions dengan array pesan. ID model adalah uncensored. Ini menangani generasi teks tanpa penolakan standar untuk konten dewasa yang sah. Atur max_tokens untuk mengontrol panjang output; nilai defaultnya adalah 2.048 token.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streaming dan SSE
Aktifkan streaming dengan mengatur stream: true dalam payload permintaan Anda. API mengembalikan Server-Sent Events (SSE) untuk pengiriman token secara real-time. Statistik penggunaan token muncul di chunk terakhir dari aliran. Ini mengurangi latensi yang dirasakan untuk respons berukuran besar.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Pemanggilan Fungsi dan Mode JSON
Tentukan alat dalam tools parameter untuk output terstruktur. Model mendukung baik pemanggilan fungsi maupun format JSON ketat melalui response_format. Gunakan json_object untuk memaksa struktur JSON yang valid. Parameter suhu dan top_p memungkinkan penyesuaian kreativitas.
Batas Laju dan Kesalahan
Diharapkan 401 untuk kunci tidak valid dan 402 saat kredit habis. Batasnya adalah 300 permintaan per menit per kunci. Permintaan simultan dibatasi hingga delapan secara bersamaan. Jendela konteks mencakup 100.000 token total. Tangani error 429 dengan menerapkan backoff eksponensial dalam logika klien Anda.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Pertanyaan umum
Berapa ukuran context window untuk proxy LLM ini?
Jendela konteks total adalah 100.000 token, menggabungkan prompt dan completion. Anda dapat meminta hingga 16.000 token output per panggilan. Jika Anda melewatkan parameter max_tokens, sistem akan menggunakan default 2.048 token.
Apakah API mendukung pemanggilan fungsi?
Ya, model ini mendukung penggunaan alat dan pemanggilan fungsi. Anda juga dapat memaksakan output JSON ketat menggunakan parameter response_format. Ini memastikan data terstruktur untuk integrasi programatik.
Bagaimana cara menangani respons streaming?
Atur parameter stream menjadi true dalam tubuh permintaan Anda. API mengembalikan Server-Sent Events (SSE) yang berisi chunk teks parsial. Detail penggunaan token muncul di chunk terakhir dari stream.
Kunci API Anda hanya satu formulir lagi
Daftar, ambil kunci Anda, dan perbarui URL dasar endpoint Anda. Integrasi sederhana.