API Dokümantasyonu
Mevcut yığınınız için Tak-Çıkar uyumluluğu. Temel URL'yi ve anahtarı değiştirin, kodu koruyun.
Hızlı Başlangıç: base_url'i Değiştir
İki değişkeni güncelleyerek başlayın. İstemcinizi https://api.proxyllm.cc/v1 ve oluşturduğunuz anahtarı kullanın. Uç nokta, OpenAI sohbet tamamlama yapısını birebir taklit eder. Yeni kütüphanelere veya karmaşık dönüştürücülere ihtiyacınız yoktur. Sadece uç nokta ve belirteci değiştirin, ardından mevcut mantığınızı çalıştırın.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
Kimlik Doğrulama ve Anahtarlar
Kontrol paneli aracılığıyla bir anahtar oluşturun ve şuraya iletin: Authorization header. Her hesap tek bir aktif anahtar tutar; yeni bir tane oluşturmak eskisini iptal eder. Kullanın Bearer your_api_key standart istekler için. Sistem geçersiz tokenları hemen reddeder.
Sohbet Tamamlamaları Uç Noktası
POST isteklerini gönderin /v1/chat/completions bir mesaj dizisi ile. Model kimliği uncensoredYasal yetişkin içerik için standart reddetmeler olmadan metin üretimi yapar. Ayarlayın max_tokens çıktı uzunluğunu kontrol etmek için; varsayılan değer 2.048 token'dir.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streaming ve SSE
Ayarlayarak akışı etkinleştirin stream: true istem yükünüzde. API, gerçek zamanlı belirteç teslimi için Sunucu Tarafından Gönderilen Etkinlikler (SSE) döndürür. Belirteç kullanım istatistikleri, akışın son parçasında görünür. Bu, büyük yanıtlar için algılanan gecikmeyi azaltır.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Fonksiyon Çağırma ve JSON Modu
Araçları tools yapılandırılmış çıktılar için parametre. Model, şunu kullanarak hem fonksiyon çağırma hem de sıkı JSON biçimlendirmesi destekler response_formatkullanın. json_object geçerli JSON yapıları sağlamak için. Sıcaklık ve top_p parametreleri yaratıcılığı ince ayarlamaya olanak tanır.
Saniye Başına İstek Limitleri ve Hatalar
Geçersiz anahtarlar için 401 ve kredi bittiğinde 402 bekleyin. Sınır anahtar başına dakikada 300 istektir. Eşzamanlı istekler aynı anda sekizle sınırlıdır. Bağlam penceresi toplam 100.000 token kapsar. İstemci mantığınızda üstel geri çekilme uygulayarak 429 hatalarını yönetin.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Sık sorulan sorular
Bu LLM proxy'si için bağlam penceresi boyutu nedir?
Toplam bağlam penceresi 100.000 token olup hem prompt hem de completion'u içerir. Her çağrıda en fazla 16.000 output token'ı talep edebilirsiniz. max_tokens parametresini belirtmezseniz sistem varsayılan olarak 2.048 token kullanır.
API fonksiyon çağırma destekliyor mu?
Evet, model araç kullanımı ve fonksiyon çağırma destekler. response_format parametresi kullanarak sıkı JSON çıktısını da zorlayabilirsiniz. Bu, programatik entegrasyon için yapılandırılmış veri sağlar.
Akış yanıtlarını nasıl yönetebilirim?
İstek gövnenizde stream parametresini true olarak ayarlayın. API, kısmi metin parçaları içeren Sunucu Tarafından Gönderilen Olayları (SSE) döndürür. Akışın son parçasında belirteç kullanım ayrıntıları yer alır.
API anahtarınız bir form kadar uzakta
Kaydolun, anahtarınızı alın ve uç nokta temel URL'nizi güncelleyin. Basit entegrasyon.