APIドキュメント
既存のスタック向けの差し替え互換性。ベースURLとキーを変更し、コードを維持します。
クイックスタート: base_url の変更
2つの変数を更新することから始めましょう。クライアントを指し示す https://api.proxyllm.cc/v1 生成したキーを使用します。エンドポイントはOpenAIチャット完了の構造を正確に模倣しています。新しいライブラリや複雑なアダプタは不要です。エンドポイントとトークンを置き換えて、既存のロジックを実行するだけです。
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
認証とキー
ダッシュボード経由でキーを生成し、 Authorization header. 各アカウントには1つのアクティブなキーが保持され、新しいキーを作成すると古いキーが失効します。使用 Bearer your_api_key 標準的なリクエストの場合。システムは無効なトークンを即座に拒否します。
チャット完了エンドポイント
POST リクエストを送信 /v1/chat/completions メッセージ配列と。モデルIDは uncensored法的な成人向けコンテンツに対して一般的な拒否なしでテキスト生成を処理します。 max_tokens 出力長を制御します。デフォルトは2,048トークンです。
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
ストリーミングとSSE
streamをtrueに設定してストリーミングを有効にする stream: true リクエストペイロードに指定します。APIはリアルタイムのトークン配信のためにServer-Sent Events (SSE)を返します。トークン使用統計はストリームの最終チャンクに表示されます。これにより、大きなレスポンスに対する知覚遅延が削減されます。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
関数呼び出しとJSONモード
でツールを定義します tools 構造化出力のためのパラメータ。このモデルは、関数呼び出しと、経由する厳格なJSONフォーマットをサポートしています。 response_format. 使用 json_object 有効なJSON構造を強制します。Temperatureおよびtop_pパラメータにより、創造性を微調整できます。
レート制限とエラー
無効なキーには401、クレジットが不足している場合は402を返します。制限はキーごとに1分あたり300リクエストです。同時実行数の上限は8です。コンテキストウィンドウは合計100,000トークンです。クライアントロジックで指数関数的バックオフを実装して429エラーを処理してください。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)よくある質問
このLLMプロキシのコンテキストウィンドウサイズはどれくらいですか?
合計コンテキストウィンドウは100,000トークンで、プロンプトと補完の両方を含みます。1回の呼び出しで最大16,000トークンの出力をリクエストできます。max_tokensパラメータを省略した場合、システムは2,048トークンをデフォルトとします。
APIは関数呼び出しをサポートしていますか?
はい、このモデルはツール使用と関数呼び出しをサポートしています。また、response_formatパラメータを使用して厳格なJSON出力を強制することもできます。これにより、プログラム的な統合のための構造化データが保証されます。
ストリーミングレスポンスを処理するにはどうすればよいですか?
リクエストボディでstreamパラメータをtrueに設定します。APIは部分テキストチャンクを含むServer-Sent Events (SSE)を返します。ストリームの最後のチャンクにトークン使用量の詳細が含まれます。
APIキーはフォーム1つで入手できます
登録し、APIキーを取得し、エンドポイントのベースURLを更新します。シンプルな統合。