API 文件
即插即用相容性適用於您現有的堆疊。變更基礎網址和金鑰,保留程式碼。
快速入門:變更 base_url
首先更新兩個變量。將您的客戶端指向 https://api.proxyllm.cc/v1 並使用您產生的金鑰。端點完全模擬 OpenAI chat completions 的結構。您不需要新的函式庫或複雜的適配器。只需替換端點和權杖,然後執行您現有的邏輯。
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
驗證與金鑰
透過儀表板產生金鑰,並在 Authorization 標頭。每個帳戶持有一個有效金鑰;建立新金鑰會撤銷舊金鑰。使用 Bearer your_api_key 用於標準請求。系統會立即拒絕無效的 token。
聊天完成端點
傳送 POST 請求至 /v1/chat/completions 使用訊息陣列。模型 ID 為 uncensored. 它處理文字生成時不含針對合法成人內容的標準拒絕。設定 max_tokens 用於控制輸出長度;預設值為 2,048 個 token。
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
串流與 SSE
在請求主體中將 stream: true 在您的請求主體中。API 為即時 token 傳輸回傳伺服器發送事件(SSE)。Token 使用統計數據出現在串流的最後一個區塊中。這可降低大型回應的感知延遲。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
函式呼叫與 JSON 模式
在 tools 參數用於結構化輸出。該模型同時支援函數呼叫與透過 response_format. 使用 json_object 強制輸出有效的 JSON 結構。Temperature 和 top_p 參數允許微調創造力。
速率限制與錯誤
預期無效金鑰返回 401,額度耗盡返回 402。限制為每支金鑰每分鐘 300 次請求。並行請求上限為 8 個。上下文視窗總計 100,000 個 token。在客戶端邏輯中處理 429 錯誤時,請實施指數退避機制。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)常見問題
此 LLM 代理的上下文窗口大小為何?
總上下文視窗為 100,000 個 token,包含 prompt 與 completion。每次呼叫最多可請求 16,000 個輸出 token。若省略 max_tokens 參數,系統預設為 2,048 個 token。
API 是否支援函式呼叫?
是的,該模型支援工具使用和函數呼叫。您也可以使用 response_format 參數強制輸出嚴格的 JSON。這確保了用於程序化集成的結構化數據。
如何處理串流回應?
在您的請求主體中將 stream 參數設為 true。API 會回傳包含部分文字區塊的伺服器發送事件 (SSE)。Token 用量詳細資訊會出現在串流的最後一個區塊中。
您的 API 金鑰只需填寫表單即可取得
註冊、取得金鑰,並更新您的端點基礎 URL。整合簡單。