API 문서
기존 스택용 드롭인 호환성. 베이스 URL과 키를 변경하고 코드를 유지하세요.
빠른 시작: base_url 변경
두 가지 변수를 업데이트하세요. 클라이언트를 다음으로 향하게 하세요 https://api.proxyllm.cc/v1 생성한 키를 사용합니다. 엔드포인트는 OpenAI 채팅 완료 구조와 정확히 동일하게 동작합니다. 새로운 라이브러리나 복잡한 어댑터가 필요하지 않습니다. 엔드포인트와 토큰만 교체하면 기존 로직을 실행할 수 있습니다.
curl https://api.proxyllm.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
}'
인증 및 키
대시보드를 통해 키를 생성하고 다음에 전달하세요. Authorization header. 각 계정에는 활성 키가 하나씩 보유되며, 새 키를 생성하면 이전 키가 무효화됩니다. 사용 Bearer your_api_key 표준 요청을 위해 시스템은 유효하지 않은 토큰을 즉시 거부합니다.
채팅 완료 엔드포인트
POST 요청을 다음으로 보내기 /v1/chat/completions messages 배열과 함께. 모델 ID는 uncensored법적 성인 콘텐츠에 대한 일반적인 거부 없이 텍스트 생성을 처리합니다. max_tokens 출력 길이를 제어합니다. 기본값은 2,048 토큰입니다.
from openai import OpenAI
client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
스트리밍 및 SSE
stream을 true로 설정하여 스트리밍 활성화 stream: true 요청 페이로드에 포함됩니다. API는 실시간 토큰 전달을 위해 서버 전송 이벤트(SSE)를 반환합니다. 토큰 사용량 통계는 스트림의 마지막 청크에 나타납니다. 이는 대용량 응답의 지각된 지연 시간을 줄여줍니다.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
함수 호출 및 JSON 모드
다음에 도구를 정의하세요 tools 구조화된 출력을 위한 매개변수입니다. 이 모델은 함수 호출과 response_format다음 사용 json_object 유효한 JSON 구조를 강제합니다. Temperature 및 top_p 매개변수는 창의성을 미세 조정하는 데 사용됩니다.
속도 제한 및 오류
유효하지 않은 키의 경우 401, 크레딧이 부족할 경우 402를 예상합니다. 제한은 키당 분당 300개 요청입니다. 동시 요청은 최대 8개로 제한됩니다. 컨텍스트 창은 총 100,000 토큰을 지원합니다. 클라이언트 로직에 지수 백오프를 구현하여 429 오류를 처리하세요.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)자주 묻는 질문
이 LLM 프록시의 컨텍스트 윈도우 크기는 얼마인가요?
총 컨텍스트 윈도우는 100,000토큰이며, 프롬프트와 완성을 모두 포함합니다. 호출당 최대 16,000개의 출력 토큰을 요청할 수 있습니다. max_tokens 매개변수를 생략하면 시스템은 2,048토큰을 기본값으로 사용합니다.
API는 함수 호출을 지원하나요?
네, 해당 모델은 도구 사용과 함수 호출을 지원합니다. response_format 매개변수를 사용하여 엄격한 JSON 출력을 강제할 수 있습니다. 이는 프로그래밍 통합을 위한 구조화된 데이터를 보장합니다.
스트리밍 응답을 어떻게 처리하나요?
요청 본문에서 stream 매개변수를 true로 설정하세요. API는 부분 텍스트 청크를 포함하는 서버 전송 이벤트(SSE)를 반환합니다. 스트림의 마지막 청크에는 토큰 사용량 세부 정보가 나타납니다.
API 키는 양식 하나만으로 발급됩니다
등록하고 키를 가져온 후 엔드포인트 기본 URL을 업데이트하세요. 간단한 통합입니다.