fi ▾
Luo avaimia

API-dokumentaatio

Drop-in-yhteensopivuus olemassa olevaan kantaasi. Muuta base URL ja avain, säilytä koodi.

Pika-aloitus: Vaihda base_url

Aloita kahden muuttujan päivittäminen. Osoita asiakasohjelmasi https://api.proxyllm.cc/v1 ja käytä luomaasi avainta. Päätepiste jäljittelee OpenAI:n chat-completions-rakennetta täydellisesti. Sinun ei tarvitse uusia kirjastoja tai monimutkaisia sovittimia. Vaihda päätepiste ja token, ja aja olemassa oleva logiikkasi.

curl https://api.proxyllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List five common CSS layout techniques for modern web design."}]
  }'

Todennus ja avaimet

Luo avain ohjauspaneelista ja välitä se Authorization header. Jokaisella tilillä on yksi aktiivinen avain; uuden luominen peruuttaa vanhan. Käytä Bearer your_api_key vakion pyyntöjä varten. Järjestelmä hylkää virheelliset tokenit välittömästi.

Chat Completions Endpoint

Lähetä POST-pyyntöjä osoitteeseen /v1/chat/completions viestitaulukolla. Mallin tunnus on uncensored. Se käsittelee tekstimuotoista generointia ilman tyypillisiä hylkäyksiä lainalliseen aikuis sisältöön. Aseta max_tokens hallitsemaan tuotoksen pituutta; oletusarvo on 2 048 tokeniä.

from openai import OpenAI

client = OpenAI(base_url="https://api.proxyllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamaus ja SSE

Ota streamaus käyttöön asettamalla stream: true pyyntöpayloadissasi. Sovellusliittymä palauttaa Server-Sent Events (SSE) -viestejä reaaliaikaiseen tokenien toimitukseen. Tokenien käyttötilastot ilmestyvät virran viimeisessä lohkossa. Tämä vähentää koettua viiveellisyyttä suurissa vastauksissa.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Funktikutsut ja JSON-tila

Määritä työkalut tools parametri rakenteellisiin tuloksiin. Malli tukee sekä toimintokutsuja että tiukkaa JSON-muotoilua response_format. Käytä json_object pakottaa validit JSON-rakenteet. Lämpötila- ja top_p-parametrit mahdollistavat luovuuden hienosäädön.

Nopeusrajoitukset ja virheet

Oleta 401 virheellisille avaimille ja 402, kun kreditti loppuu. Nopeusrajoitus on 300 pyyntöä minuutissa per avain. Samanaikaisten pyyntöjen enimmäismäärä on kahdeksan samanaikaisesti. Kontekstiluukku on yhteensä 100 000 tokeniä. Käsittele 429-virheet käyttämällä eksponentiaalista viiveen kasvattamista asiakasohjelmassasi.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
01

Yleiset kysymykset

Mikä on tämän LLM-proxy-ympäristön ikkunan koko?

Kokonaiskonteksti-ikkuna on 100,000 tokenia, yhdistäen sekä syötteen että täydennyksen. Voit pyytää enintään 16,000 tulostustokenia kutsumiskerralla. Jos jätät max_tokens-parametrin pois, järjestelmä käyttää oletusarvona 2,048 tokenia.

Tukeeko API funktiokutsuja?

Kyllä, malli tukee työkalujen käyttöä ja toimintokutsuja. Voit myös pakottaa tiukan JSON-tuloksen response_format-parametrilla. Tämä varmistaa rakenteisen datan ohjelmallista integraatiota varten.

Miten käsittelemme suoratoistovastauksia?

Aseta stream-parametri arvoksi true pyyntöruudussasi. API palauttaa Server-Sent Eventsin (SSE) sisältäen osittaisia tekstilohkoja. Token-käyttötilastot ilmestyvät streamin viimeisessä lohkoissa.

API-avaimesi on yksi lomake poissa

Rekisteröidy, hanki avaimesi ja päivitä endpointin base URL. Yksinkertainen integraatio.