Nopea aloitus -opas

Malli Abliterated

Aseta base URL ja avain

Aloita API-avaimen luomin kojelaudasta. Käytä "Jatka Googlella" -vaihtoehtoa tai tavallista sähköpostilogina luodaksesi tilin välittömästi. Puhelinnumerontarkistusta ei tarvita. Kun avain ilmestyy, kopioi se ympäristömuuttujiisi. API:n perus-URL on HTTPS://api.modelabliterated.com/v1. Päivitä SDK-määrityksesi osoittamaan tähän URL:iin oletus OpenAI-päätepisteen sijaan. Tämä varmistaa, että kaikki pyynnät ohjautuvat puuttumattomaan infrastruktuuriimme.

Lähetä ensimmäinen pyyntö

Tee POST-pyyntö osoitteeseen /v1/chat/completions. Aseta mallin tunnuksena "uncensored". Välitä järjestelmäkehote ohjaamaan käyttäytymistä. Abliteroitu malli vastaa suoraan ilman ylimääräistä säätöä. Tässä on esimerkki yksinkertaisesta tekstitäydennyksestä curlilla.

Copycurl https://api.modelabliterated.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Käytä Python SDK:ta

Asenna virallinen openai-paketti pipillä. Alusta asiakasohjelmisto API-avaimella ja mukautetulla base URL:llä. Python SDK hoitaa serialisoinnin automaattisesti. Voit lähettää viestin ja saada koko vastauksen tekstinä. Tämä menetelmä on ihanteellinen taustaskripteille tai paikalliselle päättelytestaukselle.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.modelabliterated.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integroi Node.js:ään

Vaadi openai-npm-paketti projektisi sisään. Määritä base URL - ja apiKey-ominaisuudet asiakasinstanssissa. Kutsu chat.completions.create -funktiota mallin ja viestien kanssa. Vastausobjekti sisältää luodun tekstin muodossa choices[0].message.content. Tämä lähestymistapa toimii hyvin palvelimen puoleisessa renderöinnissä tai API-päätepisteissä.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.modelabliterated.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Käsittele streamausvastaukset

Ota streamaus käyttöön asettamalla stream arvoksi true pyynnön parametreissa. API palauttaa tokenlohkoja niiden synnyttyä. Tämä vähentää havaittua viivettä pitkissä tulosteissa. Voit käsitellä jokaista lohkoa reaaliajassa. Käytä viimeistä lohkoa tarkistaaksesi kokonaistokenkäytön ja laskutustiedot.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Hallitse rajoja ja virheitä

Sinulla on 100,000 tokenin kontekstiikkuna syötteelle ja tulokselle yhdessä. Nopeusrajoitus on 300 pyyntöä minuutissa per avain. Jos ylität tämän, saat 429-virheen. 401-virhe tarkoittaa, että avaintasi ei ole voimassa. 402-virhe tarkoittaa, että esimaksuttua rahaa on liian vähän. Varmista, että lataat rahaa USDT- tai USDC-maksutavalla jatkaaksesi. Virheet eivät kuluta tokenia. Maksimituotos pyyntöä kohti on 16,000 tokenia, ellei määritä alempaa max_tokens-arvoa.