Unrestricted ai: Troubleshooting Common Mistakes

1. Kontekstiikkunan katto

Jokainen pyyntö laskee tokenit sekä promptista että tuotetusta täydennyksestä yhteiseen rajaasi. Jos lähetät suuren kontekstin ja pyydät pitkää vastausta, saavutat katon ennen kuin malli on valmis tuottamaan tekstiä. Uncensored-mallimme tukee 100,000-token kontekstiikkunaa, mutta maksimilähtö pyyntöä kohden on rajoitettu 16,000 tokeniin, ellei toisin määrätä. Laske aina jäljellä olevat tokenit järjestelmäpromptin ja keskusteluhistorian jälkeen varmistaaksesi, että mallilla on tarpeeksi tilaa ajatuksen viimeistelyyn. Tämän huomioimatta jättäminen johtaa usein katkeaviin vastauksiin, jotka hämmentävät jälkikäsittelyohjelmia.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatgptunrestricted.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

2. JSON-tila & tiukka muotoilu

JSON-tila pakottaa mallin tuottamaan kelvollisen JSONin, mutta se ei takaa täydellistä kaavion noudattamista kaikissa ääritapauksissa. Kun asetat vastausmuodon arvoksi json_object, malli priorisoi syntaktisen pätevyyden tiukan tyyppivalvonnan sijaan. Jos kaavaasi on liian monimutkainen, malli voi keksiä kenttiä tai jättää valinnaiset pois pitääkseen rakenteen pätevänä. Tarkista aina tulos omalla puolellasi ennen kuin jäsennät sen tiukaksi tyypiksi. Tämä pätee erityisesti uncensored-malleihin, jotka voivat ottaa luovia vapauksia JSON-arvojen sisällä olevasta sisällöstä.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatgptunrestricted.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. Streamaa osittaisia vastauksia

Streamaus mahdollistaa tokenien vastaanottamisen niiden luonnin aikana, mikä parantaa koettua viivettä suurissa vastauksissa. Sinun on käsiteltävä Server-Sent Events (SSE) -streami oikein välttääksesi datan menetyksen tai jäsentämisvirheet. Jokainen osa sisältää osittaisen tokenin, ja viimeinen osa sisältää pyynnön kokonaistokenkäytön. Jos katkaiset yhteyden ennenaikaisesti, menetät viimeisen käyttötiedon ja saatat jättää palvelimen epäjohdonmukaiseen tilaan. Varmista aina, että asiakasohjelmasi osaa käsitellä epätäydellisiä JSON-fragmentteja, jos streamaat strukturoitua dataa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

4. Työkalun valinta & funktiokutsuvirheet

Toimintojen kutsuminen vaatii tarkan kaaviomäärittelyn ja epäonnistuu usein, jos malli ei pysty kartoittamaan käyttäjän syötettä tiettyyn työkaluun. Jos määrittelet tool_choice, malli voi pakottaa työkalukutsun vaikka se ei olekin paikallaan, mikä johtaa tyhjiin tai epärelevantteihin argumentteihin. Varmista, että työkalumäärittelyt ovat yksinkertaisia ja selkeästi kuvattuja. Malli tukee standardia OpenAI-yhteensopivaa työkalumuotoa, joten voit käyttää olemassa olevia SDK:ita. Varmista kuitenkin aina, että työkalulle välitetyt argumentit vastaavat tarkasti odotettuja tyyppejä.

Copycurl https://api.chatgptunrestricted.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the technical specs of the new GPU architecture"}]
  }'

5. Lämpötila- ja luovuusasetukset

Lämpötilan säätäminen vaikuttaa siihen, miten malli valitsee tokenneja, mikä vaikuttaa tuotannon satunnaisuuteen. Korkeampi lämpötila johtaa luovempiin ja monimuotoisempiin vastauksiin, kun taas alhaisempi lämpötila tekee tuloksesta deterministisemmän ja tarkemman. Jos käytät mallia koodintuotantoon tai faktojen noutamiseen, pidä lämpötila alhaalla välttääksesi hallusinointia. Luovaan kirjoittamiseen tai aivoriiheen lisää lämpötilaa tutkiaksesi monipuolisempia ideoita. Kokeile top_p myös nucleus-samplen hallintaan ja tulosten laadun hienosäätämiseen.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatgptunrestricted.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

6. Suurten kuormien käsittely

Suuret payloadit voivat ylittää 8 MB pyyntörungon rajan, mikä aiheuttaa API-kutsujen epäonnistumisen hiljaa tai 413-virheellä. Jos lähetät pitkiä keskusteluhistorioita, harkitse vanhempien viestien leikkaamista tai tiivistämistä ennen lähettämistä. Malli voi käsitellä 100,000 tokenia, mutta JSON-payloadin fyysinen koko on myös tärkeä. Varmista, että asiakas kirjasto pakkaa tai muotoilee datan tehokkaasti. Tarkista aina sisällön pituus ennen pyynnön tekemistä välttääksesi krediittien hukkaamisen epäonnistuneissa yrityksissä.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatgptunrestricted.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

7. Nopeusrajoitusten hidastus

Nopeusrajoitukset toteutetaan API-avainten perusteella: enintään 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä. Jos ylität nämä rajat, saat 429-virheen. Toteuta asiakasohjelmaan eksponentiaalinen taantuma (exponential backoff) toistojen käsittelyyn sujuvasti. Liikennevuorot voivat kuluttaa nopeasti samanaikaisuusrajan, joten jaa pyynnöt ajan suhteen mahdollisuuksien mukaan. Käytön seuranta ja samanaikaisuusasetusten säätäminen auttavat pysymään rajojen sisällä ilman suorituskyvyn heikkenemistä. Tämä on kriittistä tuotantoympäristöiden sujuvan käyttökokemuksen ylläpitämiseksi.

Copycurl https://api.chatgptunrestricted.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the technical specs of the new GPU architecture"}]
  }'

8. Tokenien laskennan epäsuhtat

Eri tokenisoijat voivat laskea tokenneja eri tavalla, mikä johtaa poikkeamiin paikallisen laskelman ja API:n laskelman välillä. Käytä aina mallin kanssa samaa tokenisoijaa tarkkaa kirjanpitoa varten. API laskuttaa todellisten käsiteltyjen tokenneen perusteella, joten tämän eron ymmärtäminen auttaa ennustamaan kustannuksia tarkasti. Jos huomaat merkittäviä vaihteluita, tarkista tokenisoijin toteutuksesi. Tämä on erityisen tärkeää integroitessa kolmansien osapuolten kirjastoja, jotka voivat käyttää eri tokenisointistrategioita.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatgptunrestricted.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)