ai Unrestricted: Penyelesaian Masalah Biasa

1. Siling Tetingkap Konteks

Setiap permintaan mengira token dari kedua-dua prompt dan penyelesaian yang dijana terhadap had jumlah anda. Jika anda menghantar konteks besar dan meminta respons panjang, anda akan mencapai had sebelum model selesai menjana teks. Model tanpa sensor kami menyokong tetingkap konteks 100,000-token, tetapi output maksimum per permintaan adalah terhad kepada 16,000 token kecuali anda menentukan sebaliknya. Sentiasa kira token yang tinggal selepas prompt sistem dan sejarah perbualan anda untuk memastikan model mempunyai ruang yang cukup untuk melengkapkan fikirannya. Kegagalan untuk mengambil kira ini sering mengakibatkan respons terpotong yang mengelirukan parser downstream.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatgptunrestricted.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

2. Mod JSON & Pemformatan Ketat

Mod JSON memaksa model untuk menghasilkan JSON yang sah, tetapi ia tidak menjamin pematuhan skema yang sempurna dalam setiap kes sempadan. Apabila anda menetapkan format respons kepada json_object, model ini mengutamakan kesahihan sintaksis berbanding penguatan jenis yang ketat. Jika skema anda terlalu kompleks, model mungkin menghasilkan medan secara halus atau membiarkan medan pilihan terkeluar untuk mengekalkan struktur yang sah. Sentiasa sahkan output di pihak anda sebelum menguraikannya sebagai jenis yang ketat. Ini amat penting untuk model tanpa sensor yang mungkin mengambil kebebasan kreatif dengan kandungan di dalam nilai JSON.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatgptunrestricted.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

3. Respons Separuh Streaming

Streaming membolehkan anda menerima token semasa ia dijana, yang meningkatkan latensi yang dirasakan untuk respons besar. Anda mesti mengendalikan aliran Server-Sent Events (SSE) dengan betul untuk mengelakkan kehilangan data atau ralat penguraian. Setiap bahagian mengandungi token separuh, dan bahagian akhir termasuk jumlah penggunaan token untuk permintaan tersebut. Jika anda memutuskan sambungan secara awal, anda kehilangan data penggunaan akhir dan mungkin meninggalkan pelayan dalam keadaan tidak konsisten. Sentiasa pastikan klien anda boleh menangani pecahan JSON yang tidak lengkap jika anda sedang mengalirkan data terstruktur.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

4. Kesilapan Pemilihan Alat & Pemanggilan Fungsi

Pemanggilan fungsi memerlukan definisi skema yang tepat dan sering gagal jika model tidak dapat memetakan input pengguna kepada alat khusus. Jika anda menentukan tool_choice, model mungkin memaksa panggilan alat walaupun ia tidak sesuai, menyebabkan hujatan kosong atau tidak relevan. Pastikan definisi alat anda mudah dan diterangkan dengan jelas. Model menyokong format alat serasi OpenAI, jadi anda boleh menggunakan SDK sedia ada. Walau bagaimanapun, sentiasa sahkan bahawa hujatan yang dihantar ke alat sepadan tepat dengan jenis yang dijangka.

Copycurl https://api.chatgptunrestricted.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the technical specs of the new GPU architecture"}]
  }'

5. Tetapan Suhu & Kreativiti

Melaraskan suhu mengubah bagaimana model memilih token, yang mempengaruhi keacakan output. Suhu yang lebih tinggi membawa kepada respons yang lebih kreatif dan pelbagai, manakala suhu yang lebih rendah menjadikan output lebih deterministik dan fokus. Jika anda menggunakan model untuk penjanaan kod atau pemulihan fakta, kekalkan suhu yang rendah untuk mengelakkan halusinasi. Untuk penulisan kreatif atau sesi berfikir secara bebas, tingkatkan suhu untuk meneroka idea yang lebih pelbagai. Eksperimen dengan top_p juga untuk mengawal pensampelan nukleus dan seterusnya menambah baik kualiti output.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatgptunrestricted.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

6. Mengendalikan Payload Besar

Payload besar boleh melebihi had badan permintaan 8 MB, menyebabkan panggilan API anda gagal secara senyap atau dengan ralat 413. Jika anda menghantar sejarah perbualan yang panjang, pertimbangkan untuk memangkas mesej lama atau meringkaskannya sebelum menghantar. Model boleh mengendalikan 100,000 token, tetapi saiz fizikal payload JSON juga penting. Pastikan perpustakaan klien anda memampatkan atau memformat data dengan cekap. Sentiasa periksa panjang kandungan sebelum membuat permintaan untuk mengelakkan pembaziran kredit pada percubaan yang gagal.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatgptunrestricted.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

7. Penipisan Had Kadar

Had had ditetap mengikut kunci API, dengan had maksimum 300 permintaan setiap minit dan 8 permintaan serentak. Jika anda melebihi had ini, anda akan menerima ralat 429. Laksanakan backoff eksponen dalam klien anda untuk mengendalikan cubaan semula dengan lancar. Trafik yang melonjak boleh dengan cepat menghabiskan had kekoncurrenan anda, jadi taburkan permintaan merentasi masa jika boleh. Memantau penggunaan anda dan menyesuaikan tetapan kekoncurrenan anda boleh membantu anda kekal dalam had tanpa mengorbankan prestasi. Ini amat penting untuk mengekalkan pengalaman pengguna yang lancar dalam persekitaran pengeluaran.

Copycurl https://api.chatgptunrestricted.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the technical specs of the new GPU architecture"}]
  }'

8. Perbezaan Pengiraan Token

Penjenk token yang berbeza mungkin mengira token dengan cara yang berbeza, menyebabkan percanggahan antara kiraan tempatan anda dan kiraan API. Sentiasa gunakan penjenk token yang sama dengan model untuk pengiraan yang tepat. API mengenakan caj berdasarkan token sebenar yang diproses, jadi memahami perbezaan ini membantu anda meramal kos dengan tepat. Jika anda noticed perbezaan yang ketara, semak pelaksanaan penjenk token anda. Ini amat penting apabila berintegrasi dengan perpustakaan pihak ketiga yang mungkin menggunakan strategi penjenk token yang berbeza.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatgptunrestricted.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)