Batas laju

Request bersamaan

Setiap akun punya batas jumlah request yang berjalan bersamaan. Tidak ada batas bawaan: akun tanpa batas boleh menjalankan request bersamaan sebanyak yang dibutuhkan. sivcloud bisa menetapkan batas untuk satu akun. Bila Anda membutuhkan batas diubah, hubungi dukungan: lewat halaman Dukungan di console. Request yang melewati batas dijawab rate_limit_exceeded (HTTP 429).

Satu request dihitung sampai selesai, gagal, atau diputus. Request yang macet tidak mengunci akun selamanya, karena slotnya dilepas otomatis.

Batas pada paket

Jatah paket bisa punya batas sendiri:

• request per menit,
• request bersamaan,
• request per hari.

Request yang kena batas ini ditolak dengan rate_limit_exceeded (HTTP 429) dan tidak dialihkan ke saldo, karena batas laju adalah sifat paket, bukan tanda jatah habis. Jatah yang habis lain ceritanya: lihat Langganan.

Request dibayar paket hanya bila seluruh perkiraannya (prompt + max_tokens, atau 4.096 token bila tidak diisi; paling banyak 8.192) muat di sisa jatah; bila tidak, seluruh request dibayar dari saldo. Lihat Langganan.

Cara menanggapi

• Ulangi setelah jeda yang makin panjang (1, 2, 4 detik, dan seterusnya).
• Batasi jumlah request paralel di aplikasi Anda ke angka batas akun.
• Batas per API key di console hanya membatasi pemakaian saldo dalam rupiah. Itu bukan batas laju.