|
Klik penyedia Gemini API untuk melihat konten khusus penyedia dan kode di halaman ini. |
Batas kapasitas (biasanya disebut kuota) mengatur jumlah permintaan yang dapat Anda buat ke Gemini API dalam jangka waktu tertentu. Batas ini membantu memastikan penggunaan yang adil, melindungi dari penyalahgunaan, dan membantu mempertahankan performa sistem untuk semua pengguna.
Saat menggunakan Firebase AI Logic untuk mengirim permintaan ke Gemini dan Imagen model, batas kapasitas project Anda bergantung pada penyedia "Gemini API" yang Anda pilih. Firebase AI Logic juga menyediakan cara untuk menetapkan "per pengguna" batas kapasitas.
Melihat batas kapasitas untuk Gemini Developer API
Jika Anda melebihi kuota atau jika kapasitas untuk model yang Anda akses habis, Anda akan mendapatkan pesan error 429.
Cara kerja batas kapasitas (kuota)
Batas kapasitas (kuota) diukur dalam empat dimensi:
- Permintaan per menit (RPM)
- Permintaan per hari (RPD)
- Token per menit (TPM)
- Token per hari (TPD)
Penggunaan Anda dievaluasi terhadap setiap batas, dan melebihi salah satunya akan memicu error 429 kuota terlampaui. Misalnya, jika batas RPM Anda adalah 20, membuat 21 permintaan dalam satu menit akan menghasilkan error, meskipun Anda belum melebihi TPM atau batas lainnya.
Batas kapasitas diterapkan di tingkat project dan berlaku untuk semua aplikasi dan alamat IP yang menggunakan project Firebase tersebut.
Batas bervariasi bergantung pada model spesifik yang digunakan, dan beberapa batas hanya berlaku untuk model tertentu. Misalnya, gambar per menit (IPM) hanya dihitung untuk model yang dapat membuat gambar (Imagen), tetapi secara konseptual mirip dengan TPM.
Batas kapasitas lebih dibatasi untuk model eksperimental dan pratinjau.
Meminta penambahan batas kapasitas
Jika Anda menggunakan "paket berbayar" untuk Gemini Developer API, Anda dapat meminta penambahan batas kapasitas.
Menetapkan batas kapasitas "per pengguna"
Untuk menggunakan Firebase AI Logic, project Anda memerlukan penyedia Gemini API yang Anda pilih diaktifkan, tetapi Anda juga memerlukan API Firebase AI Logic diaktifkan, yang bertindak sebagai gateway antara SDK klien kami dan penyedia Gemini API Anda. API ini diaktifkan untuk Anda saat pertama kali menyiapkan Firebase AI Logic di project Firebase Anda.
Anda dapat menggunakan batas kapasitas (kuota) Firebase AI Logic API sebagai batas kapasitas "per pengguna" untuk aplikasi Anda, khususnya untuk fitur AI yang mengandalkan Firebase AI Logic. Anda harus menetapkan batas ini untuk mengakomodasi satu pengguna yang mengakses fitur AI Anda secara wajar, sekaligus memastikan bahwa tidak ada satu pengguna pun yang melebihi batas penyedia Gemini API Anda (yang dimaksudkan untuk digunakan bersama oleh semua pengguna Anda).
Detail tentang batas kapasitas "per pengguna"
Berikut beberapa detail penting tentang Firebase AI Logic API batas kapasitas (kuota) -- khususnya, permintaan per menit (RPM):
Batas ini didasarkan pada "Permintaan pembuatan konten" per pengguna per region per menit, dan tidak didasarkan pada model.
Batas ini adalah batas kapasitas yang diterapkan ke semua pengguna Anda. Saat ini, tidak ada cara untuk menetapkan batas kapasitas untuk pengguna tertentu atau grup pengguna tertentu*.
Batas ini diterapkan di tingkat project dan berlaku untuk semua aplikasi dan alamat IP yang menggunakan project Firebase tersebut.
Batas ini berlaku untuk panggilan apa pun yang secara khusus berasal dari SDK apa pun Firebase AI Logic.
Batas kapasitas default adalah 100 RPM per pengguna.
Perhatikan bahwa Anda masih perlu mempertimbangkan batas untuk penyedia Gemini API Anda (lihat di atas), yang lebih diutamakan daripada Firebase AI Logic API.
* Jika Anda menggunakan Vertex AI Gemini API dan aplikasi Anda mengarahkan pengguna ke region yang berbeda (misalnya, menggunakan Firebase Remote Config), Anda dapat menetapkan batas kapasitas tertentu untuk pengguna di region tertentu.
Menyesuaikan batas kapasitas "per pengguna"
Untuk menyesuaikan batas kapasitas (kuota), Anda harus memiliki izin serviceusage.quotas.update, yang disertakan secara default dalam peran Pemilik dan Editor.
Berikut cara mengedit batas kapasitas (kuota) atau meminta penambahan:
Di konsol Google Cloud, buka halaman untuk Firebase AI Logic API.
Klik Manage.
Di bagian bawah halaman, klik tab Quotas &System Limits.
Filter tabel untuk menampilkan kuota yang diinginkan, seperti kemampuan (permintaan untuk membuat konten) dan region.
Misalnya, untuk melihat kuota per pengguna untuk membuat permintaan konten di salah satu region Asia yang didukung, filter Anda akan terlihat mirip dengan ini:
Generate content requests+Dimension:region:asia(default)Pilih kotak centang di sebelah kiri setiap kuota yang diinginkan.
Di akhir baris kuota, klik , lalu pilih Edit quota.
Di formulir Quota changes, lakukan hal berikut:
Masukkan kuota yang ditingkatkan di kolom New value.
Kuota ini berlaku di tingkat project dan digunakan bersama oleh semua aplikasi dan alamat IP yang menggunakan project Firebase tersebut.
Lengkapi kolom tambahan apa pun di formulir, lalu klik Done.
Klik Submit request.