מכסות ומגבלות קצב

כדי לראות תוכן וקוד שספציפיים לספק, לוחצים על הספק Gemini API בדף הזה.


מגבלות קצב (שנקראות בדרך כלל מכסות) מסדירות את מספר הבקשות שאפשר לשלוח אל Gemini API במסגרת זמן נתונה. המגבלות האלה עוזרות להבטיח שימוש הוגן, להגן מפני ניצול לרעה ולשמור על ביצועי המערכת לכל המשתמשים.

כשמשתמשים ב-Firebase AI Logic כדי לגשת למודלים של Gemini, מגבלות הקצב של הפרויקט תלויות בספק ה-Gemini API שבחרתם. ב-Firebase AI Logic אפשר גם להגדיר מגבלות קצב "לכל משתמש".

הצגת מגבלות הקצב של Gemini Developer API

אם חורגים מהמכסה או אם הקיבולת של המודל שאליו ניגשים מוצתה, מקבלים את הודעת השגיאה 429.

איך פועלות מגבלות הקצב (מכסות)

מגבלות הקצב (מכסות) נמדדות לפי ארבעה מאפיינים:

  • בקשות לדקה (RPM)
  • בקשות ביום (RPD)
  • טוקנים לדקה (TPM)
  • טוקנים ליום (TPD)

השימוש שלכם נבדק מול כל מגבלה, ואם תחרגו מאחת מהן, תופיע השגיאה 429 quota-exceeded. לדוגמה, אם המגבלה של מספר הבקשות לדקה היא 20, שליחה של 21 בקשות בדקה תגרום לשגיאה, גם אם לא חרגתם מהמגבלה של מספר הטוקנים לדקה או ממגבלות אחרות.

מגבלות הקצב חלות ברמת הפרויקט, על כל האפליקציות וכתובות ה-IP שמשתמשות בפרויקט Firebase הזה.

המגבלות משתנות בהתאם למודל הספציפי שבו משתמשים, וחלק מהמגבלות חלות רק על מודלים ספציפיים.

במודלים ניסיוניים ובמודלים בגרסת טרום-השקה (Preview), הגבלת קצב של יצירת בקשות מחמירות יותר.

בקשה להגדלת מגבלת הקצב

אם אתם משתמשים ב"רמת תשלום" של Gemini Developer API, אתם יכולים לבקש להגדיל את מגבלת הקצב.

הגדרת מגבלות קצב של יצירת בקשות "לכל משתמש"

כדי להשתמש ב-Firebase AI Logic, צריך להפעיל בפרויקט את הספק של Gemini API שבחרתם, אבל צריך גם להפעיל את ממשק ה-API של Firebase AI Logic, שמשמש כשער בין ערכות ה-SDK של הלקוח לבין הספק של Gemini API. ה-API הזה מופעל כשמגדירים את Firebase AI Logic בפרויקט Firebase בפעם הראשונה.

אתם יכולים להשתמש במגבלת הקצב של ה-API של Firebase AI Logic (מכסה) כמגבלת קצב "לכל משתמש" באפליקציה, במיוחד לתכונות ה-AI שמסתמכות על Firebase AI Logic. כדאי להגדיר את המגבלה הזו כך שתתאים באופן סביר למשתמש יחיד שניגש לתכונות ה-AI, וגם לוודא שאף משתמש לא חורג מהמגבלות של ספק Gemini API (שמיועד לשימוש משותף של כל המשתמשים).

פרטים על הגבלת הקצב של יצירת בקשות "לכל משתמש"

הנה כמה פרטים חשובים על הגבלת קצב של יצירת בקשות (מכסות) של ה-API של Firebase AI Logic, ובמיוחד על בקשות לדקה (RPM):

  • היא מבוססת על "בקשות ליצירת תוכן" לכל משתמש, לכל אזור ולכל דקה, ולא מבוססת על מודל.

  • זו מגבלת הקצב שחלה על כל המשתמשים שלכם. כרגע אין דרך להגדיר את מגבלת הקצב למשתמש ספציפי או לקבוצה ספציפית של משתמשים*.

  • היא חלה ברמת הפרויקט, על כל האפליקציות וכתובות ה-IP שמשתמשות בפרויקט Firebase הזה.

  • היא חלה על כל קריאה שמגיעה ספציפית מ-SDK של Firebase AI Logic.

  • מגבלת הקצב שמוגדרת כברירת מחדל היא 100 בקשות לדקה לכל משתמש.
    חשוב לזכור שעדיין צריך להתחשב במגבלות של ספק ה-Gemini API (כפי שמופיעות למעלה), שקודמות ל-API של Firebase AI Logic.

* אם אתם משתמשים ב-Agent Platform Gemini API (formerly Vertex AI) והאפליקציה מפנה משתמשים לאזורים שונים (לדוגמה, באמצעות Firebase Remote Config), אתם יכולים להגדיר מגבלת קצב ספציפית למשתמשים באזור מסוים.

שינוי הגבלת הקצב של יצירת בקשות "לכל משתמש"

כדי לשנות את מגבלת הקצב (המכסה), צריכה להיות לכם ההרשאה serviceusage.quotas.update, שכלולה כברירת מחדל בתפקידים "בעלים" ו"עריכה".

כדי לערוך את מגבלת הקצב (המכסה) או לבקש להגדיל אותה:

  1. במסוף Google Cloud, נכנסים לדף של Firebase AI Logic API.

  2. לוחצים על ניהול.

  3. בחלק התחתון של הדף, לוחצים על הכרטיסייה Quotas & System Limits.

  4. מסננים את הטבלה כדי להציג את המכסות הרלוונטיות, כמו היכולת (בקשות ליצירת תוכן) והאזור.

    לדוגמה, כדי להציג את המכסות לכל משתמש לבקשות ליצירת תוכן בכל אחד מהאזורים הנתמכים באסיה, המסנן ייראה כך: Generate content requests + Dimension:region:asia

  5. מסמנים את התיבה שמימין לכל מכסה רלוונטית.

  6. בסוף השורה של המכסה, לוחצים על ובוחרים באפשרות Edit quota.

  7. בטופס Quota changes, מבצעים את הפעולות הבאות:

    1. בשדה New value, מזינים את המכסה המוגדלת.

      המכסה הזו חלה ברמת הפרויקט ומשותפת לכל האפליקציות וכתובות ה-IP שמשתמשות בפרויקט Firebase הזה.

    2. ממלאים את שאר השדות בטופס ולוחצים על סיום.

    3. לוחצים על Submit request.