Limity i kwoty

Kliknij dostawcę Gemini API, aby wyświetlić na tej stronie treści i kod dotyczące tego dostawcy.


Limity liczby żądań (powszechnie nazywane limitami) regulują liczbę żądań, które możesz wysłać do Gemini API w danym przedziale czasu. Te limity pomagają zapewnić uczciwe korzystanie, chronią przed nadużyciami i pomagają utrzymać wydajność systemu dla wszystkich użytkowników.

Gdy używasz Firebase AI Logic do uzyskiwania dostępu do modeli Gemini, limity żądań w projekcie zależą od wybranego dostawcy Gemini API. Firebase AI Logic umożliwia też ustawianie limitów liczby żądań na użytkownika.

Wyświetlanie limitów liczby żądań dla Gemini Developer API

Jeśli przekroczysz limit lub jeśli pojemność modelu, do którego uzyskujesz dostęp, zostanie wyczerpana, otrzymasz komunikat o błędzie 429.

Jak działają limity liczby żądań (limity)

Limity liczby żądań (limity) są mierzone w 4 wymiarach:

  • Żądania na minutę (RPM)
  • Żądania dziennie (RPD)
  • Tokeny na minutę (TPM)
  • Tokeny dziennie (TPD)

Wykorzystanie jest oceniane pod kątem każdego limitu, a przekroczenie któregokolwiek z nich spowoduje błąd 429 (przekroczenie limitu). Jeśli na przykład limit RPM wynosi 20, wysłanie 21 żądań w ciągu minuty spowoduje błąd, nawet jeśli nie przekroczysz limitu TPM ani innych limitów.

Limity liczby żądań są stosowane na poziomie projektu i dotyczą wszystkich aplikacji oraz adresów IP, które korzystają z tego projektu Firebase.

Limity różnią się w zależności od używanego modelu, a niektóre z nich dotyczą tylko konkretnych modeli.

Limity liczby żądań są bardziej rygorystyczne w przypadku modeli eksperymentalnych i wersji testowych.

Wysyłanie prośby o zwiększenie limitu liczby żądań

Jeśli korzystasz z płatnej wersji Gemini Developer API, możesz poprosić o zwiększenie limitu liczby żądań.

Ustawianie limitów „na użytkownika”

Aby korzystać z usługi Firebase AI Logic, musisz włączyć w projekcie wybranego dostawcę Gemini API, ale musisz też włączyć interfejs Firebase AI Logic API, który działa jako brama między naszymi pakietami SDK klienta a dostawcą Gemini API. Ten interfejs API jest włączany podczas początkowej konfiguracji Firebase AI Logic w projekcie w Firebase.

Możesz użyć ograniczania liczby żądań (limitu) interfejsu API Firebase AI Logic jako limitu liczby żądań „na użytkownika” w aplikacji, zwłaszcza w przypadku funkcji opartych na AI, które korzystają z Firebase AI Logic. Ustaw ten limit tak, aby zapewnić pojedynczemu użytkownikowi dostęp do funkcji opartych na AI, a jednocześnie zadbać o to, aby żaden użytkownik nie przekroczył limitów dostawcy Gemini API (który ma być współdzielony przez wszystkich użytkowników).

Szczegółowe informacje o limicie „na użytkownika”

Oto kilka ważnych informacji o ograniczeniach liczby żądań (limitach) interfejsu API Firebase AI Logic, a konkretnie o liczbie żądań na minutę (RPM):

  • Jest on oparty na „żądaniach wygenerowania treści” na użytkownika, region i minutę, a nie na modelu.

  • Jest to limit liczby żądań stosowany do wszystkich użytkowników. Obecnie nie ma możliwości ustawienia limitu liczby żądań dla konkretnego użytkownika lub określonej grupy użytkowników*.

  • Ma zastosowanie na poziomie projektu i dotyczy wszystkich aplikacji oraz adresów IP, które korzystają z tego projektu w Firebase.

  • Dotyczy to każdego wywołania pochodzącego z pakietu SDK Firebase AI Logic.

  • Domyślny limit to 100 żądań na minutę na użytkownika.
    Pamiętaj, że nadal musisz uwzględniać limity dostawcy Gemini API (patrz wyżej), które mają pierwszeństwo przed interfejsem Firebase AI Logic API.

* Jeśli używasz Agent Platform Gemini API (formerly Vertex AI), a Twoja aplikacja kieruje użytkowników do różnych regionów (np. za pomocą Firebase Remote Config), możesz ustawić określony limit liczby żądań dla użytkowników w danym regionie.

Dostosowywanie limitu „na użytkownika”

Aby dostosować limit liczby żądań (limit), musisz mieć uprawnienie serviceusage.quotas.update, które jest domyślnie zawarte w rolach właściciela i edytującego.

Aby zmienić limit liczby żądań (limit) lub poprosić o jego zwiększenie:

  1. W konsoli Google Cloud otwórz stronę interfejsu API Firebase AI Logic.

  2. Kliknij Zarządzaj.

  3. Niżej na stronie kliknij kartę Limity przydziału i limity systemu.

  4. Przefiltruj tabelę, aby wyświetlić interesujące Cię limity, takie jak możliwości (żądania generowania treści) i region.

    Jeśli na przykład chcesz wyświetlić limity na użytkownika dotyczące generowania żądań treści w dowolnym z obsługiwanych regionów azjatyckich, filtr będzie wyglądać podobnie do tego: Generate content requests + Dimension:region:asia

  5. Zaznacz pole wyboru po lewej stronie każdego limitu, który Cię interesuje.

  6. Na końcu wiersza limitu kliknij , a następnie wybierz Edytuj limit.

  7. W formularzu Zmiany limitów wykonaj te czynności:

    1. W polu Nowa wartość wpisz zwiększony limit.

      Ten limit obowiązuje na poziomie projektu i jest współdzielony przez wszystkie aplikacje i adresy IP, które korzystają z tego projektu w Firebase.

    2. Wypełnij wszelkie dodatkowe pola w formularzu i kliknij Gotowe.

    3. Kliknij Prześlij prośbę.