|
Kliknij dostawcę Gemini API, aby wyświetlić na tej stronie treści i kod dostawcy. |
Limity częstotliwości (zwane zwykle limitami) regulują liczbę żądań, które możesz wysyłać do Gemini API w określonym przedziale czasu. Te limity pomagają zapewnić sprawiedliwe korzystanie z usługi, chronić przed nadużyciami i utrzymywać wydajność systemu dla wszystkich użytkowników.
Gdy używasz Firebase AI Logic do wysyłania żądań do modeli Gemini i Imagen, limity szybkości projektu zależą od wybranego dostawcy „Gemini API”. Firebase AI Logic umożliwia też ustawianie limitów liczby wiadomości na użytkownika.
Wyświetlanie limitów żądań dla Gemini Developer API
Jak działają limity (limity wykorzystania)
Limity szybkości (limity) są mierzone w 4 wymiarach:
- Żądania na minutę (RPM)
- Żądania dziennie (RPD)
- Tokeny na minutę (TPM)
- Tokeny dziennie (TPD)
Wykorzystanie jest oceniane pod kątem każdego limitu, a przekroczenie któregokolwiek z nich spowoduje błąd 429 (przekroczono limit). Jeśli na przykład limit zapytań na minutę wynosi 20, wykonanie 21 zapytań w ciągu minuty spowoduje błąd, nawet jeśli nie przekroczysz limitu zapytań na miesiąc ani innych limitów.
Limity liczby żądań są stosowane na poziomie projektu i dotyczą wszystkich aplikacji oraz adresów IP, które korzystają z tego projektu Firebase.
Limity różnią się w zależności od używanego modelu, a niektóre z nich dotyczą tylko określonych modeli. Na przykład liczba obrazów na minutę (IPM) jest obliczana tylko w przypadku modeli, które potrafią generować obrazy (Imagen 3), ale jest podobna do liczby tokenów na minutę.
W przypadku modeli eksperymentalnych i wersji testowych limity są bardziej restrykcyjne.
Wysyłanie prośby o zwiększenie limitu częstotliwości
Jeśli korzystasz z Gemini Developer API w ramach „płatnego pakietu”, możesz poprosić o zwiększenie limitu.
Ustawianie limitów „na użytkownika”
Aby korzystać z Firebase AI Logic, musisz mieć włączonego wybranego dostawcę Gemini API, ale także włączony interfejs Firebase AI Logic API, który działa jako brama między naszymi pakietami SDK klienta a dostawcą Gemini API. Ten interfejs API jest włączany podczas wstępnej konfiguracji usługi Firebase AI Logic w projekcie Firebase.
Możesz używać limitu liczby żądań interfejsu API (limitu) jako limitu liczby żądań „na użytkownika” w przypadku aplikacji, zwłaszcza w odniesieniu do funkcji AI, które korzystają z Firebase AI Logic.Firebase AI Logic Ustaw ten limit na poziomie, który umożliwi jednemu użytkownikowi korzystanie z funkcji AI, a jednocześnie zapewni, że żaden użytkownik nie przekroczy limitów dostawcy Gemini API (które są przeznaczone dla wszystkich użytkowników).
Szczegóły limitu „na użytkownika”
Oto kilka ważnych informacji o limitach żądań interfejsu Firebase AI Logic API, a w szczególności o żądaniach na minutę:
Jest ona obliczana na podstawie „Żądań generowania treści” na użytkownika, region i minutę i nie zależy od modelu.
Obowiązuje na poziomie projektu i dotyczy wszystkich aplikacji oraz adresów IP, które korzystają z tego projektu Firebase.
Dotyczy to każdego wywołania, które pochodzi z dowolnego pakietu SDK.Firebase AI Logic
Domyślny limit to 100 wywołań na minutę na użytkownika.
Pamiętaj, że nadal musisz uwzględniać limity swojego dostawcy Gemini API (patrz wyżej), które mają pierwszeństwo przed interfejsem Firebase AI Logic API.
Dostosowywanie limitu „na użytkownika”
Aby dostosować limit (kwotę), musisz mieć uprawnienie serviceusage.quotas.update, które jest domyślnie zawarte w rolach Właściciel i Edytujący.
Aby edytować limit szybkości (limit) lub poprosić o jego zwiększenie:
W konsoli Google Cloud otwórz stronę interfejsu Firebase AI Logic API.
Kliknij Zarządzaj.
W dalszej części strony kliknij kartę Limity przydziału i limity systemu.
Przefiltruj tabelę, aby wyświetlić interesujące Cię limity, np. dotyczące możliwości (żądania generowania treści) i regionu.
Jeśli na przykład chcesz wyświetlić limity żądań generowania treści dla poszczególnych użytkowników w dowolnym z obsługiwanych regionów Azji, Twój filtr będzie wyglądać podobnie do tego:
.Generate content requests+Dimension:region:asiaZaznacz pole wyboru po lewej stronie każdego limitu, który Cię interesuje.
Na końcu wiersza limitu kliknij , a następnie wybierz Edytuj limit.
W formularzu Zmiany limitów wykonaj te czynności:
W polu Nowa wartość wpisz zwiększony limit.
Ten limit jest stosowany na poziomie projektu i jest wspólny dla wszystkich aplikacji i adresów IP, które korzystają z tego projektu Firebase.
Wypełnij wszelkie dodatkowe pola w formularzu i kliknij Gotowe.
Kliknij Prześlij prośbę.