|
Bu sayfada sağlayıcıya özgü içerikleri ve kodu görüntülemek için Gemini API sağlayıcınızı tıklayın. |
Hız sınırları (genellikle kota olarak adlandırılır), belirli bir zaman aralığında Gemini API'e gönderebileceğiniz istek sayısını düzenler. Bu sınırlar, adil bir kullanım sağlamaya, kötüye kullanıma karşı korumaya ve tüm kullanıcılar için sistem performansını korumaya yardımcı olur.
Gemini ve Imagen modellerine istek göndermek için Firebase AI Logic kullanırken projenizin ücret sınırları, seçtiğiniz "Gemini API" sağlayıcıya bağlıdır. Firebase AI Logic, "kullanıcı başına" ücret sınırlarını belirleme seçeneği de sunar.
Gemini Developer API için ücret sınırlarını görüntüleme
Oran sınırlarının (kotaların) işleyiş şekli
Hız sınırları (kotalar) dört boyutta ölçülür:
- Dakika başına istek sayısı (BGBG)
- Günlük istek sayısı (RPD)
- Dakika başına jeton (TPM)
- Günlük jeton sayısı (TPD)
Kullanımınız her sınıra göre değerlendirilir ve bu sınırlardan herhangi birini aşmanız 429 kota aşımı hatası tetikler. Örneğin, RPM sınırınız 20 ise TPM'nizi veya diğer sınırlarınızı aşmamış olsanız bile bir dakika içinde 21 istek göndermek hatayla sonuçlanır.
Hız sınırları proje düzeyinde uygulanır ve ilgili Firebase projesini kullanan tüm uygulamalar ve IP adresleri için geçerlidir.
Sınırlar, kullanılan modele bağlı olarak değişir ve bazı sınırlar yalnızca belirli modeller için geçerlidir. Örneğin, dakika başına resim sayısı (IPM) yalnızca resim oluşturabilen modeller (Imagen 3) için hesaplanır ancak kavramsal olarak TPM'ye benzer.
Deneysel ve önizleme modellerinde ücret sınırları daha kısıtlıdır.
İstek oranı sınırını artırma isteğinde bulunma
Gemini Developer API için "ücretli katmanda"ysanız hız sınırı artışı isteğinde bulunabilirsiniz.
"Kullanıcı başına" ücret sınırlarını ayarlama
Firebase AI Logic'ü kullanmak için projenizde seçtiğiniz Gemini API sağlayıcının etkinleştirilmesi gerekir. Ayrıca, istemci SDK'larımız ile Gemini API sağlayıcınız arasında bir ağ geçidi görevi gören Firebase AI Logic API'nin de etkinleştirilmesi gerekir. Bu API, Firebase projenizde Firebase AI Logic'ü ilk kez ayarlarken sizin için etkinleştirilir.
Firebase AI Logic API hız sınırını (kota), uygulamanız için "kullanıcı başına" hız sınırı olarak kullanabilirsiniz. Özellikle Firebase AI Logic'a dayalı yapay zeka özellikleri için bu yöntemi kullanabilirsiniz. Bu sınırı, yapay zeka özelliklerinize erişen tek bir kullanıcıyı makul bir şekilde barındıracak şekilde ayarlamanız gerekir. Ayrıca, tek bir kullanıcının Gemini API sağlayıcınızın sınırlarını aşmamasını (tüm kullanıcılarınız tarafından paylaşılması amaçlanmıştır) sağlamanız gerekir.
"Kullanıcı başına" ücret sınırı hakkında ayrıntılar
Firebase AI Logic API hız sınırları (kotalar) ve özellikle dakika başına istek sayısı (RPM) ile ilgili bazı önemli ayrıntıları aşağıda bulabilirsiniz:
Bu metrik, kullanıcı başına, bölge başına ve dakika başına "İçerik oluşturma isteği" sayısına dayanır ve modele dayanmaz.
Bu ayar proje düzeyinde geçerlidir ve ilgili Firebase projesini kullanan tüm uygulamalar ve IP adresleri için geçerlidir.
Özellikle herhangi bir Firebase AI Logic SDK'sından gelen tüm çağrılar için geçerlidir.
Varsayılan hız sınırı, kullanıcı başına 100 RPM'dir.
Gemini API sağlayıcınızın (yukarıya bakın) sınırlarını da dikkate almanız gerektiğini unutmayın. Bu sınırlar, Firebase AI Logic API'den önceliklidir.
"Kullanıcı başına" hız sınırını ayarlama
Hız sınırını (kota) ayarlamak için serviceusage.quotas.update iznine sahip olmanız gerekir. Bu izin, varsayılan olarak Sahip ve Düzenleyici rolüne dahildir.
Ücret sınırınızı (kota) düzenleme veya artış isteğinde bulunma işlemini aşağıdaki şekilde yapabilirsiniz:
Google Cloud konsolunda Firebase AI Logic API sayfasına gidin.
Yönet'i tıklayın.
Sayfanın alt kısmında Kotalar ve Sistem Sınırları sekmesini tıklayın.
Tabloyu, ilgilendiğiniz kotaları (ör. özellik (içerik oluşturma istekleri) ve bölge) gösterecek şekilde filtreleyin.
Örneğin, desteklenen Asya bölgelerinden herhangi birinde içerik isteği oluşturmayla ilgili kullanıcı başına kotaları görüntülemek için filtreniz şuna benzer:
Generate content requests+Dimension:region:asiaİlgilendiğiniz her kotanın solundaki onay kutusunu işaretleyin.
Kotanın satırının sonundaki simgesini tıklayın ve ardından Kotayı düzenle'yi seçin.
Kota değişiklikleri formunda aşağıdakileri yapın:
Artırılmış kotayı Yeni değer alanına girin.
Bu kota proje düzeyinde geçerlidir ve ilgili Firebase projesini kullanan tüm uygulamalar ve IP adresleri arasında paylaşılır.
Formdaki diğer alanları doldurup Bitti'yi tıklayın.
İstek gönder'i tıklayın.