Firebase AI Logic का इस्तेमाल करके, हाइब्रिड इन्फ़्रेंस की मदद से एआई की सुविधाओं वाले Apple ऐप्लिकेशन और सुविधाएं बनाई जा सकती हैं. हाइब्रिड इन्फ़्रेंस की मदद से, डिवाइस पर मौजूद मॉडल (खास तौर पर, Apple के Foundation Models फ़्रेमवर्क) का इस्तेमाल करके इन्फ़्रेंस चलाया जा सकता है. ऐसा तब होता है, जब ये मॉडल उपलब्ध हों. अगर ये मॉडल उपलब्ध नहीं हैं, तो क्लाउड पर होस्ट किए गए Google के मॉडल का इस्तेमाल किया जा सकता है. इसके उलट भी किया जा सकता है.
इस पेज पर, क्लाइंट एसडीके का इस्तेमाल शुरू करने का तरीका बताया गया है. इस स्टैंडर्ड सेटअप को पूरा करने के बाद, कॉन्फ़िगरेशन के अन्य विकल्प और सुविधाएं देखें.
ध्यान दें कि Firebase AI Logic के ज़रिए उपयोगकर्ता के डिवाइस पर अनुमान की सुविधा, Apple के उन ऐप्लिकेशन के लिए काम करती है जो Firebase AI Logic SDK टूल के 12.13.0 या इसके बाद के वर्शन का इस्तेमाल करते हैं. साथ ही, जो Apple Intelligence की सुविधा वाले डिवाइसों पर काम करते हैं. यह Apple के फ़ाउंडेशन मॉडल फ़्रेमवर्क के उचित इस्तेमाल की ज़रूरी शर्तों से नियंत्रित होता है.
कोड के उदाहरण देखने के लिए, यहां जाएं
इस्तेमाल के उदाहरण और उपलब्ध सुविधाएं
आपके ऐप्लिकेशन के इस्तेमाल के उदाहरणों के आधार पर, आपको उपयोगकर्ता के डिवाइस पर या हाइब्रिड अनुभवों के कई फ़ायदे मिल सकते हैं:
अनुमान लगाने के लिए, उपयोगकर्ता के डिवाइस पर मॉडल इस्तेमाल करने के फ़ायदे:
- बेहतर निजता
- लोकल कॉन्टेक्स्ट
- बिना किसी शुल्क के अनुमान लगाने की सुविधा
- ऑफ़लाइन काम करने की सुविधा
हाइब्रिड तरीके का इस्तेमाल करने के फ़ायदे:
- असली उपयोगकर्ता के डिवाइस के हिसाब से, ऐप्लिकेशन इस्तेमाल करने का एक जैसा अनुभव देना
- इंटरनेट कनेक्टिविटी, कोटा की सीमाओं या डिवाइस की क्षमताओं की परवाह किए बिना, जनरेटिव एआई की सुविधाओं की उपलब्धता को बेहतर बनाना
उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा
उपयोगकर्ता के डिवाइस पर मौजूद अनुमान लगाने की सुविधा, सिर्फ़ टेक्स्ट जनरेट करने के लिए काम करती है. खास तौर पर, इन सुविधाओं के लिए:
सिर्फ़ टेक्स्ट वाले इनपुट से जनरेट किए गए टेक्स्ट को स्ट्रीम करना.
स्ट्रक्चर्ड आउटपुट जनरेट करना. इसमें JSON और enum शामिल हैं. (दस्तावेज़ जल्द ही उपलब्ध होंगे!)
इस पेज पर सबसे नीचे मौजूद, हाइब्रिड या ऑन-डिवाइस इन्फ़्रेंस के लिए अब तक काम न करने वाली सुविधाओं की सूची ज़रूर देखें.
इस्तेमाल किए जा सकने वाले एपीआई और डिवाइस
यहां दिए गए सेक्शन में, इस्तेमाल किए जा सकने वाले एपीआई के साथ-साथ, इस्तेमाल किए जा सकने वाले डिवाइसों (और उनके ऑन-डिवाइस मॉडल) के बारे में बताया गया है.
क्लाउड में और उपयोगकर्ता के डिवाइस पर अनुमान लगाने के लिए इस्तेमाल किए जा सकने वाले एपीआई
क्लाउड में अनुमान लगाने की सुविधा, आपके चुने गए Gemini API प्रोवाइडर (Gemini Developer API या Agent Platform Gemini API (formerly Vertex AI)) का इस्तेमाल करती है.
उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा, Apple के फ़ाउंडेशन मॉडल फ़्रेमवर्क का इस्तेमाल करती है. यह सुविधा सिर्फ़ उन डिवाइसों पर उपलब्ध है जिन पर Apple Intelligence की सुविधा चालू है. Apple Intelligence की सुविधा चालू होने पर, उपयोगकर्ता के डिवाइस पर मौजूद मॉडल अपने-आप डाउनलोड हो जाता है.
Apple के ऐसे डिवाइस जिन पर Gemini की सुविधा काम करती है और उन पर उपलब्ध ऑन-डिवाइस मॉडल
उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा के लिए, Apple के Foundation Models फ़्रेमवर्क का इस्तेमाल किया जाता है. इस सुविधा के लिए, Apple Intelligence की सुविधा वाले डिवाइसों की सूची, Apple के दस्तावेज़ में देखी जा सकती है.
शुरू करें
शुरू करने के इन चरणों में, काम करने वाले किसी भी प्रॉम्प्ट अनुरोध को भेजने के लिए ज़रूरी सामान्य सेटअप के बारे में बताया गया है.
पहला चरण: Firebase प्रोजेक्ट सेट अप करना और अपने ऐप्लिकेशन को Firebase से कनेक्ट करना
Firebase कंसोल में साइन इन करें. इसके बाद, अपना Firebase प्रोजेक्ट चुनें.
Firebase कंसोल में, एआई सेवाएं > एआई लॉजिक पर जाएं.
शुरू करें पर क्लिक करके, निर्देशों वाला वर्कफ़्लो लॉन्च करें. इससे आपको अपने प्रोजेक्ट के लिए, ज़रूरी एपीआई और संसाधन सेट अप करने में मदद मिलेगी.
अगर कहा जाए, तो स्क्रीन पर दिए गए निर्देशों का पालन करके अपना ऐप्लिकेशन रजिस्टर करें और अपने ऐप्लिकेशन में Firebase कॉन्फ़िगरेशन जोड़ें.
"Gemini API की सेवा देने वाली कंपनी" चुनने के लिए कहे जाने पर, हमारा सुझाव है कि आप Gemini Developer API को चुनें. इससे आपको बिना किसी शुल्क के तुरंत शुरुआत करने में मदद मिलती है.
इसके बाद, किसी भी समय Agent Platform Gemini API (formerly Vertex AI) को सेट अप किया जा सकता है. साथ ही, बिलिंग के लिए ज़रूरी जानकारी भी जोड़ी जा सकती है.
Firebase AI Logic के लिए ज़रूरी एपीआई और उनसे जुड़ी सेवाओं को सेट अप करने के लिए, वर्कफ़्लो में आगे बढ़ें.
वर्कफ़्लो का यह चरण, AI Logic के लिए Firebase App Check को अपने-आप लागू करता है. यह एक ज़रूरी सेवा है, जो आपके ऐप्लिकेशन से सीधे ऐक्सेस किए जाने पर Gemini API को सुरक्षित रखने में मदद करती है. शुरू करने के लिए (इस गाइड में बाद में दिए गए चरण देखें), आपको लोकल डेवलपमेंट के लिए App Check डीबग प्रोवाइडर को कॉन्फ़िगर करना होगा. ऐसा तब करना होगा, जब App Check को लागू किया गया हो.
अपने ऐप्लिकेशन में ज़रूरी एसडीके जोड़ने के लिए, इस गाइड में दिए गए अगले चरण पर जाएं.
दूसरा चरण: ज़रूरी एसडीके जोड़ना
Xcode डिपेंडेंसी इंस्टॉल और मैनेज करने के लिए, Swift Package Manager (SPM) का इस्तेमाल करें. हाइब्रिड सपोर्ट सिर्फ़ SPM का इस्तेमाल करने पर उपलब्ध होता है.
Firebase AI Logic लाइब्रेरी, जनरेटिव मॉडल के साथ इंटरैक्ट करने के लिए एपीआई का ऐक्सेस देती है. यह लाइब्रेरी, Apple प्लैटफ़ॉर्म (firebase-ios-sdk) के लिए Firebase SDK के हिस्से के तौर पर शामिल की गई है.
अगर पहले से ही Firebase का इस्तेमाल किया जा रहा है, तो पक्का करें कि आपके Firebase पैकेज का वर्शन 12.13.0 या इसके बाद का हो.
Xcode में, अपना ऐप्लिकेशन प्रोजेक्ट खोलें. इसके बाद, File > Add Package Dependencies पर जाएं.
प्रॉम्प्ट मिलने पर, Firebase Apple प्लैटफ़ॉर्म SDK टूल की रिपॉज़िटरी जोड़ें:
https://github.com/firebase/firebase-ios-sdkएसडीके का सबसे नया वर्शन चुनें.
FirebaseAILogicऔरFirebaseAppCheckलाइब्रेरी चुनें.
इसके बाद, Xcode बैकग्राउंड में आपकी डिपेंडेंसी से जुड़ी समस्या को हल करना और उन्हें डाउनलोड करना शुरू कर देगा.
तीसरा चरण: लोकल डेवलपमेंट के लिए, App Check डीबग प्रोवाइडर को कॉन्फ़िगर करना
कंसोल में AI Logic के लिए, सेटअप वर्कफ़्लो के तहत, Gemini API को सुरक्षित रखने के लिए Firebase App Check को अपने-आप लागू किया जाता है. लोकल डेवलपमेंट के लिए, आपको App Check डीबग प्रोवाइडर को कॉन्फ़िगर करना होगा, ताकि पुष्टि की प्रोसेस को बायपास किया जा सके. हालांकि, इस दौरान App Check को लागू करना जारी रखा जा सकता है.
सिम्युलेटर में ऐप्लिकेशन को इंटरैक्टिव तरीके से चलाने के दौरान, डीबग प्रोवाइडर का इस्तेमाल करने का तरीका यहां बताया गया है. उदाहरण के लिए, लोकल डेवलपमेंट के दौरान:
अपने Xcode प्रोजेक्ट में,
FirebaseAppCheckको इंपोर्ट करें. इसके बाद,Firebaseको कॉन्फ़िगर करने से पहले, डीबग प्रोवाइडर फ़ैक्ट्री की मदद से App Check को शुरू करें.import SwiftUI import FirebaseCore import FirebaseAppCheck @main struct YourApp: App { init() { let providerFactory = AppCheckDebugProviderFactory() AppCheck.setAppCheckProviderFactory(providerFactory) FirebaseApp.configure() } var body: some Scene { WindowGroup { NavigationView { ContentView() } } } }अपना डीबग टोकन पाना:
सिम्युलेटर या टेस्ट डिवाइस पर अपना ऐप्लिकेशन लॉन्च करें.
Xcode कंसोल खोलें और App Check डीबग टोकन ढूंढें. उदाहरण के लिए:
<Warning> [AppCheckCore][I-GAC004001] App Check debug token: '123a4567-b89c-12d3-e456-789012345678'.टोकन को कॉपी करें (उदाहरण के लिए,
123a4567-b89c-12d3-e456-789012345678).
App Check पर अपना डीबग टोकन रजिस्टर करें:
Firebase कंसोल में, सुरक्षा > App Check > ऐप्लिकेशन टैब पर जाएं.
अपना ऐप्लिकेशन ढूंढें और ओवरफ़्लो मेन्यू () पर क्लिक करें. इसके बाद, डीबग टोकन मैनेज करें को चुनें.
डीबग टोकन को रजिस्टर करने के लिए, स्क्रीन पर दिए गए निर्देशों का पालन करें.
डीबग प्रोवाइडर के बारे में ज़्यादा जानकारी के लिए, आधिकारिक App Check दस्तावेज़ देखें. इसमें नया डीबग टोकन पाने का तरीका भी बताया गया है.
चौथा चरण: सेवा को शुरू करना और मॉडल सेशन का इंस्टेंस बनाना
|
इस पेज पर, सेवा देने वाली कंपनी के हिसाब से कॉन्टेंट और कोड देखने के लिए, Gemini API की सेवा देने वाली कंपनी पर क्लिक करें. |
मॉडल को प्रॉम्प्ट का अनुरोध भेजने से पहले, ये सेट अप करें.
Gemini API की सेवा देने वाली चुनी गई कंपनी के लिए, सेवा को चालू करें.
HybridModelकी मदद सेGenerativeModelSessionइंस्टेंस बनाएं.अपनी पसंद के हिसाब से
primaryऔरsecondaryमॉडल सेट करें. अनुमान लगाने के क्रम को सेट किया जा सकता है:सबसे पहले, उपयोगकर्ता के डिवाइस पर अनुमान लगाने की कोशिश करें, लेकिन ज़रूरत पड़ने पर क्लाउड पर मौजूद मॉडल का इस्तेमाल करने की अनुमति दें:
primaryको "सिस्टम" मॉडल पर औरsecondaryको क्लाउड मॉडल पर सेट करें.सबसे पहले, क्लाउड पर अनुमान लगाने की कोशिश करें. हालांकि, अगर यह काम न करे, तो उपयोगकर्ता के डिवाइस पर अनुमान लगाने की अनुमति दें:
primaryको क्लाउड मॉडल पर औरsecondaryको "सिस्टम" मॉडल पर सेट करें.
ध्यान दें कि SDK टूल, सिर्फ़ एक
modelको सेट करने की सुविधा देता है. इसका मतलब है कि SDK टूल, सिर्फ़ उपयोगकर्ता के डिवाइस पर या इन-क्लाउड अनुमान लगाने की कोशिश करेगा. हालांकि, हाइब्रिड अनुभव के लिए, आपकोHybridModelबनाना होगा. साथ ही,primaryऔरsecondary, दोनों मॉडल सेट करने होंगे.कॉन्फ़िगरेशन के विकल्पों में, "अनुमान वाले मोड" (अनुमान लगाने की कोशिश का क्रम) के काम करने के तरीके के बारे में ज़्यादा जानें.
यहां दिए गए उदाहरण में, पहले उपयोगकर्ता के डिवाइस पर अनुमान लगाने की कोशिश करने का तरीका बताया गया है. हालांकि, इसमें क्लाउड पर होस्ट किए गए मॉडल पर वापस जाने की अनुमति दी गई है:
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Initialize a cloud model that supports your use case.
let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
// Initialize an on-device model that supports your use case.
let systemModel = FirebaseAI.SystemLanguageModel.default
// Create a Hybrid Model.
// Provide your preferred model as `primary` and your fallback model as `secondary`.
// In this example, attempt to use on-device model; otherwise, fall back to cloud.
let hybridModel = HybridModel(
primary: systemModel,
secondary: cloudModel
)
// Create a GenerativeModelSession with the HybridModel created earlier.
let session = firebaseAI.generativeModelSession(
model: hybridModel,
)
पांचवां चरण: किसी मॉडल को प्रॉम्प्ट का अनुरोध भेजना
इस सेक्शन में, आपको ये काम करने का तरीका बताया गया है:
- सिर्फ़ टेक्स्ट वाले इनपुट से टेक्स्ट जनरेट करना
- सिर्फ़ टेक्स्ट वाले इनपुट से जनरेट किए गए टेक्स्ट को स्ट्रीम करना
सिर्फ़ टेक्स्ट वाले इनपुट से टेक्स्ट जनरेट करना
| इस सैंपल को आज़माने से पहले, पक्का करें कि आपने इस गाइड का शुरू करें सेक्शन पूरा कर लिया हो. |
टेक्स्ट वाले प्रॉम्प्ट से टेक्स्ट जनरेट करने के लिए, respond(to:) का इस्तेमाल करें. जैसे:
// Imports + initialization of Gemini API backend service + creation of model session
// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."
// To generate text output, call `respond(to:)` with the text input
let response = try await session.respond(to: prompt)
print(response.content)
सिर्फ़ टेक्स्ट वाले इनपुट से जनरेट किए गए टेक्स्ट को स्ट्रीम करना
| इस सैंपल को आज़माने से पहले, पक्का करें कि आपने इस गाइड का शुरू करें सेक्शन पूरा कर लिया हो. |
मॉडल से पूरा नतीजा मिलने का इंतज़ार करने के बजाय, स्ट्रीमिंग का इस्तेमाल करके अधूरे नतीजों को हैंडल किया जा सकता है. इससे इंटरैक्शन तेज़ी से किए जा सकते हैं. टेक्स्ट वाले प्रॉम्प्ट से जनरेट किए गए टेक्स्ट को स्ट्रीम करने के लिए, streamResponse(to:) का इस्तेमाल करें. जैसे:
// Imports + initialization of Gemini API backend service + creation of model session
// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."
// To stream generated text output, call `streamResponse(to:)` with the text input
let stream = session.streamResponse(to: prompt)
for try await snapshot in stream {
print(snapshot.content)
}
तुम और क्या कर सकती हो?
हाइब्रिड अनुभव के लिए, कॉन्फ़िगरेशन के कई अन्य विकल्प और सुविधाएं इस्तेमाल की जा सकती हैं:
देखें कि उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध है या नहीं.
यह तय करना कि अनुमान लगाने के लिए किस मॉडल का इस्तेमाल किया गया था.
जवाबों को कंट्रोल करने के लिए, मॉडल कॉन्फ़िगरेशन का इस्तेमाल करना.
ऐसी सुविधाएं जो फ़िलहाल उपलब्ध नहीं हैं
एक्सपेरिमेंट के तौर पर रिलीज़ किए गए इस वर्शन में, क्लाउड पर होस्ट किए गए मॉडल या Firebase AI Logic SDK टूल की सभी केपबिलिटी, हाइब्रिड या उपयोगकर्ता के डिवाइस पर अनुमान लगाने के लिए उपलब्ध नहीं हैं.
हाइब्रिड तरीके से लागू करने पर, ये सुविधाएं काम नहीं करतीं
हाइब्रिड तरीके से लागू करने पर, इन सुविधाओं का इस्तेमाल नहीं किया जा सकता. भले ही, उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल किया जा रहा हो या क्लाउड फ़ॉलबैक का:
Gemini Live API: दोनों तरफ़ से रीयल-टाइम में स्ट्रीमिंग की सुविधा काम नहीं करती.
सर्वर प्रॉम्प्ट टेंप्लेट: मैनेज किए जा रहे सर्वर प्रॉम्प्ट टेंप्लेट का इस्तेमाल नहीं किया जा सकता.
टोकन की संख्या: टोकन की संख्या पर भरोसा नहीं किया जाना चाहिए, क्योंकि क्लाउड पर होस्ट किए गए मॉडल और उपयोगकर्ता के डिवाइस पर मौजूद मॉडल के बीच टोकन की संख्या अलग-अलग होगी. इसलिए, कोई आसान फ़ॉलबैक नहीं है.
उपयोगकर्ता के डिवाइस पर अनुमान लगाने के लिए, फ़िलहाल ये सुविधाएं उपलब्ध नहीं हैं
उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा के लिए, फ़िलहाल ये सुविधाएं उपलब्ध नहीं हैं. हालांकि, ये सुविधाएं क्लाउड पर होस्ट किए गए मॉडल के लिए उपलब्ध हैं.
इमेज, ऑडियो या वीडियो जैसा मीडिया जनरेट करना
इमेज, ऑडियो, वीडियो, और दस्तावेज़ों (PDF) के मल्टीमॉडल इनपुट से टेक्स्ट जनरेट करना
ऐसे अनुरोध भेजना जिनमें 4,096 से ज़्यादा टोकन (या अंग्रेज़ी के करीब 3,000 शब्द) हों
उपयोगकर्ता के डिवाइस पर मौजूद मॉडल को पहले से मौजूद टूल उपलब्ध कराना, ताकि वह जवाब जनरेट कर सके. जैसे, कोड एक्ज़ीक्यूशन, यूआरएल कॉन्टेक्स्ट,
Google Search के साथ भरोसेमंद स्रोतों से जानकारी लेने की सुविधा, औरGoogle Maps के साथ भरोसेमंद स्रोतों से जानकारी लेने की सुविधा. हालांकि, फ़ंक्शन कॉलिंग का इस्तेमाल करके अपने टूल उपलब्ध कराए जा सकते हैं.Firebase कंसोल में एआई मॉनिटरिंग की सुविधा, उपयोगकर्ता के डिवाइस पर मौजूद अनुमान (इसमें डिवाइस लॉग भी शामिल हैं) के लिए कोई डेटा नहीं दिखाती है. हालांकि, क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करने वाले किसी भी अनुमान को, Firebase AI Logic की मदद से अन्य अनुमानों की तरह ही मॉनिटर किया जा सकता है.
अन्य सीमाएं
ऊपर बताई गई सीमाओं के अलावा, उपयोगकर्ता के डिवाइस पर अनुमान लगाने की ये सीमाएं भी हैं:
आपके ऐप्लिकेशन के असली उपयोगकर्ता को Apple Intelligence की सुविधा वाले डिवाइस का इस्तेमाल करना होगा.
आपका ऐप्लिकेशन, उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा का इस्तेमाल सिर्फ़ तब कर सकता है, जब वह फ़ोरग्राउंड में हो.
Firebase AI Logic के साथ अपने अनुभव के बारे में सुझाव/राय देना या शिकायत करना