इस पेज पर, हाइब्रिड अनुभवों के लिए कॉन्फ़िगरेशन के इन विकल्पों के बारे में बताया गया है:
यह तय करना कि उपयोगकर्ता के डिवाइस पर या इन-क्लाउड अनुमान का इस्तेमाल किया गया था या नहीं.
जवाबों को कंट्रोल करने के लिए, मॉडल कॉन्फ़िगरेशन का इस्तेमाल करना.
JSON और enum जैसे स्ट्रक्चर्ड आउटपुट भी जनरेट किए जा सकते हैं.
पक्का करें कि आपने हाइब्रिड अनुभव बनाने के लिए शुरुआती निर्देश को पूरा कर लिया हो.
अनुमान वाला मोड सेट करना
शुरुआती निर्देश में दिए गए उदाहरणों से पता चलता है कि पहले उपयोगकर्ता के डिवाइस पर मौजूद मॉडल से अनुमान लगाने की कोशिश कैसे की जाती है. इसके बाद, क्लाउड पर होस्ट किए गए मॉडल (PREFER_ON_DEVICE मोड) पर कैसे स्विच किया जाता है. हालांकि, यह उपलब्ध अनुमान वाले मोड में से सिर्फ़ एक है.
PREFER_ON_DEVICE: अगर डिवाइस पर मौजूद मॉडल उपलब्ध है, तो उसका इस्तेमाल करें. अगर ऐसा नहीं है, तो क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करें.const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });ONLY_ON_DEVICE: अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध है, तो उसका इस्तेमाल करें. अगर ऐसा नहीं है, तो कोई अपवाद दिखाएं.const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });PREFER_IN_CLOUD: अगर क्लाउड-होस्टेड मॉडल उपलब्ध है, तो उसका इस्तेमाल करें; नहीं तो, उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करें.const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });ONLY_IN_CLOUD: अगर क्लाउड पर होस्ट किया गया मॉडल उपलब्ध है, तो उसका इस्तेमाल करें. अगर ऐसा नहीं है, तो कोई अपवाद दिखाएं.const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
यह तय करना कि उपयोगकर्ता के डिवाइस पर या क्लाउड में अनुमान का इस्तेमाल किया गया था या नहीं
अगर PREFER_ON_DEVICE या PREFER_IN_CLOUD अनुमान वाले मोड का इस्तेमाल किया जाता है, तो यह जानना मददगार हो सकता है कि दिए गए अनुरोधों के लिए किस मोड का इस्तेमाल किया गया था. यह जानकारी, हर रिस्पॉन्स की inferenceSource प्रॉपर्टी से मिलती है. यह JS SDK टूल के v12.5.0 और इसके बाद के वर्शन में उपलब्ध है.
इस प्रॉपर्टी को ऐक्सेस करने पर, आपको ON_DEVICE या IN_CLOUD वैल्यू मिलेगी.
// ...
console.log('You used: ' + result.response.inferenceSource);
console.log(result.response.text());
डिफ़ॉल्ट फ़ॉलबैक मॉडल को बदलना
क्लाउड पर होस्ट किया गया डिफ़ॉल्ट मॉडल
gemini-3.5-flash-lite
PREFER_ON_DEVICE मोड का इस्तेमाल करने पर, यह मॉडल क्लाउड पर होस्ट किए गए फ़ॉलबैक मॉडल के तौर पर काम करता है. ONLY_IN_CLOUD मोड या PREFER_IN_CLOUD मोड का इस्तेमाल करने पर, यह डिफ़ॉल्ट मॉडल के तौर पर भी काम करता है.
inCloudParams
कॉन्फ़िगरेशन विकल्प का इस्तेमाल करके, क्लाउड पर होस्ट किया गया कोई दूसरा डिफ़ॉल्ट मॉडल तय किया जा सकता है.
const model = getGenerativeModel(ai, {
mode: InferenceMode.INFERENCE_MODE,
inCloudParams: {
model: "GEMINI_MODEL_NAME"
}
});
सहायता पाने वाले सभी Gemini मॉडल के नाम ढूँढें.
जवाबों को कंट्रोल करने के लिए, मॉडल कॉन्फ़िगरेशन का इस्तेमाल करना
किसी मॉडल को किए जाने वाले हर अनुरोध में, मॉडल कॉन्फ़िगरेशन भेजा जा सकता है. इससे यह कंट्रोल किया जा सकता है कि मॉडल जवाब कैसे जनरेट करे. क्लाउड पर होस्ट किए गए मॉडल और उपयोगकर्ता के डिवाइस पर मॉडल, कॉन्फ़िगरेशन के अलग-अलग विकल्प देते हैं.
कॉन्फ़िगरेशन को इंस्टेंस के लाइफ़टाइम के लिए बनाए रखा जाता है. अगर आपको किसी दूसरे कॉन्फ़िगरेशन का इस्तेमाल करना है, तो उस कॉन्फ़िगरेशन के साथ एक नया GenerativeModel इंस्टेंस बनाएं.
क्लाउड पर होस्ट किए गए मॉडल को कॉन्फ़िगर करना
क्लाउड पर होस्ट किए गए Gemini मॉडल को कॉन्फ़िगर करने के लिए,
inCloudParams
विकल्प का इस्तेमाल करें. उपलब्ध पैरामीटर के बारे में जानें.
const model = getGenerativeModel(ai, {
mode: InferenceMode.INFERENCE_MODE,
inCloudParams: {
model: "GEMINI_MODEL_NAME",
generationConfig: {
maxOutputTokens: 200,
stopSequences: ["red"]
}
}
});
उपयोगकर्ता के डिवाइस पर मौजूद मॉडल को कॉन्फ़िगर करना
ध्यान दें कि डिवाइस पर मौजूद मॉडल का इस्तेमाल करके अनुमान लगाने के लिए, Chrome के Prompt API का इस्तेमाल किया जाता है.
उपयोगकर्ता के डिवाइस पर मौजूद मॉडल को कॉन्फ़िगर करने के लिए, onDeviceParams विकल्प का इस्तेमाल करें. उपलब्ध पैरामीटर के बारे में जानें.
const model = getGenerativeModel(ai, {
mode: InferenceMode.INFERENCE_MODE,
onDeviceParams: {
createOptions: {
expectedInputs: [{ type: "text", languages: ["en"] }],
expectedOutputs: [{ type: "text", languages: ["en"] }],
initialPrompts: [
{ role: "system", content: [{ type: "text", value: "You are a helpful and concise assistant." }] }
]
}
}
});
Firebase AI Logic के साथ अपने अनुभव के बारे में सुझाव/राय देना या शिकायत करना