אפשרויות הגדרה של חוויות היברידיות באפליקציות אינטרנט

בדף הזה מתוארות אפשרויות ההגדרה הבאות:

• הגדרת מצב היסק

• שינוי מודל ברירת המחדל החלופי שמתארח בענן

• שימוש בהגדרות המודל כדי לשלוט בתשובות

אפשר גם ליצור פלט מובנה, כולל JSON וטיפוסי enum.

לפני שמתחילים

מוודאים שסיימתם את השלבים במדריך לתחילת העבודה עם חוויות היברידיות.

הגדרת מצב היסק

הדוגמאות במדריך לתחילת הדרך משתמשות במצב PREFER_ON_DEVICE, אבל זה רק אחד מארבעת מצבי ההיסק הזמינים.

• ‫PREFER_ON_DEVICE: שימוש במודל במכשיר אם הוא זמין, ואם לא, חזרה למודל שמתארח בענן.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ‫ONLY_ON_DEVICE: שימוש במודל במכשיר אם הוא זמין, אחרת הפעלת חריגה.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• ‫PREFER_IN_CLOUD: שימוש במודל שמתארח בענן אם הוא זמין, ואם לא, חזרה למודל במכשיר.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ‫ONLY_IN_CLOUD: שימוש במודל שמתארח בענן אם הוא זמין, אחרת הצגת חריגה.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

איך לקבוע אם נעשה שימוש בהסקת מסקנות במכשיר או בענן

אם אתם משתמשים במצבי ההיסק PREFER_ON_DEVICE או PREFER_IN_CLOUD, יכול להיות שתרצו לדעת באיזה מצב נעשה שימוש בבקשות מסוימות. המידע הזה מסופק על ידי המאפיין inferenceSource של כל תשובה (זמין החל מ-JS SDK בגרסה 12.5.0).

כשניגשים למאפיין הזה, הערך שמוחזר הוא ON_DEVICE או IN_CLOUD.

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

שינוי מודל ברירת המחדל החלופי

מודל ברירת המחדל שמתארח בענן הוא gemini-3.5-flash-lite (החל מ-JS SDK בגרסה 13.0.0).

המודל הזה הוא המודל החלופי שמתארח בענן כשמשתמשים במצב PREFER_ON_DEVICE. זה גם המודל שמוגדר כברירת מחדל כשמשתמשים במצב ONLY_IN_CLOUD או במצב PREFER_IN_CLOUD.

אפשר להשתמש באפשרות ההגדרה inCloudParams כדי לציין מודל חלופי שמתארח בענן כברירת מחדל.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

שמות המודלים של Gemini שנתמכים.

שימוש בהגדרות המודל כדי לשלוט בתשובות

בכל בקשה למודל, אתם יכולים לשלוח הגדרות אישיות כדי לקבוע איך המודל ייצור את התשובה. למודלים שמתארחים בענן ולמודלים במכשיר יש אפשרויות הגדרה שונות.

ההגדרה נשמרת לאורך כל חיי המכונה. כדי להשתמש בהגדרות אישיות אחרות, צריך ליצור מופע חדש של GenerativeModel עם ההגדרות האישיות האלה.

הגדרת מודל שמתארח בענן

משתמשים באפשרות inCloudParams כדי להגדיר מודל Gemini שמתארח בענן. מידע על הפרמטרים הזמינים

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME",
    generationConfig: {
      maxOutputTokens: 200,
      stopSequences: ["red"]
    }
  }
});

הגדרת המודל במכשיר

שימו לב שההסקה באמצעות מודל במכשיר משתמשת ב-Prompt API מ-Chrome.

משתמשים באפשרות onDeviceParams כדי להגדיר מודל במכשיר. מידע על הפרמטרים הזמינים

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      expectedInputs: [{ type: "text", languages: ["en"] }],
      expectedOutputs: [{ type: "text", languages: ["en"] }],
      initialPrompts: [
        { role: "system", content: [{ type: "text", value: "You are a helpful and concise assistant." }] }
      ]
    }
  }
});

שליחת משוב על חוויית השימוש ב-Firebase AI Logic