Tworzenie hybrydowych funkcji w aplikacjach Apple za pomocą modeli na urządzeniu i hostowanych w chmurze

Za pomocą Firebase AI Logic możesz tworzyć oparte na AI aplikacje i funkcje Apple z wnioskowaniem hybrydowym. Wnioskowanie hybrydowe umożliwia wnioskowanie za pomocą modeli na urządzeniu (w szczególności frameworka Foundation Models firmy Apple), gdy są one dostępne, i płynne przełączanie się na modele Google hostowane w chmurze (i odwrotnie).

Na tej stronie dowiesz się, jak zacząć korzystać z pakietu SDK klienta, oraz poznasz dodatkowe opcje konfiguracji i możliwości, takie jak temperatura.

Pamiętaj, że wnioskowanie na urządzeniu za pomocą Firebase AI Logic jest obsługiwane w przypadku aplikacji Apple korzystających z pakietu SDK Firebase AI Logic w wersji 12.13.0 lub nowszej i działających na urządzeniach z włączoną funkcją Apple Intelligence. Podlega ono wymaganiom dotyczącym dopuszczalnego użytkowania frameworka Foundation Models firmy Apple.

Zalecane przypadki użycia

  • Korzystanie z modelu na urządzeniu do wnioskowania zapewnia:

    • większą prywatność,
    • bezpłatne wnioskowanie,
    • funkcje offline.

  • Korzystanie z funkcji hybrydowych zapewnia:

    • podobne wrażenia z aplikacji dla wszystkich klientów niezależnie od urządzenia użytkownika,
    • większą dostępność funkcji opartych na generatywnej AI niezależnie od połączenia z internetem, ograniczeń przydziału i możliwości urządzenia.

Obsługiwane funkcje, interfejsy API i urządzenia

Zanim wdrożysz wnioskowanie hybrydowe i na urządzeniu za pomocą Firebase AI Logic, zapoznaj się z tą sekcją, aby dowiedzieć się, co jest obsługiwane w przypadku aplikacji Apple.

Obsługiwane funkcje i możliwości wnioskowania na urządzeniu

Wnioskowanie na urządzeniu obsługuje tylko generowanie tekstu, a konkretnie te funkcje generowania tekstu:

Zapoznaj się ze szczegółową listą funkcji wnioskowania hybrydowego lub na urządzeniu, które nie są jeszcze obsługiwane , na dole tej strony.

Obsługiwane interfejsy API i urządzenia

Rozpocznij

Upewnij się, że zapoznałeś(-aś) się z sekcją powyżej, w której opisujemy obsługiwane funkcje, interfejsy API i urządzenia.

Te instrukcje dotyczące pierwszych kroków opisują ogólną konfigurację wymaganą w przypadku każdego obsługiwanego żądania prompta, które chcesz wysłać.

Krok 1. Skonfiguruj projekt Firebase i połącz aplikację z Firebase

  1. Zaloguj się w konsoli Firebase, i wybierz projekt Firebase.

  2. W konsoli Firebase otwórz Usługi AI > AI Logic.

  3. Kliknij Rozpocznij , aby uruchomić proces z przewodnikiem, który pomoże Ci skonfigurować wymagane interfejsy API i zasoby w projekcie.

  4. Jeśli pojawi się prośba, wykonaj instrukcje wyświetlane na ekranie, aby zarejestrować aplikację i dodać do niej konfigurację Firebase.

  5. Gdy pojawi się prośba o wybranie "dostawcy Gemini API", zalecamy wybranie Gemini Developer API, które umożliwia szybkie rozpoczęcie pracy bez opłat.

    W dowolnym momencie możesz zawsze skonfigurować Vertex AI Gemini API (i wymagane do niego płatności).

  6. Kontynuuj proces, aby skonfigurować wymagane interfejsy API i powiązane usługi dla Firebase AI Logic.

    Od początku lipca 2026 r. ten etap procesu będzie automatycznie wymuszał korzystanie z usługi Firebase App Check w przypadku AI Logic, która jest krytyczną usługą pomagającą chronić Gemini API, gdy jest ona dostępna bezpośrednio z aplikacji. W ramach pierwszych kroków (patrz instrukcje w dalszej części tego przewodnika) musisz skonfigurować App Check dostawcę debugowania na potrzeby lokalnego programowania, gdy usługa App Check jest wymuszana.

  7. Aby dodać do aplikacji wymagane pakiety SDK, przejdź do następnego kroku w tym przewodniku.

Krok 2. Dodaj wymagane pakiety SDK

Do instalowania zależności Xcode i zarządzania nimi używaj menedżera pakietów Swift (SPM). Obsługa hybrydowa jest dostępna tylko w przypadku korzystania z SPM.

Biblioteka Firebase AI Logic zapewnia dostęp do interfejsów API umożliwiających interakcję z modelami generatywnymi. Biblioteka jest częścią pakietu SDK Firebase na platformy Apple (firebase-ios-sdk).

Jeśli korzystasz już z Firebase, upewnij się, że pakiet Firebase ma wersję 12.13.0 lub nowszą.

  1. Po otwarciu projektu aplikacji wybierz w Xcode opcję File > Add Package Dependencies (Plik > Dodaj zależności pakietu).

  2. Gdy pojawi się prośba, dodaj repozytorium pakietu SDK Firebase na platformy Apple:

    https://github.com/firebase/firebase-ios-sdk

  3. Wybierz najnowszą wersję pakietu SDK.

  4. Wybierz bibliotekę FirebaseAILogic.

Gdy skończysz, Xcode zacznie automatycznie wyszukiwać i pobierać zależności w tle.

Krok 3. Zainicjuj usługę i utwórz instancję sesji modelu

Kliknij dostawcę Gemini API, aby wyświetlić na tej stronie treści i kod specyficzne dla dostawcy.

Zanim wyślesz do modelu żądanie prompta, skonfiguruj te elementy:

  1. Zainicjuj usługę dla wybranego Gemini API dostawcy.

  2. Utwórz instancję GenerativeModelSession z HybridModel.

  3. Ustaw modele primary i secondary zgodnie z preferencjami. Możesz ustawić kolejność prób wnioskowania:

    • Najpierw spróbuj wnioskowania na urządzeniu, ale zezwól na przełączenie się na chmurę: ustaw primary na model „systemowy”, a secondary na model w chmurze.

    • Najpierw spróbuj wnioskowania w chmurze, ale zezwól na przełączenie się na urządzenie: ustaw primary na model w chmurze, a secondary na model „systemowy”.

    Pamiętaj, że pakiet SDK obsługuje ustawienie tylko jednego model, co oznacza, że pakiet SDK będzie próbował tylko wnioskowania na urządzeniu lub w chmurze. Aby jednak uzyskać hybrydowe rozwiązanie, musisz utworzyć HybridModel i ustawić modele primary i secondary.

    Więcej informacji o działaniu "trybów wnioskowania" (kolejności prób wnioskowania) znajdziesz w sekcji Opcje konfiguracji.

Poniższy przykład pokazuje, jak najpierw spróbować wnioskowania na urządzeniu, ale zezwolić na przełączenie się na model hostowany w chmurze:

// Initialize the Gemini Developer API backend service
let ai = FirebaseAI.firebaseAI(backend: .googleAI())

// Initialize a cloud model that supports your use case
let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
// Initialize an on-device model that supports your use case
let systemModel = FirebaseAI.SystemLanguageModel.default

// Create a Hybrid Model
// Provide your preferred model as `primary` and your fallback model as `secondary`
// In this example, attempt to use on-device model; otherwise, fall back to cloud.
let hybridModel = HybridModel(
  primary: systemModel,
  secondary: cloudModel
)

// Create a GenerativeModelSession with the HybridModel created earlier.
let session = firebaseAI.generativeModelSession(
  model: hybridModel,
)

Krok 4. Wyślij do modelu żądanie prompta

W tej sekcji dowiesz się, jak wykonać te czynności:

Generowanie tekstu na podstawie danych wejściowych zawierających tylko tekst

Zanim wypróbujesz ten przykład, upewnij się, że masz za sobą sekcję Pierwsze kroki w tym przewodniku.

Aby wygenerować tekst na podstawie prompta zawierającego tekst, użyj respond(to:) w ten sposób:

// Imports + initialization of Gemini API backend service + creation of model session

// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."

// To generate text output, call `respond(to:)` with the text input
let response = try await session.respond(to: prompt)
print(response.content)

Przesyłanie strumieniowe tekstu na podstawie danych wejściowych zawierających tylko tekst

Zanim wypróbujesz ten przykład, upewnij się, że masz za sobą sekcję Pierwsze kroki w tym przewodniku.

Możesz przyspieszyć interakcje, nie czekając na cały wynik generowania modelu, i zamiast tego użyć przesyłania strumieniowego do obsługi częściowych wyników. Aby przesyłać strumieniowo wygenerowany tekst na podstawie prompta zawierającego tekst, użyj streamResponse(to:) w ten sposób:

// Imports + initialization of Gemini API backend service + creation of model session

// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."

// To stream generated text output, call `streamResponse(to:)` with the text input
let stream = session.streamResponse(to: prompt)
for try await snapshot in stream {
  print(snapshot.content)
}

Co jeszcze możesz zrobić?

W przypadku rozwiązań hybrydowych możesz używać różnych dodatkowych opcji konfiguracji i możliwości:

Funkcje, które nie są jeszcze obsługiwane w przypadku wnioskowania hybrydowego lub na urządzeniu

W ramach wersji eksperymentalnej nie wszystkie możliwości Firebase AI Logic ani modeli hostowanych w chmurze są obsługiwane.

  • Te elementy nie są obsługiwane w przypadku implementacji hybrydowych ani na urządzeniu implementacji: modele Imagen, Gemini Live API i szablony promptów. Nie należy też polegać na liczbie tokenów, ponieważ będzie się ona różnić w przypadku modeli hostowanych w chmurze i na urządzeniu, więc nie ma intuicyjnego przełączania się.

  • Te funkcje nie są jeszcze obsługiwane w przypadku wnioskowania na urządzeniu Jeśli chcesz korzystać z którejś z tych funkcji, zalecamy używanie tylko modelu hostowanego w chmurze, aby zapewnić większą spójność.

    • Generowanie tekstu na podstawie danych wejściowych multimodalnych, takich jak obrazy, dźwięk, filmy i dokumenty (PDF)

    • Generowanie multimediów, takich jak obrazy, dźwięk lub filmy

    • Wysyłanie żądań przekraczających 4096 tokenów (czyli około 3000 słów w języku angielskim).

    • Udostępnianie modelowi na urządzeniu wbudowanych narzędzi, które pomagają mu generować odpowiedzi (takich jak wykonywanie kodu, kontekst adresu URL i grounding za pomocą wyszukiwarki Google)

  • Monitorowanie AI w konsoli Firebase nie pokazuje żadnych danych dotyczących wnioskowania na urządzeniu (w tym dzienników na urządzeniu). Można jednak monitorować każde wnioskowanie, które korzysta z modelu hostowanego w chmurze, tak jak inne wnioskowanie za pomocą Firebase AI Logic.

Dodatkowe ograniczenia

Oprócz powyższych ograniczeń wnioskowanie na urządzeniu ma te ograniczenia:


Prześlij opinię o korzystaniu z Firebase AI Logic