Tekoälytointojen tuominen älypuhelinsovelluksiin asettaa kehittäjille jatkuvan tasapainoilutehtävän nopeuden, yksityisyyden, kustannusten ja suorituskyvyn välillä. Google esittelee Android Developers -blogissaan, kuinka kehittäjät voivat hyödyntää Firebase AI Logic -työkaluja sekä hybridipäättelyä (hybrid inference) tehokkaiden ja monipuolisten sovellusten rakentamisessa.
Pilven ja laitteensisäisen laskennan yhdistäminen
Laitteessa paikallisesti ajettavat tekoälymallit, kuten Gemini Nano, tarjoavat matalan viiveen ja toimivat ilman verkkoyhteyttä. Pilvimallit, kuten Gemini 3 Flash, tarjoavat puolestaan laajemmaan yleistiedon, suuremman konteksti-ikkunan ja kyvyn käsitellä erittäin monimutkaisia kyselyitä.
Lue myös: Tekoäly suoraan Android-puhelimeen: Google esittelee Gemini Nanon ja ML Kitin uusia mahdollisuuksia
Googlen esittelemä Firebase Hybrid Inference API mahdollistaa pyyntöjen dynaamisen reitityksen pilvipalvelun ja paikallisen laitteen välillä. Rajapinta tukee neljää erilaista reititystilaa:
- PREFER_ON_DEVICE: Suosii paikallista suoritusta laitteella ja siirtyy pilveen vain, jos Gemini Nano ei ole käytettävissä.
- PREFER_IN_CLOUD: Suosii pilvipalvelua ja siirtyy laitteensisäiseen ajoon verkkoyhteyden katketessa.
- ONLY_ON_DEVICE: Rajoittaa suorituksen tiukasti vain laitteelle.
- ONLY_IN_CLOUD: Rajoittaa suorituksen pelkästään pilvipalveluun.
Tämä lähestymistapa auttaa säästämään kaistanleveyttä ja pilvikustannuksia ilman, että sovelluksen toimintavarmuus kärsii laitteilla, joissa ei ole tekoälysirua tai aktiivista verkkoyhteyttä.
Rajoitusten ylittäminen grounding-tekniikoilla
Kielimallien yleisimpiä haasteita on reaaliaikaisen tai tiettyyn kontekstiin sitoutuneen tiedon puute. Tätä ongelmaa ratkaistaan niin sanotulla grounding-tekniikalla, jossa mallille syötetään ajantasaista taustatietoa suoraan kyselyn yhteydessä.
Firebase AI Logic SDK tukee kolmea keskeistä grounding-tapaa:
- URL grounding: Vastauksien ankkurointi tietyn verkkosivun sisältöön, kuten aukioloaikoihin tai hinnastoihin.
- Google Search grounding: Luvan antaminen mallille kysellä reaaliaikaista Google-hakuindeksiä.
- Maps grounding: Google Maps -paikkatietojen hyödyntäminen vastauksissa.
Mukautettu reititys ja suojaus
Yksinkertaisten asetusten lisäksi kehittäjät voivat rakentaa omia reitityspinojaan esimerkiksi kielikäännöksiä varten. Yleisimmät kieliparit voidaan kääntää laitteessa ML Kit -rajapinnan ja Gemini Nanon avulla, kun taas vaativammat ja harvinaisemmat kielet voidaan reitittää automaattisesti suoraan pilvessä toimivalle tekoälymallille.
Pilvessä toimivien tekoälyrajapintojen suojauksessa Google suosittelee Firebase App Check -palvelua, joka estää API-avainten väärinkäytön ja luvattoman liikenteen todentamalla sovelluskutsut turvallisesti.
Lähde: Android Developers Blog: Build intelligent Android apps: Cloud and hybrid inference
Tekoälyavusteinen sisältö: Artikkeli on tuotettu tekoälyä hyödyntäen alkuperäislähteen pohjalta.
