Ano ba talaga ang ibig sabihin ng “on-device AI”?
Ibig sabihin ng on-device AI, tumatakbo ang AI model sa sarili mong computer o phone sa halip na sa mga server ng isang kumpanya. Pinoproseso ang tina-type mo kung saan mo ito tina-type, kaya hindi na ito kailangang ipadala kahit saan, at gumagana pa rin ang feature kahit walang internet.
Cloud AI at on-device AI
Cloud AI ang karamihan ng AI feature na nagamit mo na. Bumibiyahe ang request mo papunta sa isang data center, doon ito pinoproseso ng isang malaking model, at bumabalik ang sagot. Hindi kailanman umaalis ang model sa mga computer ng kumpanya; ang input mo ang kailangang pumunta rito.
Binabaligtad ito ng on-device AI. Isang file sa sarili mong disk ang model. Kapag kailangan ito ng isang feature, inilo-load ito sa memory ng computer mo at tumatakbo sa processor o graphics card mo. Nananatili ang input mo kung nasaan ito; ang model ang pumunta sa iyo.
Ano ang binabago nito para sa iyo
- Privacy. Hindi kailanman umaalis sa device ang input mo, kaya walang kopya sa ibang lugar na puwedeng maimbak, ma-leak o magamit sa pag-train.
- Offline na paggamit. Kapag na-download na ang model, gumagana ang feature kahit walang koneksyon: sa eroplano, sa tren, sa network na nagba-block ng mga serbisyo sa labas.
- Walang account. Walang server na kailangang makaalam kung sino ka o magbilang ng mga request mo.
- Steady na bilis. Hindi nakadepende ang resulta sa kung gaano kaganda ang koneksyon mo ngayon.
Ano ang kapalit
Mas maliit ang model na kasya sa laptop kaysa sa nasa data center. Ginawa ito para sa mga tiyak na trabaho, gaya ng pag-check at muling pagsulat ng teksto, hindi para sa malawakang research o mahahabang sanaysay. Kailangan din nito ng sapat na hardware, bakanteng disk space, at isang beses na pag-download ng ilang gigabyte bago ang unang paggamit.
Sulit ang palitang iyan sa ilang gawain at hindi sa iba. Para sa tekstong ayaw mong iabot kaninuman, kadalasang mas magandang deal ang isang nakatutok na lokal na model.
Chrome Built-in AI
May kasama na ngayong on-device AI ang Google Chrome na magagamit ng mga website at extension, na tinatawag na Chrome Built-in AI. Isang beses lang dina-download ng Chrome ang model, pagkatapos ay pinapatakbo ito nang lokal ng mga feature na gumagamit nito.
Galing sa Chrome ang mga requirement nito: version 138 o mas bago sa Windows, macOS, Linux o Chromebook Plus, 22 GB na bakanteng disk space, at graphics card na may higit sa 4 GB na memory o 16 GB na RAM. Ilang gigabyte lang ang model mismo; ang 22 GB ay ang espasyong gustong panatilihing bakante ng Chrome. Ipinapakita ng Tatakbo ba ito sa computer ko? kung paano i-check ang bawat punto.
Paano malalaman kung talagang sa device mo tumatakbo ang isang tool
- Gumagana pa rin ito kahit naka-off ang Wi-Fi.
- Sinasabi ng privacy policy nito kung saan pinoproseso ang input mo, hindi lang na ito ay “secure” o “encrypted”.
- Kailangan nito ng pag-download ng model, o ng model na ibinibigay ng browser o operating system mo.
Inilalarawan lang ng “encrypted” ang biyahe papunta sa server. Wala itong sinasabi tungkol sa nangyayari pagdating ng teksto doon.
Saan pumapasok ang Private Writing Assistant
Nakabatay ang Private Writing Assistant sa Chrome Built-in AI. Tumatakbo sa computer mo ang pag-check ng baybay at grammar at ang muling pagsulat, sa 101 wika, at ang isinusulat mo sa mga website ay hindi kailanman ipinapadala sa amin o sa isang AI service. Ipinapaliwanag ng Paano ito gumagana ang nangyayari sa teksto mo, hakbang-hakbang.
Subukan ang on-device AI kung saan ka nagsusulat araw-araw: idagdag ang Private Writing Assistant sa Chrome. Libre ito at hindi kailangan ng account.