Čo potrebuje váš počítač, aby na ňom bežala AI lokálne
Private Writing Assistant
Kontrola gramatiky a prepisovanie textu s AI, ktorá beží vo vašom zariadení. Zadarmo.
Pridať do prehliadača Chrome
Pridať do prehliadača Safari
Rozšírenie je nainštalované, uvítacia stránka otvorená a model AI sa stále sťahuje. O dvadsať minút neskôr stále. Nič sa nepokazilo: jazykový model je veľký súbor a váš počítač ho musí uložiť, udržať v pamäti a spúšťať.
Stručne
Na spustenie modelu AI vo vlastnom počítači potrebujete dosť pamäte, aby sa doň zmestil, miesto na disku na jeho uloženie a jednorazové stiahnutie. Pri Chrome Built-in AI to znamená Chrome 138 alebo novší vo Windowse, macOS, Linuxe alebo na Chromebooku Plus, 22 GB voľného miesta na disku a buď grafickú kartu s viac ako 4 GB pamäte, alebo 16 GB RAM.
Prečo má lokálna AI vôbec nejaké požiadavky
Cloudová služba AI beží na počítačoch firmy, takže váš potrebuje len prehliadač. AI v zariadení beží vo vašom vlastnom počítači, takže model sa musí zmestiť do vašej pamäte, byť uložený na vašom disku a počítať ho musí váš procesor alebo grafická karta.
Modely pre notebooky sú oveľa menšie ako tie v dátových centrách, ale stále zaberajú niekoľko gigabajtov. Odtiaľ pochádza každá požiadavka.
Na čo slúži každá požiadavka
- Pamäť. Kým model pracuje, musí byť načítaný v pamäti. Chrome použije grafickú kartu, ak má viac ako 4 GB vlastnej pamäte, inak hlavnú pamäť, ktorá potom musí mať 16 GB, a procesor so štyrmi alebo viacerými jadrami.
- Miesto na disku. Chrome chce 22 GB voľného miesta. Samotný model má niekoľko gigabajtov; zvyšok je rezerva, ktorú si Chrome necháva, aby sa váš disk nezaplnil. Ak neskôr začne miesto dochádzať, Chrome môže model znova odstrániť.
- Operačný systém a prehliadač. Chrome 138 alebo novší vo Windowse 10 alebo 11, macOS 13 alebo novšom, Linuxe alebo na Chromebooku Plus. Telefóny a tablety ho spustiť nedokážu, pretože Chrome v Androide a iOS nemá rozšírenia.
- Internet, raz. Model sa stiahne pri prvom použití cez pripojenie bez obmedzenia dát. Potom funguje offline.
Ako overiť svoj počítač
- Otvorte
chrome://settings/help, kde uvidíte verziu prehliadača Chrome a v prípade potreby ho aktualizujete. - Voľné miesto na disku zistíte v nastaveniach úložiska svojho systému.
- Pamäť grafickej karty a veľkosť RAM nájdete v informáciách o systéme. Pri väčšine notebookov z posledných rokov stačí jedno z toho.
- Definitívnu odpoveď dá
chrome://on-device-internals. Ukáže, či Chrome dokáže svoj model spustiť, a ak nie, prečo.
Stránka Pobeží to na mojom počítači? uvádza tie isté kroky a všetky požiadavky v jednej tabuľke.
Ako vyzerá prvé použitie
Chrome pri inštalácii model neobsahuje. Keď ho niektorá funkcia potrebuje prvý raz, Chrome ho stiahne na pozadí. Podľa pripojenia to chvíľu trvá a medzitým môžete ďalej prehliadať.
V rozšírení Private Writing Assistant uvítacia stránka overí verziu prehliadača Chrome, ukáže, či je model pripravený, sťahuje sa alebo nie je k dispozícii, a má tlačidlo na spustenie sťahovania. Po dokončení sa kontrola spustí sama.
Ak sa zobrazí „nie je k dispozícii“
Znamená to, že Chrome usúdil, že tento počítač alebo profil zatiaľ model spustiť nedokáže. Skúste Chrome aktualizovať, zapnúť AI v zariadení v nastaveniach prehliadača Chrome a Chrome reštartovať; ponuka rozšírenia tieto kroky ukazuje. Ak nepomôže ani jeden z nich, počítač najpravdepodobnejšie nespĺňa niektorú z požiadaviek uvedených vyššie. Je to rozhodnutie prehliadača Chrome, nie rozšírenia, takže rovnakú odpoveď dostane každý nástroj postavený na Chrome Built-in AI.
Oplatí sa to?
Keď je model vo vašom počítači, máte AI, ktorá funguje offline, nemá limity používania a nikdy neodosiela váš text na server. Náš článok Čo vlastne znamená „AI v zariadení“? sa týmto kompromisom venuje podrobnejšie.
Zistite, či je váš počítač pripravený: pridajte si Private Writing Assistant do prehliadača Chrome a jeho uvítacia stránka to overí za vás.