Kaj potrebuje vaš računalnik za lokalno umetno inteligenco
Private Writing Assistant
Preverjajte slovnico in preoblikujte besedilo z umetno inteligenco, ki teče na vaši napravi. Brezplačno.
Razširitev je nameščena, pozdravna stran odprta, model umetne inteligence pa se še vedno prenaša. Čez dvajset minut tudi. Nič ni narobe: jezikovni model je velika datoteka, ki jo mora računalnik shraniti, naložiti v pomnilnik in poganjati.
Na kratko
Model umetne inteligence v lastnem računalniku potrebuje dovolj pomnilnika, da ga naloži, prostor na disku, da ga shrani, in enkraten prenos. Za Chrome Built-in AI to pomeni Chrome 138 ali novejši v sistemu Windows, macOS, Linux ali v Chromebooku Plus, 22 GB prostega prostora na disku ter grafično kartico z več kot 4 GB pomnilnika ali 16 GB pomnilnika RAM.
Zakaj ima lokalna UI sploh zahteve
Storitev umetne inteligence v oblaku teče v računalnikih podjetja, zato vaš potrebuje le brskalnik. UI v napravi teče v vašem računalniku, zato mora model pasti v vaš pomnilnik, biti shranjen na vašem disku, računati pa ga mora vaš procesor ali grafična kartica.
Modeli za prenosnike so veliko manjši od tistih v podatkovnih centrih, a še vedno obsegajo nekaj gigabajtov. Od tod izvira vsaka zahteva.
Čemu služi posamezna zahteva
- Pomnilnik. Med delom mora biti model naložen v pomnilnik. Chrome uporabi grafično kartico, če ima ta več kot 4 GB lastnega pomnilnika, sicer pa glavni pomnilnik, ki mora tedaj obsegati 16 GB, procesor pa imeti štiri ali več jeder.
- Prostor na disku. Chrome želi 22 GB prostega prostora. Sam model obsega nekaj gigabajtov; preostanek je prostor, ki ga Chrome ohranja, da se disk ne napolni. Če pozneje prostora zmanjka, lahko Chrome model spet odstrani.
- Operacijski sistem in brskalnik. Chrome 138 ali novejši v sistemu Windows 10 ali 11, macOS 13 ali novejšem, Linuxu ali v Chromebooku Plus. Telefoni in tablični računalniki ga ne morejo poganjati, ker Chrome za Android in iOS nima razširitev.
- Internet, enkrat. Model se ob prvi uporabi prenese prek povezave brez omejitve prenosa podatkov. Potem deluje brez povezave.
Kako preverite svoj računalnik
- Odprite
chrome://settings/help, da vidite svojo različico Chroma, in ga po potrebi posodobite. - Prosti prostor na disku preverite v sistemskih nastavitvah shrambe.
- Pomnilnik grafične kartice in RAM poiščite v podatkih o sistemu. Pri večini prenosnikov iz zadnjih nekaj let zadošča eno od obojega.
- Za dokončen odgovor odprite
chrome://on-device-internals. Tam piše, ali lahko Chrome poganja svoj model, in če ne more, zakaj ne.
Stran Ali bo delovalo v mojem računalniku? navaja iste korake z vsemi zahtevami v eni tabeli.
Kako je videti prva uporaba
Chrome ob namestitvi modela ne vsebuje. Ko ga neka funkcija prvič potrebuje, ga Chrome prenese v ozadju. To traja nekaj časa, odvisno od povezave, vi pa lahko medtem brskate naprej.
V razširitvi Private Writing Assistant pozdravna stran preveri vašo različico Chroma, pokaže, ali je model pripravljen, se prenaša ali ni na voljo, in ima gumb za začetek prenosa. Ko je prenos končan, se preverjanje začne samodejno.
Če piše »ni na voljo«
To pomeni, da je Chrome ugotovil, da ta računalnik ali profil modela še ne more poganjati. Poskusite posodobiti Chrome, v Chromovih nastavitvah vklopiti UI v napravi in znova zagnati Chrome; meni razširitve te korake prikaže. Če nič od tega ne pomaga, računalnik najverjetneje ne izpolnjuje ene od zgornjih zahtev. To je odločitev Chroma, ne razširitve, zato vsako orodje, zgrajeno na Chrome Built-in AI, dobi enak odgovor.
Ali se splača?
Ko je model v vašem računalniku, dobite umetno inteligenco, ki deluje brez povezave, nima omejitev uporabe in vašega besedila nikoli ne pošlje na strežnik. Naš prispevek Kaj pravzaprav pomeni »UI v napravi«? to kupčijo podrobneje razloži.
Preverite, ali je vaš računalnik pripravljen: dodajte Private Writing Assistant v Chrome in njegova pozdravna stran bo to preverila namesto vas.