Mire van szüksége a számítógépnek a helyi AI futtatásához?
Private Writing Assistant
Nyelvtan-ellenőrzés és szövegátírás a saját eszközén futó MI-vel. Ingyenes.
A bővítmény telepítve, az üdvözlőoldal nyitva, az AI-modell pedig még töltődik. Húsz perccel később is. Semmi sem romlott el: egy nyelvi modell nagy fájl, amelyet a számítógépének tárolnia kell, a memóriában kell tartania, és futtatnia kell.
Röviden
Egy AI-modell saját számítógépen való futtatásához annyi memória kell, amennyibe belefér, tárhely a tárolásához és egy egyszeri letöltés. A Chrome Built-in AI esetében ez a Chrome 138-as vagy újabb verzióját jelenti Windows, macOS, Linux vagy Chromebook Plus rendszeren, 22 GB szabad tárhelyet, valamint 4 GB-nál több memóriával rendelkező videokártyát vagy 16 GB RAM-ot.
Miért vannak egyáltalán követelményei a helyi AI-nak?
Egy felhőalapú AI-szolgáltatás a cég számítógépein fut, így az Önének csak böngészőre van szüksége. Az eszközön futó AI az Ön saját számítógépén fut, ezért a modellnek bele kell férnie a memóriájába, a lemezén kell tárolni, és a processzorának vagy videokártyájának kell kiszámolnia.
A laptopokra készült modellek jóval kisebbek az adatközpontokban futóknál, de így is néhány gigabájtot foglalnak. Innen ered minden követelmény.
Mire való az egyes követelmény?
- Memória. Amíg a modell dolgozik, a memóriába kell töltenie. A Chrome a videokártyát használja, ha annak több mint 4 GB saját memóriája van, egyébként a rendszermemóriát, amelyből ilyenkor 16 GB kell, és legalább négymagos processzor.
- Tárhely. A Chrome 22 GB szabad helyet kér. Maga a modell néhány gigabájt; a többi tartalék, amelyet a Chrome azért tart meg, hogy a lemeze ne teljen meg. Ha később kevés lesz a hely, a Chrome el is távolíthatja a modellt.
- Operációs rendszer és böngésző. A Chrome 138-as vagy újabb verziója Windows 10 vagy 11, macOS 13 vagy újabb, Linux vagy Chromebook Plus rendszeren. Telefonon és táblagépen nem fut, mert az Androidos és iOS-es Chrome nem támogatja a bővítményeket.
- Internet, egyszer. A modell az első használatkor töltődik le, nem forgalomkorlátos kapcsolaton. Utána internet nélkül is működik.
Hogyan ellenőrizze a számítógépét?
- Nyissa meg a
chrome://settings/helpoldalt: itt láthatja a Chrome verzióját, és szükség esetén frissítheti. - A szabad tárhelyet a rendszer tárhelybeállításaiban nézheti meg.
- A videokártya memóriáját és a RAM méretét a rendszerinformációk között találja. A legtöbb néhány éves laptopon a kettő közül az egyik elegendő.
- A végső szóért nyissa meg a
chrome://on-device-internalsoldalt. Megmutatja, hogy a Chrome tudja-e futtatni a modelljét, és ha nem, miért nem.
Az Elfut a számítógépemen? oldal ugyanezeket a lépéseket sorolja fel, minden követelménnyel egy táblázatban.
Hogyan zajlik az első használat?
A Chrome telepítésekor a modell még nincs a gépen. Amikor egy funkciónak először szüksége van rá, a Chrome a háttérben letölti. Ez a kapcsolattól függően eltart egy darabig, közben nyugodtan böngészhet tovább.
A Private Writing Assistant üdvözlőoldala ellenőrzi a Chrome verzióját, megmutatja, hogy a modell készen áll, töltődik vagy nem érhető el, és egy gombbal elindíthatja a letöltést. Ha elkészült, az ellenőrzés magától elindul.
Ha azt írja, hogy „nem érhető el”
Ez azt jelenti, hogy a Chrome úgy döntött: ez a számítógép vagy profil még nem tudja futtatni a modellt. Próbálja meg frissíteni a Chrome-ot, bekapcsolni a Chrome beállításaiban az eszközön futó AI-t, majd újraindítani a Chrome-ot; ezeket a lépéseket a bővítmény menüje is mutatja. Ha egyik sem segít, a számítógép valószínűleg nem felel meg a fenti követelmények valamelyikének. Ez a Chrome döntése, nem a bővítményé, így minden eszköz, amely a Chrome Built-in AI technológiájával működik, ugyanezt a választ kapja.
Megéri?
Ha a modell már a számítógépén van, olyan AI-t kap, amely internet nélkül is működik, nincs használati korlátja, és soha nem küldi el a szövegét egy szerverre. A Mit jelent valójában az „eszközön futó AI”? című bejegyzésünk részletesebben foglalkozik ezzel a kompromisszummal.
Tudja meg, készen áll-e a számítógépe: adja hozzá a Private Writing Assistant bővítményt a Chrome-hoz, és az üdvözlőoldala ellenőrzi Ön helyett.