Mire van szüksége a számítógépnek a helyi AI futtatásához?

Private Writing Assistant

Nyelvtan-ellenőrzés és szövegátírás a saját eszközén futó MI-vel. Ingyenes.

Hozzáadás a Chrome-hozHozzáadás a Safarihoz

A bővítmény telepítve, az üdvözlőoldal nyitva, az AI-modell pedig még töltődik. Húsz perccel később is. Semmi sem romlott el: egy nyelvi modell nagy fájl, amelyet a számítógépének tárolnia kell, a memóriában kell tartania, és futtatnia kell.

Röviden

Egy AI-modell saját számítógépen való futtatásához annyi memória kell, amennyibe belefér, tárhely a tárolásához és egy egyszeri letöltés. A Chrome Built-in AI esetében ez a Chrome 138-as vagy újabb verzióját jelenti Windows, macOS, Linux vagy Chromebook Plus rendszeren, 22 GB szabad tárhelyet, valamint 4 GB-nál több memóriával rendelkező videokártyát vagy 16 GB RAM-ot.

Miért vannak egyáltalán követelményei a helyi AI-nak?

Egy felhőalapú AI-szolgáltatás a cég számítógépein fut, így az Önének csak böngészőre van szüksége. Az eszközön futó AI az Ön saját számítógépén fut, ezért a modellnek bele kell férnie a memóriájába, a lemezén kell tárolni, és a processzorának vagy videokártyájának kell kiszámolnia.

A laptopokra készült modellek jóval kisebbek az adatközpontokban futóknál, de így is néhány gigabájtot foglalnak. Innen ered minden követelmény.

Mire való az egyes követelmény?

Hogyan ellenőrizze a számítógépét?

  1. Nyissa meg a chrome://settings/help oldalt: itt láthatja a Chrome verzióját, és szükség esetén frissítheti.
  2. A szabad tárhelyet a rendszer tárhelybeállításaiban nézheti meg.
  3. A videokártya memóriáját és a RAM méretét a rendszerinformációk között találja. A legtöbb néhány éves laptopon a kettő közül az egyik elegendő.
  4. A végső szóért nyissa meg a chrome://on-device-internals oldalt. Megmutatja, hogy a Chrome tudja-e futtatni a modelljét, és ha nem, miért nem.

Az Elfut a számítógépemen? oldal ugyanezeket a lépéseket sorolja fel, minden követelménnyel egy táblázatban.

Hogyan zajlik az első használat?

A Chrome telepítésekor a modell még nincs a gépen. Amikor egy funkciónak először szüksége van rá, a Chrome a háttérben letölti. Ez a kapcsolattól függően eltart egy darabig, közben nyugodtan böngészhet tovább.

A Private Writing Assistant üdvözlőoldala ellenőrzi a Chrome verzióját, megmutatja, hogy a modell készen áll, töltődik vagy nem érhető el, és egy gombbal elindíthatja a letöltést. Ha elkészült, az ellenőrzés magától elindul.

Ha azt írja, hogy „nem érhető el”

Ez azt jelenti, hogy a Chrome úgy döntött: ez a számítógép vagy profil még nem tudja futtatni a modellt. Próbálja meg frissíteni a Chrome-ot, bekapcsolni a Chrome beállításaiban az eszközön futó AI-t, majd újraindítani a Chrome-ot; ezeket a lépéseket a bővítmény menüje is mutatja. Ha egyik sem segít, a számítógép valószínűleg nem felel meg a fenti követelmények valamelyikének. Ez a Chrome döntése, nem a bővítményé, így minden eszköz, amely a Chrome Built-in AI technológiájával működik, ugyanezt a választ kapja.

Megéri?

Ha a modell már a számítógépén van, olyan AI-t kap, amely internet nélkül is működik, nincs használati korlátja, és soha nem küldi el a szövegét egy szerverre. A Mit jelent valójában az „eszközön futó AI”? című bejegyzésünk részletesebben foglalkozik ezzel a kompromisszummal.

Tudja meg, készen áll-e a számítógépe: adja hozzá a Private Writing Assistant bővítményt a Chrome-hoz, és az üdvözlőoldala ellenőrzi Ön helyett.

Hozzáadás a Chrome-hozHozzáadás a Safarihoz