在自己的電腦上執行 AI 所需的條件

Private Writing Assistant

用在你裝置上執行的 AI 檢查文法、改寫文字。免費。

加到 Chrome加到 Safari

擴充功能裝好了,歡迎頁面也開著,AI 模型卻還在下載。二十分鐘過去,還在下載。沒有東西壞掉:語言模型是一個很大的檔案,你的電腦得把它存起來、載入記憶體,再執行它。

簡單來說

要在自己的電腦上執行 AI 模型,需要足夠的記憶體載入它、足夠的磁碟空間存放它,以及一次性的下載。以 Chrome Built-in AI 來說,就是:Windows、macOS、Linux 或 Chromebook Plus 上的 Chrome 138 以上版本、22 GB 可用磁碟空間,以及記憶體超過 4 GB 的顯示卡或 16 GB RAM。

為什麼本機 AI 會有系統需求

雲端 AI 服務在公司的電腦上執行,所以你的電腦只需要一個瀏覽器。裝置端 AI 在你自己的電腦上執行,所以模型必須放得進你的記憶體、存得進你的磁碟,並由你的處理器或顯示卡來運算。

專為筆電設計的模型比資料中心裡的小很多,但仍有好幾 GB。每一項需求都是從這裡來的。

每項需求的用途

怎麼檢查你的電腦

  1. 開啟 chrome://settings/help,查看 Chrome 版本,必要時更新。
  2. 在系統的儲存空間設定裡查看磁碟可用空間。
  3. 在系統資訊裡查一下顯示卡記憶體和 RAM 大小。近幾年的筆電,大多至少符合其中一項。
  4. 最後的答案看 chrome://on-device-internals。它會顯示 Chrome 能不能執行模型,如果不能,原因是什麼。

我的電腦能執行嗎?把同樣的步驟和所有需求整理在一張表裡。

第一次使用時的情形

Chrome 安裝時並不包含模型。某個功能第一次需要它時,Chrome 會在背景下載。視網路速度而定,這需要一段時間,期間你可以照常瀏覽。

在 Private Writing Assistant 裡,歡迎頁面會檢查你的 Chrome 版本,顯示模型已就緒、下載中或無法使用,並提供開始下載的按鈕。下載完成後,檢查就會自動開始。

如果出現「無法使用」

這代表 Chrome 判定這台電腦或這個設定檔暫時無法執行模型。可以試試更新 Chrome、在 Chrome 設定中開啟裝置端 AI,然後重新啟動 Chrome;擴充功能的選單也會列出這些步驟。如果都沒有用,這台電腦很可能不符合上面的某項需求。這是 Chrome 的判斷,不是擴充功能的,所以所有使用 Chrome Built-in AI 的工具都會得到同樣的結果。

值得嗎?

模型一旦裝到你的電腦上,你就有了一個能離線運作、沒有使用次數限制,也從不把你的文字傳到伺服器的 AI。我們的文章「裝置端 AI」是什麼意思?更詳細地說明了其中的取捨。

看看你的電腦準備好了沒:將 Private Writing Assistant 加到 Chrome,它的歡迎頁面會幫你檢查。

加到 Chrome加到 Safari