在自己的電腦上執行 AI 所需的條件
擴充功能裝好了,歡迎頁面也開著,AI 模型卻還在下載。二十分鐘過去,還在下載。沒有東西壞掉:語言模型是一個很大的檔案,你的電腦得把它存起來、載入記憶體,再執行它。
簡單來說
要在自己的電腦上執行 AI 模型,需要足夠的記憶體載入它、足夠的磁碟空間存放它,以及一次性的下載。以 Chrome Built-in AI 來說,就是:Windows、macOS、Linux 或 Chromebook Plus 上的 Chrome 138 以上版本、22 GB 可用磁碟空間,以及記憶體超過 4 GB 的顯示卡或 16 GB RAM。
為什麼本機 AI 會有系統需求
雲端 AI 服務在公司的電腦上執行,所以你的電腦只需要一個瀏覽器。裝置端 AI 在你自己的電腦上執行,所以模型必須放得進你的記憶體、存得進你的磁碟,並由你的處理器或顯示卡來運算。
專為筆電設計的模型比資料中心裡的小很多,但仍有好幾 GB。每一項需求都是從這裡來的。
每項需求的用途
- 記憶體。模型運作時必須載入記憶體。如果顯示卡有超過 4 GB 的專用記憶體,Chrome 就會用顯示卡;否則會用主記憶體,這時需要 16 GB RAM 和 4 核心以上的處理器。
- 磁碟空間。Chrome 要求 22 GB 可用空間。模型本身只有幾 GB,其餘是 Chrome 預留的空間,以免你的磁碟被塞滿。如果之後空間不足,Chrome 可能會再把模型移除。
- 作業系統和瀏覽器。Windows 10 或 11、macOS 13 以上版本、Linux 或 Chromebook Plus 上的 Chrome 138 以上版本。手機和平板電腦無法執行,因為 Android 和 iOS 上的 Chrome 不支援擴充功能。
- 只需要連網一次。模型會在第一次使用時,透過不計流量的網路下載。之後離線也能用。
怎麼檢查你的電腦
- 開啟
chrome://settings/help,查看 Chrome 版本,必要時更新。 - 在系統的儲存空間設定裡查看磁碟可用空間。
- 在系統資訊裡查一下顯示卡記憶體和 RAM 大小。近幾年的筆電,大多至少符合其中一項。
- 最後的答案看
chrome://on-device-internals。它會顯示 Chrome 能不能執行模型,如果不能,原因是什麼。
我的電腦能執行嗎?把同樣的步驟和所有需求整理在一張表裡。
第一次使用時的情形
Chrome 安裝時並不包含模型。某個功能第一次需要它時,Chrome 會在背景下載。視網路速度而定,這需要一段時間,期間你可以照常瀏覽。
在 Private Writing Assistant 裡,歡迎頁面會檢查你的 Chrome 版本,顯示模型已就緒、下載中或無法使用,並提供開始下載的按鈕。下載完成後,檢查就會自動開始。
如果出現「無法使用」
這代表 Chrome 判定這台電腦或這個設定檔暫時無法執行模型。可以試試更新 Chrome、在 Chrome 設定中開啟裝置端 AI,然後重新啟動 Chrome;擴充功能的選單也會列出這些步驟。如果都沒有用,這台電腦很可能不符合上面的某項需求。這是 Chrome 的判斷,不是擴充功能的,所以所有使用 Chrome Built-in AI 的工具都會得到同樣的結果。
值得嗎?
模型一旦裝到你的電腦上,你就有了一個能離線運作、沒有使用次數限制,也從不把你的文字傳到伺服器的 AI。我們的文章「裝置端 AI」是什麼意思?更詳細地說明了其中的取捨。