在自己电脑上运行 AI 所需的配置
扩展程序装好了,欢迎页也打开了,AI 模型却还在下载。二十分钟过去,还在下。什么都没坏:语言模型是个很大的文件,你的电脑得把它存下来、装进内存,再运行起来。
简而言之
在自己的电脑上运行 AI 模型,需要足够的内存装下它、足够的磁盘空间存放它,以及一次性的下载。对 Chrome Built-in AI 来说,这意味着:Windows、macOS、Linux 或 Chromebook Plus 上的 Chrome 138 或更高版本,22 GB 可用磁盘空间,以及显存超过 4 GB 的显卡或 16 GB 内存。
为什么本地 AI 会有配置要求
云端 AI 服务运行在公司的电脑上,所以你的电脑只需要一个浏览器。设备端 AI 运行在你自己的电脑上,所以模型必须能装进你的内存、存进你的磁盘,并由你的处理器或显卡来计算。
为笔记本电脑打造的模型比数据中心里的小得多,但仍有好几 GB。每一项配置要求都由此而来。
每项要求是做什么用的
- 内存。模型工作时必须加载到内存里。如果显卡有超过 4 GB 的独立显存,Chrome 就用显卡;否则用主内存,这时需要 16 GB 内存和 4 核及以上的处理器。
- 磁盘空间。Chrome 要求有 22 GB 可用空间。模型本身只有几 GB,其余是 Chrome 预留的余量,以免你的磁盘被占满。如果之后空间不足,Chrome 可能会把模型删掉。
- 操作系统和浏览器。Windows 10 或 11、macOS 13 或更高版本、Linux 或 Chromebook Plus 上的 Chrome 138 或更高版本。手机和平板电脑无法运行,因为 Android 和 iOS 上的 Chrome 不支持扩展程序。
- 只需联网一次。模型在首次使用时通过不按流量计费的网络下载。之后断网也能用。
怎样检查你的电脑
- 打开
chrome://settings/help,查看 Chrome 版本,需要的话更新。 - 在系统的存储设置里查看磁盘可用空间。
- 在系统信息里查一查显卡显存和内存大小。近几年的笔记本电脑,大多至少满足其中一项。
- 最终结论看
chrome://on-device-internals。它会显示 Chrome 能否运行模型,如果不能,原因是什么。
我的电脑能运行吗?把同样的步骤和全部配置要求整理在了一张表里。
第一次使用是什么样的
Chrome 安装时并不包含模型。某个功能第一次需要它时,Chrome 会在后台下载。根据网速,这需要一段时间,期间你可以照常浏览。
在 Private Writing Assistant 里,欢迎页会检查你的 Chrome 版本,显示模型是已就绪、正在下载还是不可用,并提供一个开始下载的按钮。下载完成后,检查会自动开始。
如果提示“不可用”
这表示 Chrome 判定这台电脑或这个个人资料暂时无法运行模型。可以试试更新 Chrome、在 Chrome 设置中开启设备端 AI,然后重新启动 Chrome;扩展程序的菜单也会列出这些步骤。如果都没有用,这台电脑很可能不满足上面的某项要求。这是 Chrome 的判断,不是扩展程序的,所以所有基于 Chrome Built-in AI 的工具都会得到同样的结果。
值得吗?
模型一旦装到你的电脑上,你就有了一个能离线工作、没有使用次数限制、也从不把你的文字发到服务器的 AI。我们的文章“设备端 AI”是什么意思?更详细地讲了其中的取舍。
看看你的电脑是否已经就绪:把 Private Writing Assistant 添加到 Chrome,它的欢迎页会帮你检查。