在自己电脑上运行 AI 所需的配置

Private Writing Assistant

用在你设备上运行的 AI 检查语法、改写文字。免费。

添加至 Chrome添加至 Safari

扩展程序装好了,欢迎页也打开了,AI 模型却还在下载。二十分钟过去,还在下。什么都没坏:语言模型是个很大的文件,你的电脑得把它存下来、装进内存,再运行起来。

简而言之

在自己的电脑上运行 AI 模型,需要足够的内存装下它、足够的磁盘空间存放它,以及一次性的下载。对 Chrome Built-in AI 来说,这意味着:Windows、macOS、Linux 或 Chromebook Plus 上的 Chrome 138 或更高版本,22 GB 可用磁盘空间,以及显存超过 4 GB 的显卡或 16 GB 内存。

为什么本地 AI 会有配置要求

云端 AI 服务运行在公司的电脑上,所以你的电脑只需要一个浏览器。设备端 AI 运行在你自己的电脑上,所以模型必须能装进你的内存、存进你的磁盘,并由你的处理器或显卡来计算。

为笔记本电脑打造的模型比数据中心里的小得多,但仍有好几 GB。每一项配置要求都由此而来。

每项要求是做什么用的

怎样检查你的电脑

  1. 打开 chrome://settings/help,查看 Chrome 版本,需要的话更新。
  2. 在系统的存储设置里查看磁盘可用空间。
  3. 在系统信息里查一查显卡显存和内存大小。近几年的笔记本电脑,大多至少满足其中一项。
  4. 最终结论看 chrome://on-device-internals。它会显示 Chrome 能否运行模型,如果不能,原因是什么。

我的电脑能运行吗?把同样的步骤和全部配置要求整理在了一张表里。

第一次使用是什么样的

Chrome 安装时并不包含模型。某个功能第一次需要它时,Chrome 会在后台下载。根据网速,这需要一段时间,期间你可以照常浏览。

在 Private Writing Assistant 里,欢迎页会检查你的 Chrome 版本,显示模型是已就绪、正在下载还是不可用,并提供一个开始下载的按钮。下载完成后,检查会自动开始。

如果提示“不可用”

这表示 Chrome 判定这台电脑或这个个人资料暂时无法运行模型。可以试试更新 Chrome、在 Chrome 设置中开启设备端 AI,然后重新启动 Chrome;扩展程序的菜单也会列出这些步骤。如果都没有用,这台电脑很可能不满足上面的某项要求。这是 Chrome 的判断,不是扩展程序的,所以所有基于 Chrome Built-in AI 的工具都会得到同样的结果。

值得吗?

模型一旦装到你的电脑上,你就有了一个能离线工作、没有使用次数限制、也从不把你的文字发到服务器的 AI。我们的文章“设备端 AI”是什么意思?更详细地讲了其中的取舍。

看看你的电脑是否已经就绪:把 Private Writing Assistant 添加到 Chrome,它的欢迎页会帮你检查。

添加至 Chrome添加至 Safari