Что нужно компьютеру, чтобы запускать ИИ локально

Private Writing Assistant

Проверка грамматики и переписывание текста с ИИ, который работает на вашем устройстве. Бесплатно.

Установить в ChromeДобавить в Safari

Расширение установлено, приветственная страница открыта, а модель ИИ всё ещё загружается. Через двадцать минут — всё ещё. Ничего не сломалось: языковая модель — это большой файл, и компьютеру нужно его хранить, держать в памяти и запускать.

Если коротко

Чтобы запускать модель ИИ на своём компьютере, нужно достаточно памяти, чтобы её загрузить, места на диске, чтобы её хранить, и однократная загрузка. Для Chrome Built-in AI это Chrome 138 или новее на Windows, macOS, Linux или Chromebook Plus, 22 ГБ свободного места на диске и либо видеокарта с памятью больше 4 ГБ, либо 16 ГБ ОЗУ.

Откуда вообще берутся требования

Облачный ИИ-сервис работает на компьютерах компании, и вашему нужен только браузер. ИИ на устройстве работает на вашем компьютере, поэтому модель должна поместиться в вашу память, храниться на вашем диске и вычисляться вашим процессором или видеокартой.

Модели для ноутбуков гораздо меньше, чем в дата-центрах, но всё же занимают несколько гигабайт. Отсюда и каждое требование.

Зачем нужно каждое требование

Как проверить свой компьютер

  1. Откройте chrome://settings/help, чтобы увидеть версию Chrome и при необходимости обновить его.
  2. Проверьте свободное место на диске в системных настройках хранилища.
  3. Посмотрите объём памяти видеокарты и ОЗУ в сведениях о системе. На большинстве ноутбуков последних лет хватает одного из двух.
  4. Окончательный ответ даст chrome://on-device-internals. Там видно, может ли Chrome запустить свою модель, а если нет, то почему.

На странице «Пойдёт ли на моём компьютере?» те же шаги и все требования в одной таблице.

Как выглядит первый запуск

При установке Chrome модели в нём нет. Когда она впервые понадобится какой-то функции, Chrome загрузит её в фоне. В зависимости от подключения это займёт какое-то время, а браузером можно пользоваться и дальше.

В Private Writing Assistant приветственная страница проверяет версию Chrome, показывает, готова ли модель, загружается или недоступна, и даёт кнопку для начала загрузки. Когда загрузка завершится, проверка начнётся сама.

Если написано «недоступно»

Это значит, что Chrome решил: этот компьютер или профиль пока не может запустить модель. Попробуйте обновить Chrome, включить ИИ на устройстве в настройках Chrome и перезапустить его; меню расширения показывает эти шаги. Если ничего не помогло, скорее всего, компьютер не соответствует одному из требований выше. Решает Chrome, а не расширение, поэтому любой инструмент на базе Chrome Built-in AI получит тот же ответ.

Стоит ли оно того?

Когда модель уже на компьютере, вы получаете ИИ, который работает офлайн, не имеет лимитов и никогда не отправляет ваш текст на сервер. Подробнее об этом обмене — в статье «Что на самом деле значит „ИИ на устройстве“?».

Узнайте, готов ли ваш компьютер: добавьте Private Writing Assistant в Chrome, и его приветственная страница всё проверит.

Установить в ChromeДобавить в Safari