Что на самом деле значит «ИИ на устройстве»?

ИИ на устройстве означает, что модель работает на вашем компьютере или телефоне, а не на серверах компании. То, что вы вводите, обрабатывается там же, где вы это ввели, поэтому никуда не отправляется, а функция продолжает работать без интернета.

Облачный ИИ и ИИ на устройстве

Большинство функций ИИ, которыми вы пользовались, — облачные. Ваш запрос отправляется в дата-центр, там с ним работает большая модель, а ответ возвращается обратно. Модель никогда не покидает компьютеры компании; это ваш запрос должен прийти к ней.

ИИ на устройстве всё переворачивает. Модель — это файл на вашем диске. Когда функции она нужна, модель загружается в память компьютера и работает на вашем процессоре или видеокарте. Ваш запрос остаётся на месте; это модель пришла к вам.

Что это меняет для вас

Чего это стоит

Модель, которая помещается на ноутбуке, меньше той, что работает в дата-центре. Она создана для конкретных задач, например проверки и переписывания текста, а не для свободного исследования или длинных эссе. Ей также нужно мощное железо, свободное место на диске и разовая загрузка в несколько гигабайт перед первым использованием.

Для одних задач такой обмен оправдан, для других нет. Для текста, который вы предпочли бы никому не отдавать, сосредоточенная локальная модель часто оказывается лучшим выбором.

Chrome Built-in AI

Google Chrome теперь поставляется с ИИ на устройстве, который могут использовать сайты и расширения. Он называется Chrome Built-in AI. Chrome один раз скачивает модель, а функции, которые ею пользуются, запускают её локально.

Требования к нему задаёт Chrome: версия 138 или новее на Windows, macOS, Linux или Chromebook Plus, 22 ГБ свободного места на диске и либо видеокарта с памятью больше 4 ГБ, либо 16 ГБ оперативной памяти. Сама модель занимает несколько гигабайт; 22 ГБ — это место, которое Chrome хочет держать свободным. Страница «Пойдёт ли на моём компьютере?» показывает, как проверить каждый пункт.

Как понять, что инструмент действительно работает на устройстве

«Зашифровано» описывает только путь до сервера. О том, что происходит с текстом после прибытия, это ничего не говорит.

Где здесь Private Writing Assistant

Private Writing Assistant построен на Chrome Built-in AI. Проверка орфографии и грамматики и перефразирование работают на вашем компьютере, на 101 языке, а то, что вы пишете на сайтах, никогда не отправляется ни нам, ни сервису ИИ. Страница «Как это работает» шаг за шагом показывает, что происходит с вашим текстом.

Попробуйте ИИ на устройстве там, где вы пишете каждый день: установите Private Writing Assistant в Chrome. Бесплатно и без учётной записи.

Установить в Chrome