Що насправді означає «ШІ на пристрої»?
ШІ на пристрої означає, що модель штучного інтелекту працює на вашому комп’ютері чи телефоні, а не на серверах компанії. Набраний текст обробляється там, де ви його набрали, тож його не треба нікуди надсилати, а функція працює й без інтернету.
Хмарний ШІ і ШІ на пристрої
Більшість функцій ШІ, якими ви користувалися, — хмарні. Ваш запит їде до центру обробки даних, велика модель працює з ним там, і відповідь повертається назад. Модель ніколи не покидає комп’ютерів компанії; це ваші дані мусять прийти до неї.
ШІ на пристрої перевертає цю схему. Модель — це файл на вашому диску. Коли функції вона потрібна, вона завантажується в пам’ять комп’ютера й працює на вашому процесорі чи відеокарті. Ваші дані залишаються на місці; це модель прийшла до вас.
Що це змінює для вас
- Приватність. Ваші дані не покидають пристрою, тож ніде немає копії, яку можна було б зберегти, злити чи використати для навчання.
- Робота без мережі. Щойно модель завантажено, функція працює без з’єднання: у літаку, у поїзді, у мережі, яка блокує зовнішні сервіси.
- Без облікового запису. Немає сервера, якому треба знати, хто ви, чи рахувати ваші запити.
- Стабільна швидкість. Результат не залежить від того, наскільки добре з’єднання саме зараз.
Чого це коштує
Модель, що вміщується на ноутбуці, менша за модель у центрі обробки даних. Її створено для конкретних завдань, як-от перевірки й переписування тексту, а не для відкритих досліджень чи довгих есе. Їй також потрібне досить потужне залізо, вільне місце на диску й одноразове завантаження кількох гігабайтів перед першим використанням.
Для одних завдань такий обмін вигідний, для інших — ні. Для тексту, який ви не хочете нікому віддавати, зосереджена локальна модель часто виявляється кращим вибором.
Chrome Built-in AI
Google Chrome тепер має вбудований ШІ на пристрої, яким можуть користуватися сайти й розширення, — Chrome Built-in AI. Chrome один раз завантажує модель, а потім функції, що її використовують, запускають її локально.
Вимоги визначає Chrome: версія 138 або новіша на Windows, macOS, Linux чи Chromebook Plus, 22 ГБ вільного місця на диску, а також відеокарта з понад 4 ГБ пам’яті або 16 ГБ оперативної пам’яті. Сама модель займає кілька гігабайтів; 22 ГБ — це запас, який Chrome хоче мати вільним. Сторінка «Чи запрацює на моєму комп’ютері?» показує, як перевірити кожен пункт.
Як зрозуміти, чи інструмент справді працює на пристрої
- Він працює й тоді, коли Wi-Fi вимкнено.
- Його політика конфіденційності каже, де обробляються ваші дані, а не лише що все «безпечно» чи «зашифровано».
- Йому потрібне завантаження моделі або модель, яку надає ваш браузер чи операційна система.
«Зашифровано» описує лише дорогу до сервера. Це нічого не каже про те, що відбувається з текстом, коли він туди дістався.
Де тут Private Writing Assistant
Private Writing Assistant побудовано на Chrome Built-in AI. Перевірка правопису й граматики та перефразування працюють на вашому комп’ютері, 101 мовою, а те, що ви пишете на сайтах, ніколи не надсилається ні нам, ні сервісу ШІ. Сторінка «Як це працює» крок за кроком показує, що відбувається з вашим текстом.
Спробуйте ШІ на пристрої там, де ви пишете щодня: додайте Private Writing Assistant у Chrome. Безкоштовно й без облікового запису.