O que significa, afinal, «IA no dispositivo»?
IA no dispositivo significa que o modelo de IA é executado no seu próprio computador ou telemóvel, e não nos servidores de uma empresa. O que escreve é processado onde o escreveu, por isso não precisa de ser enviado para lado nenhum, e a funcionalidade continua a funcionar sem ligação à Internet.
IA na nuvem e IA no dispositivo
A maior parte das funcionalidades de IA que já usou são IA na nuvem. O seu pedido viaja até um centro de dados, um modelo grande trata-o lá e a resposta regressa. O modelo nunca sai dos computadores da empresa; é a sua entrada que tem de ir até ele.
A IA no dispositivo inverte isto. O modelo é um ficheiro no seu próprio disco. Quando uma funcionalidade precisa dele, é carregado na memória do seu computador e corre no seu processador ou na sua placa gráfica. A sua entrada fica onde está; é o modelo que vem até si.
O que isto muda para si
- Privacidade. A sua entrada nunca sai do dispositivo, por isso não há nenhuma cópia noutro lado que possa ser guardada, divulgada ou usada para treino.
- Uso offline. Depois de o modelo ser transferido, a funcionalidade funciona sem ligação: no avião, no comboio, numa rede que bloqueia serviços externos.
- Sem conta. Não há nenhum servidor que precise de saber quem é ou de contar os seus pedidos.
- Velocidade constante. O resultado não depende do estado da sua ligação nesse momento.
O que custa
Um modelo que cabe num portátil é mais pequeno do que um modelo de centro de dados. Foi feito para tarefas concretas, como rever e reescrever texto, e não para pesquisas abertas ou redação longa. Precisa também de hardware capaz, de espaço livre em disco e de uma transferência única de alguns gigabytes antes da primeira utilização.
Esta troca compensa para algumas tarefas e não para outras. Para textos que prefere não entregar a ninguém, um modelo local especializado costuma ser a melhor opção.
Chrome Built-in AI
O Google Chrome inclui agora IA no dispositivo que os sites e as extensões podem usar, chamada Chrome Built-in AI. O Chrome transfere o modelo uma vez, e as funcionalidades que o utilizam executam-no localmente.
Os requisitos são do Chrome: versão 138 ou posterior em Windows, macOS, Linux ou num Chromebook Plus, 22 GB de espaço livre em disco e uma placa gráfica com mais de 4 GB de memória ou 16 GB de RAM. O modelo em si ocupa alguns gigabytes; os 22 GB são a margem que o Chrome quer manter livre. Funciona no meu computador? mostra como verificar cada ponto.
Como saber se uma ferramenta funciona mesmo no seu dispositivo
- Continua a funcionar com o Wi-Fi desligado.
- A política de privacidade diz onde a sua entrada é processada, e não só que está «segura» ou «encriptada».
- Precisa de transferir um modelo, ou usa um modelo fornecido pelo seu navegador ou sistema operativo.
«Encriptado» descreve apenas a viagem até um servidor. Não diz nada sobre o que acontece quando o texto lá chega.
Onde entra o Private Writing Assistant
O Private Writing Assistant assenta no Chrome Built-in AI. A verificação de ortografia e gramática e a reescrita são feitas no seu computador, em 101 línguas, e o que escreve em sites nunca é enviado para nós nem para um serviço de IA. Como funciona mostra passo a passo o que acontece ao seu texto.
Experimente a IA no dispositivo onde escreve todos os dias: adicione o Private Writing Assistant ao Chrome. É gratuito e não precisa de conta.