“AI trên thiết bị” thực ra nghĩa là gì?
AI trên thiết bị nghĩa là mô hình AI chạy ngay trên máy tính hoặc điện thoại của bạn thay vì trên máy chủ của một công ty. Những gì bạn gõ được xử lý ngay tại nơi bạn gõ, nên không cần gửi đi đâu, và tính năng vẫn hoạt động khi không có internet.
AI đám mây và AI trên thiết bị
Phần lớn tính năng AI bạn từng dùng là AI đám mây. Yêu cầu của bạn đi đến một trung tâm dữ liệu, một mô hình lớn xử lý nó ở đó, rồi câu trả lời quay về. Mô hình không bao giờ rời máy tính của công ty; dữ liệu bạn nhập phải đến với nó.
AI trên thiết bị đảo ngược điều đó. Mô hình là một tệp trên ổ đĩa của chính bạn. Khi một tính năng cần đến, nó được nạp vào bộ nhớ máy tính và chạy trên bộ xử lý hoặc card đồ họa của bạn. Dữ liệu bạn nhập ở yên chỗ cũ; mô hình đã đến với bạn.
Điều đó thay đổi gì với bạn
- Quyền riêng tư. Dữ liệu bạn nhập không bao giờ rời thiết bị, nên không có bản sao nào ở nơi khác để bị lưu, rò rỉ hay dùng để huấn luyện.
- Dùng ngoại tuyến. Khi mô hình đã được tải về, tính năng hoạt động không cần kết nối: trên máy bay, trên tàu, trên mạng chặn dịch vụ bên ngoài.
- Không cần tài khoản. Không có máy chủ nào cần biết bạn là ai hay đếm số yêu cầu của bạn.
- Tốc độ ổn định. Kết quả không phụ thuộc vào chất lượng kết nối lúc đó.
Cái giá phải trả
Một mô hình vừa với máy tính xách tay thì nhỏ hơn mô hình trong trung tâm dữ liệu. Nó được xây dựng cho những việc tập trung, như kiểm tra và viết lại văn bản, chứ không phải nghiên cứu mở hay viết tiểu luận dài. Nó cũng cần phần cứng đủ mạnh, dung lượng đĩa trống và một lần tải về vài gigabyte trước lần dùng đầu tiên.
Sự đánh đổi ấy đáng giá cho một số việc và không đáng cho việc khác. Với văn bản bạn không muốn trao cho ai, một mô hình cục bộ chuyên biệt thường là lựa chọn tốt hơn.
Chrome Built-in AI
Google Chrome giờ đã có sẵn AI trên thiết bị mà các trang web và tiện ích có thể dùng, gọi là Chrome Built-in AI. Chrome tải mô hình về một lần, sau đó các tính năng dùng nó sẽ chạy cục bộ.
Yêu cầu do Chrome đặt ra: phiên bản 138 trở lên trên Windows, macOS, Linux hoặc Chromebook Plus, 22 GB dung lượng đĩa trống, và card đồ họa có hơn 4 GB bộ nhớ hoặc 16 GB RAM. Bản thân mô hình chỉ vài gigabyte; 22 GB là khoảng trống Chrome muốn giữ lại. Máy tính của tôi có chạy được không? chỉ cách kiểm tra từng điểm.
Làm sao biết một công cụ có thật sự chạy trên thiết bị của bạn
- Nó vẫn hoạt động khi tắt Wi-Fi.
- Chính sách quyền riêng tư của nó nói rõ dữ liệu bạn nhập được xử lý ở đâu, chứ không chỉ nói nó “an toàn” hay “được mã hóa”.
- Nó cần tải mô hình về, hoặc dùng mô hình do trình duyệt hay hệ điều hành cung cấp.
“Được mã hóa” chỉ mô tả chuyến đi đến máy chủ. Nó không nói gì về chuyện xảy ra khi văn bản đã đến nơi.
Private Writing Assistant nằm ở đâu
Private Writing Assistant được xây dựng trên Chrome Built-in AI. Kiểm tra chính tả, ngữ pháp và viết lại đều chạy trên máy tính của bạn, bằng 101 ngôn ngữ, và những gì bạn viết trên các trang web không bao giờ được gửi cho chúng tôi hay cho dịch vụ AI nào. Cách hoạt động trình bày từng bước chuyện gì xảy ra với văn bản của bạn.
Thử AI trên thiết bị ở nơi bạn viết mỗi ngày: thêm Private Writing Assistant vào Chrome. Miễn phí và không cần tài khoản.