“AI trên thiết bị” thực ra nghĩa là gì?

AI trên thiết bị nghĩa là mô hình AI chạy ngay trên máy tính hoặc điện thoại của bạn thay vì trên máy chủ của một công ty. Những gì bạn gõ được xử lý ngay tại nơi bạn gõ, nên không cần gửi đi đâu, và tính năng vẫn hoạt động khi không có internet.

AI đám mây và AI trên thiết bị

Phần lớn tính năng AI bạn từng dùng là AI đám mây. Yêu cầu của bạn đi đến một trung tâm dữ liệu, một mô hình lớn xử lý nó ở đó, rồi câu trả lời quay về. Mô hình không bao giờ rời máy tính của công ty; dữ liệu bạn nhập phải đến với nó.

AI trên thiết bị đảo ngược điều đó. Mô hình là một tệp trên ổ đĩa của chính bạn. Khi một tính năng cần đến, nó được nạp vào bộ nhớ máy tính và chạy trên bộ xử lý hoặc card đồ họa của bạn. Dữ liệu bạn nhập ở yên chỗ cũ; mô hình đã đến với bạn.

Điều đó thay đổi gì với bạn

Cái giá phải trả

Một mô hình vừa với máy tính xách tay thì nhỏ hơn mô hình trong trung tâm dữ liệu. Nó được xây dựng cho những việc tập trung, như kiểm tra và viết lại văn bản, chứ không phải nghiên cứu mở hay viết tiểu luận dài. Nó cũng cần phần cứng đủ mạnh, dung lượng đĩa trống và một lần tải về vài gigabyte trước lần dùng đầu tiên.

Sự đánh đổi ấy đáng giá cho một số việc và không đáng cho việc khác. Với văn bản bạn không muốn trao cho ai, một mô hình cục bộ chuyên biệt thường là lựa chọn tốt hơn.

Chrome Built-in AI

Google Chrome giờ đã có sẵn AI trên thiết bị mà các trang web và tiện ích có thể dùng, gọi là Chrome Built-in AI. Chrome tải mô hình về một lần, sau đó các tính năng dùng nó sẽ chạy cục bộ.

Yêu cầu do Chrome đặt ra: phiên bản 138 trở lên trên Windows, macOS, Linux hoặc Chromebook Plus, 22 GB dung lượng đĩa trống, và card đồ họa có hơn 4 GB bộ nhớ hoặc 16 GB RAM. Bản thân mô hình chỉ vài gigabyte; 22 GB là khoảng trống Chrome muốn giữ lại. Máy tính của tôi có chạy được không? chỉ cách kiểm tra từng điểm.

Làm sao biết một công cụ có thật sự chạy trên thiết bị của bạn

“Được mã hóa” chỉ mô tả chuyến đi đến máy chủ. Nó không nói gì về chuyện xảy ra khi văn bản đã đến nơi.

Private Writing Assistant nằm ở đâu

Private Writing Assistant được xây dựng trên Chrome Built-in AI. Kiểm tra chính tả, ngữ pháp và viết lại đều chạy trên máy tính của bạn, bằng 101 ngôn ngữ, và những gì bạn viết trên các trang web không bao giờ được gửi cho chúng tôi hay cho dịch vụ AI nào. Cách hoạt động trình bày từng bước chuyện gì xảy ra với văn bản của bạn.

Thử AI trên thiết bị ở nơi bạn viết mỗi ngày: thêm Private Writing Assistant vào Chrome. Miễn phí và không cần tài khoản.

Thêm vào Chrome