Những gì máy tính của bạn cần để chạy AI cục bộ
Private Writing Assistant
Kiểm tra ngữ pháp và viết lại văn bản bằng AI chạy ngay trên thiết bị của bạn. Miễn phí.
Tiện ích đã cài xong, trang chào mừng đã mở, còn mô hình AI vẫn đang tải về. Hai mươi phút sau, vẫn đang tải. Không có gì hỏng cả: mô hình ngôn ngữ là một tệp lớn, và máy tính của bạn phải lưu nó, giữ nó trong bộ nhớ và chạy nó.
Tóm tắt nhanh
Chạy một mô hình AI trên máy tính của chính bạn cần đủ bộ nhớ để nạp nó, dung lượng ổ đĩa để lưu nó và một lần tải xuống. Với Chrome Built-in AI, điều đó có nghĩa là Chrome 138 trở lên trên Windows, macOS, Linux hoặc Chromebook Plus, 22 GB dung lượng trống, và card đồ họa có hơn 4 GB bộ nhớ hoặc 16 GB RAM.
Vì sao AI cục bộ lại có yêu cầu
Dịch vụ AI đám mây chạy trên máy của công ty, nên máy bạn chỉ cần một trình duyệt. AI trên thiết bị chạy trên chính máy tính của bạn, nên mô hình phải vừa trong bộ nhớ, được lưu trên ổ đĩa và được bộ xử lý hoặc card đồ họa của bạn tính toán.
Mô hình dành cho laptop nhỏ hơn nhiều so với mô hình trong trung tâm dữ liệu, nhưng vẫn chiếm vài gigabyte. Mỗi yêu cầu đều bắt nguồn từ đó.
Mỗi yêu cầu dùng để làm gì
- Bộ nhớ. Khi mô hình làm việc, nó phải được nạp vào bộ nhớ. Chrome dùng card đồ họa nếu card có hơn 4 GB bộ nhớ riêng, nếu không thì dùng bộ nhớ chính, khi đó cần 16 GB và bộ xử lý từ bốn nhân trở lên.
- Dung lượng ổ đĩa. Chrome cần 22 GB trống. Bản thân mô hình chỉ vài gigabyte; phần còn lại là khoảng trống Chrome giữ để ổ đĩa không bị đầy. Nếu sau này dung lượng xuống thấp, Chrome có thể gỡ mô hình đi.
- Hệ điều hành và trình duyệt. Chrome 138 trở lên trên Windows 10 hoặc 11, macOS 13 trở lên, Linux hoặc Chromebook Plus. Điện thoại và máy tính bảng không chạy được, vì Chrome trên Android và iOS không có tiện ích.
- Internet, một lần. Mô hình được tải xuống ở lần dùng đầu tiên qua kết nối không tính phí theo dung lượng. Sau đó, nó chạy ngoại tuyến.
Cách kiểm tra máy tính của bạn
- Mở
chrome://settings/helpđể xem phiên bản Chrome và cập nhật nếu cần. - Kiểm tra dung lượng ổ đĩa trống trong phần cài đặt lưu trữ của hệ thống.
- Xem bộ nhớ card đồ họa và dung lượng RAM trong thông tin hệ thống. Với phần lớn laptop vài năm gần đây, chỉ cần một trong hai là đủ.
- Để có câu trả lời cuối cùng, mở
chrome://on-device-internals. Trang này cho biết Chrome có chạy được mô hình không, và lý do nếu không.
Máy tính của tôi có chạy được không? liệt kê các bước tương tự cùng mọi yêu cầu trong một bảng.
Lần dùng đầu tiên trông như thế nào
Chrome không kèm sẵn mô hình khi bạn cài. Lần đầu một tính năng cần đến, Chrome sẽ tải nó xuống ở chế độ nền. Việc này mất một lúc tùy kết nối, và bạn vẫn có thể duyệt web trong lúc đó.
Trong Private Writing Assistant, trang chào mừng kiểm tra phiên bản Chrome, cho biết mô hình đã sẵn sàng, đang tải xuống hay không khả dụng, và có nút để bắt đầu tải. Việc kiểm tra tự bắt đầu khi tải xong.
Nếu báo “không khả dụng”
Điều đó có nghĩa Chrome đã xác định máy tính hoặc hồ sơ này chưa thể chạy mô hình. Hãy thử cập nhật Chrome, bật AI trên thiết bị trong cài đặt Chrome và khởi động lại Chrome; menu của tiện ích hiển thị các bước này. Nếu không cách nào hiệu quả, nhiều khả năng máy tính chưa đáp ứng một trong các yêu cầu trên. Đây là quyết định của Chrome, không phải của tiện ích, nên mọi công cụ xây dựng trên Chrome Built-in AI đều nhận cùng một câu trả lời.
Có đáng không?
Khi mô hình đã nằm trên máy tính của bạn, bạn có AI chạy được ngoại tuyến, không giới hạn lượt dùng và không bao giờ gửi văn bản của bạn lên máy chủ. Bài viết “AI trên thiết bị” thực ra nghĩa là gì? phân tích sự đánh đổi đó kỹ hơn.
Xem máy tính của bạn đã sẵn sàng chưa: thêm Private Writing Assistant vào Chrome, trang chào mừng sẽ kiểm tra giúp bạn.