מה המחשב צריך כדי להריץ AI מקומית

Private Writing Assistant

בדיקת דקדוק ושכתוב טקסט עם בינה מלאכותית שפועלת במכשיר שלך. בחינם.

הוספה ל-Chromeהוספה ל-Safari

התוסף מותקן, דף הפתיחה פתוח, ומודל ה-AI עדיין בהורדה. עשרים דקות אחר כך, הוא עדיין בהורדה. שום דבר לא מקולקל: מודל שפה הוא קובץ גדול, והמחשב שלך צריך לאחסן אותו, להחזיק אותו בזיכרון ולהריץ אותו.

בקצרה

הרצה של מודל AI במחשב שלך דורשת מספיק זיכרון כדי להחזיק אותו, מקום בדיסק כדי לאחסן אותו והורדה חד-פעמית. ב-Chrome Built-in AI פירוש הדבר Chrome 138 ומעלה ב-Windows, ב-macOS, ב-Linux או ב-Chromebook Plus, שטח פנוי של 22 GB בדיסק, וגם כרטיס גרפי עם יותר מ-4 GB זיכרון או 16 GB של RAM.

למה ל-AI מקומי יש דרישות בכלל

שירות AI בענן רץ על המחשבים של החברה, כך שהמחשב שלך צריך רק דפדפן. AI במכשיר רץ על המחשב שלך, ולכן המודל צריך להיכנס לזיכרון שלך, להיות מאוחסן בדיסק שלך ולהיות מחושב על ידי המעבד או הכרטיס הגרפי שלך.

מודלים שנבנו למחשבים ניידים קטנים בהרבה מאלה שבמרכזי נתונים, אבל הם עדיין תופסים כמה ג'יגה-בייט. משם מגיעה כל אחת מהדרישות.

בשביל מה כל דרישה

איך בודקים את המחשב

  1. פותחים את chrome://settings/help כדי לראות את גרסת Chrome שלך ולעדכן אותה אם צריך.
  2. בודקים כמה מקום פנוי יש בדיסק בהגדרות האחסון של המערכת.
  3. מחפשים בפרטי המערכת כמה זיכרון יש לכרטיס הגרפי וכמה RAM יש במחשב. ברוב המחשבים הניידים מהשנים האחרונות, אחד מהשניים מספיק.
  4. לתשובה הסופית, פותחים את chrome://on-device-internals. הדף מראה אם Chrome יכול להריץ את המודל שלו, ואם לא, למה.

בעמוד זה ירוץ על המחשב שלי? מפורטים אותם שלבים, עם כל הדרישות בטבלה אחת.

איך נראה השימוש הראשון

Chrome לא כולל את המודל כשמתקינים אותו. בפעם הראשונה שתכונה צריכה אותו, Chrome מוריד אותו ברקע. זה לוקח זמן, בהתאם לחיבור שלך, ואפשר להמשיך לגלוש בינתיים.

ב-Private Writing Assistant, דף הפתיחה בודק את גרסת Chrome שלך, מראה אם המודל מוכן, בהורדה או לא זמין, ויש בו לחצן להתחלת ההורדה. הבדיקה מתחילה מעצמה כשההורדה מסתיימת.

אם כתוב "לא זמין"

זה אומר ש-Chrome החליט שהמחשב או הפרופיל הזה עדיין לא יכולים להריץ את המודל. אפשר לנסות לעדכן את Chrome, להפעיל את "AI במכשיר" בהגדרות של Chrome ולהפעיל את Chrome מחדש; התפריט של התוסף מציג את השלבים האלה. אם אף אחד מהם לא עוזר, סביר שהמחשב לא עומד באחת הדרישות שלמעלה. זו החלטה של Chrome, לא של התוסף, ולכן כל כלי שבנוי על Chrome Built-in AI מקבל אותה תשובה.

האם זה שווה את זה?

אחרי שהמודל נמצא במחשב שלך, מקבלים AI שעובד בלי אינטרנט, בלי מגבלות שימוש, ואף פעם לא שולח את הטקסט שלך לשרת. בפוסט שלנו מה זה בעצם "AI במכשיר"? העסקה הזו מוסברת בפירוט.

רוצים לדעת אם המחשב שלך מוכן? מוסיפים את Private Writing Assistant ל-Chrome, ודף הפתיחה שלו בודק בשבילך.

הוספה ל-Chromeהוספה ל-Safari