כמה RAM צריך למודלים מקומיים ב-2026

"כמה RAM צריך בשביל להריץ AI בבית?" היא שאלה שהתשובה עליה השתנתה מהותית. עד לפני שנה-שנתיים התשובה הסבירה הייתה "64GB ומעלה, אחרת אל תטרחו". היום, בזכות כימות יעיל ומודלים קטנים שמתחרים בגדולים, התשובה תלויה הרבה יותר במה אתם רוצים לעשות ופחות במחסום כניסה גורף אחד.

מה השתנה: כימות ומודלים קטנים יותר

שני שינויים הזיזו את הרף. הראשון - כימות Q4 הפך לברירת מחדל, ומכווץ מודל לכ-0.6GB זיכרון לכל מיליארד פרמטרים במקום כ-2GB ב-FP16 המקורי. השני - משפחות כמו Phi-4 Mini ו-Llama 3.2 3B נבנו מלכתחילה להיות קטנות אבל שמישות, לא רק "גרסה מוקטנת וחלשה" של מודל גדול. התוצאה: מודל Phi-4 Mini בכימות Q4_K_M תופס כ-2.5GB זיכרון בלבד ורץ בקצב סביר גם על מעבד בלי כרטיס מסך.

מה אפשר היום, בפועל, לפי כמות זיכרון

בלי כרטיס מסך נפרד, על 16GB זיכרון מערכת: Phi-4 Mini 3.8B ב-Q4_K_M תופס כ-2.5GB, ו-Llama 3.1 8B ב-Q4_K_M כ-4.9GB - שניהם משאירים מקום נוח לדפדפן ולמערכת ההפעלה לצדם.

מה עדיין לא עובד, גם עם המספרים החדשים

מודלים גדולים באמת עדיין דורשים מכונה רצינית. מודל 70B צריך כ-40GB זיכרון רק למשקלים עצמם, כך שגם עם 32GB זיכרון מערכת הוא לא נכנס בלי טריקים כמו העמסה חלקית לדיסק - שאיטית מדי לשימוש שוטף. מודלי MoE ענקיים כמו במחלקת 671B פרמטרים דורשים סדר גודל של 192GB זיכרון מאוחד כדי לרוץ ב-Q8 בנוחות - זו כבר לא חומרה ביתית רגילה אלא תחנת עבודה ייעודית.

חשוב גם לזכור: חלון הקשר צורך זיכרון בנפרד ממשקל המודל עצמו. שיחה ארוכה או מסמך גדול שמוזן למודל מוסיפים דרישה משמעותית מעל המספר הבסיסי, במיוחד בהקשרים של עשרות אלפי טוקנים ומעלה - זו הסיבה שמודל שנטען בהצלחה עם שאלה קצרה יכול "לקרוס" זיכרון כמה דקות אחר כך, כשמדביקים אליו מסמך ארוך.

כדאי גם לחשב מרווח אם המודל לא הדבר היחיד שרץ. מי שעובד עם המודל פתוח לצד דפדפן עם עשרות טאבים, כלי עריכה כבדים או שיחה מקבילה עם מודל שני - צריך להוסיף את הצריכה הזו מעל מספר הזיכרון של המודל עצמו, לא להסתמך על המספר המינימלי מהטבלה כאילו הוא כל מה שהמחשב עושה.

מה זה אומר בפועל אם קונים או משדרגים

אם קונים מחשב או מוסיפים זיכרון במטרה מפורשת להריץ AI מקומי: 16GB הוא הרצפה המעשית להתנסות רצינית, אבל 32GB הוא הסף הנוח - הוא מאפשר מודל 14B תוך כדי שנשאר מקום למערכת, ומשאיר מרווח נשימה לחלון הקשר. מעבר ל-64GB רלוונטי בעיקר אם המטרה המפורשת היא מודלים בגודל 70B, לא לשימוש יומיומי רגיל.

איך למדוד שבחרתם נכון

בזמן ריצה, בדקו את מנהל המשימות (Windows) או Activity Monitor (Mac): אם השימוש בזיכרון מתקרב ל-100% והמערכת מתחילה "לגמגם", המודל גדול מדי לזיכרון שיש. ב-Ollama, הפקודה ollama ps מראה בדיוק כמה זיכרון המודל הטעון תופס כרגע - אם המספר קרוב לתקרה הפיזית, זה הזמן לרדת גודל לפני שהמערכת תתחיל להחליף לדיסק. בחרתם כלי הרצה עדיין? הטבלה שם ממפה גם איזה מודל מתאים לאיזה כלי, לא רק לאיזה זיכרון.