המודלים המקומיים הטובים ביותר

"מה המודל המקומי הכי טוב?" היא שאלה בלי תשובה יחידה - התשובה הנכונה תמיד "הכי טוב למה, ועל איזו חומרה". מודל שמנצח בבנצ'מארק מתמטי יכול להיות בחירה גרועה לכתיבת טקסט שיווקי, ומודל ענק שדורש תחנת עבודה ייעודית לא רלוונטי למי שעובד ממחשב נייד.

שש המשפחות שבאמת רלוונטיות

משפחה	גדלים זמינים	הכי טוב ל
Qwen3	0.6B עד 32B (וגרסאות MoE גדולות יותר)	איזון כללי - הבחירה הבטוחה כשלא בטוחים
DeepSeek	גרסאות מזוקקות 1.5B-70B	חשיבה וניתוח מתמטי-לוגי
Mistral	7B-24B	קוד, יעילות, רישיון פתוח לגמרי
Llama	8B ומעלה	התחלה קלה, הכי הרבה תיעוד וקהילה
Gemma 3	270M עד 27B	ראייה (תמונות) ותמיכה ביותר מ-140 שפות
Phi-4	3.8B ו-14B	חשיבה על חומרה חלשה - מחשב נייד ישן

כל המשפחות האלה זמינות דרך Ollama בפקודת ollama pull פשוטה, בגרסאות מכומתות שמתאימות לחומרת צריכה רגילה.

Qwen3 - ברירת המחדל הבטוחה

Qwen3 (מבית Alibaba, רישיון Apache 2.0 שמתיר שימוש מסחרי חופשי) מגיע בטווח גדלים רחב במיוחד - מ-0.6B ועד גרסאות MoE גדולות בהרבה. מי שלא בטוח באיזה מודל להתחיל, זו נקודת ההתחלה הכי סבירה: הוא מאוזן בין יכולת כתיבה, קוד ותמיכה רב-לשונית, בלי להיות המומחה הטוב ביותר באף תחום ספציפי.

DeepSeek - למשימות חשיבה

הגרסאות המזוקקות של DeepSeek (1.5B עד 70B, רישיון MIT) מביאות חלק מיכולת החשיבה של המודל הענק המקורי לגדלים שרצים על חומרה רגילה. ההתאמה הטבעית: בעיות לוגיות, ניתוח שלב-אחר-שלב, מתמטיקה - לא כתיבה יצירתית או שיחה כללית.

Mistral ו-Gemma - שני מקרים ספציפיים

Mistral (מבית חברה צרפתית, ליבה תחת Apache 2.0) מתמקד ביעילות וברישיון פתוח לגמרי - בחירה טובה כשקוד פתוח וודאות משפטית חשובים יותר מהניקוד הגבוה ביותר בבנצ'מארק. Gemma 3 (Google) הוא המשפחה היחידה ברשימה עם תמיכת ראייה חזקה ותמיכה מוצהרת ביותר מ-140 שפות - רלוונטי במיוחד למי שצריך המודל להבין גם תמונות, לא רק טקסט.

Llama ו-Phi-4 - התחלה קלה וחומרה חלשה

Llama (Meta) הוא המודל עם הכי הרבה תיעוד, מדריכים וכלים תומכים ברשת - לא בהכרח החזק ביותר בכל קטגוריה, אבל הכי קל למצוא עזרה כשמשהו לא עובד. Phi-4 (Microsoft, רישיון MIT, 3.8B או 14B) תוכנן במפורש למקרה של חומרה חלשה - מחשב נייד ישן או ללא כרטיס מסך נפרד - ומתמקד ביכולת חשיבה גבוהה יחסית לגודלו הקטן.

איך לבחור בפועל

1. אין כרטיס מסך ייעודי או המחשב ישן - Phi-4 או Qwen3 בגודל קטן (עד 4B).
2. המשימה העיקרית קוד - Mistral או הגרסה הממוקדת-קוד של Qwen3.
3. המשימה כוללת ניתוח לוגי או מתמטי - אחת הגרסאות המזוקקות של DeepSeek.
4. צריך גם הבנת תמונות - Gemma 3.
5. לא בטוחים, ורוצים משהו שיעבוד סביר על כל דבר - Qwen3 בגודל שמתאים לחומרה שלכם.

על הרישיונות - למה זה חשוב לא רק למשפטנים

מודל שיצא תחת Apache 2.0 או MIT (כמו Qwen ורוב גרסאות DeepSeek) מתיר שימוש מסחרי חופשי, כולל בניית מוצר עליו ומכירתו - בלי לשלם תמלוגים ובלי לבקש רישיון נפרד. Llama יוצא תחת רישיון קהילתי משלו עם תנאים ספציפיים למי שחוצה סף שימוש מסוים, ו-Gemma תחת תנאי שימוש נפרדים משלה. ההבדל הזה לא משנה למי שמריץ מודל לשימוש אישי בבית, אבל קריטי למי שבונה עליו מוצר או שירות ללקוחות - שווה לקרוא את תנאי הרישיון הספציפיים לפני שבונים תלות עסקית במודל מסוים.

מה לא לצפות מהם

אף אחד מהמודלים האלה, גם בגדלים הגדולים ביותר, לא מגיע ליכולת של מודל ענן מוביל באותה משימה - הפער הכי בולט בעברית ובמשימות שדורשות ידע עדכני על העולם, כי רוב האימון מבוסס על נתונים שנאספו עד תאריך מסוים ולא מתעדכן. הערך שלהם הוא בפרטיות ובעלות קבועה, לא בתחרות ראש בראש מול המודל החזק ביותר בשוק. מי שמצפה שמודל מקומי בגודל 8B יחליף לגמרי מנוי לענן צפוי לאכזבה - הציפייה הריאלית היא כלי משלים למשימות שבהן פרטיות או עלות קבועה שווים יותר מנקודת אחוז נוספת של דיוק.