דלגו לתוכן
מגזין תוכן בעבריתטעם ביום

כלי בינה מלאכותית שעובדים בשביל העסק.

חיפוש
מודלים ושירותי AI

Ollama: הפעלת מודלי בינה מלאכותית במחשב שלכם

Ollama מאפשרת להוריד ולהפעיל מודלי בינה מלאכותית במחשב שלכם, וגם להשתמש במודלים בענן. לפי המחירון, הרצה על החומרה שלכם אינה מוגבלת, אבל היכולות והמהירות תלויות במודל ובחומרה.

מחשב שבתוכו רשת בינה מלאכותית מוארת, ולצדו ענן מרוחק.
תמונה: איור שנוצר בבינה מלאכותית

Ollama מאפשרת להוריד ולהפעיל מודלי בינה מלאכותית במחשב שלכם, וגם להשתמש במודלים בענן. לפי המחירון, הרצה על החומרה שלכם אינה מוגבלת, אבל היכולות והמהירות תלויות במודל ובחומרה.

מה זה Ollama ואיך היא מפעילה מודלים במחשב

Ollama היא תוכנה להפעלה ולניהול של מודלי בינה מלאכותית על המחשב שלכם. מתקינים אותה, בוחרים מודל ומורידים אותו, ואז אפשר לשלוח אליו בקשות ולקבל תשובות. התוכנה זמינה ל־Windows, ל־macOS ול־Linux, וכוללת גם אפשרות להשתמש במודלים שמתארחים בענן. מדריך ההתחלה הרשמי מציג את שתי דרכי העבודה.

התפקידים מחולקים: Ollama מפעילה את המודל, והמודל שבחרתם קובע את יכולות השפה, הכתיבה והניתוח. אפשר לפנות אליו ישירות משורת הפקודה או לחבר אותו ליישום דרך ממשק תכנות. התיעוד למפתחים מסביר את אפשרויות החיבור.

התקנת Ollama היא הבסיס לעבודה עם מודלים. מה שתוכלו לעשות בפועל תלוי במודל שתבחרו וביישום שיעבוד סביבו.

היא רלוונטית בעיקר למי שרוצים להריץ מודל על החומרה שלהם, לבחור בין כמה מודלים או לשלב מודל בתוכנה עסקית. אם אתם מחפשים כלי מוכן לכתיבה מזדמנת, קחו בחשבון את הזמן שההתקנה והבחירה במודל ידרשו.

הפעלה מקומית לעומת מודלים בענן ב־Ollama
נושאהפעלה מקומיתמודלים בענן
מקום העיבודהמודל פועל על המחשב שלכםהמודל פועל בשירות הענן של Ollama
התקנת התוכנהנדרשת התקנת Ollama והורדת מודלבגישה ישירה דרך ממשק התכנות אין צורך בהתקנה
אימות בגישה ישירהבקשות מקומיות אינן דורשות מפתח גישהנדרש מפתח API
חומרההמודל משתמש במשאבי המחשב שלכםאפשר להפעיל מודלים גדולים בלי כרטיס גרפי חזק במחשב שלכם

מקור: תיעוד Ollama: התחלה, אימות ומודלים בענן

איזה מחשב צריך וכמה זה עולה

אין דרישת זיכרון אחת שמתאימה לכל המודלים. גודל המודל, אורך החומר שאתם שולחים והחומרה הזמינה משפיעים על צריכת הזיכרון. בדוגמה שבמדריך הרשמי, המודל Gemma 4 E2B דורש הורדה של כ־7.2 גיגה־בייט, וההמלצה היא 8 גיגה־בייט פנויים בזיכרון הכרטיס הגרפי או בזיכרון המאוחד במק. חלון הקשר גדול יותר דורש עוד זיכרון, ובזיכרון גרפי קטן יותר Ollama יכולה לעבור לזיכרון המערכת, אבל התשובות עלולות להיות איטיות יותר. זו המלצה למודל הספציפי הזה ולא סף לכל שימוש. מקור: מדריך ההתחלה.

ב־Windows נדרשת גרסה 10 בעדכון 22H2 או חדשה יותר, בגרסאות Home או Pro. לתוכנה עצמה נדרשים לפחות 4 גיגה־בייט אחסון, וקובצי המודלים תופסים מקום נפרד, שיכול להגיע לעשרות ואף למאות גיגה־בייט. במק נדרשת macOS 14 או חדשה יותר. מחשבים עם שבבי Apple M מפעילים מודלים על המעבד ועל המעבד הגרפי, ומחשבי מק מבוססי x86 תומכים במעבד בלבד. דרישות Windows ודרישות מק מפורטות בנפרד.

עלויות

נכון לנובמבר 2026, לפי המחירון הרשמי, המסלול הבסיסי (Pay as you go) עולה 0 דולר, וההרצה על החומרה שלכם מוגדרת בו כבלתי מוגבלת. עדיין יש עלויות של מחשב, חשמל ואחסון.

  • נכון לנובמבר 2026, מסלול Pro עולה 20 דולר לחודש וכולל 60 דולר של יתרת שימוש חודשית בענן.
  • נכון לנובמבר 2026, מסלול Max עולה 100 דולר לחודש וכולל 300 דולר של יתרת שימוש חודשית, גישה מוקדמת למודלים חדשים ועד 10 בקשות במקביל.
  • במסלול הבסיסי משלמים על שימוש בענן לפי טוקנים מיתרת שימוש. למשל, המודל gpt-oss:20b מתומחר נכון לנובמבר 2026 ב־0.07 דולר למיליון טוקנים בקלט וב־0.30 דולר למיליון טוקנים בפלט.

לפני רכישת מחשב חדש, נסו משימה אמיתית על המחשב הקיים. אם התשובה איטית, בדקו את התאמת הכרטיס הגרפי ואת מנהל ההתקן לפי רשימת החומרה הנתמכת. בכרטיסי NVIDIA נדרשת יכולת חישוב (compute capability) 5.0 ומעלה ומנהל התקן בגרסה 550 או חדשה יותר. בכרטיסי AMD ב־Windows התמיכה מוגבלת בעיקר לסדרות RX 7600 עד 7900.

מה נשאר במחשב ומה נשלח לענן

לפי Ollama, בהרצה מקומית החברה אינה רואה את הבקשות ואת המידע שלכם, והם אינם נשלחים אליה. כאשר בוחרים מודל בענן, הבקשות והתשובות מעובדות בשירות שלה, גם אם פניתם אליו מתוך תוכנה שמותקנת במחשב. החברה מצהירה שהתוכן אינו נשמר ביומנים ואינו משמש לאימון מודלים, ושהיא אוספת פרטי חשבון בסיסיים ונתוני שימוש מוגבלים בלי תוכן הבקשות. ההבחנה מופיעה בשאלות הנפוצות.

אפשר לכבות את תכונות הענן בשתי דרכים: משתנה הסביבה OLLAMA_NO_CLOUD בערך 1, או הגדרה בקובץ server.json. אחרי השינוי מפעילים מחדש את Ollama. הכיבוי משבית גם את מודלי הענן וגם את החיפוש באינטרנט שמספקת התוכנה. זו אפשרות שימושית כשמטרת ההתקנה היא עיבוד מקומי בלבד.

העיבוד המקומי אינו פוטר אתכם מבדיקה של התוכנות שמחוברות למודל, של הגישה למחשב ושל מקום שמירת הקבצים. ממשק התכנות המקומי אינו דורש אימות כברירת מחדל, ולכן פתיחתו לגישה מרחוק מחייבת הגנה על הגישה. לגישה ישירה לענן נדרש מפתח API, ואפשר גם להתחבר עם הפקודה ollama signin, ואז מודלי הענן פועלים דרך הממשק המקומי בלי מפתח בכל בקשה. התיעוד הרשמי על אימות מפרט את ההבדל.

לפני עבודה עם מסמכי לקוחות, עברו גם על העקרונות שבמדריך פרטיות בבינה מלאכותית.

מה אפשר לחבר אליה בעסק

מפתחים יכולים לחבר יישום למודל מקומי דרך ממשק התכנות של Ollama, או להשתמש במודלים בענן. קיימות ספריות רשמיות ל־Python ול־JavaScript. כתובת השרת והמודל שנבחר הם חלק מההגדרה, ולכן כדאי לוודא שהחיבור פונה לסביבת ההרצה שרציתם. השרת המקומי מאזין כברירת מחדל בכתובת localhost, בפורט 11434. מקור: מבוא לממשק התכנות.

Ollama תומכת גם במודלים שממירים טקסט לווקטורים מספריים (embeddings) לצורך חיפוש לפי משמעות, למשל המודל embeddinggemma. הקריאה נעשית דרך נקודת הקצה api/embed, ואפשר לשלוח מחרוזת אחת או כמה מחרוזות יחד. כדאי להשתמש באותו מודל גם ליצירת האינדקס וגם לחיפוש. התיעוד על ייצוגי טקסט מתאר את הרכיב הזה. את הרקע מסביר המדריך על חיפוש לפי משמעות, ואת התהליך הרחב, שבו קטעים ממסמכים מועברים למודל לניסוח תשובה, מסביר המדריך על חיבור בינה מלאכותית למסמכי העסק.

מודלי הענן מתאימים כשצריך מודל גדול בלי כרטיס גרפי חזק. התיעוד מציין שמודלי ענן עשויים לצאת משימוש כשמודלים חדשים מחליפים אותם, ושחלק מהיכולות, כמו פלט מובנה, אינן נתמכות בהם כרגע. מקור: מודלים בענן.

אם המטרה שלכם היא תוכן לקידום אורגני, הרצת המודל היא רק חלק מהעבודה. עדיין צריך לבחור נושאים, לאמת מידע ולערוך את התוצר. AI Click, שירות הקידום האורגני של ברנדיני, הסוכנות שמפעילה את המגזין, כולל מחקר, תוכן ובקרה אנושית. זהו שירות נפרד מהתקנת Ollama.

ניסוי ראשון שיבהיר אם ההפעלה המקומית מתאימה לכם

בחרו משימה מוגדרת שאפשר לבדוק בלי מידע רגיש. נניח שאתם רוצים להפוך תיאור מוצר לטיוטת תשובה ללקוח: הכינו תיאור פיקטיבי עם תנאים ברורים, ובקשו מהמודל לנסח תשובה בלי להוסיף התחייבויות.

אחרי ההתקנה אפשר להפעיל, למשל, את הפקודה ollama run qwen3:4b. דף המודל מציג אותה כפקודת ההפעלה ומציין שהמודל בגודל 2.5 גיגה־בייט, עם כ־4 מיליארד פרמטרים. גודל ההורדה אינו מעיד לבדו על הזיכרון הדרוש בזמן העבודה. מקור: דף המודל.

  1. שלחו את אותה בקשה פעמיים ובדקו אם התשובה שומרת על התנאים שהגדרתם.
  2. בדקו אם העברית מתאימה לעסק ואם זמן העריכה סביר. אל תניחו שמודל מתאים לעברית רק משום שהוא זמין להורדה.
  3. אם הביצועים איטיים, הפקודה ollama ps מציגה את המודלים הטעונים ובעמודה PROCESSOR את החלוקה בין המעבד למעבד הגרפי, למשל 100% GPU או 48%/52% CPU/GPU. התיעוד מסביר איך לקרוא את הפלט.
  4. שמרו את הבקשה ואת התשובה, ונסו את אותה משימה עם מודל נוסף.

בחרו לפי איכות העברית, זמן ההמתנה וכמות התיקונים שנדרשה. התוצאה תראה אם כדאי להמשיך בהפעלה מקומית, לעבור למודל בענן או להישאר עם כלי מוכן.

מקורות

אהבתם? שתפו עם מי שזה יעזור לו