מה fine tuning משנה במודל
fine tuning, או כוונון עדין, הוא אימון נוסף של מודל שכבר אומן, כדי להתאים את התנהגותו למשימה מוגדרת. בשיטה נפוצה שנקראת כוונון מונחה, מציגים למודל דוגמאות של קלט ושל התשובה הרצויה. במהלך האימון מתאימים פרמטרים שמשפיעים על התשובות שהוא מייצר.
לעסק, המשמעות היא אפשרות לשפר ביצוע חוזר: למשל, מיון פניות למחלקות, חילוץ פרטים מהודעה או כתיבה במבנה קבוע. המטרה צריכה להיות מספיק ברורה כדי שתוכלו לזהות תשובה טובה ולהסביר במה תשובה אחרת נכשלה. התיעוד של Google מתאר כוונון כפתרון למשימות מוגדרות שיש עבורן נתונים מתויגים. מקור: כוונון מונחה ב־Google.
יש שיטות שונות לביצוע ההתאמה. למשל, LoRA מאמנת תוספות קטנות יחסית לפרמטרים של המודל, בזמן שהפרמטרים המקוריים נשארים קפואים. לכן הביטוי כוונון מודל אינו מחייב אימון מחדש של כל רכיביו. מקור: תיעוד LoRA.
נקודת הפתיחה המעשית היא תקלה שחוזרת. נניח שמערכת ממיינת פניות היטב ברוב המקרים, אך מתבלבלת באופן עקבי בין בקשת ביטול לבין בירור על ביטול. זו משימה שאפשר להגדיר, להכין עבורה דוגמאות ולבדוק אם הכוונון שיפר אותה. רצון כללי לקבל תשובות טובות יותר עדיין דורש הגדרה מדויקת יותר.
מתי מספיק פרומפט ומתי צריך חיבור למסמכים
לפני אימון, בדקו מה חסר למערכת: הוראות ברורות, מידע רלוונטי או עקביות בביצוע. לכל בעיה מתאימה התערבות אחרת. בתהליך השיפור של OpenAI מתחילים במדידה ובהנחיות, ורק בחלק מהמקרים ממשיכים לכוונון. מקור: תהליך שיפור מודלים.
| הגישה | מה עושים | מתי לבדוק אותה |
|---|---|---|
| ניסוח הנחיות | מוסיפים מטרה, כללים ודוגמאות לבקשה | כשהמשימה אינה מוסברת היטב או שהתוצאה הרצויה אינה ברורה |
| RAG | מאתרים מידע במאגר ומעבירים אותו למודל לצורך התשובה | כשהתשובה תלויה במסמכי העסק ובמידע שמתעדכן |
| כוונון מודל | מאמנים על דוגמאות לביצוע הרצוי | כשיש כשל חוזר במשימה מוגדרת ודוגמאות איכותיות לפתרונו |
נניח שאתם רוצים לענות לפי מדיניות המשלוחים הנוכחית. חיפוש במסמכי המדיניות יכול לספק למודל את הקטע הרלוונטי בזמן המענה. תיעוד השליפה של OpenAI מתאר חיפוש לפי משמעות ושימוש בתוצאות ליצירת תשובה. מקור: שליפת מידע ממאגר. את מבנה העבודה אפשר להכיר גם במאמר על חיבור בינה מלאכותית למסמכי העסק.
אם הבעיה היא תשובות ארוכות מדי או התעלמות מהוראה, נסו תחילה תבנית ברורה ודוגמאות בתוך הבקשה. המאמר על ניסוח הנחיות עם דוגמאות לעסק מתאים לשלב הזה. אפשר גם לשלב גישות: לשלוף מידע מעודכן ולבקש ממודל מכוונן לעבד אותו במבנה הרצוי.
אילו משימות עסקיות מתאימות לניסוי
מועמדת טובה לניסוי היא משימה שחוזרת, שיש לה תוצאה רצויה שאפשר להדגים. בתיעוד הכוונון המונחה של OpenAI מופיעים סיווג, תרגום עם הבחנות דקות, יצירת תוכן בפורמט מסוים ותיקון כשלים בציות להנחיות. אלה כיוונים לבחינה, ללא הבטחה לשיפור בכל מערכת. מקור: שימושים בכוונון מונחה.
נניח שאתם מקבלים פניות שירות ורוצים להחזיר עבור כל פנייה קטגוריה ותמצית. תוכלו להכין דוגמאות שבהן עובדים מנוסים כבר הכריעו מהי הקטגוריה הנכונה. אם העובדים עצמם חלוקים לגבי ההגדרות, כדאי לפתור את המחלוקת לפני שמכינים את חומר האימון.
דוגמה אפשרית נוספת היא עיבוד תוכן למבנה עריכתי קבוע: פתיח ישיר, פסקאות קצרות ושמירה על מונחים שנקבעו מראש. במקרה כזה הגדירו מה נחשב שיפור מעבר להעדפה אישית. אפשר לבדוק אם נשמרו העובדות, אם המבנה תקין וכמה תיקונים נדרשו לפני אישור.
בתהליכי תוכן, שאלת הכוונון נפרדת מבחירת שירות המחקר והעריכה. AI Click, שירות הקידום האורגני של ברנדיני, הסוכנות שמפעילה את המגזין, כולל לפי תיאור השירות מחקר, תוכן ובקרה אנושית. עצם השימוש בבינה מלאכותית בתהליך כזה אינו מלמד שנדרש מודל מכוונן.
לפני בחירת משימה, כתבו מי ישתמש בתוצאה ומה יעשה איתה. תמצית שעובד קורא לפני טיפול בפנייה יכולה להיבחן אחרת מהחלטה שמפעילה פעולה אוטומטית. בחרו לניסוי הראשון שימוש שבו תוכלו לעבור על התוצאות ולהבין את סוגי הטעויות.
איך מכינים דוגמאות שאפשר ללמוד מהן
חומר האימון צריך להציג את העבודה שאתם רוצים לקבל בפועל. כל דוגמה צריכה לכלול את המידע הנחוץ לתשובה ואת הפלט המאושר. אם התשובה מדגימה הבטחה שאין לה בסיס בקלט, אתם מלמדים התנהגות שלא תרצו לשחזר.
בתיעוד ההמלצות של OpenAI מודגשים איכות הדוגמאות, גיוון, עקביות ואיזון בין סוגי התשובות. כשצריך לבחור, כמות קטנה של נתונים איכותיים יעילה בדרך כלל יותר מכמות גדולה באיכות נמוכה. לכן אל תעבירו לאימון ארכיון שלם רק מפני שהוא זמין. מקור: הכנת נתונים לכוונון.
- בחרו מקרים שמייצגים את הבקשות הצפויות, כולל ניסוחים קצרים, שגיאות כתיב ומידע חסר.
- תקנו תשובות ישנות לפני שילובן, וקבעו ניסוח מוסכם כשיש סתירה בין דוגמאות.
- הוסיפו דוגמאות שמראות מתי צריך לבקש הבהרה או להעביר את הטיפול לאדם.
- סמנו את מקור הדוגמה ואת הסיבה לאישור התשובה, כדי שתוכלו לחזור אליה בהמשך.
מומלץ להכין כללי עריכה משותפים למי שמאשר את הנתונים. נניח שחלק מהבודקים מסווגים פנייה לפי הבקשה הראשונה, ואחרים לפי הבקשה האחרונה באותה הודעה. בלי הכרעה משותפת, חומר האימון יכיל תשובות סותרות גם אם כל אחת נראית סבירה בפני עצמה.
הפרידו מראש דוגמאות לאימון מדוגמאות לבדיקה. שמרו גם בקשות לבדיקה הסופית שלא שימשו לבחירת תיקונים במהלך העבודה. לפני העלאה לספק, בדקו אילו פרטים מזהים אפשר להסיר ומהם תנאי שמירת המידע שלו; אל תכללו מידע שאינו נחוץ למשימה.
מה לבדוק בזמינות השירות לפני שבוחרים ספק
נכון ל־25.10.2026, תיעוד OpenAI מציין שפלטפורמת הכוונון שלה נמצאת בתהליך סגירה ואינה פתוחה למשתמשים חדשים. לקוחות קיימים זכאים יכולים ליצור עבודות אימון עד 6.1.2027, בכפוף לכך שמודל הבסיס לא נסגר קודם. השימוש במודלים מכווננים תלוי גם במועד סגירת מודל הבסיס. מקור: הודעת הזמינות בתיעוד הרשמי.
השינוי נוגע לשירות של הספק. השיטה עצמה מתועדת גם אצל ספקים אחרים: Google מפרסמת תיעוד לכוונון מונחה של Gemini, הכולל רשימת מודלים נתמכים ומגבלות. לפני בחירה, בדקו את הדגם המדויק ואת אפשרות ההפעלה לאחר האימון. מקור: תמיכת Google בכוונון.
בקשו מהגורם המיישם לתעד באיזה מודל משתמשים, היכן נשמרים הנתונים ומה קורה כשהגרסה יוצאת משימוש. בדקו גם אם תקבלו לידיכם את דוגמאות האימון ואת תוצאות ההשוואה. אלה פריטים שכדאי לשמור לצורך בחינת פתרון חלופי בהמשך. אחד החלופות האפשריות הוא חיפוש במסמכים, ועליו תוכלו לקרוא במדריך embeddings וחיפוש לפי משמעות.
אל תסתפקו בהדגמה מוקלטת או במדריך ישן. לפני תשלום, בקשו אישור שהמסלול המוצע זמין לחשבון שלכם, ושההצעה כוללת דרך מעשית להפעיל את התוצר. הגדירו גם מי אחראי לעדכונים אחרי המסירה.
תהליך עבודה לניסוי שאפשר להשוות
ניסוי מועיל מתחיל בקו בסיס: תוצאות של המודל הקיים עם ההנחיות הטובות שכבר הצלחתם לנסח. כך תוכלו לברר אם האימון מוסיף ערך לעומת פתרון פשוט יותר. תהליך השיפור הרשמי של OpenAI מציע למדוד ביצועים, לנסח הנחיות ולבחון התאמות לפי תוצאות הבדיקה. מקור: מחזור השיפור.
- הגדירו משימה אחת ותוצאה רצויה. למשל, סיווג פנייה למחלקה המתאימה עם הסבר קצר.
- הריצו את הפתרון הקיים על אוסף בדיקה ושמרו את התשובות בלי לערוך אותן.
- מיינו את הכשלים: מידע חסר, הנחיה עמומה, טעות סיווג או חריגה מהמבנה.
- הכינו חומר אימון שמטפל בכשלים המתאימים לכוונון, ובחרו מודל נתמך אצל הספק.
- בצעו אימון והשוו את התוצר לקו הבסיס באותם תנאי בדיקה.
- תעדו גם הרעות בביצועים, והחליטו אם להמשיך, לתקן את הנתונים או לעצור.
בכל סבב שנו גורם מוגדר ככל האפשר. אם החלפתם יחד את מודל הבסיס, ההנחיות וחומר האימון, יהיה קשה להסביר מה תרם לתוצאה. שמרו גרסה מזוהה לכל שינוי, יחד עם הדוגמאות שעליהן התבססה ההחלטה. על תפקיד ההנחיות אפשר לקרוא במדריך על הנחיית מערכת.
קבעו מראש תנאי עצירה לניסוי. למשל, אפשר להחליט שלא ממשיכים אם השיפור דורש יותר זמן בדיקה ועריכה מהתהליך הקיים. זו החלטה עסקית שתלויה באופן העבודה שלכם, ולכן עדיף לנסח אותה לפני שרואים תוצאה מרשימה בהדגמה.
איך מחשבים את העלות מעבר לאימון
אין מחיר אחיד לפרויקט כוונון. בקשו הצעה שמפרידה בין הכנת הנתונים, האימון והשימוש השוטף. בתקציב הפנימי כללו גם את זמן העובדים שמאשרים דוגמאות ובודקים תשובות, כדי להשוות לתהליך הקיים באותה שיטת חישוב.
| רכיב בתקציב | מה לכלול בחישוב | מה לבקש בהצעה |
|---|---|---|
| הכנת נתונים | מיון, תיקון, תיוג ובדיקת הדוגמאות | מי מכין ומי מאשר את התשובות |
| אימון | היקף חומר האימון וסבבי האימון | מה כלול ומה מחויב בנפרד |
| שימוש שוטף | הפעלת המודל על בקשות חדשות | תעריף שימוש ואופן החיוב |
| בדיקה ותחזוקה | בדיקות חוזרות, תיקונים ומעבר גרסאות | אחריות לאחר המסירה ותנאי שינוי |
בתיעוד Google, כמות טוקני האימון מחושבת לפי כמות הטוקנים במאגר כפול מספר המעברים עליו במהלך האימון. טוקנים הם יחידות הטקסט שהמודל מעבד. לאחר האימון ממשיכים לחול חיובי השימוש במודל; לתעריפים עצמם צריך לפנות למחירון העדכני. מקור: חישוב האימון והשימוש.
לבדיקת כדאיות, השוו את העלות הכוללת לתוצאה שמישה. נניח שהאימון מצמצם תיקוני ניסוח, אך מוסיף זמן לבדיקת עובדות. רשמו את שני השינויים בחישוב, ואל תסיקו חיסכון ממחיר ההפעלה לבדו. אפשר להיעזר במחשבון עלות שימוש בבינה מלאכותית עבור רכיב השימוש, ולהוסיף בנפרד את עבודת ההכנה והבקרה.
איך בודקים תוצאות לפני שימוש מול לקוחות
בחנו את המודל על בקשות שמייצגות את העבודה הצפויה, עם קריטריונים שנקבעו מראש. בתיעוד ההערכה של OpenAI מודגש שמודלים מפיקים לפעמים פלט שונה מאותו קלט. לכן תשובה מוצלחת אחת אינה מספיקה להחלטה על שימוש שוטף. מקור: עקרונות להערכת מודלים.
לכל משימה בחרו מדדים שמתאימים לה. בסיווג אפשר לבדוק התאמה לקטגוריה המאושרת; בחילוץ פרטים, לבדוק שהפרטים קיימים במקור; ובכתיבה, לבחון בנפרד שמירת עובדות והתאמה לסגנון. הציגו גם את הטעויות לצד התוצאה הכוללת, כדי להבין מה עדיין דורש טיפול.
בדקו במיוחד מקרים שבהם חסר מידע או שהבקשה חורגת מהמשימה. נניח שלקוח מבקש התחייבות למועד אספקה שלא מופיע בקלט. הגדירו מראש אם התגובה הרצויה היא בקשת הבהרה או העברה לעובד, ובדקו שהמודל עומד בכלל גם בניסוחים שונים.
בקשו מהבודקים להשוות תשובות בלי לדעת איזו גרסה יצרה אותן. שמרו הסבר להכרעות במקרים גבוליים, והפרידו בין טעות עובדתית לבין העדפת ניסוח. כך תוכלו לתקן כלל או דוגמה מסוימים במקום לשנות את המערכת לפי תחושה כללית.
לפני הפעלה מול לקוחות, הגדירו מי מאשר תשובות, אילו מקרים עוברים לטיפול אנושי ואיך חוזרים לגרסה הקודמת. הכינו מסמך מסירה עם תוצאות הבדיקה, מגבלות ידועות וזהות הגרסה. לאחר שינוי במודל או בתהליך, הריצו שוב את אוסף הבדיקות הרלוונטי לפני הרחבת השימוש.
שאלות נפוצות
האם העלאת מסמך לצ׳אט נחשבת fine tuning?
העלאת מסמך יכולה לספק מידע לשיחה או לחיפוש במסמכים. כוונון כולל תהליך אימון שמשנה פרמטרים במודל או תוספות להם; העלאת קובץ כשלעצמה אינה מעידה שתהליך כזה התרחש.
האם כוונון מודל מתאים לעבודה בעברית?
צריך לבדוק את המודל ואת המשימה על דוגמאות עבריות מייצגות. כללו בבדיקה ניסוחים עסקיים, שגיאות כתיב ושילוב מונחים לועזיים, לפי התוכן שאתם צפויים לקבל.
האם fine tuning מונע המצאת עובדות?
כוונון אינו מבטיח תשובות נכונות. איכות הדוגמאות, המידע שמסופק למודל והבדיקות נשארים חלק מהעבודה; כשנדרש מידע עסקי עדכני, כדאי לבחון גם שליפה ממקורות.
כמה דוגמאות צריך להכין לכוונון?
הכמות תלויה במודל, בספק ובמורכבות המשימה, ולכן צריך לבדוק את הדרישות בתיעוד המסלול שנבחר. הכינו תחילה דוגמאות איכותיות ומגוונות, והשאירו אוסף נפרד להערכת התוצאה.
האם כדאי לעסק קטן להתחיל מכוונון?
כדאי להתחיל בהגדרת המשימה ובבדיקת מודל קיים עם הנחיות ודוגמאות. כוונון ראוי לניסוי כשנשאר כשל חוזר שאפשר למדוד, ויש חומר אימון ותקציב לבדיקה ולתחזוקה.
