agent ai: איך סוכן בינה מלאכותית עובד ואיך מתחילים בעסק

מהו agent ai ומה הוא יכול לבצע

סוכן בינה מלאכותית הוא מערכת תוכנה שמקבלת מטרה ומשתמשת במודל ובכלים כדי להתקדם אליה. לפי ההסבר של Anthropic על בניית סוכנים, המודל מכוון בעצמו את התהליך ואת השימוש בכלים. הכלים מאפשרים לחפש מידע, לקרוא מסמך או לבצע פעולה במערכת מחוברת, והסוכן יכול להתקדם, לשנות כיוון או לבקש עזרה לפי התוצאה שקיבל.

נניח שלקוח מבקש לברר מה קרה להזמנה. בתהליך היפותטי, סוכן יכול לזהות איזה מידע חסר, לבקש מזהה הזמנה, לבדוק את הרשומה המתאימה ולהכין תשובה. האפשרות לשלוח אותה או לעדכן את ההזמנה תלויה בכלים ובהרשאות שהוגדרו עבורו. אם חיברתם אותו רק למסמכי עזרה, אין בכך חיבור אוטומטי למערכת ההזמנות.

מידת העצמאות נקבעת בתכנון המערכת. אפשר להגדיר שהסוכן יאסוף מידע ויכין טיוטה, ולהשאיר לעובד את אישור השליחה. אפשר גם לאפשר פעולות מוגדרות מראש ולהעביר חריגים לאדם. לצורך בחירת פתרון, בקשו לראות מה הסוכן קורא, מה הוא משנה ובאיזה שלב הוא נעצר. על ניסוח ההוראות לסוכן אפשר לקרוא במדריך על איך הנחיית מערכת קובעת התנהגות.

השם לבדו אינו מפרט יכולת. כדי להבין הצעה של ספק, תארו משימה מתחילתה ועד סופה ובקשו הדגמה על נתונים לדוגמה שאתם מספקים. כך תוכלו לראות אם המערכת אכן משלימה את הפעולות הנדרשות.

מה ההבדל בין סוכן, צ'אטבוט ואוטומציה

בוט שיחה הוא ממשק שמנהל שיחה, ואוטומציה היא דרך להפעיל תהליך בעקבות אירוע. סוכן יכול לפעול בתוך ממשק שיחה או ברקע. ההבחנה המעשית היא מי קובע את הצעד הבא: כללים קבועים בתוכנה, או מודל שמחליט לפי המשימה והתוצאות שהתקבלו.

בההסבר של Anthropic על בניית סוכנים, תהליכי עבודה מוגדרים כמערכות שבהן מודלים וכלים מתוזמרים במסלולים שנקבעו בקוד, וסוכנים כמערכות שבהן המודל מכוון באופן דינמי את התהליך ואת השימוש בכלים. אותה מערכת יכולה לשלב בין הגישות.

בחרו לפי הצורך בתהליך. אם כל פנייה עוברת באותם שלבים, התחילו בבחינת מסלול קבוע. אם צריך להבין ניסוח חופשי ולהחליט איזה מידע לחפש, בחנו רכיב של סוכן. זו גם סיבה לבקש מהספק להסביר מה מחייב שימוש במודל בכל שלב. הדרכה על חיבור בינה מלאכותית לתהליכי עבודה תעזור לכם להשוות בין האפשרויות.

איזה מידע וכלים צריכים לחבר לסוכן

כדי להבין מה נדרש להקמה, הפרידו בין המודל, מקורות המידע והפעולות הזמינות. המודל מסייע לפרש בקשות ולבחור צעדים. מקורות המידע מספקים הקשר עסקי, והכלים מאפשרים לבצע פעולות מוגדרות. למי שבוחן תיאום בין כמה סוכנים, יש מדריך על בניית צוות סוכנים ב-CrewAI.

נניח שאתם מתכננים סוכן להכנת תשובות על מוצרים. רשימת המידע המאושר יכולה לכלול קטלוג מעודכן ומסמך שאלות נפוצות. הגדירו מי אחראי לעדכנם ומה עושים כשהם סותרים זה את זה. בקשו שהטיוטה תציג את המקור שעליו הסתמכה, כדי שעובד יוכל לבדוק את התשובה.

חיבור למסמכים דורש גם תכנון של חיפוש המידע הרלוונטי לכל בקשה. להעמקה בנושא אפשר לקרוא על חיבור בינה מלאכותית למסמכי העסק באמצעות RAG. הגדירו בנפרד אם הסוכן רשאי רק לקרוא מידע או גם לעדכן רשומות.

כשמגיעים לחיבור מערכות, הכינו רשימת פעולות מפורשת: למשל, איתור הזמנה לפי מזהה או יצירת טיוטת תשובה. המדריך על חיבור כלי העסק באמצעות MCP והרשאות רלוונטי לשלב הזה. בקשו גם מסמך שמפרט מה נשמר בין פניות, איך מוחקים אותו ואילו משתמשים יכולים לגשת אליו.

איך בוחרים משימה ראשונה לעסק

לניסוי ראשון, בחרו משימה שאפשר לתאר במשפט ושאפשר לבדוק את תוצאתה. למשל: הכנת טיוטת תשובה לפנייה מתוך מסמכים מאושרים. הגדירו מראש מה נחשב תוצר שימושי, איזה מידע צריך להופיע בו ומתי הסוכן חייב להעביר את הטיפול לעובד.

העדיפו בשלב הזה תהליך שבו תוכלו לעבור על התוצאה לפני שהיא משפיעה על לקוח. נניח שסוכן מסווג פניות ומציע למי להעביר אותן: אפשר להשוות את המלצתו להחלטת עובד ולתעד טעויות. לעומת זאת, אם הניסוי כולל שינוי הזמנה, תצטרכו לבדוק גם את השינוי שנעשה בפועל ואת הדרך לתקן אותו.

הכינו דוגמאות שמייצגות את העבודה שלכם. לצד בקשות רגילות, כללו פנייה עמומה, מידע חסר ומקרה שאינו בתחום האחריות של הסוכן. אל תבחרו רק דוגמאות שקל לענות עליהן מתוך מסמך יחיד. בקשו הדגמה גם של עצירה ושל העברה לעובד.

אם אתם שוקלים את aiclick של ברנדיני, הסוכנות שמפעילה את המגזין, השתמשו באותו מסמך דרישות גם לצורך בחינת ההצעה הזו. בקשו פירוט של המשימה, מקורות המידע, הרשאות הפעולה ודרך בדיקת התוצאה. כך תוכלו להשוות בין הצעות על בסיס תהליך העבודה שאתם צריכים.

לפני הזמנת ההקמה, מנו עובד שאחראי לקבל את התוצרים ולדווח על תקלות. כתבו גם מי רשאי לאשר שינוי בהוראות או הרחבת הרשאות. אלה החלטות שכדאי לסגור כחלק מהגדרת הניסוי.

אילו הרשאות לתת ואיפה נדרש אישור אנושי

סוכן שקורא תוכן חיצוני עלול להיחשף להוראות זדוניות בתוך הודעה, מסמך או אתר. ניסיון כזה נקרא הזרקת הנחיות: תוכן שהמערכת אמורה לעבד מנסה לכוון את פעולותיה. הנחיות האבטחה של Anthropic ממליצות לצמצם גישה למידע ולפעולות ולבדוק תוכן שמוחזר מכלים.

לכן, הגדירו הרשאות במערכות עצמן. אם המשימה מחייבת קריאת קטלוג, בדקו שהחיבור מוגבל לקטלוג הדרוש. אם אין צורך במחיקה או בשליחת הודעות, השאירו פעולות אלה מחוץ לכלים הזמינים. הוראה כתובה לסוכן אינה מחליפה הגבלת גישה. להשוואה בין פיתוח בקוד לתשתית מנוהלת, ראו OpenAI Agents בעסק ואפשרויות הבחירה.

בתיעוד סיכוני ההפעלה של Anthropic מובהר שגם סביבת הפעלה מוגבלת אינה מסירה את כל הסיכון, ושצריך להגביל הרשאות גם בשירות שהנפיק אותן. הסוכן עשוי לכלול בתשובה מידע שהוא מורשה לקרוא. לכן בדקו גם למי התוצאה מוצגת.

• התחילו בגישה לקריאה וביצירת טיוטות, ככל שהמשימה מאפשרת זאת.
• דרשו אישור מפורש לפני פעולה בעלת השפעה כספית או שינוי מידע של לקוח.
• הפרידו נתוני ניסיון ממידע של לקוחות אמיתיים.
• הגדירו דרך לעצור את ההפעלה ולבטל את הגישה למערכות המחוברות.

בבדיקת הקבלה, נסו פעולה שהסוכן אינו אמור לבצע ובדקו שהמערכת חוסמת אותה. בקשו לראות את החסימה בפועל, לצד הסבר מי יכול לשנות את ההרשאה.

איך משווים עלויות בלי להסתפק במחיר מנוי

בקשו הצעה שמתארת את כל רכיבי ההוצאה הצפויים ואת יחידת החיוב של כל רכיב. לצורך ההשוואה, תנו לספקים את אותו תיאור משימה ואת אותו היקף פעילות משוער. סמנו בנפרד עלויות חד־פעמיות, חיובים שוטפים ועבודה שתידרש מהצוות שלכם.

לפי Anthropic, מערכות סוכנים מחליפות לעיתים זמן תגובה ועלות בביצוע טוב יותר של משימות, והיא ממליצה לחפש את הפתרון הפשוט ביותר ולהוסיף מורכבות רק כשצריך. לכן בקשו להסביר גם מה ייחסך אם חלק מהתהליך יבוצע באמצעות כללים קבועים.

לצורך הערכת כדאיות, תעדו את זמן העבודה הידנית ואת זמן הבדיקה לאחר הפעלת הסוכן. אפשר להזין הנחות למחשבון החיסכון מאוטומציה, ולהחליף אותן בהמשך בנתונים מהניסוי. דרשו גם פירוט של התראות תקציב ומגבלות שימוש, ובדקו את תנאי הספק העדכניים לפני התחייבות.

איך מריצים ניסוי ומחליטים אם להרחיב

בדיקת סוכן צריכה להתייחס לתוצאה שהתקבלה במערכת. בהנחיות Anthropic להערכת סוכנים מובחנים תיעוד הפעולות והתוצאה הסופית: הודעה על השלמת פעולה אינה מוכיחה שהרשומה המתאימה אכן נוצרה. ההנחיות ממליצות גם על ניסיונות חוזרים, משום שתוצאות המודל משתנות בין הרצות.

1. כתבו משימה מוגדרת ותנאי קבלה. ציינו איזה תוצר נדרש, על אילו מקורות מותר להסתמך ומה מחייב העברה לאדם.
2. הכינו סביבת ניסיון ומקרים לבדיקה. כללו בקשות רגילות, נתונים חסרים ומקרים שבהם הפעולה צריכה להיחסם.
3. הריצו את המקרים ושמרו תיעוד. רשמו אילו כלים הופעלו, מה הוחזר מהם והאם עובד נדרש להתערב.
4. בדקו את המצב הסופי. ודאו שהטיוטה נכונה, שהרשומה הרצויה עודכנה אם הדבר הותר ושלא נעשה שינוי מחוץ למשימה.
5. השוו לדרך העבודה הקיימת. מדדו זמן טיפול, זמן תיקון והוצאות שימוש בפועל, והחליטו אם התהליך עומד בתנאים שהגדרתם.

נסו שוב גם מקרים שכבר הצליחו, ובדקו את ההתנהגות לאחר שינוי בהוראות, במסמכים או בחיבורים. תעדו מה השתנה כדי שאפשר יהיה לקשר בין עדכון לבין תקלה שהתגלתה.

לפני הרחבת השימוש, סגרו את התקלות הפתוחות והגדירו מי מטפל בחריגים. הרחיבו בכל פעם את היקף המשימה או את ההרשאות לפי צורך מוגדר, ושמרו אפשרות לחזור להפעלה המצומצמת אם הבדיקות נכשלות.

שאלות נפוצות

האם סוכן בינה מלאכותית הוא צ'אטבוט?

סוכן יכול לפעול בתוך צ'אטבוט או ברקע. המאפיין המרכזי שלו הוא בחירת צעדים ושימוש בכלים בהתאם למטרה ולתוצאות שמתקבלות.

האם צריך לדעת לתכנת כדי להתחיל עם סוכן?

לצורך הגדרת המשימה והבדיקות אפשר להתחיל בתיאור תהליך העבודה. שאלו את ספק הפתרון מי מקים ומתחזק את החיבורים, ומי מטפל בתקלות ובהרשאות.

האם סוכן יכול לעבוד עם מסמכי העסק?

כן, כאשר המערכת כוללת חיבור מתאים למסמכים או כלי לחיפוש בהם. צריך להגדיר אילו מקורות מאושרים, מי מעדכן אותם ואיך בודקים את התשובות.

כמה עולה סוכן בינה מלאכותית לעסק?

יש לבחון הצעה לפי המשימה, החיבורים, היקף השימוש והתחזוקה הכלולה. בקשו פירוט חיובים ומדדו בניסוי גם את זמן הבקרה והתיקון של העובדים.

האם אפשר לתת לסוכן לעבוד בלי אישור לכל פעולה?

אפשר לתכנן עצמאות לפעולות מוגדרות, בהתאם ליכולות המערכת. לפני כן בדקו הרשאות, חסימת פעולות אסורות, תיעוד ודרך לעצור את ההפעלה; פעולות רגישות כדאי להשאיר לאישור אנושי.