משה
סוכני AI הם חלק מצוות העבודה שלי, כל יום, על מערכות חיות עם לקוחות אמיתיים. הם בונים, מתקנים, מנתחים ומתחזקים. אבל בין ההדגמות המרהיבות ביוטיוב לבין עבודה יומיומית אמינה יש פער, ואת הפער הזה סוגרים כללי עבודה.
אלה עשרת הכללים שהתגבשו אצלנו. כל אחד מהם נולד מנסיון אמיתי, חלקם מכאב אמיתי.
1. משימה מנוסחת היטב = חצי מהעבודה
"תשפר את דף המכירה" מייצר ניחושים. "תחליף את כותרת הדף לנוסח X, תוודא שהיא נראית טוב גם במובייל" מייצר תוצאה. ככל שהסוכן חזק יותר, מתחשק לנסח בכלליות - דווקא אז הדיוק משתלם.
2. תכנית לפני ביצוע, במשימות גדולות
בקשו מהסוכן להציג תכנית קצרה לפני שהוא מתחיל לבצע. אישור של 30 שניות לתכנית חוסך שעה של ריצה בכיוון הלא נכון. במשימות קטנות - לוותר, זה רק מאט.
3. "סיימתי" זה לא סטטוס. "בדקתי וזה עובד" זה סטטוס
הכלל החשוב מכולם אצלנו: משימה נגמרת רק עם הוכחה. הסוכן פתח את הדף וראה שהוא נטען, הריץ את הבדיקה, צילם מסך, ביצע פעולה מקצה לקצה. תדרשו את זה במפורש - איכות העבודה קופצת מדרגה.
4. כל לקח הופך לחוק כתוב
לסוכנים יש קובץ הנחיות קבוע (זיכרון ארוך טווח). כל פעם שמשהו השתבש ותיקנתם - הוסיפו שורה לקובץ. "תמיד לגבות לפני שינוי קוד", "לעולם לא למחוק לפי חיפוש". כך טעות קורית פעם אחת בלבד, והצוות הדיגיטלי שלכם לומד כמו צוות אמיתי.
5. גיט מתחת לכל דבר שהסוכן נוגע בו
ניהול גרסאות הוא חגורת הבטיחות שמאפשרת לתת לסוכן חופש אמיתי: כל שינוי הפיך בפקודה אחת. פרויקט שסוכן עובד עליו בלי גיט זה כמו קרקס בלי רשת. והסוכן ינהל את הגיט בעצמו, רק תבקשו.
6. הרשאות בגודל המשימה
סוכן שמנתח נתונים לא צריך יכולת מחיקה. סוכן שכותב תוכן לא צריך גישה להגדרות השרת. מפתח נפרד לכל סוכן, ברמת ההרשאה המינימלית, עם יכולת ביטול מיידי. זה לא חוסר אמון ב-AI, זו הנדסת בטיחות רגילה.
7. פעולות הרסניות דורשות טקס
מחיקה, דריסה, שינוי כללי - לעולם לא בלי: גיבוי טרי, רשימה מדויקת של מה שעומד להשתנות, ואישור (שלכם או של כלל אוטומטי מוגדר). אצלנו נוספה עוד שורה לטקס: אם פעולה החזירה שגיאה, בודקים מה באמת קרה לפני שמנסים שוב - כי "שגיאה בתגובה" לא אומרת "הפעולה לא בוצעה", וניסיונות חוזרים עיוורים יוצרים כפילויות.
8. שני סוכנים על אותו קובץ = תאונה מחכה לקרות
כשמריצים כמה סוכנים במקביל (ומתישהו תריצו - זה מכפיל תפוקה), הם עלולים לדרוס זה את זה. אצלנו כל סוכן "נועל" את התיקייה שהוא עובד עליה בלוח משותף, וסוכן שרואה נעילה של אחר - לא נוגע. פשוט, ומונע את אחת התקלות המתסכלות שיש.
9. הסוכן עובד בשבילכם, לא להפך
סימן אזהרה: אתם מוצאים את עצמכם מבצעים ידנית הוראות שהסוכן נותן לכם. לפעמים זה נכון (פעולה שדורשת סיסמה שרק לכם יש), אבל כברירת מחדל - מי שמריץ פקודות, בודק ומתקן זה הסוכן. אם התהפכתם, כנראה שהמשימה נוסחה כ"תסביר לי איך" במקום "תעשה".
10. לתת אמון מדורג, כמו לעובד חדש
ביום הראשון עובד חדש לא מקבל את הצ'קים של החברה. אותו דבר סוכן: מתחילים במשימות קריאה ודוחות, עוברים לכתיבה עם אישור, ורק אחרי שנבנה ביטחון - אוטונומיה אמיתית על מערכות חיות. הנקודה המעניינת: השלב האחרון מגיע מהר יותר משחושבים. אצלנו יש תהליכים שרצים כבר בלי שום מגע יד, כי הם הוכיחו את עצמם עשרות פעמים.
מה זה נותן בפועל
עם עשרת הכללים האלה, סוכני AI מפסיקים להיות "כלי מגניב שצריך להשגיח עליו" והופכים למה שהם באמת יכולים להיות: כוח עבודה שגדל עם העסק, לומד מכל טעות פעם אחת, עובד בלילות ולא שוכח כלום.
רוצים להכניס סוכנים לעסק בלי לעבור את כל שלבי הלמידה לבד? בשביל זה בדיוק אני כאן.