[[HE: Draft for Tamir's review. Not published.]]
הגדרת סמכות לפי רמת ההשפעה
רשמו פעולות של סוכן שמוציאות תקציב, מייצרות מחויבות חיצונית או משנות רשומות לקוח. סמנו את אלו שהן בלתי הפיכות או קשות לביטול. אלו מחייבות מגבלות, מנגנון אישור ועצירת חירום עובדת. אם סוכן חוזר על פעולה שבוצעה עקב שגיאה, הקפיאו אותה עד לווידוא ביצוע.
תנו לסוכני פיתוח גישה ממוקדת משימה, והשאירו סמכות פריסה לאדם. בדקו אם הסוכן יכול לקרוא סודות ייצור, ובחנו הגנות על ענפי קוד מול הרשאותיו בפועל. התייחסו לקבצים שהסוכן קורא כמידע לא מאומת, לעולם לא כהוראות מחייבות.
מדידת תפוקה מאושרת בפועל
השוו שינויים שהתקבלו לעומת מאמץ הבדיקה והתיקון שהם דרשו. כמות קוד יכולה לזנק בלי שום התקדמות אמיתית, לכן זה מדד גרוע ותמריץ בעייתי.
כשספק טוען שכלי AI מאיצים שכתוב פי כמה, תבחנו את הטענה על החלק הקשה במערכת. תקצבו קודם את המודול עם הלוגיקה הכי פחות מתועדת, לצד בדיקות קבלה שאתם כותבים. מדדו את הקצב כולל בדיקת עמיתים ותיקון באגים. הכלים לא ימציאו כללים שאיש לא כתב.
תלוי באיזה כיסא יושבים
אם אתם בדירקטוריון, דרשו מההנהלה לתחום את סמכויות הסוכנים לפני הרחבתן, באישור משפטי וכספי. דרשו שתמריצי הפיתוח יישענו על יכולת מוכחת ולא על נפח קוד שנוצר.
אם אתם מנכ"ל או CTO, חלקו גישות סביב משימות מועילות ותוצאות נראות לעין. לפני שמצמצמים צוות בגלל כלי AI, פרטו את תחומי האחריות הנותרים, מי בודק קוד שנוצר ואיזה ידע חובה לשמר.
מה לבדוק לפני שמחליטים
- ממפים פעולות סוכן שמוציאות כסף, מחייבות את החברה או עורכות נתוני לקוח, ומסמנים פעולות בלתי הפיכות.
- מפרידים יצירת קוד מאישור והפצה, ובודקים הגנות ענפים מול הרשאות הסוכן האמיתיות.
- בודקים אם מסמכים שנסרקו עלולים להפעיל פקודות או לחשוף נתונים של לקוח אחר.
- בוחנים פעולות שנקטעו או שוחזרו, וממנים אחראי לפתרון מצבים לא ברורים.
- משווים שינויים שאושרו מול היקף העבודה שנדרש לבדיקתם ותיקונם.
- בוחנים הבטחות שכתוב ב-AI על המודול המורכב ביותר, מול בדיקות קבלה עצמאיות.
- מוודאים בעלות על קוד שנוצר ואת תנאי השימוש של הכלי על קוד המקור שלכם.
שאלות שאנשים שואלים
אילו מגבלות על הדירקטוריון להציב לפני שסוכנים מתחייבים על משאבי החברה?
הגדירו סמכויות לפי תוצאות ויכולת ביטול לפני שמרחיבים עצמאות. אישורים נקבעים לפי תקרות התחייבות, פעולות שניתן לשייך, ניהול חריגים, ואישור משפטי במקום שבו פעולות מחייבות את החברה.
האם דירקטוריונים צריכים לתמרץ תפוקת פיתוח שנמדדת בעיקר בנפח קוד שנוצר מ-AI?
השתמשו במדדים שקשורים ליכולת שהתקבלה ולמסירה יציבה. גישה נכונה נקבעת לפי יעדי מוצר, איכות, מאמץ בדיקה, וההתנהגויות שהתמריץ יעודד.
כדאי לתת לכל מתכנת גישה מלאה לסוכני קוד בתשלום?
קבעו גישה לפי עבודה מועילה ותוצאות ברורות. הרחבה נקבעת לפי שינויים שהתקבלו, עומס הבדיקות, גבולות אבטחה, והשאלה אם השימוש בסוכן מקל על צווארי הבקבוק האמיתיים בצוות.
כדאי לגייס פחות מהנדסים כי חברת מיקור חוץ עובדת עם AI?
השוו יכולות נדרשות ותוצרים ברורים במקום הבטחות על כוח אדם. הבחירה נקבעת לפי קיבולת הבדיקה, היכרות עם המוצר, אחריות אבטחה, ואיך מטפלים בחריגות.
ספק טוען שכלי קידוד של AI מאיצים שכתוב מערכת ישנה פי כמה, איך בודקים את זה לפני שמשלמים?
כלי AI מאיצים חלקים בשכתוב שמעולם לא היו צוואר בקבוק, אז תבדקו את הטענה על החלק הקשה במערכת, עם הנתונים ובדיקות הקבלה שלכם. תקצבו מודול ראשון ומוגדר עם תוצרים ברורים ותמדדו קצב משם. זה נקבע לפי רמת התיעוד והבדיקות של המערכת הישנה, כי הכלים לא ישחזרו כללים שאף אחד לא כתב.
האם עוזר המסמכים הפיננסיים שלנו ערוך לקבצי לקוחות שלא נבדקו?
התייחסו למסמכים שנשלפו כאל ראיות לא מאומתות ולא כהוראות פעולה. ההיתכנות נקבעת לפי גבולות הרשאה, כלים מוגבלים, והתנהגות ברורה מול קלטים עוינים.
האם לאפשר לסוכני קידוד לאשר או לשחרר שינויים בפרודקשן?
תנו לסוכנים גישה מוגדרת למשימה והפרידו בין הצעת שינוי לסמכות שחרור. הגבול נקבע לפי בקרות מאגר הקוד, חשיפת מפתחות וסודות, ואיזה פעולות דורשות אישור של גורם אחראי.
כדאי לעצור פעולות לקוח עצמאיות אחרי שסוכן AI חוזר על עסקאות?
עצרו את הפעולה העצמאית הבעייתית עד שיתבררו התוצאה וגבול ההפעלה הבטוח. זה נקבע לפי השלכות החזרה, היכולת לוודא ביצוע, וחלופה מפוקחת ומאושרת.
איך אני יכול לעזור בהחלטה הזו
- שאלה או שיחה (ללא עלות)
- אני נותן את הזווית שלי לגבי הפעולות שדורשות גבולות קודם, והבדיקה המוגדרת שמראה מה הכלים באמת נותנים אצלכם.
- בדיקה והערכה (משלמים רק אם קיבלתם ערך)
- אני כותב חוות דעת בלתי תלויה על סמכויות הסוכנים, ההרשאות ובדיקות ההוכחה, או על טענות מהירות של ספק. אני ממליץ מה לאשר, להגביל, לבקר או לדחות.
- ליווי שוטף (בזמן ובקצב שמתאימים לכם)
- אני נשאר בתמונה עם התרחבות השימוש, כדי לבדוק הרשאות של סוכנים, חריגות מהותיות וקבלת כל מודול.