[[HE: Draft for Tamir's review. Not published.]]
המידע שלכם ומה שהספק רשאי להפיק ממנו
תדרשו ניסוח מדויק לגבי אימון, שמירת נתונים ומידע נגזר. תנעלו איסור מוחלט על אימון, או מנגנון החרגה רשמי בכתב. רוב החברות מספקות תנאי אנטרפרייז ללא שימוש פנימי כשמבקשים. תוודאו שקבלני משנה מחויבים לאותם כללים בדיוק.
תתאימו את הסעיפים לסוג המידע שהספק יחשף אליו. בשירות ענן משותף, תדרשו הוכחות להפרדה מלאה בכל נתיב גישה, כולל ייצוא, דיבאגינג, גישת מנהלים ושחזור גיבויים. הבטחה מילולית להפרדה אינה הוכחה להפרדה. תגדירו בכתב על מה נשארת לכם בעלות בסיום: תיוגים, נהלים, קונפיגורציה ומודלים שעברו התאמה אישית.
ביצועים, שגיאות בפלט ושינויים במודל
תגדירו איכות מול קבוצת בדיקה ייעודית משלכם, עם רף מינימלי, לוחות בקרה גלויים וזכות עצירה אם יש כשל. תחייבו רישום מלא של קלטים ופלטים עם זכות ביקורת שלכם. תקבעו זמני מענה לתיקון תקלות ונוהל ברור ללקוחות שנפגעו.
מודלים נשחקים כשהמציאות משתנה. תכניסו את תוכנית האימון החוזר והעלויות לתוך הריטיינר הבסיסי, כדי שירידת דיוק לא תהפוך לדרישת תשלום חריגה. תשמרו זכות להקפיא או להחליף מודל, כולל מעקף חלופי כמו מנוע חוקים או מודל מתחרה.
תלוי באיזה כיסא יושבים
אם אתם בדירקטוריון והכלי משפיע על החלטות שמפוקחות רגולטורית, תדרשו כל מה שהמפקח ידרוש מכם. זה כולל תיעוד מודלים וגרסאות, הסבר פרטני לכל החלטה מול לקוח, וסמכות לערער על תוצאותיו. בקשו מציות לאשרר את ההסדר.
אם אתם מנכ"לים ומחלקה דוחפת לחתימה מהירה בשביל הנחה, תעצרו לשלוש שאלות. למה הכלי מורשה רשמית, לאן זורם המידע, ואיזה תיעוד מוכיח הצלחה במקרים דומים לשלכם? לחץ של מבצע זמני אינו תירוץ לדלג על בדיקות. בפרויקט עם יעדים מעורפלים, תדרשו אבני דרך מוגדרות ותחנות יציאה ביניהן.
מה לבדוק לפני שמחליטים
- תעברו על סעיפי אימון, שמירה ומידע נגזר, ותסגרו איסור שימוש או החרגה רשמית.
- תסווגו את המידע שהספק יראה, ותוודאו שספקי משנה כפופים לאותן הגבלות.
- תקבעו מדדי איכות על סט נתונים שלכם, עם מעקב שקוף וסמכות להקפאת פעילות.
- תחייבו תיעוד קלט ופלט, זמני טיפול בשגיאות וזכות מלאה לבצע ביקורת.
- תכללו מראש אימון מחדש במחיר השירות, בצמוד לתנאי סף ברורים שמפעילים אותו.
- תשמרו אפשרות להשהות או להחליף את המערכת, יחד עם גיבוי תפעולי עובד.
- תעגנו בעלות בסיום ההתקשרות: מידע, תיוגים, נהלים, הגדרות ותוצרים.
שאלות שאנשים שואלים
הדירקטוריון מאשר חוזה מודל אשראי, מה לדרוש בהינתן אחריותנו המלאה מול הרגולטור?
חובה לדרוש גישה לתיעוד המודל, לקלטים ולגרסאות, הסברים מנומקים ללקוחות, ניטור שוטף שהבנק מנהל, זכות להקפיא או להחליף אלגוריתם וחלופה מוכנה. החוזה חייב לספק לבנק את כל דרישות הפיקוח. זה תלוי בהנחיות הרגולטור להחלטות מימון אוטומטיות ובשאלה אם המערכת קובעת או רק ממליצה.
ספקי בינה מלאכותית רוצים שימוש בנתונים שלנו לשיפור המערכת שלהם, לאשר בהנהלה?
לאשר רק בכפוף לאיסור מוחלט על אימון או מנגנון החרגה חתום, הגבלת שמירת מידע והגדרה מדויקת למידע נגזר. מרבית הספקים מאפשרים תנאי אנטרפרייז נקיים כשדורשים זאת. זה נשען על סודיות הנתונים שייחשפו ועל הניסוח המדויק בחוזה.
מנהל אגף לוחץ לחתום מהר על כלי בינה מלאכותית בגלל הטבת מחיר, מה לבדוק קודם?
שלושה דברים לפני שחותמים: לאיזה שימוש המערכת מאושרת והאם זה תואם לצורך, מה קורה למידע רפואי של מטופלים, ואילו הוכחות קיימות להצלחה במקרים דומים. הטבת מחיר אינה עילה לפשרות. זה תלוי ברמת האוטונומיה של הכלי ובאישורי אבטחת מידע ובקרה קלינית.
חברת ייעוץ מציעה פרויקט AI במחיר קבוע עם יעדי על בלי תוצרים מוגדרים, מה להתנות?
תתנו את החוזה בתוצרים ברורים לכל שלב, נקודת עצירה ביניהם והגדרה מפורשת מי מבצע בפועל. פרויקט ללא תחנות יציאה ברורות הוא התחייבות לתשלום המלא. זה מושפע מהאתגרים שרוצים לפתור ומאופי השירות: ייעוץ, יישום או שניהם.
ספק בוט שירות מתנער מאחריות לתשובות שגויות ללקוחות, מה ריאלי לדרוש בהסכם?
ספקים נמנעים מאחריות ישירה לפלטים, לכן תדרשו את מה שמוסכם: מדדי איכות חדים, הגבלת נושאים לדיון, לוגים לכל מענה, תיקון מהיר של באגים ויכולת ניתוק מיידית. אל תתנו לבוט להחליט לגבי לקוחות ספציפיים עד שהמדדים מוכחים. זה תלוי בתחומי העיסוק של הבוט ובציפיות הרגולטור מתקשורת אוטומטית.
מודל מניעת הונאות חווה ירידת ביצועים והספק דורש תשלום על אימון מחדש, איך פועלים?
תמדדו את השחיקה כדי לתרגם נזק למספרים, ואז תבדקו בחוזה מה הוגדר לגבי שירות ורמת ביצוע. תשלמו על כיול מחדש רק כחלק מהסכם מעודכן שמגדיר מדדי ביצוע ברורים ומי מממן עדכונים. זה תלוי בסעיפי תחזוקת המודל הקיימים וביכולת של הבנק לנטר ביצועים בעצמו.
לפני חתימה מול ספק תיוג דאטה, אילו תנאי איכות ובעלות חייבים להופיע?
תגדירו איכות כהתאמה למאגר זהב שנמצא בשליטתכם, עם אישור פר מנה ואפשרות פסילה. תשמרו בעלות על ההנחיות, התוויות והמידע המעובד, ותגדירו מיהם המתייגים ומה מותר להם לראות. זה תלוי ברמת המורכבות של המשימה ובהימצאות פרטי לקוחות אישיים בתוך המידע.
איזה הוכחות להפרדת לקוחות חובה לקבל לפני חתימה על פלטפורמת AI?
תדרשו הוכחה חותכת להפרדה בכל ערוץ גישה רלוונטי. ההתאמה נבחנת לפי נקודת האכיפה, הרשאות מנהלי מערכת, והתנהגות המערכת כשיש פילטרים חסרים, פגומים או כשעוקפים אותם.
איך אני יכול לעזור בהחלטה הזו
- שאלה או שיחה (ללא עלות)
- מסביר אילו תנאים ספקים מאשרים בפועל ואיזה סעיף יכריע את העסקה הזו. מדייק מה לדרוש לפי סיווג הדאטה ואיך לצמצם חשיפה משפטית.
- בדיקה והערכה (משלמים רק אם קיבלתם ערך)
- מכין סקירה עצמאית על החוזה וממשל המודל מול מאגרי המידע, ציפיות המפקח והסיכון שלכם. ממליץ על תנאי חובה לחתימה, או מציע לבחון בפיילוט או לוותר.
- ליווי שוטף (בזמן ובקצב שמתאימים לכם)
- נשאר בתמונה בשנה הראשונה לבחינת דוחות הביצועים של הספק ויומן השגיאות מול הרף שנקבע מראש.