רשות המפקח על המטבע בארה"ב (OCC) פרסמה מסגרת פיקוח חדשה לבודקי הבנקים, המכוונת אותם בהערכת השימוש של בנקים ב"אינטליגנציית־על" (Super Intelligence – SI) בפעילות השוטפת. השימושים הנבחנים כוללים החלטות אשראי, תשלומים, איתור הונאות, שירות לקוחות ופעילות בשווקים. זהו המונח החדש שאימצה הרשות, בעקבות צו נשיאותי שציווה על השימוש במונח זה במקום "בינה מלאכותית". לדברי הרשות, המסמך עצמו הוכן בסיוע SI, ונבדק ואושר בידי אדם.
לפי המסגרת, אין להתייחס ל-SI כאל קטגוריית סיכון נפרדת, ובנקים אינם נדרשים לקבוע תיאבון סיכון נפרד לגביה. ה-SI עלולה להגביר או לשנות סיכונים קיימים, כגון סיכון תפעולי, סיכון ציות וסיכון אשראי, ואת אלה יש לנהל במסגרת ניהול הסיכונים הקיימת של הבנק. העיקרון המנחה הוא שעוצמת הבקרות צריכה לגדול ככל שגדלות ההשלכות האפשריות של כשל או של שימוש לרעה בסוכן. הסיווג נשען על ההשלכות ועל מידת העברת שיקול הדעת למערכת, ולא על התחכום הטכנולוגי שלה. כך, סוכן פשוט המוסמך לבצע עסקאות עשוי להיות מסוכן יותר ממודל מתוחכם שמשמש רק לניסוח מסמכים פנימיים.
המסגרת כוללת שישה עשר רכיבים, המקובצים לשישה עמודי תווך: ייעוד, סיכון, בקרה, פיקוח, חוסן והבטחה. היא מבחינה בין "אדם במעגל" (Human-in-the-Loop), שמאשר כל פעולה מראש, לבין "אדם על המעגל" (Human-on-the-Loop), שמנטר את המערכת ומוסמך להתערב. כדי שהפיקוח האנושי יהיה ממשי, על הסוקר להיות בעל מומחיות וסמכות, ואישור לא אמור להסתכם ב"קליק" פורמלי. בתחום הפרטיות מוזהרים הבנקים מפני כמה סיכונים: מודלים שמשחזרים נתוני אימון, הסקה של מאפיינים רגישים, ושימוש של ספקים במידע הבנק לאימון מודלים המשמשים לקוחות אחרים. עוד מומלץ לבנקים לקבוע לוחות זמנים לדיווח על אירועי SI כגון "הזיות", תקלות וסחיפה, ולהסדיר בחוזה את האחריות לנזקים שנגרמים ללקוחות.
המסמך מתייחס גם לתרחיש שבו מערכת אוטונומית ממשיכה לפעול אך מבצעת פעולות שגויות. לשם כך הוא מציע אמצעים כמו "מתג השבתה" (Kill Switch), מפסקי זרם, הגבלות קצב והרשאות מינימליות. לצד זאת מוצעת שיטה לדירוג סיכונים בארבע רמות. ברמה הקריטית נמצאים, למשל, סוכן תשלומים אוטונומי והחלטות אשראי בזמן אמת. ברמה הנמוכה נמצאים כלי פרודוקטיביות פנימיים.
הרשות מדגישה כי מדובר ב"מסמך חי" שיעודכן באופן שוטף, לנוכח ההתפתחות המהירה של הטכנולוגיה ושל אופני השימוש בה. מקור: רשות המפקח על המטבע בארה"ב.