הסתמכות עיוורת של רשות על תוצרי בינה מלאכותית מומצאים ללא בקרה אנושית מהותית היא החלטה שרירותית ופסולה, המצדיקה ביקורת שיפוטית מחמירה ופסיקת הוצאות משמעותיות. כך פסק בית המשפט העליון אתמול בעע"מ 63194-08-25 נבו בן כהן נ. עיריית רמת גן (22.03.2026).
הסיבה - כאשר רשות מינהלית מוסרת לאזרח החלטה שנראית מנומקת ומבוססת משפטית, לרוב אין לו יכולת אמיתית לערער עליה או לזהות שנימוקיה שגויים או שמערכת AI המציאה אותם. במרבית המקרים ההחלטה תישאר בעינה והאזרח יקבל אותה, גם בלי לדעת שנגרם לו עוול. הפגיעה צפויה להיות חמורה יותר דווקא אצל האזרחים החלשים יותר.
ההחלטה ניתנה בעניין סירובה של עירית רמת-גן לספק הסעות לתלמיד בחינוך המיוחד, בהסתמך על ציטוטים מחוזר מנכ"ל משרד החינוך שאינו קיים ועל קביעות מן "הפסיקה העדכנית", שגם היא מומצאת. רק לאחר שהמערער הגיש עתירה לביהמ"ש הגיעו הצדדים להסכמה אלא שבפסק-הדין שקיבל אותה המערער לא זכה להוצאות ועל כך הוא מערער.
בית המשפט, מפי המשנה לנשיא השופט נועם סולברג, מצא שהחלטה המתבססת על בינה מלאכותית בלא בדיקה היא החלטה שרירותית שאינה מקיימת את חובת ההנמקה, בניגוד לחובתן של רשויות מינהל. השופטת גילה כנפי שטיינמץ מצאה גם ששימוש כזה עלול לרדת לשורש הסמכות המינהלית שכן "הלכה למעשה, החלטות פרטניות, ואף החלטות הנוגעות לעיצוב מדיניות כללית, "מואצלות" לאלגוריתם ובמובלע לספקים הפרטיים המפתחים אותו", וזאת בניגוד לאיסור להעביר את שיקול הדעת המינהלי לצד שלישי.
בעוד שעצם השימוש בבינה מלאכותית אינו פסול, קבע בית המשפט, יש לקיים על תוצריה בקרה, לבחון ולוודא אותם. השופט סולברג מציין גם את חובת הגילוי בהקשר זה אולם נמנע מאמירה מפורשת מידי המחייבת לגלות שימוש ב-AI. הוא אף מזהיר כי "שימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית במסגרת יחסיה הישירים עם האזרח, פותח פתח לביקורת שיפוטית מחמירה והדוקה יותר, ועשוי להצדיק, ככלל, סעד משמעותי".
השופטת כנפי שטיינמץ הזהירה מהסתמכות עיוורת על פיקוח אנושי (human in the loop) והציבה רף גבוה בפני רשויות מדינה ושלטון המבקשות לאמץ מערכות AI – יש להיזהר מלהבין את מודל "האדם בלולאה" כהצדקה לפיקוח אנושי טכני ופורמלי בלבד, קבעה. לא די בבדיקה פסיבית של תוצרי המערכת, ונדרשת מעורבות מהותית וגמישה מצד הרשות בהתאם לסוג ההחלטה ולמאפייני המודל. מעורבות זו כוללת שימוש מושכל המבוסס על היכרות עם יתרונות, חסרונות ומגבלות המערכת, ובעיקר יכולת וסמכות לדחות את המלצותיה כשצריך. נוסף לכך נדרש ניטור מתמשך וביקורתי של התוצרים, לרבות השוואה להחלטות אנושיות דומות, במיוחד בהחלטות המשפיעות משמעותית על הפרט. ייתכן שהמעורבות צריכה להתחיל כבר בשלב עיצוב המערכת ולמידתה, תוך התאמה לכללי המשפט המינהלי. בנוסף יש לקיים לפני הטמעת מערכת AI בדיקה מקדימה האם ראוי להסתייע בבינה מלאכותית בהחלטה המסוימת והאם המודל שנבחר אמין ומתאים לכך.
בית המשפט פסק כאמור בהחלטת המשנה לנשיא סולברג כי ההסתמכות על חוזר לא קיים של מנכ"ל משרד החינוך, על פסיקה מומצאת או שאין בה את האמירות שייחסה לה העיריה והחזרה על כל זה גם בערעור לעליון ובמענה לבקשת המשנה לנשיא מחייבות פסיקת הוצאות גבוהה, בפרט כשמדובר בעירhיה "שמוטלת עליה חובת הגינות דיונית מוגברת – חזקה יותר מזו שחלה על אזרח פרטי.". לפיכך השית עליה 30,000 ₪ כהוצאות משפט.
law.co.il מודה לעו"ד דין ליבנה, היועמ"ש לשעבר של ועדת הבחירות המרכזית, שפרסם את דבר פסק הדין בחשבון ה-X שלו.