על הקושי בשימוש בבינה מלאכותית כדי לחזות מעורבות נוסעים בנתב"ג בעבירות סמים (החלטה, מחוזי מרכז-לוד, השופט עידו דרויאן-גמליאל):
העובדות: אזרח ישראל, ללא עבר פלילי, שב ארצה בטיסה, ועם נחיתתו עוכב ונערך חיפוש משטרתי על גופו ובכליו לאיתור סמים. המשטרה איתרה סם מסוכן בכבודה של המבקש והוגש נגדו כתב אישום. החיפוש לא נערך באקראי או בהסתמך על מידע מודיעיני, אלא בשל הופעת שם המבקש ב"רשימת הכללה"' שהיא פלט מחשב יומי, יציר אלגוריתם' הפועל באופן ממוכן וחוזה סטטיסטית את מעורבותם של נוסעים הנכנסים לישראל בעבירות סמים. המבקש הגיש עתירה לגילוי ראיה, שנחסתה לטובת הציבור לפי פקודת הראיות בתעודת חיסיון. התעודה אינה מתייחסת לראיה קונקרטית, דוגמת מסמך, ותחולתה משתרעת על "כל פרט או מידע שיש בו כדי לגלות את השיטות והאמצעים ששימשו את משטרת ישראל בהפעלת מערכת ההתראות של העוברים בנתב"ג". המבקש טען לחיוניות המידע החסוי להגנתו, כדרך יחידה לביסוס טענותיו לאי-חוקיות החיפוש שנעשה בכליו של המבקש ולפגיעה חמורה בזכויותיו החוקתיות.
נפסק: חיפוש ללא צו בכניסה לישראל, על גופו של אדם או בכבודתו, לפי לפקודת הסמים המסוכנים, יכול להיערך כדין גם ללא חשד קונקרטי, אלא בהסתמך על "מידע כללי" כגון דפוסי פעולה של עבריינים. אולם, גם הפעלתה של סמכות רחבה זו כפופה לעקרונות יסוד, לבל תהפוך לשרירותית ומפלה. השאלה שעל הפרק אינה אם ניתן וראוי להרשיע את המבקש או לזכותו, אלא האם מדובר בראיה החיונית להגנת המבקש, או למצער עשויה להועיל להגנתו. טענת המבקש היא לפסלות מהותית שדבקה בחיפוש ובתוצריו, הנעוצה בהסתמכות על "רשימת הכללה" נעלמה.
לאלגוריתם שבלב המערכת יש "בינה מלאכותית" או "למידת מכונה", שמשמעה "למידה" של נתונים סטטיסטיים באופן המאפשר לאלגוריתם לתת משקל פרטני ומשתנה לכל נתון מוזן, על-דרך של היזון חוזר, בתהליך בלתי-פוסק של הערכה ושינוי. המערכת "מלמדת" את עצמה את משקלם של נתונים ואת המשמעות הסטטיסטית של צברי נתונים. גם לאחר-מעשה, לא ניתן לבדוק ולדעת אילו נתונים נלקחו בחשבונו של האלגוריתם ומה משקל ניתן להם. מצב דברים זה שולל למעשה אפשרות לביקורת מנהלית שיפוטית יעילה. למפעילי המערכת ולמשתמשים בה אין מידע מספיק, שכן מדובר ב"קופסה שחורה", שאיש אינו יודע בוודאות את דרך פעולתה.
בנוסף, מטרידים גילה של המערכת, שלא עברה עדכון מתום בנייתה, וחוסר הידיעה באשר לתיקוף: מתי ואיך נעשה, ככל שנעשה. מידע שבכוחו להצביע על פגם מהותי ברשימת ההכללה, שעשוי לבסס טענה מקדמית של הגנה מן הצדק, או עילה לפסילת ממצאים שתולדתם בחיפוש פגום, הוא אכן מידע חיוני להגנת המבקש. קיומה של רשימת הכללה, כאמצעי-עזר לפילוח מותר ויעיל ולא לתיוג פסול, יכול לעמוד עקרונית במבחנים שבאמצעותם מאזן הדין בין הערכים המתנגשים. ודאי שאין להכשיר רשימה שקיומה והזנתה בנתונים עלומים אינם מעוגנים בחוק, ואף-לא בנוהל מסודר, שבו קריטריונים בדוקים והנחיות ברורות המונעות שרירות-לב ואפליה ומקדמות שקיפות, שוויון וענייניות.
טיבה של רשימת ההכללה כפלט של מחשב "המכליל ומחשב מספר נתונים" ומפיק "אינדיקציות מיחשוביות", גלוי וידוע. בין הנתונים הרבים ששואב ומחשב האלגוריתם, גם נתונים המעלים סימני שאלה, שכן הקשר בינם לבין חיזוי עבריינות סמים אינו מובן מאליו, ולעומת זאת החשש לתיוג פסול קיים ומצריך בירור. לא ניתן לדעת מה המשקל שניתן לכל נתון ובכל מקרה בחישובי האלגוריתם, ומכאן גם שלא ברור הדבר גם בעניינו של המבקש. נימוקי בחירתם של הנתונים המוזנים למערכת אינם ברורים, ואין נוהל או הנחייה לגבי כלילתם או גריעתם של נתונים; המשקל היחסי שניתן לכל נתון אינו ידוע; ולא ברור אם נערך תיקוף, בעבר ובהווה; גם קיומו של "שלב שני", בדמות בחירה אנושית מתוך רשימת ההכללה, איננו בהכרח מונע או מקטין את עוצמת הפגיעה בערכי יסוד.
הדין הישראלי אינו אוסר שימוש בטכנולוגיה של למידת מכונה לצרכי מלחמה בפשיעה ועוד, ובוודאי שאין לפסול מראש וקטגורית את השימוש בה גם ליצירתן של רשימות הכללה ודומותיהן. אולם לא בדרך לא-דרך כבעניין זה. לכאורה לוקים קיומה ותפעולה של רשימת ההכללה בפגמים מהותיים, המעלים שאלות קשות, שלא ניתן יהיה ללבנן כשההגנה הולכת בחשכת החיסיון ואינה יודעת להיכן תכוון את חיציה. החיסיון יצומצם משמעותית, כך שיתגלה להגנה כל החיוני והנחוץ לה, במידה הדרושה ותו לא. העתירה התקבלה.