תוכנת זיהוי הפנים של אמזון זיהתה 28 חברי קונגרס כפושעים

תוכנת זיהוי הפנים של אמזון זיהתה באופן שגוי 28 חברי קונגרס בארה"ב כפושעים המוכרים למשטרה, כך על פי ניסוי שערך איגוד החירויות האזרחיות האמריקאי (ה-ACLU). מאז חודש מאי, ה-ACLU וארגוני זכויות אזרח נוספים מפעילים לחץ על אמזון להפסיק למכור לממשלה גישה לתוכנת זיהוי הפנים שלה בשם Rekognition, שהושקה ב-2016. ארגוני זכויות האזרח התריעו מפני שימוש בטכנולוגיה להפללת מהגרים ובעלי צבע עור כהה. 

הטכנולוגיה מצאה "התאמות" עבור 28 חברי קונגרס ברמת דיוק של 80 אחוזים - ברירת המחדל של אמזון, כך לפי ה-ACLU. לדברי הארגון, Rekognition עשוי להחמיר את הנזק שנגרם לבעלי צבע עור כהה, שכבר היום מופללים בשיעור מעל הממוצע על ידי המשטרה. אמזון מסרה בתגובה כי הגדרת רמת הדיוק של 80 אחוזים מתאימה לזיהוי חפצים, לא לאנשים. לטענתה, החברה מנחה לקוחות לקבוע סף של 95 אחוזים או יותר עבור פעילויות אכיפת חוק.

פעילותם של ארגוני זכויות האזרח הציתה דיון ציבורי בארה"ב. כזכור, נשיא מיקרוסופט פירסם בחודש שעבר קריאה למחוקק האמריקאי להסדרה ממשלתית של טכנולוגיית זיהוי פנים. בנוסף, שלושה חברי המפלגה הדמוקרטית שזוהו בטעות כפושעים בניסוי שערך ה-ACLU, שלחו מכתב לג'ף בזוס, מנכ"ל חברת אמזון, ובו הביעו דאגה באשר לדיוק של טכנולוגיית זיהוי הפנים ושימוש המשטרה בה. 

גם בכירה בגוגל הביעה הסתייגות דומה. לדבריה, למרות שגוגל משתמשת בזיהוי פנים על מנת לסייע למשתמשים לזהות את חבריהם בתמונות, הטכנולוגיה שעומדת בבסיסה אינה פתוחה לשימוש הציבור. "צריך להיות מאוד זהירים בנוגע לאופן השימוש בטכנולוגיות מהסוג הזה", אמרה. לדבריה, "...הצד ההומניסטי של טכנולוגיות אינטליגנציה מלאכותית (AI) – אין לו את המגוון שהוא צריך ובנתונים עצמם יש הטיות מובנות, כך שכולם עובדים כדי להבין את זה".  

דוברת אמזון הצהירה כי החברה "עדיין נרגשת מהאופן שבו ניתוח תמונה ווידאו יכולים להיות גורם לטוב בעולם". היא ציינה את תרומתה של הטכנולוגיה במציאת ילדים אבודים ומניעת פשעים. לדבריה, Rekognition משמש בדרך כלל לצמצם את השדה לבדיקה אנושית, ולא כדי לקבל החלטות סופיות. 

מקור: רויטרס (מאת: ג'פרי דסטין) וה-BBC (מאת: דייב לי).