פייסבוק תתעדף איתור והסרת דברי שטנה

פייסבוק חושפת יוזמה חדשה, במסגרתה 'תשפץ' את האלגוריתם שלה לאיתור והסרת תוכן פוגעני וגזעני, כך שיתעדף טיפול בתכנים פוגעניים המופנים לקבוצות "חלשות" אליהן מופנים דברי שטנה באופן שכיח יותר. פייסבוק, לרבות אינסטגרם שבבעלותה, הטמיעו בפלטפורמות שלהן זה מכבר מדיניות האוסרת ומטפלת בתכנים פוגעניים בכלל וגזעניים בפרט. זאת, בעקבות ביקורת נמשכת על הטיפול הלוקה של ענקיות המדיה החברתית בתכנים גזעניים המופנים כלפי קבוצות המיוצגות פחות דוגמת אפרו-אמריקאיים, יהודים ומוסלמים. 

עד היום, האלגוריתמים שפיתחה פייסבוק כדי לאתר ולהסיר תכנים פוגעניים לא הבחינו בין קבוצות שונות באוכלוסיה וטיפלו בתדירות ובאופן זהה בכל סוגי התכנים הפוגעניים, ללא קשר לקבוצה אליה הם מופנים. כך למשל, האלגוריתם איתר והסיר דברי שטנה כנגד גברים אמריקאיים בעלי צבע עור לבן, בתדירות זהה לזו שאיתר והסיר דברי שטנה שכוונו לבעלי צבע עור כהה, יהודים ומוסלמים.

במסגרת השלב הראשון של הפרויקט, פייסבוק הדריכה ברמה הפנים-ארגונית קבוצה קטנה של מפתחים לשנות את בסיס המערכת לאיתור דברי שטנה כך שיסווגו תכנים פוגעניים לפי הקבוצה אליה הם מופנים ולפי רמת רגישות ומילות מפתח. כך, הודרכו המפתחים להגדיר תכנים פוגעניים הכוללים את המילים "גברים", "לבנים" או "אמריקאיים" כתכנים ברגישות פחותה מזו של תכנים הכוללים את המילים "שחורים" , "יהודים" וכדומה. מקור: וושינגטון פוסט (מאת אליזבת דוסקין, ניטשה טיקו והת'ר קלי).