מנהיגים פוליטיים עלולים לעשות בשנים הקרובות שימוש כה נרחב בסוכני בינה מלאכותית לעיצוב דעת הקהל ("בוטים"), עד כדי שהדבר עלול לערער את השלטון הדמוקרטי. כך מזהירה קבוצת מומחים בתחום הבינה המלאכותית וחקר מיסאינפורמציה ודיסאינפורמציה, בפרסום במגזין Science מסוף השבוע האחרון.

קבוצת המומחים, המונה בין השאר חוקרים מהאוניברסיטאות המובילות ופעילים חברתיים, מזהירה מפני האפשרות שמנהיגים פוליטיים ישתמשו בנחילי בוטים כדי להתחזות לבני אדם ברשתות חברתיות, בערוצי מסרים, בבלוגים, בדוא"ל ועוד, לטובת קמפיינים להשפעה על דעת הציבור. הבוטים יוכלו לחדור לקהילות מוגדרות, ללמוד את אופיין וחולשותיהן לאורך זמן ולהשתמש בשקרים משכנעים ומותאמים בקפידה כדי לשנות את דעת חבריהן, ובכלל זאת לשכנעם לבטל את תוצאות הבחירות או לקבל את תוצאותיהן של בחירות שבוטלו.

לפי הפרסום, גרסאות מוקדמות של פעולות השפעה מבוססות בינה מלאכותית נצפו כבר בבחירות הממשלתיות בטאיוון, הודו ואינדונזיה בשנת 2024. לפי דיווחים בטאיוון, שבה המצביעים חשופים באופן קבוע לתעמולה סינית ממוקדת (לרוב מבלי שידעו זאת), בוטים הובילו לעלייה בפעילות האזרחים ב-Threads ובפייסבוק בתוך חודשיים בלבד. הבוטים יוצרים על המשתמשים שם עומס של מידע בלתי ניתן לאימות, בין היתר באמצעות ציטוט מאמרים מזויפים על האופן שבו אמריקה תנטוש את טאיוון, ושכנוע הצעירים לא לבחור צד בסכסוך בין סין לטאיוון.

קבוצת המומחים צופה שלפי התחזיות, האיום יהפוך לחמור עוד יותר עם השיפור ביכולות טכנולוגיה עד לבחירות לנשיאות ארה"ב בשנת 2028. זאת, בין השאר, לאור השיפור המתמיד ביכולתן של טכנולוגיות הבינה המלאכותית לקלוט את הטון והתוכן של השיח ולחקות דינמיקה אנושית (למשל, על ידי שימוש בסלנג). בנוסף, גובר החשש כי עם הזמן יתחילו הבוטים להתפתח לקולקטיב ולהחליף מידע ביניהם, ובכך יגבירו את הדיוק והיעילות שלהם. מקור: הגארדיאן (מאת: רוברט בות').