בינה מלאכותית מקלה על הפקת תוכן מזויף ומשכנע במהירות, בקלות ובעלות נמוכה באופן היוצר סיכונים משמעותיים להליכי בחירות. בין הסיכונים - הפצת מידע כוזב על הצבעה, יצירת רשומות מזויפות, שיבוט קולי להתחזות, מתקפות פישינג, זיוף עמוק (דיפ פייק) של מועמדים, הרעלת מידע בצ'אט-בוטים, ופגיעה באמון הציבור במידע ובמוסדות הדמוקרטיים. כך מתריעה סקירה של מרכז המחקר של הכנסת שנכתבה לבקשת חה"כ נעמה לזימי ואפרת רייטן מהדמוקרטים.
הסקירה מצאה שמדינות רבות בעולם נתקלות כבר בפועל בניסיונות השפעה והתערבות שונים. המסמך סוקר מקרים מאירלנד (סרטון "דיפ-פייק" של מועמדת לנשיאות מכריזה על לכאורה על פרישה ימים לפני הבחירות); רומניה (ביטול תוצאות בחירות לנשיאות עקב התערבות רוסית); גרמניה (שימוש בדיפ-פייק ורשתות בוטים על ידי שחקנים זרים ומקומיים לפני בחירות); יפן (הצפת האינטרנט במידע כוזב שהשפיע גם על תשובות צ'אטבוטים כמו גרוק וצ'אט-ג'יפיטי) וארה"ב (שיבוט קולי של הנשיא דאז לשם דיכוי הצבעה בבחירות המקדימות).
החוק בישראל אינו אוסר שימוש בתוכן סינטתי יציר AI וגם אינו מחייב לסמן אותו ככזה: חוק הבחירות (דרכי תעמולה) אינו מזכיר בינה מלאכותית או דיפ-פייק (שוין, אומר law.co.il, הוא לא מזכיר גם רשתות חברתיות או אינטרנט. מעניין למי היה אינטרס להשאיר אותו מיושן). במקרים פרטניים, יו"ר ועדת הבחירות המרכזית הסתמך על סעיף 13 לחוק האוסר הפרעה בלתי הוגנת של תעמולת בחירות, אך לא קבע איסור גורף או חובת סימון של תוכן סינתטי. ועדת החוקה, חוק ומשפט דנה כיום בהצעה לקבוע בחוק "חובת גילוי ביחס לתעמולת בחירות שנוצרה באמצעים דיגיטליים, או שנערכה באמצעים כאמור באופן ששינה את תוכנה שינוי מהותי, ובלבד שמוצגים בה באופן חזותי או קולי דמות, מקום, אירוע, מסמך או חפץ אחר, העשויים להיחזות ככאלה שתועדו במקור" (law.co.il: הכנסת כידוע צפויה להתפזר השבוע. האם תחוקק את התיקון?).