דוח מבקר המדינה קובע כי אף שהאיום של השפעה זרה במרחב הדיגיטלי זוהה בישראל כבר משנת 2017, נכון למרץ 2026 אין מדיניות לאומית סדורה ואין גוף ממשלתי שמוביל את ההתמודדות הבין-ארגונית עם התופעה.
המבקר מצא שהשפעה זרה במרחב הדיגיטלי מכוונת לפגיעה באינטרסים לאומיים באמצעות רשתות חברתיות, דיסאינפורמציה, חשבונות מזויפים, בוטים ושימוש גובר בבינה מלאכותית. הוא מצביע על סיכון לפגיעה באמון הציבור במוסדות המדינה, להעמקת שסעים חברתיים, ליצירת בהלה, ולהשפעה על דעת הקהל ועל תהליכים דמוקרטיים, ובפרט בתקופות חירום ובחירות.
הביקורת מתארת שורת ניסיונות ממשלתיים שלא הבשילו למענה אופרטיבי. המל"ל, מערך הסייבר ומשרד המודיעין זיהו לאורך השנים את הפערים בתחום, אולם עבודות מטה בין-ארגוניות לא קודמו לכדי מדיניות מחייבת. גם תוכנית פעולה בין-משרדית שהציג מערך הסייבר לראש הממשלה בספטמבר 2024 לא נבחנה במשך חודשים ארוכים, ובהמשך צומצם עיסוק המערך למקרים שבהם ההשפעה הזרה נובעת מתקיפות סייבר.
שב"כ מבצע פעולות איתור וניטור של השפעה זרה, אבל נותרו לו בכך קשיים טכנולוגיים ומבצעיים. מחלקת הסייבר בפרקליטות המדינה פועלת להסרת תכנים במסלול וולונטרי, אולם אין בידה פילוח ייעודי של בקשות הנוגעות להשפעה זרה, ולכן לא ניתן להעריך את יעילות הטיפול בתחום זה. הדוח מצביע גם על היעדר אסדרה מול הפלטפורמות המקוונות ועל קושי בהעמקת שיתוף הפעולה עמן.
דיפ פייק ובחירות
הדוח מתייחס ל-DeepFake כחלק מההתפתחות הטכנולוגית שמקשה יותר ויותר להבחין בין אמת לשקר, ובכך מחריף את סיכוני הדיסאינפורמציה וההשפעה הזרה. בפרט צוין כי כלי בינה מלאכותית מאפשרים יצירת תוכן אמין למראה - טקסט, תמונה, אודיו ווידאו - בהיקפים גדולים, במהירות ובעלות נמוכה, באופן שמחזק זהויות פיקטיביות ומקשה על חשיפתן.
מדינות עוינות כבר עושות שימוש בבינה מלאכותית גנרטיבית ליצירת טקסטים, קבצי שמע וסרטונים סינתטיים מזויפים, באופן שעלול לשפר את היכולת שלהן להגיע לקהלים רחבים תוך טשטוש מקור המסר האמיתי.
בהיבט החינוכי-אזרחי, הדוח מדגיש כי אחת הסיבות המרכזיות לחשיבות האוריינות הדיגיטלית היא בדיוק הקושי הגובר לזהות תוצרי DeepFake, בשילוב היכולת להפיץ אותם במהירות ברשתות החברתיות.
הסכנה מחריפה במיוחד בתקופת בחירות. ועדת הבחירות המרכזית זיהתה פרסום DeepFake כאחד התרחישים שעלולים לפגוע באפשרות ההצבעה החופשית של הבוחר, למשל כאשר מוצגות כביכול דעות של מועמד מסוים. עוד הובאה עמדת יו"ר ועדת הבחירות, שלפיה שימוש ב-DeepFake בתעמולת בחירות עלול לערער את אמון הציבור בעצם קיומה של אמת בבחירות, ובכך לסכן את הליך הבחירות ואת המערכת הדמוקרטית עצמה.
הדוח גם מזכיר מחקר שנערך לגבי הבחירות בארה"ב ב-2024, שלפיו אף שלא נמצאו ראיות חד-משמעיות להשפעה משמעותית של תוכן שנוצר בבינה מלאכותית על תוצאות הבחירות, זוהו השפעות עקיפות מסוכנות - בעיקר בלבול לגבי האותנטיות של תכני בחירות ופגיעה ביכולת הבוחרים להסתמך על מידע אמין. עוד צוין כי ניתן להשתמש ב-DeepFake כדי לערער את הלגיטימיות של תוצאות הבחירות, למשל באמצעות סרטונים או תמונות מזויפות של זיוף קלפיות או עבירות בחירות.