רשות הגנת המידע הספרדית (AEPD) קיבלה לראשונה דיווח על אירוע אבטחה שנגרם בעקבות מתקפת סייבר שביצע סוכן בינה מלאכותית. לפי הדיווח, הסוכן, שהתבסס על מודל שפה מוכר, הצליח להיכנס למערכת, לאתר באופן עצמאי חולשה ולנצל אותה כדי לשנות מידע אישי ולגשת לחשבוניות.

הרשות מדגישה כי פרטי האירוע מבוססים בשלב זה על המידע שמסר לה הארגון שנפגע והם עדיין בבדיקה. עוד הבהירה כי השימוש במודל מסוים לצורך המתקפה לא מעיד שהמודל עצמו או התשתית של ספק המודל נפרצו, או שהטכנולוגיה פותחה למטרות זדוניות.

בניגוד לשימוש במודל AI לביצוע משימה נקודתית, סוכן AI יכול לקבל מטרה, לתכנן משימות ביניים, להשתמש בכלים ולהריץ קוד, לפרש את התוצאות ולהתאים את פעולותיו באופן עצמאי בהתאם להן.

לדברי הרשות בספרד, השימוש בסוכני AI לא יוצר בהכרח איומי סייבר חדשים, אך הוא עשוי להגביר את המהירות, ההיקף ויכולת ההסתגלות של מתקפות. לכן, ארגונים נדרשים להביא בחשבון מתקפות באמצעות סוכני AI במסגרת ניתוח סיכוני אבטחת המידע, לקצר את זמני התגובה לאירועים ולחזק את ההגנה על זהויות והרשאות גישה. לצד פיקוח אנושי, יש להיערך גם באמצעות אמצעי זיהוי, בלימה ותגובה אוטומטיים.

מקור: SecurityWeek (מאת Kevin Townsend).