הרשות להגנת הפרטיות קיימה אתמול (ד') וובינר בנושא הסיכונים לפרטיות הכרוכים בשימוש אישי בסוכני בינה מלאכותית, בהמשך למסמך המלצות שפרסמה בנושא בחודש יולי.

הרשות הדגישה כי בשונה מהעבודה מול כלי בינה מלאכותית יוצרת, שבמסגרתה למשתמש יש הבנה טובה יחסית לגבי המידע שהוא מוסר לכלי, בעולם הסוכנים המשתמש מאבד שליטה על היקף החשיפה, משום שהסוכן פועל באופן עצמאי מול מערכות מידע חיצוניות שאליהן הוא מחובר, דוגמת יומן, תיבת דואר אלקטרוני או תיקיות מחשב. לפיכך, זיהתה הרשות שלושה אתגרים מרכזיים בשימוש בסוכני בינה מלאכותית. הראשון, הוא ריכוז מידע אישי אצל הסוכן מעבר לנדרש למשימה הספציפית. השני, הוא הסקת מסקנות ושימוש במידע מחוץ להקשר המקורי. השלישי והאחרון, הוא ביצוע פעולות אוטונומיות, דוגמת עריכה, עדכון או מחיקה של מידע, בהתבסס על "שיקול דעת" שגוי של הסוכן ובמנוגד לכוונת המשתמש.

לאור האתגרים הללו, הציגה הרשות מספר עקרונות מעשיים לשימוש בטוח. בין השאר, הודגש כי יש לצמצם ככל האפשר את המידע האישי החשוף לסוכן, ולהעניק לו גישה רק למידע ולמשך הזמן ההכרחיים לביצוע המשימה, למשל באמצעות הקמת תיקיית מייל ייעודית במקום חיבור לכלל תיבת הדואר. לצד זאת הומלץ לצמצם הרשאות למינימום הנדרש – צפייה בלבד היכן שאפשר, ללא הרשאות עריכה, שליחה או מחיקה – ולשמור על נקודת בקרה אנושית בפעולות בלתי הפיכות, כך שהסוכן ימליץ על פעולה אך לא יבצע אותה באופן עצמאי.