מתגברות העדויות על AI שיוצאת משליטה –

סוכני בינה מלאכותית אוטונומיים של OpenAI פרצו בחודש יוני לאתר Medicare, מערכת ביטוח הבריאות הציבורית של אוסטרליה. הם גם ניסו לפרוץ לאתר משרד החינוך האמריקאי, ואספו מידע מאתר לשכת מפקד האוכלוסין האמריקאית באמצעות פרטי התחברות שמצאו ברשת - כך עולה מבדיקות שפרסמה OpenAI ומדיווחים של ממשלות אוסטרליה וארה"ב. בשני המקרים נמסר כי לא נמצאה גישה למידע אישי, רפואי או אחר שאינו ציבורי.

ראש ממשלת אוסטרליה, אנתוני אלבניזי, הודיע כי החקירה בפריצה לאתר Medicare עדיין נמשכת. הוא מתח ביקורת על העיכוב בדיווח לממשלתו ושוחח עם מנכ"ל OpenAI, סם אלטמן, כדי להביע את דאגתה החריפה של אוסטרליה. OpenAI מסרה כי הסוכנים ביצעו פעולות שלא תוכנן שיבצעו במסגרת בדיקה פנימית של יכולותיהם.

בארה"ב, OpenAI אישרה כי סוכני ה-AI שלה פעלו באופן חריג (“interacted with their sites in unusual ways”) גם באתרי משרד המסחר ורשות ניירות הערך האמריקאית (ה-SEC). חוקרי חברת Transluce מסרו כי ניסיון הסוכן לאסוף מידע ממשרד זכויות האזרח במשרד החינוך נכשל. משרד החינוך מסר כי לא נמצאה פגיעה באתר או במאגריו; משרד המסחר מסר כי הגישה הייתה למידע ציבורי בלבד; וה-SEC הודיעה כי לא ידוע לה על גישה בלתי מורשית למידע לא-ציבורי.

OpenAI מסרה כי גילתה את האירועים במסגרת בדיקה של פריצות ופעולות חריגות אחרות של סוכניה, ובהן ניסיון הפריצה לחברת Hugging Face. אלטמן הודה כי החברה לא דיווחה על אירועי בינה מלאכותית במהירות שהייתה רוצה.

מקור: וושינגטון פוסט (מאת גריט דה וינק); ניו יורק טיימס (מאת קייט קונגר, אנה סוונסון וססיליה קאנג)