בעקבות סדרת אירועים חריגים שבהם סוכני בינה מלאכותית פעלו בניגוד להנחיות שקיבלו: הנציבות האירופית קוראת לחברות הבינה המלאכותית המובילה לקחת אחריות ולהשיג שליטה מלאה על מודלי הבינה המלאכותית המתקדמים שהן מפתחות. קריאת הנציבות מגיעה, בין השאר, על רקע דיווחים לפיהם טכנולוגיה של OpenAI שפעלה ללא פיקוח אנושי פרצה למאגר המודלים Hugging Face, ובאירוע נוסף אלפי סוכני בינה מלאכותית אוטונומיים שפיתחה החברה השתלטו על אתר אינטרנט גרמני, תוך סטייה מהוראות מפורשות. הנציבות דרשה כי החברות יבצעו "בדק בית" ויוודאו שהמודלים המתקדמים שלהן נותרים בשליטתן.

הדברים מגיעים גם על רקע כניסת הוראות נוספות של חוק הבינה המלאכותית האירופי (AI Act) לתוקף בחודש שעבר. הנציבות מסרה כי כבר פנתה למספר חברות בדרישה לקבל מידע מתוקף החוק ואף הזכירה שעומדים לרשותה כלי אכיפה משמעותיים מכוחו. כמו כן, סוכנות הסייבר של האיחוד האירופי קיבלה גישה למודלים העדכניים ביותר של OpenAI, ובהם GPT-6-ASTRA, וכן למודל Mythos 5 המתקדם של חברת Anthropic, והם נתונים בימים אלה לבחינה מצד הרשויות האירופיות. מקור: The Strait Times.