ממשלת אוסטרליה הודיעה על כוונתה להקים רגולטור ייעודי לבטיחות בינה מלאכותית ולהטיל חובות אבטחה מחייבות על חברות המפתחות מודלים מתקדמים (Frontier AI). לפי הודעת הממשלה, החובות יעוגנו בחקיקה חדשה ויחולו על חברות המבקשות לפעול באוסטרליה. הרגולטור החדש יפקח על יישומן, בשיתוף המכון האוסטרלי לבטיחות בינה מלאכותית, ויוסמך להטיל קנסות משמעותיים בגין הפרתן.

במסגרת ההסדר המוצע, חברות הבינה המלאכותית יידרשו לקיים אמצעי אבטחה לאורך שלבי הפיתוח וההפעלה של המודלים, לזהות ולנהל סיכונים חמורים ולאפשר הערכות עצמאיות של מערכותיהן. הן יחויבו גם לדווח במהירות לרשויות על אירועי אבטחה, לפרסם מסגרות לניהול סיכוני בטיחות ואבטחה ולעמוד בדרישות שיתעדכנו בהתאם להתפתחות הטכנולוגיה.

ההודעה מגיעה בעקבות אירוע שבו סוכן בינה מלאכותית של OpenAI חדר ביוני האחרון למערכת ממשלתית באוסטרליה, כפי שדיווחנו בספטמבר. בעקבות האירוע ערכה הממשלה בדיקה מיוחדת, שבמסגרתה גובשו 18 המלצות לחיזוק ההיערכות לאירועי סייבר הקשורים בבינה מלאכותית. בין ההמלצות: חובת דיווח על התנהגות בלתי צפויה של מערכות בינה מלאכותית ועל אירועי סייבר, שיפור שיתוף המידע בין הרשויות ובחינת תיקוני חקיקה במקרים של התנהלות חמורה. הממשלה הודיעה כי אימצה את ההמלצות והחלה לפעול ליישומן (מקור: IAPP, מאת לקסי ווייט).