בינה מלאכותית עלולה בקרוב לעלות על היכולות האנושיות ולהוביל לסיכונים כמו מגפות מהונדסות, מתקפות דיסאינפורמציה, מניפולציית ילדים, איומים ביטחוניים, אבטלה המונית והפרות זכויות אדם - כך הזהירו ביום שני יותר מ-200 ראשי מדינות לשעבר, דיפלומטים, זוכי פרס נובל, מנהיגי בינה מלאכותית, מדענים ואחרים, שחתמו על קריאה משותפת ליצירת הסכם בינלאומי על קווים אדומים לבינה מלאכותית, עד סוף 2026. בין החותמים נמנים ויצ'ך זארמבה (מייסד שותף של OpenAI), ג'ייסון קלינטון (CISO של Anthropic) ואיאן גודפלו (מדען המחקר של גוגל DeepMind).

במכתב קוראים החותמים לממשלות לפעול בנחישות לפני שחלון ההזדמנויות ייסגר, כדי לנסח קווים אדומים ברורים על בסיס מערכות ציות גלובליות קיימות, מנגנוני אכיפה חזקים והתחייבויות של השוק הפרטי, כאשר כל ספקי הבינה המלאכותית המתקדמת יהיו אחראים במשותף. אם לא יוצבו קווים אדומים, מזהירים החותמים כי כבר בשנים הקרובות יהיה קשה יותר לבצע בקרה ושליטה אנושית על מערכות אלו.