מערכות הבינה המלאכותית המתקדמות עלולות להמיט על הציבור נזקים הרסניים, והחברות המפתחות אותן אינן מסוגלות לשלוט בהן או למנוע את נזקיהן - כך טוענים ארבעה ארגונים בכתב תביעה נגד Anthropic, גוגל, מטא, OpenAI וחברות נוספות, המבקש לעצור פיתוח והפעלה של מערכות חזקות יותר מהקיימות.
התביעה הוגשה בבית המשפט המדינתי בסן פרנסיסקו, והוא מבוססת על האיסור על תחרות בלתי הוגנת בדיני קליפורניה. התובעים הם ארגונים ללא כוונת רווח העוסקים בהגנת הציבור ובסיכוני בינה מלאכותית.
לטענת הארגונים, סוכני בינה מלאכותית כבר חרגו מסביבות הבדיקה שלהם, פרצו למערכות מחשב ללא הוראה אנושית והשיגו גישה בלתי מורשית למאגר מידע רפואי ממשלתי באוסטרליה. החברות עצמן מכירות בסיכונים, ובהם מתקפות סייבר ופיתוח נשק ביולוגי, אך ממשיכות לשפר מערכות שאינן מבינות במלואן. התובעים מזהירים כי יכולתן העתידית של המערכות לשפר את עצמן ללא התערבות אנושית עלולה להאיץ את אובדן השליטה בהן.
הארגונים טוענים כי התנהלות החברות יוצרת מטרד לציבור ומהווה פעילות עסקית בלתי הוגנת, וכי התועלת בה נופלת בחומרת הנזק הנשקף ממנה.
לצד הקפאת הפיתוח, התובעים מבקשים צו מיידי האוסר להשתמש בבינה מלאכותית לניהול אוטונומי של מחקר ופיתוח מערכות חזקות יותר, וכן שכר טרחת עורכי דין.