בעקבות גל של אירועים אשר עוררו חששות בקרב הציבור כי בינה מלאכותית ללא בקרה עלולה לפגוע בבני אדם, כמו המודל של OpenAI שחרג מהרשאות והטעה משתמשים או ניסיון הפריצה של סוכני OpenAI לחברת Hugging Face, פתחה נציבות הסחר הפדרלית (ה-FTC) חקירה רחבה נגד Anthropic, OpenAI וחברות בינה מלאכותית אחרות, כדי לחשוף את הסכנות הפוטנציאליות מהטכנולוגיה שלהן לצרכנים בארה"ב. מדובר פעולת האכיפה הרשמית הראשונה של ארה"ב המתעמקת בסוכני בינה מלאכותית סוררים.
חברת Anthropic בעצמה ציינה בטיוטת התשקיף לקראת הנפקתה בבורסה, כי בינה מלאכותית בעלת יכולות פעולה עצמאיות (agentic AI) טומנת בחובה סיכונים משפטיים משמעותיים ובלתי-צפויים. ל-FTC יש סמכות רחבה לתבוע חברות בגין "שיטות לא הוגנות או מטעות", והיא השתמשה בסמכות זו בעבר כדי לנקוט פעולה נגד חברות על כך שלא נקטו באמצעים סבירים לאבטחת המידע של הצרכנים. ה-FTC צפויה לדרוש מידע ולקרוא לעדות מנהלים בחברות הבינה המלאכותית המובילות, לרבות Anthropic, OpenAI וקבוצת המחקר METR, אשר סייעה בעבר בחקירות של אירועי אבטחה בחברות בינה מלאכותית. מקור: רויטרס (מאת: ג'ודי גודוי וג'ספריט סינג).