שתי עמותות אמריקאיות הגישו שבע תביעות נגד חברת OpenAI והמנכ"ל סם אלטמן, בטענה כי החברה שחררה את גרסת GPT-4o ללא בדיקות בטיחות נאותות ובכך וגרמה למוות ברשלנות, סיוע להתאבדות והריגה.

על פי כתבי התביעה, OpenAI האיצה את ההשקת ה-GPT-4o, על מנת להקדים את גוגל והשקת Gemini, תוך דחיסת בדיקות הבטיחות לכמה ימים במקום כמה חודשים, מהלך שאף הוביל להתפטרותם של כמה בודקי בטיחות בכירים של OpenAI. עוד נטען כי על אף שהייתה ל- OpenAI היכולת הטכנית לזהות ולהפסיק שיחות משתמשים מסוכנות, להפנות משתמשים לגורמי סיוע במצבי משבר, ולסמן הודעות לבדיקה אנושית, החברה בחרה שלא להפעיל אמצעי הגנה אלו, ובמקום זאת העדיפה להפיק תועלת מהשימוש המוגבר במוצר שלה.

התביעות כוללות עדויות של משתמשים שפנו ל-ChatGPT לקבלת סיוע בענייני לימודים, עבודה או ייעוץ כללי. לדבריהם, עם הזמן הפך הכלי "לדמות מניפולטיבית רגשית", שחיזקה אשליות ולא הפנתה לעזרה מקצועית.

התביעות נועדו בין היתר להטיל אחריות על OpenAI בשל הטשטוש המכוון בין כלי טכנולוגי לבין ישות חברית, שנועד להעמיק את ההיקשרות של המשתמשים ולהגדיל את נתח השוק של החברה. העמותות קוראות לרשויות בארה"ב לפתוח בחקירה ולגבש רגולציה שתחייב שקיפות ובדיקות בטיחות לפני השקת מערכות בינה מלאכותית לציבור. מקור: Tech Justice Law Project.