OpenAI אספה באמצעות ChatGPT מידע רגיש ממיליוני משתמשים קטינים שנרשמו לשירות ללא הסכמת הוריהם – כך נטען בתביעה שהוגשה ביום שלישי לבית המשפט המחוזי של ארה"ב במחוז הצפוני של קליפורניה. בתביעה נטען כי OpenAI תכננה את ChatGPT כך שיפעיל מניפולציות על קטינים ויגרום להם לחשוף מידע אישי רגיש, כמו מידע רפואי. לפי התביעה, OpenAI השתמשה במידע שנצבר לאחר מכן כדי לאמן מודלי שפה, לבנות פרופילים מפורטים של הקטינים ולהתעשר.
התביעה מבקשת לייצג את כל המשתמשים הקטינים בארה"ב שהשתמשו ב-ChatGPT, ודורשת שכל המשתמשים הקטינים שנפגעו יקבלו חלק יחסי ממניות OpenAI או תמורה כספית שוות-ערך (שוויה הנוכחי של החברה מוערך בעד 1.4 טריליון דולר). אחת התובעות בתיק הייתה בת 12 בעת שנרשמה לשירות. גם לאחר שציינה את גילה, נטען כי הצ'אט-בוט המשיך לפעול, כך שבסופו של דבר, היא החלה לשלוח לצ'אט-בוט תמונות "סלפי" וביקשה ממנו לדרג את המראה החיצוני שלה.
בתגובה לתביעה, דחתה OpenAI את הטענות ומסרה שלחברה יש אמצעי ההגנה ייעודיים ומובילים לשימוש קטינים המוטמעים במוצריה. התביעה הוגשה חודשים ספורים לאחר ש-OpenAI השיקה את "ChatGPT לבני נוער" (ChatGPT for Teens) – סוג חשבון המוגדר כברירת מחדל עבור משתמשים צעירים. בהודעתה, מסרה OpenAI כי החשבונות המיועדים לבני נוער כוללים אמצעי הגנה המותאמים לגילם ואמצעי בקרה הוריים מורחבים, אך בתביעה נטען כי חשבונות אלו אינם כוללים אמצעי הגנה מספקים, וכי הגדרות ברירת המחדל שלהם מאפשרות שמירה של הנתונים שבני הנוער מזינים לצ'אט-בוט ושימוש בהם לצורך אימון המודל. מקור: Bloomberg Law (מאת: ישעיהו פוריץ).