במהלך המחצית הראשונה של 2025, הגישה OpenAI פי 80 יותר דיווחים על מקרי ניצול קטינים ל-CyberTipline של מרכז הלאומי לילדים נעדרים ומנוצלים בארה"ב (NCMEC), בהשוואה למחצית הראשונה של 2024, בה הגישה "רק" 947 דוחות על 3,252 פרטי תוכן שהיא עיבדה. ה-CyberTipline הוא מרכז מידע מורשה בארה"ב לדיווח על חומרי התעללות מינית בקטינים וניצול קטינים אחר. חברות מחויבות לדווח ל-CyberTipline על מקרי ניצול קטינים חשודים, שיועברו לגורמי אכיפת החוק המתאימים לחקירה, במידת הצורך.

העלייה בכמות הדיווחים מקבילה לעליה בשימוש בבינה מלאכותית יוצרת. כך לדוגמה, דיווחים הקשורים לבינה מלאכותית יוצרת עלו ב-1,325% בין 2023 ל-2024, במקביל לעליה בשימוש ב-AI. הדיווחים קשורים לתוכן שמעבד השירות ChatGPT של OpenAI, כמו קבצים ותמונות, ולתוכן המעובד באמצעות ה-API העסקי של OpenAI. עם זאת, הדיווחים אינם כוללים את השימוש ביוצר הוידאו Sora, שהושק רק בספטמבר האחרון. מקור: WIRED (מאת: מאדי ורנר).

law.co.il מזכיר כי OpenAI ומתחרותיה מתמודדות עם רגולציה גוברת ותביעות בנושאי בטיחות קטינים. כך לדוגמה, חברת Character.AI, המפעילה פלטפורמה ליצירת דמויות בינה מלאכותית מותאמות אישית, הודיעה באוקטובר כי תאסור על שימוש על קטינים בשירות. Character.AI החלה לאכוף את האיסור, בין היתר, לאור תביעות בהן נטען כי השירות מעודד קטינים לאלימות והתנהגות מינית.