התובע הכללי של קליפורניה שלח לפני ימים אחדים מכתב התראה לחברת xAI של אילון מאסק, בדרישה לחדול מיידית מיצירה והפצה של תמונות מיניות מזויפות (deepfakes) ללא הסכמה, וכן חומרי התעללות מינית בילדים – באמצעות כלי הבינה המלאכותית xAI.
החקירה של התובע הכללי נפתחה בעקבות דיווחים רבים על כך שמודל הבינה המלאכותית Grok המשולב בפלטפורמה X שימש ליצירת תמונות מיניות מפורשות של נשים וילדים ללא ידיעתם או הסכמתם. על פי הדיווחים, המערכת נטלה תמונות רגילות מהאינטרנט והפכה אותן לתוכן מיני מפורש, כולל "הפשטת" הנפגעים בתמונות.
התובע הדגיש כי מטריד במיוחד ש-xAI הודתה בפומבי כי יצרה והפיצה תמונה של שתי נערות קטינות בלבוש מיני, תוך הפרה של סטנדרטים אתיים ואולי אף של חוקי ארה"ב נגד תוכן מיני של קטינים. לפי ניתוח אחד, יותר ממחצית מ-20,000 התמונות שנוצרו על ידי xAI בין חג המולד לראש השנה האזרחית הציגו אנשים בלבוש מינימלי, וחלקן כללו קטינים.
התובע הכללי דורש מהחברה לחדול מיידית מיצירה, חשיפה או פרסום של חומר מיני דיגיטלי ללא הסכמת המצולם או כאשר המצולם קטין; לחדול מסיוע או שידול ליצירה והפצה של חומרים אלה; ולמנוע יצירת כל תמונה המתארת אדם מתחת לגיל 18 בהתנהגות מינית.
לדברי התובע הכללי, מעשים אלה מפרים מספר חוקים אזרחיים ופליליים בקליפורניה. הוא דורש מהחברה לאשר בכתב בדחיפות כי היא מפסיקה את הפעילות המפרה, ומשמרת את כל המסמכים והראיות הרלוונטיים לחקירה. מקור: הודעת התובע הכללי של קליפורניה.