ביצוע הערכת סיכונים, הגבלה על שימוש בתוכן לאימון מודלים והגנה מוגברת על קטינים. אלה הן כמה מהחובות שקובע מסמך מדיניות סיני חדש לניהול שירותי בינה מלאכותית מואנשת (המדמים אינטראקציה אנושית), שעתיד להיכנס לתוקף באמצע החודש.

המדיניות נקבעה על ידי רשות הסייבר הסינית ומספר גופים רגולטוריים נוספים במדינה ופורסמה לציבור באפריל האחרון. היא מהווה סט כללים ראשון מסוגו המתמקד בשירותי בינה מלאכותית המאפשרים למשתמשים לנהל אינטראקציה עם "דמות אנושית", המדמה רגשות, תכונות אנושיות ודפוסי חשיבה וסגנון תקשורת אנושיים. בניגוד למסמכי רגולציה אחרים, היא לא מתמקדת בטכנולוגיה עצמה, אלא מציגה גישה מבוססת-תרחישים, שמתייחסת להקשרי שימוש ספציפיים ולסיכונים למשתמש במסגרתם. הרגולציה חלה על שירותים בכל פורמט – טקסט, תמונה, אודיו או וידאו – הזמינים לשימוש על ידי משתמשים בסין. הקביעה האם שירות נכנס לגדרי הרגולציה מבוססת על שלושה מרכיבים: דמיון לגורם אנושי, נוכחות מעורבות רגשית מצד המשתמש, ורציפות האינטראקציה (שהיא הגורם המכריע). מספר שירותים הוחרגו במפורש מהרגולציה, ביניהם כלי שירות לקוחות, מערכות שאלות ותשובות מבוססות-ידע, ופלטפורמות חינוכיות.

הגופים הכפופים לרגולציה יחויבו, בין השאר, לבצע הליך של רישום האלגוריתם בבסיס המערכת שלהם, לערוך הליך הערכת סיכוני אבטחה במקרים מוגדרים (דוגמת השקת שירות חדש או חציה של סף כמות משתמשים מוגדר), ולקבל את הסכמת המשתמשים באופן מפורש לשם שימוש בנתוני האינטראקציה שלהם עם השירות לצורך אימון מודלים. בנוסף, הרגולציה דורשת כי השירותים המפוקחים יפותחו באופן שיאפשר להם לזהות מצבי משבר רגשי אצל משתמשים, לרבות סיכון לפגיעה עצמית או אובדנות, וליישם מנגנוני התערבות מדורגים, שבמידת הצורך יאפשרו פנייה לאפוטרופוס או לאיש קשר לשעת חירום. זאת ועוד, הגופים המפוקחים יחויבו להגנה מוגברת על קטינים. בתוך כך, יידרשו הגופים בין היתר לוודא את גיל המשתמשים, לקבל הסכמת אפוטרופוס לשימוש קטינים מתחת לגיל 14, להגביל את משך השימוש של קטינים בשירות, ולאסור באופן מוחלט על שימוש קטינים בשירותים המספקים "יחסי קרבה" וירטואליים (כגון בני זוג או בני משפחה וירטואליים). הרגולציה תיכנס לתוקף ב-15 ביולי. מקור: Hogan Lovells Cadwalader (מאת: שרי גונג, שרמיין או, ג'סי זיי, קיארה או'לירי).