"ידידי בינה מלאכותית" הם כלי בינה מלאכותית שמעניקים תמיכה רגשית ומעין "אוזן קשבת", כמו ChatGPT ו-Snapchat. מערכות אלו מיועדות לזכור שיחות קודמות, לשאול על רגשות ולקיים דיאלוג אישי מתמשך. הן פעלו עד לאחרונה ללא רגולציה מפורשת עליהן. לפי מחקרים, 64% מהמתבגרים בארה"ב משתמשים בצ'אט-בוטים מבוססי בינה מלאכותית וכשליש מהם משתמשים בהם לתמיכה רגשית.
ניו יורק וקליפורניה הן המדינות הראשונות להטיל רגולציה בתחום זה. חוק ניו יורק, שכבר בתוקף, מחייב מפעילי "ידידי בינה מלאכותית" לזהות ביטויים של מחשבות אובדניות או פגיעה עצמית ולהפנות משתמשים לשירותי חירום כמו קו 988. בנוסף, המערכת חייבת להודיע למשתמש בתחילת כל אינטראקציה ובכל שלוש שעות שהוא מדבר עם בינה מלאכותית ולא עם אדם. הפרות עלולות להוביל לקנסות של עד 15,000 דולר ליום.
חוק קליפורני, שייכנס לתוקף ב-1 בינואר 2026, מוסיף הגנות מיוחדות לקטינים, כולל אזהרות התאמה ומניעת תוכן מיני. החוק גם מאפשר לאזרחים פרטיים להגיש תביעות ומחייב דיווח שנתי למשרד המדינתי למניעת התאבדויות בקליפורניה.
צו נשיאותי של טראמפ מהחודש חותר למזעור הרגולציה על בינה מלאכותית, מה שיוצר אי-ודאות לגבי עתיד חוקי המדינות. למרות זאת, המגמה ברורה: פיקוח גובר על אינטראקציות בריאות הנפש, חובות הגנה על צעירים, ודרישות תיעוד נרחבות יותר. מקור: רויטרס (מאת: לינג קונג).