מכון סטנפורד לבינה מלאכותית מכוונת אדם (Stanford Institute for Human Centered Artificial Intelligence) כינס בחודש שעבר קובעי מדיניות, חוקרים, קלינאים ונציגי מטופלים כדי לדון בפערי הרגולציה סביב כלי בינה מלאכותית לתחום בריאות הנפש. ברקע הדיון עמדה ההכרה כי מיליוני אמריקאים מתמודדים עם קשיים נפשיים, אך טיפול פסיכולוגי נותר יקר ובלתי נגיש עבור רבים, ומחסור במטפלים מוסמכים יצר חלל שנכנסים אליו במהירות פתרונות מבוססי AI - מצ'אטבוטים טיפוליים ואפליקציות רווחה ועד מודלי שפה כלליים המשמשים לתמיכה רגשית.
חוקרות המכון מדווחות שלצד ההבטחה שמביאה איתה בינה מלאכותית - נגישות רבה יותר, עלות נמוכה והרחבת מערכת עמוסה - קיימים סיכונים ממשיים בהיעדר רגולציה. דיווחים תיעדו קטינים שפיתחו היקשרות לא‑בריאה לצ'אטבוטים, משתמשים במשבר שקיבלו תגובות מזיקות, וכלים שהחמיצו סימני אזהרה למצבי חירום נפשיים. לצד זה, המאמצים החקיקתיים מבוזרים מדי: יותר מ‑140 הצעות חוק במדינות שונות, בעוד החקיקה הפדרלית מתמקדת בעיקר בהגנה על קטינים.
החוקרות איתרו שלושה אתגרי מדיניות מרכזיים. הראשון הוא הצורך בהגדרה ברורה מהי בינה מלאכותית לבריאות הנפש. ללא הבחנה בין תפקידים קליניים המחייבים פיקוח לבין תכונות Wellness, הרגולציה נותרת לא‑עקבית; ואיסור גורף על טיפול בסיוע AI עלול לדחוף משתמשים דווקא לכלים כלליים ולא‑מבוקרים.
האתגר השני הוא ששיטות ההערכה מפגרות אחר הטכנולוגיה. אינטראקציות בעלות חשיבות קלינית הן נדירות וקשות לסימולציה, נתוני שיחה אמיתיים נמצאים בעיקר בידי התעשייה וללא גישה לחוקרים, והמדדים הקיימים משקפים עדיפויות טכניות של מפתחים ולא יעדים טיפוליים. רוב המסגרות בוחנות נקודת זמן אחת ומחמיצות השפעות ארוכות‑טווח — למשל תופעת החנפנות של בינה מלאכותית, המזיקה למתמודדים עם הפרעה טורדנית-כפייתית (OCD). יש ראיות ראשוניות לכך ששימוש ממושך בחלק מהצ'אטבוטים עלול לפגוע ברווחה הנפשית.
האתגר השלישי הוא הצורך לטפל בבעיות מיידיות ובבעיות מערכתיות. יש הסכמה רחבה על דרישות שקיפות, מנגנוני תגובה למשבר, הגנת מידע ובקרות הוריות לקטינים. אך קיימות בעיות מבניות עמוקות יותר: מודלים עסקיים הממקסמים מעורבות (engagement) סותרים יחסים בריאים עם צ'אטבוט, בדומה ללוגיקה של רשתות חברתיות שנקשרה להתמכרות ולפגיעה בקטינים.
החוקרות מזהירות שללא תמריצים להתנהגות אחראית, הציפיה לרגולציה עצמית-וולונטרית מצד מפעילי בינה מלאכותית לא סבירה. לגישתן, השיח הנוכחי בארה"ב צר מדי ונשלט בידי פרספקטיבות של פוליסות ביטוח בריאות אמריקאיות, מה שעלול להעצים אי‑שוויון קיים בקנה מידה רחב. מקור: Stanford Institute for Human Centered Artificial Intelligence, (מאת: קרוליין יי, קרוליין מיינהרדט, מישל מלו, ג'יין פייק קים).