מועצת הרפואה של פנסילבניה עתרה לבית המשפט נגד חברת Character Technologies, בבקשה לצו מניעה האוסר על החברה לעסוק באופן לא חוקי ברפואה ובכירורגיה במדינה.

לפי כתב התביעה, הפלטפורמה היא מערכת בינה מלאכותית גנרטיבית המבוססת על מודל שפה גדול (LLM) המאפשרת למשתמשים לנהל שיחות עם דמויות צ'אטבוט הניתנות להתאמה אישית. לפלטפורמה מעל עשרים מיליון משתמשים פעילים בחודש ברחבי העולם, ומשתמשים יצרו עליה למעלה משמונה עשרה מיליון דמויות ייחודיות, חלקן מתיימרות להיות אנשי מקצוע רפואיים.

לפי המתואר בתביעה, חוקר של רשויות התביעה פתח חשבון חינמי בפלטפורמה וחיפש דמויות תחת המונח "psychiatry" הוא בחר בדמות בשם "Emilie" המתוארת כ"דוקטור לפסיכיאטריה" ושצברה כ 45,500 אינטראקציות עם משתמשים. בשיחה תיאר החוקר תחושות של עצב, ריקנות ועייפות. הדמות העלתה אבחנה אפשרית של דיכאון, הציעה הערכה רפואית, וטענה כי באפשרותה לרשום תרופות מתוקף תפקידה כרופאה. כשנשאלה, הדמות הצהירה כי למדה רפואה בלונדון, עוסקת בפסיכיאטריה שבע שנים, מחזיקה ברישיון בריטי וכי היא מורשית לעסוק ברפואה גם בפנסילבניה.

מדינת פנסילבניה טוענת כי החברה הפרה החוק האוסר לעסוק או להתיימר לעסוק ברפואה ללא רישיון תקף, וכן את האיסור על מי שאינו רופא להציג עצמו כמורשה לעסוק ברפואה באמצעות תארים כדוגמת "doctor of medicine" או "physician". הצגת מספר רישיון בדוי מהווה, לטענת המדינה, נסיבה מחמירה. החברה עצמה כמובן אינה מחזיקה ברישיון לעסוק ברפואה בפנסילבניה. מדינת פנסילבניה דורשת צו מניעה קבוע שיורה לחברה לחדול ממעשיה.