ב-30 בספטמבר 2026 אישר מושל קליפורניה חקיקה להגברת הפרטיות במידע בריאותי, בשני תרחישים: (א) בשימוש בבינה מלאכותית במתן טיפול רפואי, ו- (ב) הגנה על המידע הרפואי שמשתמשים מוסרים לצ'אטבוטים רפואיים.
החוק מוסיף לספר החוקים העסקי-מקצועי של קליפורניה פרק חדש שעניינו תמיכה בהחלטות קליניות באמצעות בינה מלאכותית. מוסדות בריאות, מרפאות, רופאים וקבוצות רפואיות יידרשו לנקוט צעדים סבירים כדי להבטיח שאיש מקצוע מורשה ישמור על יכולתו להפעיל שיקול דעת מקצועי עצמאי, בכל פעם שהטיפול במטופל מתבסס על פלט של "מערכת תומכת החלטות קליניות". זוהי מערכת בינה מלאכותית המפיקה חיזוי, סיווג, המלצה, הערכה או ניתוח הנוגעים לעיתוי הטיפול, לאבחנה או לטיפול עצמו.
בנוסף, נאסר על גופים אלה להשתמש בכלי הכולל בינה מלאכותית כדי לבצע באופן עצמאי פעולה קלינית שהדין מחייב שתבוצע בידי בעל רישיון מקצועי. נאסר עליהם גם להשתמש בכלי כזה כדי לכוון, להנחות או לפקח על עובדים שאינם מורשים בביצוע פעולה כזו. האיסור לא חל על מתמחים במסגרת הכשרה מפוקחת. הוא גם לא חל על מערכות אוטומטיות לתיעוד ולתקשורת שאינן כרוכות בשיקול דעת מקצועי, כגון הודעות על עדכון רשומות רפואיות, תזכורות וסיוע למטופלים באיתור מידע לבקשתם. הפרה בידי רופא תידון בפני המועצה הרפואית של קליפורניה או המועצה האוסטאופתית. רשויות הרישוי רשאיות לבקש צו מניעה ככל שההפרה מהווה עיסוק במקצוע ללא רישיון.
החלק השני של החוק מתקן את חוק סודיות המידע הרפואי של קליפורניה (Confidentiality of Medical Information Act). החוק מגדיר "צ'אטבוט רפואי" כמערכת בינה מלאכותית יוצרת בעלת ממשק בשפה טבעית, העונה על שלושה תנאים: ראשית, היא מספקת תגובות מותאמות ודמויות אדם. שנית, היא משווקת ככלי התומך בשירותי בריאות לצרכן. ושלישית, היא משתמשת במידע על בריאותו הגופנית או הנפשית של הצרכן או על רווחתו, בין שהצרכן מסר אותו ובין שהצ'אטבוט אסף, הפיק או הסיק אותו.
עסק המציע צ'אטבוט כזה לצורך ניהול המידע של המשתמש, או לאבחון, לטיפול או לניהול של מצב רפואי, ייחשב "נותן שירותי בריאות" לעניין החוק. הוא יחויב בדרישות הסודיות שבחוק ויהיה חשוף לאותן סנקציות בגין שימוש או גילוי שלא כדין. בכך מצטרפים הצ'אטבוטים הבריאותיים לאפליקציות לבריאות הנפש ולבריאות מינית ופוריות, שכבר כפופות לחוק.