שינוי התשובות של מערכות AI לשם קידום יעדים אידיאולוגיים שלא נחשפו לצרכנים עלול להיחשב כהטעיה לפי סעיף 5 ל-FTC Act, אם הוא סותר מצגים מפורשים או משתמעים על אמינותה, יעילותה או התאמתה של המערכת למשימות שונות. כך קובעת נציבות הסחר הפדראלית בארצות-הברית בטיוטת מדיניות מוצעת, שפרסמה להערות הציבור. המדיניות עוסקת בפגיעה בדיוק ובאובייקטיביות של מערכות בינה מלאכותית, והיא זמינה להערות עד 31.7.2026
אלה הנקודות המרכזיות במדיניות שה-FTC בוחנת:
- למשתמשים יש ציפייה סבירה שמערכות בינה מלאכותית ינסו לספק תשובות מדויקות ואמינות, ולא תשובות שעוצבו לפי מטרות אידיאולוגיות שלא נחשפו בפניהם.
- חברה שמכוונת או משנה את פלטי ה-AI באופן שסותר את הציפייה הסבירה של הצרכנים עלולה להיחשב כמי שמטעה אותם, בניגוד לסעיף 5 ל-FTC Act, שאוסר על "מעשים או פרקטיקות בלתי הוגנים או מטעים" במסחר. גם אם השינוי נעשה כדי לעמוד בדרישות של חקיקה מדינתית, הוא עלול להיחשב למטעה ובלתי-חוקי.
- הבעיה אינה עצם קיומן של טעויות או הזיות של בינה מלאכותית הנובעות ממגבלות טכנולוגיות, אלא תכנון המערכת בכוונה להעדיף מטרה סמויה אחרת על פני מטרת המשתמש והדיוק שהוא מצפה לו.
- המסמך מציין שרגולציה מדינתית עלולה ליצור לחץ לשנות פלטים של AI, ומפנה במיוחד לחוק ה-AI של קולורדו. לפי עמדת ה-FTC, אם דין מדינתי מחייב בפועל הטעיה של צרכנים, ייתכן שהוא יידחה בשל סתירה להסדר הפדרלי.
- חברה יכולה לשנות את ציפיות המשתמשים רק אם היא נותנת גילוי ברור ובולט לכך שהמערכת מתוכננת להעדיף יעדים מסוימים על פני בקשת המשתמש. גילוי שמוסתר בתנאי השימוש, או גילוי חד-פעמי ולא בולט, לא בהכרח יספיק.
ה-FTC מציינת שהמהלך הזה מגיע בהמשך לצו נשיאותי מחודש דצמבר, שבו הונחתה הנציבות לגבש הצהרת מדיניות שתבחן את ההשלכות המשפטיות של דיני מדינות בארצות-הברית שמחייבים לשנות את התשובות של מודלי בינה מלאכותית.