השימוש בכלי בינה מלאכותית להקלטה, תמלול וסיכום של שיחות עם לקוחות מציב אתגרים אתיים משמעותיים הדורשים הסכמה מוקדמת, שמירה על סודיות, בדיקת דיוק התוצרים, והבנה טכנולוגית מספקת של הכלים בשימוש. כך מהבירה חוות דעת אתית של ועדת האתיקה המקצועית של לשכת עורכי הדין בעיר ניו יורק.

חוות הדעת קובעת כי עורך דין חייב לקבל את הסכמת הלקוח לפני הקלטת שיחה. איסור זה נובע מחובת הנאמנות שעורך הדין חב ללקוחו ומהאיסור על מירמה. ההקלטה עלולה להשפיע על אופן הדיבור של הלקוח ולפגוע באמון ביחסי עורך דין-לקוח.

על עורכי הדין להגן על כל רשומות התקשורת עם הלקוח. יש לבחון היכן המידע נשמר, למשך כמה זמן, האם הוא ניתן לגילוי במסגרת הליכים משפטיים, והאם ספק הבינה המלאכותית שתמש בנתונים לאימון מערכותיו.

עורכי הדין מחויבים לבדוק באופן עצמאי כל תמלול או סיכום שנוצר על ידי הבינה המלאכותית, ולוודא את דיוקו. הסיבה לכך היא הנטייה הידועה של כלי AI ל"הזיה" – יצירת מידע שגוי. בנוסף, על עורכי הדין להכיר את הכלים הטכנולוגיים בהם הם משתמשים ולהדריך את העובדים תחת פיקוחם.

כאשר הלקוח משתמש בכלי בינה מלאכותית משלו עורך הדין אינו שולט בכלי. במצב כזה, חוות הדעת ממליצה לכלול בהסכם שכר הטרחה תנאים לפיהם תמלולים וסיכומים שנוצרו על ידי כלי הלקוח לא ייחשבו מחייבים אלא אם נבדקו על ידי עורך הדין.