הנציבות האירופית פרסמה טיוטת הנחיות לסיווג מערכות בינה מלאכותית בסיכון גבוה לפי ה-EU AI Act, ובכך פתחה בהליך התייעצות פומבית בנוגע לטיוטה. ההנחיות נועדו לסייע לספקים, למפיצים ולרשויות הפיקוח על השוק להעריך באופן עקבי אילו מערכות AI ייחשבו "בסיכון גבוה" ולפיכך יחויבו במגוון דרישות והתחייבויות המפורטות בפרק III של החקיקה.
ה-EU AI Act נכנס לתוקף התחלתי ב-1 באוגוסט 2024, ובנוי על גישה מבוססת-סיכון: ככל שמערכת ה-AI מסוכנת יותר לבריאות, לבטיחות או לזכויות יסוד — לרבות דמוקרטיה ושלטון החוק — כך מחמירות הדרישות הרגולטוריות החלות עליה. קטגוריית "סיכון גבוה" לא כוללת את כל מערכות ה-AI אלא רק את אלו שמעמידות בסיכון משמעותי את הבריאות, הבטיחות או זכויות היסוד.
לפי החקיקה, ניתן לסווג מערכת כסיכון גבוה בשני מסלולים. הראשון הוא כאשר מערכת ה-AI מהווה רכיב בטיחות של מוצר הכפוף לחקיקת ההרמוניזציה של האיחוד, או שהיא עצמה מוצר כזה, והמוצר מחויב בהערכת תאימות בידי צד שלישי. רשימת חקיקות ההרמוניזציה מצויה בנספח I לחקיקה. המסלול השני חל כאשר השימוש המיועד במערכת נופל לאחד התחומים הרגישים המנויים בנספח III לחקיקה כגון תעסוקה, חינוך, אכיפת חוק, גישה לשירותים ציבוריים חיוניים ועוד. ההנחיות מורכבות משלושה מסמכים נפרדים: עקרונות כלליים, נספח I ונספח III.
בטרם מערכת תסווג כמערכת בסיכון גבוה, עליה לעמוד בהגדרת "מערכת בינה מלאכותית" שבחקיקה: מערכת מבוססת מכונה, בעלת מידת אוטונומיה כלשהי, היכולה להפיק מנתוני קלט תוצרים כגון תחזיות, תוכן, המלצות או החלטות. לא כל תוכנה אוטומטית נכללת בכך.
מושג מרכזי בטיוטה הוא "המטרה המיועדת" (intended purpose). הספק נדרש לתאר בבירור — בהוראות השימוש, בחומרי השיווק ובתיעוד הטכני — את ההקשרים והתנאים שבהם המערכת אמורה לפעול. במערכות בעלות שימושים מרובים, ובמערכות AI לשימוש כללי, היקף "המטרה המיועדת" עשוי לכלול גם שימושים בסיכון גבוה — בייחוד אם הספק מציג את המערכת כישימה במגוון רחב של הקשרים מבלי להחריג במפורש ובאופן עקבי שימושים בסיכון גבוה. ההנחיות מבהירות כי הצהרה גנרית בתנאי השירות שלפיה שימוש בסיכון גבוה "אסור" איננה מספיקה, אם החומרים השיווקיים והמיצוב של המוצר מקדמים בפועל שימושים כאלה.
ההנחיות מזכירות גם כי מפיצים, יבואנים ומשתמשים עלולים להפוך לספקים, על כל החובות הנלוות — אם הם ממתגים מערכת מחדש, מכניסים בה שינוי מהותי, או משנים את ייעודה כך שהיא הופכת למערכת בסיכון גבוה.
באשר ללוחות הזמנים: אם תאושר כמתוכנן חקיקת ה-AI Omnibus, מועד התחילה של החובות על מערכות בינה מלאכותית השייכות למסלול הראשון (מוצר הכפוף לחקיקת ההרמוניזציה של האיחוד) יידחה ל-2 בדצמבר 2027 (במקום אוגוסט 2026), ומועד התחילה של החובות על מערכות בינה מלאכותית שנופלות לאחד התחומים הרגישים המנויים בנספח III לחקיקה יידחה ל-2 באוגוסט 2028 (במקום אוגוסט 2027).