הַגדָרָה
הטיה בבינה מלאכותית מתייחסת לשגיאות שיטתיות בתפוקות של בינה מלאכותית הנגרמות כתוצאה מנתונים מוטים, תכנון פגום או אי שוויון חברתי המשתקף במערכי נתונים. הטיה יכולה להוביל לתוצאות לא הוגנות או מפלות.
מטרה
מטרת לימוד ההטיה היא לזהות ולמתן חוסר הוגנות במערכות בינה מלאכותית. ארגונים שואפים לבנות מודלים שוויוניים יותר על ידי התייחסות לסוגיות אלו.
חשיבות
- מוביל לאפליה בגיוס, הלוואות או שירותי בריאות אם לא מטופל.
- פוגע באמון במערכות בינה מלאכותית.
- דורש עמידה בתקנות בתעשיות רגישות.
- קשור להגינות ולפרקטיקות אחראיות של בינה מלאכותית.
איך זה עובד
- זיהוי מקורות פוטנציאליים להטיה (איסוף נתונים, תיוג, מידול).
- ניתוח מערכי נתונים לאיתור חוסר איזון.
- יש ליישם שיטות אימון המודעות להוגנות.
- בדיקת תוצאות באמצעות מדדי הוגנות.
- התאמת עיצוב והכשרה מחדש במידת הצורך.
דוגמאות (העולם האמיתי)
- כלי הערכת הסיכונים COMPAS: נמתח ביקורת על הטיה גזעית.
- אלגוריתם הגיוס של אמזון: נזנח עקב הטיה מגדרית.
- זיהוי פנים: ידוע כגורם המסווג באופן שגוי לקבוצות דמוגרפיות מסוימות.
מקורות / קריאה נוספת
- הטיה של בינה מלאכותית - NIST.
- הוגנות ולמידת מכונה - ברוקאס, הרדט ונראיאן (ספר).
- הטיה אלגוריתמית - דיוני כנס ACM FAccT.
- נתוני אימון מגוונים של בינה מלאכותית: המפתח לביטול הטיה
