הַגדָרָה
מערכות מסוג Human-in-the-loop (HITL) מתייחסות למערכות בהן שיקול דעת אנושי משולב בזרימות עבודה של בינה מלאכותית עבור משימות כגון הדרכה, הערכה או קבלת החלטות.
מטרה
המטרה היא לשלב מומחיות אנושית עם יעילות בינה מלאכותית. זה מבטיח איכות, פיקוח אתי ובטיחות ביישומים רגישים.
חשיבות
- מפחית טעויות בתחומים בסיכון גבוה (למשל, שירותי בריאות, ביטחון).
- משפר את האימון באמצעות משוב אנושי.
- מספק אחריות במערכות אוטומטיות.
- איטי ויקר יותר בהשוואה לאוטומציה מלאה.
איך זה עובד
- הגדירו תחומים בהם נדרשת פיקוח אנושי.
- איסוף פלטים או הצעות של בינה מלאכותית.
- בני אדם מאמתים, מתקנים או מספקים משוב.
- משוב משולב כדי לאמן מחדש או לחדד מודלים.
- ניטור ביצועי המערכת באמצעות בדיקה אנושית מתמשכת.
דוגמאות (העולם האמיתי)
- ניהול תוכן: בני אדם בודקים פוסטים שסומנו על ידי בינה מלאכותית.
- בינה מלאכותית רפואית: רופאים מאמתים אבחנות שנוצרו על ידי בינה מלאכותית.
- למידה באמצעות חיזוק ממשוב אנושי (RLHF): מאמנת מודלים של שפה כמו ChatGPT.
מקורות / קריאה נוספת
- אמרשי ואחרים. "כוח לעם: תפקידם של בני האדם בלמידת מכונה אינטראקטיבית". מגזין AI.
- מסגרת ניהול סיכונים של NIST לבינה מלאכותית.
- תקני IEEE למערכות אדם בלולאה.
- הבנת "האדם בתוך הלולאה"
