הַגדָרָה
כוונון עדין הוא תהליך של התאמת מודל למידת מכונה שאומן מראש למשימה חדשה באמצעות אימון נוסף על מערכי נתונים קטנים יותר וספציפיים לתחום.
מטרה
המטרה היא לעשות שימוש חוזר בידע ממודלים גדולים ולשפר ביצועים במשימות ייעודיות עם פחות משאבים.
חשיבות
- מפחית את עלויות וזמן ההדרכה בהשוואה לבניית מודלים מאפס.
- משפר ביצועים במשימות ספציפיות לתחום.
- סיכון להתאמת יתר אם נתוני האימון צרים מדי.
- קשור ללמידה העברית.
איך זה עובד
- בחר מודל בסיס שעבר אומן מראש.
- החלפה או התאמה של שכבות ספציפיות למשימה.
- התאמן עם נתונים מתויגים מהדומיין החדש.
- התאימו את קצב הלמידה כדי לאזן בין ידע ישן לחדש.
- לאמת ולבדוק הכללה.
דוגמאות (העולם האמיתי)
- BERT עבר כיוונון עדין לניתוח סנטימנט.
- מודלי GPT מותאמים היטב לצ'אטבוטים של תמיכת לקוחות.
- מודלים של ראייה מכווננים היטב לסיווג הדמיה רפואית.
מקורות / קריאה נוספת
- הווארד ורודר. "כוונון עדין של מודל שפה אוניברסלי" (ULMFiT). ACL 2018.
- תיעוד של רובוטריקים מחבקים.
- פאן ויאנג. "סקר על למידה בהעברה." IEEE TKDE.
- מהו כוונון עדין עבור מודלים גדולים של שפה? – שייפ
