Generation-Augmented Generation (RAG)

הַגדָרָה

יצירת מידע רבודה (RAG) היא טכניקה המשלבת מודלים יצירתיים עם מערכות אחזור מידע. היא מבססת את התפוקות במקורות חיצוניים כדי לשפר את הדיוק העובדתי.

מטרה

המטרה היא להפחית הזיות בבינה מלאכותית גנרטיבית על ידי הגדלת תגובות באמצעות מסמכים שאוחזרו. זה שימושי במיוחד במענה לשאלות ובמשימות עתירות ידע.

חשיבות

• משפר את הדיוק העובדתי בתוצרי תואר ראשון במשפטים.
• מאפשר שילוב ידע ספציפי לתחום.
• דורש מערכות אחזור אמינות.
• קשור לחיפוש היברידי ואבטחת איכות של דומיין פתוח.

איך זה עובד

1. המשתמש מספק שאילתה או הנחיה.
2. מערכת אחזור מאחזרת מסמכים רלוונטיים.
3. מסמכים מועברים למודל גנרטיבי.
4. המודל מייצר תגובות המבוססות על תוכן שאוחזר.
5. לולאות משוב משפרות ביצועים עתידיים.

דוגמאות (העולם האמיתי)

• OpenAI ChatGPT עם תוספים לגלישה או אחזור נתונים.
• מודל מטא RAG: מחקר על תואר ראשון במשפטים (LLMs) מבוסס אחזור תהליכים.
• בינה מלאכותית של מבוכה: חיפוש שיחתי משופר באמצעות אחזור.

מקורות / קריאה נוספת

• לואיס ואחרים. "יצירה מוגברת באמצעות אחזור ידע עבור NLP עתיר ידע." NeurIPS 2020.
• יישום RAG של פנים מחבקות.
• מחקר סטנפורד HAI על שיטות שליפה.
• מה זה RAFT? RAG + כוונון עדין