העולם המוזר של בינה מלאכותית וההזיות שלו

המוח האנושי נשאר בלתי מוסבר ומסתורי במשך זמן רב. ונראה שמדענים הכירו במתחרה חדש לרשימה הזו - בינה מלאכותית (AI). בהתחלה, הבנת המוח של AI נשמעת אוקסימורונית למדי. עם זאת, ככל שבינה מלאכותית הופכת בהדרגה ליותר חושים ומתפתחת קרובה יותר לחיקוי בני אדם ורגשותיהם, אנו עדים לתופעות המולדות לבני אדם ולבעלי חיים - הזיות.

כן, נראה שעצם הטיול אליו יוצא המוח כאשר הוא ננטש במדבר, מושלך על אי או סגור לבדו בחדר נטול חלונות ודלתות נחוות גם על ידי מכונות. הזיה בינה מלאכותית הוא אמיתי ומומחים וחובבי טכנולוגיה רשמו מספר תצפיות והסקות.

במאמר של היום, נחקור את ההיבט המסתורי אך המסקרן הזה של מודלים של שפה גדולה (LLMs) וללמוד עובדות מוזרות על הזיות AI. 

מהי הזיה בינה מלאכותית?

בעולם של AI, הזיות אינן מתייחסות במעורפל לדפוסים, צבעים, צורות או אנשים שהמוח יכול לדמיין בצורה ברורה. במקום זאת, הזיה מתייחסת לעובדות ותגובות לא נכונות, לא הולמות או אפילו מטעות כלי AI גנרטיביים לבוא עם הנחיות.

לדוגמה, דמיינו שאתם שואלים דגם בינה מלאכותית מה זה טלסקופ חלל האבל והוא מתחיל להגיב בתשובה כמו, "מצלמת IMAX היא סרט קולנוע מיוחד ברזולוציה גבוהה...". 

התשובה הזו לא רלוונטית. אך חשוב מכך, מדוע המודל יצר תגובה ששונה באופן משיק מההנחיה שהוצגה? מומחים מאמינים שהזיות יכולות לנבוע ממספר גורמים כגון:

• איכות ירודה של נתוני אימון בינה מלאכותית
• דגמי AI בעלי ביטחון עצמי יתר 
• המורכבות של תוכניות עיבוד שפה טבעית (NLP).
• שגיאות קידוד ופענוח
• התקפות יריבות או פריצות של דגמי AI
• סטיית מקור-הפניה
• הטיית קלט או אי בהירות קלט ועוד

הזיית בינה מלאכותית היא מסוכנת ביותר ועוצמתה רק עולה עם מפרט מוגבר של היישום שלה. 

לדוגמה, כלי GenAI הזוי יכול לגרום לאובדן מוניטין לארגון שפורס אותו. עם זאת, כאשר מודל AI דומה נפרס במגזר כמו שירותי בריאות, זה משנה את המשוואה בין חיים למוות. דמיינו זאת, אם מודל AI הוזה ויוצר תגובה לניתוח הנתונים של דוחות ההדמיה הרפואית של המטופל, הוא יכול לדווח בטעות על גידול שפיר כממאיר, וכתוצאה מכך לסטייה מהמסלול של האבחנה והטיפול של הפרט. 

הבנת דוגמאות להזיות בינה מלאכותית

הזיות AI הן מסוגים שונים. בואו נבין כמה מהבולטים שבהם. 

תגובה שגויה עובדתית של מידע

• תגובות חיוביות כוזבות כגון סימון של דקדוק נכון בטקסט כשגוי
• תגובות שליליות כוזבות כגון התעלמות מטעויות ברורות והעברתן כאמיתיות
• המצאת עובדות שאינן קיימות
• מקור שגוי או שיבוש של ציטוטים
• ביטחון יתר בתגובה בתשובות לא נכונות. דוגמה: מי שר Here Comes Sun? מטאליקה.
• ערבוב של מושגים, שמות, מקומות או אירועים
• תגובות מוזרות או מפחידות כמו הצחוק האוטונומי הדמוני הפופולרי של אלקסה ועוד

מניעת הזיות בינה מלאכותית

מידע מוטעה שנוצר על ידי AI מכל סוג ניתן לזהות ולתקן. זו המומחיות של עבודה עם AI. המצאנו את זה ואנחנו יכולים לתקן את זה. הנה כמה דרכים שבהן נוכל לעשות זאת.