הנטייה של AI להטות בהחלטות גיוס עובדים - לפי MIT Technology Review
לפי MIT Technology Review, מחקר חדש מראה כי מערכות AI עשויות לפתח הטיות חדשות בתהליכי גיוס עובדים, ואף להטות יותר מבני אדם.
מה השתנה בעולם הגיוס הממוחשב?
בעת הגשת מועמדות לעבודה, ייתכן שהשלב הראשון יהיה סינון קורות החיים שלך על ידי מערכת AI, עוד לפני שבן אנוש יראה אותם. המחקר החדש, שפורסם ב-MIT Technology Review, מעלה שאלות לגבי היכולת של מערכות AI לשפוט את המועמדות בצורה הוגנת. המערכות הללו לומדות מהנתונים שהן ניזונות מהם, והמחקר מראה כי הן עלולות לא רק ללמוד הטיות קיימות אלא גם לפתח הטיות חדשות בעצמן.
כיצד בוצע המחקר?
חוקרים מאוניברסיטת פרינסטון ואוניברסיטת שיקגו בדקו מערכות AI כמו ChatGPT ו-Claude באמצעות משחק סימולציה, בו הן נשכרו כיועצות לראש עיר דמיוני, ונדרשו לגייס עובדים ל-20 משרות שונות. המועמדים הגיעו מארבע קבוצות אתניות פיקטיביות, וכל קבוצה הייתה בעלת סיכוי שווה להצליח בכל עבודה. עם זאת, המערכות החלו במהרה לבצע סגרגציה בין המועמדים על פי תצפיות מוקדמות.
תוצאות המבחן ומסקנות החוקרים
הממצאים הצביעו על כך שהמודלים של AI נטו יותר להטות אנשים לפי קבוצות דמוגרפיות מאשר המשתתפים האנושיים בניסוי המקורי. המודלים הציגו ציון גבוה יותר במדד ההפרדה, מה שמצביע על נטייה חזקה יותר להכללה מהירה. החוקרים מציינים כי מערכות אלה מותאמות במיוחד ליצירת הכללות מנתונים מוגבלים, מה שמוביל להטיות בהחלטות גיוס.
השפעות על עסקים קטנים ובינוניים בישראל
לדעתנו, עסקים קטנים ובינוניים בישראל צריכים להיות זהירים במיוחד בשימוש במערכות AI לגיוס עובדים. יש לשקול היטב את הסיכון להטיות שעלולות להשפיע על החלטות הגיוס ולהשתמש בטכנולוגיה במקביל לביקורת אנושית. כמו כן, קיימת חשיבות רבה לעיצוב מטרות שמשלבות ערכים חברתיים רצויים על מנת למזער הטיות.
איך ניתן למנוע הטיות במערכות AI?
המחקר מציע כי ניתן להפחית הטיות על ידי תמרוץ מערכות ה-AI לגיוס מגוון יותר. כמו כן, כאשר המודלים קיבלו מידע אישי נוסף על המועמדים, הם נטו פחות להטות לפי אתניות. יש לשאוף לספק למערכות מידע רלוונטי ומותאם אישית, אך לא עודף מידע שעלול להוביל להטיות מיותרות.
המגבלות והאתגרים של מערכות AI בגיוס
יש לזכור כי תהליכי גיוס בעולם האמיתי אינם מספקים משוב מיידי כמו בניסוי. לכן, המודלים עשויים לפרש את נתוני ההצלחה שלהם בצורה שאינה מדויקת ולהטות את ההחלטות העתידיות על בסיס פרשנות שגויה. יש להמשיך ולבצע מחקרים נוספים ולפתח כלים מותאמים למניעת הטיות ולשיפור תהליכי הגיוס.
המאמר הזה מבוסס על דיווח של MIT Technology Review.
מבוסס על MIT Technology Review: https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/