ระบบ AI สำหรับคัดกรองใบสมัครงาน (Resume Screening) ที่บริษัทนำมาใช้ ถูกวิจารณ์ว่าปฏิเสธผู้สมัครหญิงมากกว่าชายในตำแหน่งวิศวกร ทั้งที่คุณสมบัติเหมือนกัน สาเหตุที่น่าเป็นไปได้มากที่สุดคืออะไร
กผู้หญิงมักเขียนใบสมัครที่มีข้อความยาวกว่า ทำให้ระบบประมวลผลยากกว่า
ขระบบใช้อัลกอริทึมที่ซับซ้อนเกินไป ทำให้ประมวลผลใบสมัครหญิงช้ากว่า
คข้อมูลฝึกมาจากประวัติการจ้างงานที่ผ่านมาซึ่งมีวิศวกรชายมากกว่า ทำให้โมเดลเรียนรู้อคติทางเพศที่มีอยู่ในข้อมูลเดิม
งระบบมีข้อผิดพลาดทางเทคนิคในการอ่าน PDF ของใบสมัครจากผู้หญิง
เฉลยอธิบาย
ปัญหานี้คือ Algorithmic Bias ที่เกิดจาก Historical Bias ในข้อมูลฝึก หากข้อมูลการจ้างงานในอดีตมีสัดส่วนวิศวกรชายสูงมาก โมเดลจะเรียนรู้ว่า 'วิศวกรที่ดี' มีลักษณะเหมือนชาย และนำอคตินั้นไปใช้กับการคัดกรองใหม่ ตัวอย่างจริงคือกรณีของ Amazon ที่เลิกใช้ระบบ AI คัดกรองใบสมัครด้วยเหตุผลนี้ ตัวเลือก A ผิดเพราะความเร็วประมวลผลไม่เกี่ยวกับเพศ ตัวเลือก C ไม่มีหลักฐานสนับสนุน ตัวเลือก D เป็น Bug ทางเทคนิคที่ไม่น่าเป็นไปได้