องค์กรป้องกันสาธารณภัยนำ Machine Learning (ML) มาช่วยจัดลำดับความเร่งด่วนในการจัดสรรทรัพยากรช่วยเหลือผู้ประสบภัย พบว่าโมเดลมีความแม่นยำโดยรวม 92% แต่มีอคติ (Bias) ในการประเมินต่ำสำหรับกลุ่มชุมชนห่างไกลที่ข้อมูลในชุดฝึกสอนมีน้อย ควรจัดการปัญหานี้อย่างไร
กเพิ่มงบประมาณซื้อข้อมูลจากบริษัทเอกชน โดยไม่แก้ไขโมเดลที่มีอยู่
ขยกเลิกการใช้ ML ทั้งหมดและกลับไปใช้การตัดสินใจโดยผู้เชี่ยวชาญเพียงอย่างเดียว
คใช้ค่าความแม่นยำ 92% เป็นเหตุผลในการยืนยันความน่าเชื่อถือ และดำเนินต่อโดยไม่ปรับแก้
งเพิ่มข้อมูลชุมชนห่างไกลในชุดฝึกสอน ปรับแต่งโมเดลเฉพาะกลุ่มนี้ และใช้การตรวจสอบโดยผู้เชี่ยวชาญสำหรับกรณีที่โมเดลไม่มั่นใจ
เฉลยอธิบาย
ปัญหา Algorithmic Bias ในบริบทด้านมนุษยธรรมมีความรุนแรงเป็นพิเศษเพราะส่งผลต่อการกระจายทรัพยากรช่วยเหลือ แนวทางที่ถูกต้องตามหลัก Responsible AI คือ (1) แก้ปัญหาที่ต้นเหตุ Data Imbalance โดยเพิ่มข้อมูลกลุ่มที่ด้อยกว่า (2) Fine-tune สำหรับ Sub-population และ (3) มี Human-in-the-loop สำหรับกรณีไม่แน่ใจ ตัวเลือก A สุดโต่งเกินไป B ละเลยปัญหาที่อาจส่งผลต่อกลุ่มเปราะบาง D ซื้อข้อมูลโดยไม่แก้โมเดล การใช้ GIS ภาพถ่ายดาวเทียม dashboard หรือโปรแกรมสำนักงานต้องตรวจ metadata เวลา ความละเอียด ความถูกต้อง สิทธิการเข้าถึง และความต่อเนื่องของระบบ พร้อมสื่อสารความไม่แน่นอน; อ้างแนวทาง ปภ. และแผนแห่งชาติ 2564–2570