ธนาคารต้องการอธิบายให้ลูกค้าที่ถูกปฏิเสธสินเชื่อทราบว่าทำไม AI ถึงปฏิเสธ แต่โมเดลที่ใช้อยู่เป็น Deep Neural Network ขนาดใหญ่ที่มีความแม่นยำสูง ความท้าทายหลักคืออะไร
กNeural Network ต้องการข้อมูลมากกว่าที่ธนาคารมีเพื่อให้อธิบายได้
ขNeural Network ให้ผลลัพธ์แบบสุ่มทำให้ไม่สามารถอธิบายได้อย่างสม่ำเสมอ
คโมเดล Neural Network ที่ซับซ้อนมักเป็น Black Box ยากต่อการอธิบายว่าทำไมจึงตัดสินใจเช่นนั้น
งกฎหมายธนาคารห้ามใช้ AI ในการตัดสินใจเรื่องสินเชื่อ
เฉลยอธิบาย
Deep Neural Network ที่มีหลายชั้นและพารามิเตอร์หลายล้านตัวถือเป็น Black Box คือยากต่อการอธิบายว่าทำไมจึงให้ผลลัพธ์นั้นๆ ซึ่งขัดกับหลัก Explainability (XAI) ที่สำคัญในบริบทกฎหมาย เช่น GDPR ในยุโรปที่กำหนดให้ผู้ใช้มีสิทธิ์รับทราบเหตุผลของการตัดสินใจอัตโนมัติ วิธีแก้คือการใช้ Interpretable Models เช่น Decision Tree หรือใช้เครื่องมือ Explainability เช่น LIME หรือ SHAP ตัวเลือก A ไม่ถูกต้องเพราะโมเดลฝึกสำเร็จแล้ว ตัวเลือก C ไม่ใช่ข้อจำกัดสากล และตัวเลือก D Neural Network ไม่ได้สุ่มแต่เป็น Deterministic