แนวคิด Explainable AI (XAI) มีความสำคัญในบริบทของ High-Stakes Decision Making แต่มีความขัดแย้งระหว่าง Explainability และ Performance ข้อใดอธิบายความตึงเครียดนี้ได้ดีที่สุดและเสนอแนวทางที่เหมาะสม
กควรเลือกใช้โมเดลที่อธิบายได้เสมอโดยไม่คำนึงถึงประสิทธิภาพ เพราะจริยธรรมสำคัญกว่าความแม่นยำ
ขโมเดลที่ซับซ้อนและแม่นยำสูงเช่น Deep Neural Network มักเป็น Black Box ส่วนโมเดลที่อธิบายได้ง่ายเช่น Decision Tree มักมีประสิทธิภาพต่ำกว่า แนวทางแก้คือใช้ Post-hoc Explanation Methods เช่น LIME หรือ SHAP กับโมเดลที่ซับซ้อน
คปัญหานี้ถูกแก้แล้วโดย Transformer Architecture ที่ทั้งแม่นยำและอธิบายได้ครบถ้วน
งโมเดลที่อธิบายได้มักมีประสิทธิภาพสูงกว่า ดังนั้นควรเลือกโมเดลที่โปร่งใสเสมอ
เฉลยอธิบาย
ในวงการ ML มี Explainability-Performance Tradeoff ที่ยอมรับกันทั่วไป โมเดลอย่าง Deep Learning แม่นยำสูงแต่ยากอธิบาย ส่วนโมเดลอย่าง Linear Regression หรือ Decision Tree อธิบายได้ง่ายแต่มักด้อยกว่า แนวทางปัจจุบันที่นิยมคือ Post-hoc Interpretability เช่น LIME (Local Interpretable Model-agnostic Explanations) และ SHAP (SHapley Additive exPlanations) ที่อธิบายการตัดสินใจของโมเดลซับซ้อนได้บางส่วน ตัวเลือก A ผิดเพราะโดยทั่วไป Model ที่อธิบายได้ง่ายมักแม่นยำน้อยกว่า ตัวเลือก C Transformer ยังคง Black Box เป็นส่วนใหญ่ ตัวเลือก D ในบางงานเช่น Medical Diagnosis ต้องสมดุลระหว่างทั้งสอง ไม่สามารถเลือกอย่างใดอย่างหนึ่งสุดโต่ง