ผู้พัฒนาต้องแยกข้อมูลฝึก ข้อมูลตรวจสอบ และข้อมูลทดสอบเพื่อประเมินอย่างซื่อสัตย์ จึงถามว่า ระบบสารสนเทศของหน่วยงานใช้ Machine Learning เพื่อจำแนกเอกสารส่วนบุคคลอัตโนมัติ ข้อใดต่อไปนี้เป็นความเสี่ยงด้านการป้องกันข้อมูลส่วนบุคคลที่อาจเกิดขึ้น
กค่าใช้จ่ายในการสร้างโมเดล Machine Learningสูงมากเกินไป
ขโมเดล Machine Learning อาจถูกโจมตีเพื่อให้จำแนกข้อมูลผิดพลาด ส่งผลให้ข้อมูลไหลออกหรือสูญหาย
คทีมพัฒนาใช้โปรแกรมเขียนโค้ดไม่ดีพอจึงทำให้เสียบ่อ
งผู้ใช้ไม่ชอบการใช้ AI ในการจำแนกข้อมูลของตน
เฉลยอธิบาย
การใช้ Machine Learning กับข้อมูลส่วนบุคคลต้องพิจารณาความเสี่ยงด้าน Adversarial Attack ที่อาจทำให้โมเดลตัดสินใจผิด นอกจากนี้ยังต้องป้องกันการรั่วของข้อมูล ตัวเลือกอื่นไม่ใช่ความเสี่ยงหลักด้านความปลอดภัยข้อมูล ฐานกรอบความเสี่ยงปัจจุบัน: NIST AI RMF 1.0 และ NIST AI 600-1 Generative AI Profile (อยู่ระหว่างการปรับปรุง AI RMF โดย NIST) — https://www.nist.gov/itl/ai-risk-management-framework