ต้องการรู้ว่าข้อความแจ้งเตือนแบบใหม่ทำให้การตอบสนองดีขึ้นหรือไม่ วิธีใดสนับสนุนเหตุ–ผลมากกว่า — จุดบกพร่องใดของกระบวนการควรถูกระบุก่อน
กระบุว่าปัญหาคือ เปรียบเทียบก่อน–หลังโดยไม่ควบคุมการเปลี่ยนแปลงอื่น แล้วใช้คะแนนเฉลี่ยแทนการตรวจ error รายกรณี
ขระบุว่าปัญหาคือ วิเคราะห์เฉพาะผู้ที่ตอบสนองหลังได้รับข้อความใหม่ โดยไม่กำหนดเงื่อนไขหยุดใช้หรือ rollback
คระบุว่ากระบวนการยังไม่ยึดหลักว่า สุ่มจัดกลุ่มทดลอง/ควบคุมล่วงหน้าและกำหนด outcome ก่อนดูผล
งระบุว่าปัญหาคือ ใช้ correlation ระหว่างการเห็นข้อความกับผลตอบสนองจากข้อมูลย้อนหลัง
เฉลยอธิบาย
Experiments and Experimental Design อธิบายว่าการแยก correlation ออกจาก causality ต้องอาศัยการออกแบบการทดลอง กำหนดปัจจัยและผลตอบสนองให้ชัด และควบคุมแหล่งอิทธิพลอื่น เมื่อนำมาใช้กับโจทย์จึงต้องเลือก “ระบุว่ากระบวนการยังไม่ยึดหลักว่า สุ่มจัดกลุ่มทดลอง/ควบคุมล่วงหน้าและกำหนด outcome ก่อนดูผล” ส่วนตัวเลือกอื่นใช้ข้อมูลผิดช่วง เลือกเมตริกไม่ตรงเป้าหมาย หรือข้ามการตรวจผลกระทบที่จำเป็น