ต้องการรู้ว่าข้อความแจ้งเตือนแบบใหม่ทำให้การตอบสนองดีขึ้นหรือไม่ วิธีใดสนับสนุนเหตุ–ผลมากกว่า — จากผลที่รายงาน ผู้กำกับดูแลควรสรุปหลักอย่างไร
กสรุปว่า เปรียบเทียบก่อน–หลังโดยไม่ควบคุมการเปลี่ยนแปลงอื่น
ขสรุปว่า สุ่มจัดกลุ่มทดลอง/ควบคุมล่วงหน้าและกำหนด outcome ก่อนดูผล
คสรุปว่า วิเคราะห์เฉพาะผู้ที่ตอบสนองหลังได้รับข้อความใหม่
งสรุปว่า ใช้ correlation ระหว่างการเห็นข้อความกับผลตอบสนองจากข้อมูลย้อนหลัง
เฉลยอธิบาย
Experiments and Experimental Design อธิบายว่าการแยก correlation ออกจาก causality ต้องอาศัยการออกแบบการทดลอง กำหนดปัจจัยและผลตอบสนองให้ชัด และควบคุมแหล่งอิทธิพลอื่น เมื่อนำมาใช้กับโจทย์จึงต้องเลือก “สรุปว่า สุ่มจัดกลุ่มทดลอง/ควบคุมล่วงหน้าและกำหนด outcome ก่อนดูผล” ส่วนตัวเลือกอื่นใช้ข้อมูลผิดช่วง เลือกเมตริกไม่ตรงเป้าหมาย หรือข้ามการตรวจผลกระทบที่จำเป็น