ผลทดสอบ red team พบวิธีทำให้โมเดลเปิดเผยข้อความระบบ ทีมควรทำอย่างไร
กห้ามผู้ทดสอบเผยผลภายใน
ขเปลี่ยนชื่อหรือถ้อยคำใน system prompt ให้ดูแตกต่างออกไปเล็กน้อย โดยไม่แก้ไขโครงสร้าง ตัวกรอง หรือประเมินผลกระทบที่แท้จริง แล้วถือว่าปัญหาได้รับการแก้ไขแล้วโดยไม่ต้องทดสอบซ้ำก่อนนำไปใช้งานจริง
คประเมินผลกระทบ ปรับการออกแบบและตัวกรอง จำกัดข้อมูลลับ และทดสอบซ้ำก่อนขยายใช้
งถือว่าเป็นความผิดของผู้ใช้ที่ถามแปลก
เฉลยอธิบาย
ผล red team ต้องนำไปจัดการความเสี่ยงและไม่ควรเก็บข้อมูลลับไว้ในบริบทที่อาจถูกเปิดเผย สอดคล้อง ACM Code of Ethics และมาตรฐานความเสี่ยงที่เกี่ยวข้อง แหล่งทางการ: https://www.acm.org/binaries/content/assets/about/acm-code-of-ethics-and-professional-conduct.pdf ; https://www.acm.org/binaries/content/assets/about/acm-code-of-ethics-and-professional-conduct.pdf