ผลทดสอบ red team พบวิธีทำให้โมเดลเปิดเผยข้อความระบบ ทีมควรทำอย่างไร
กห้ามผู้ทดสอบเผยผลภายใน โดยถือว่าเป็นแนวทางหลักที่หน่วยงานควรใช้ในทุกกรณี
ขเปลี่ยนชื่อหรือถ้อยคำใน system prompt ให้ดูแตกต่างออกไปเล็กน้อย โดยไม่แก้ไขโครงสร้าง ตัวกรอง หรือประเมินผลกระทบที่แท้จริง แล้วถือว่าปัญหาได้รับการแก้ไขแล้วโดยไม่ต้องทดสอบซ้ำก่อนนำไปใช้งานจริง
คประเมินผลกระทบ ปรับการออกแบบและตัวกรอง จำกัดข้อมูลลับ และทดสอบซ้ำก่อนขยายใช้
งถือว่าเป็นความผิดของผู้ใช้ที่ถามแปลก โดยถือว่าเป็นแนวทางหลักที่หน่วยงานควรใช้ในทุกกรณี
เฉลยอธิบาย
ผล red team ต้องนำไปจัดการความเสี่ยงและไม่ควรเก็บข้อมูลลับไว้ในบริบทที่อาจถูกเปิดเผย สอดคล้อง ACM Code of Ethics และมาตรฐานความเสี่ยงที่เกี่ยวข้อง แหล่งทางการ:;