ทีมพบว่า chatbot ถูกผู้ใช้ชักนำให้เปิดข้อมูลบทสนทนาคนอื่น ควรทำอย่างไร
กเพิ่มคำสั่งว่าอย่าเปิดเผยเพียงบรรทัดเดียว
ขโทษผู้ใช้ที่ตั้งคำถาม
คแยกบริบทและข้อมูลผู้ใช้ ตรวจการอนุญาต ลดข้อมูลใน prompt และทดสอบการโจมตีซ้ำ
งซ่อนปุ่มประวัติการสนทนา
เฉลยอธิบาย
การคุ้มครองข้อมูลต้องอยู่ที่สถาปัตยกรรมและการควบคุม ไม่พึ่งคำสั่งข้อความอย่างเดียว สอดคล้อง ACM Code of Ethics และมาตรฐานความเสี่ยงที่เกี่ยวข้อง แหล่งทางการ: https://www.acm.org/binaries/content/assets/about/acm-code-of-ethics-and-professional-conduct.pdf ; https://www.acm.org/binaries/content/assets/about/acm-code-of-ethics-and-professional-conduct.pdf