ทีมพบว่า chatbot ถูกผู้ใช้ชักนำให้เปิดข้อมูลบทสนทนาคนอื่น ควรทำอย่างไร
กเพิ่มคำสั่งว่าอย่าเปิดเผยเพียงบรรทัดเดียว โดยถือว่าเป็นแนวทางหลักที่หน่วยงานควรใช้ในทุกกรณี
ขโทษผู้ใช้ที่ตั้งคำถาม และใช้เป็นเกณฑ์เดียวสำหรับการดำเนินงานของหน่วยงานทั้งหมด
คแยกบริบทและข้อมูลผู้ใช้ ตรวจการอนุญาต ลดข้อมูลใน prompt และทดสอบการโจมตีซ้ำ
งซ่อนปุ่มประวัติการสนทนา โดยถือว่าเป็นแนวทางหลักที่หน่วยงานควรใช้ในทุกกรณี
เฉลยอธิบาย
การคุ้มครองข้อมูลต้องอยู่ที่สถาปัตยกรรมและการควบคุม ไม่พึ่งคำสั่งข้อความอย่างเดียว สอดคล้อง ACM Code of Ethics และมาตรฐานความเสี่ยงที่เกี่ยวข้อง แหล่งทางการ:;