ในการประเมิน Large Language Model (LLM) เช่น GPT หรือ LLaMA ปรากฏการณ์ที่เรียกว่า 'Hallucination' คืออะไร และเหตุใดจึงเป็นความท้าทายสำคัญในการนำไปใช้งานจริง

เฉลยอธิบาย

Hallucination ใน LLM คือพฤติกรรมที่โมเดลสร้างเนื้อหาที่ดูสมเหตุสมผลและถูกต้องตามภาษา แต่เนื้อหาเป็นเท็จหรือไม่มีอยู่จริง เช่น อ้างอิงงานวิจัยที่ไม่มีอยู่ หรือระบุข้อเท็จจริงที่ผิด สาเหตุเกิดจากโมเดลเรียนรู้ที่จะสร้างข้อความที่ดูสมเหตุสมผลตามสถิติ ไม่ได้มีฐานความรู้ที่แท้จริง ความท้าทายคือผู้ใช้อาจเชื่อข้อมูลผิดๆ นี้ ตัวเลือก A คือปัญหา Context Length ไม่ใช่ Hallucination ตัวเลือก C คือ Refusal Behavior ด้านความปลอดภัย และตัวเลือก D คือ Memorization ซึ่งต่างจาก Hallucination