ข้อใดอธิบายสาเหตุหลักของปัญหา Hallucination ในโมเดลภาษาขนาดใหญ่ (LLMs) ได้ถูกต้องที่สุด
กโมเดลเรียนรู้จากการทำนายคำถัดไปโดยอิงรูปแบบทางสถิติ จึงอาจสร้างข้อความที่ฟังดูสมเหตุสมผลแต่ไม่ตรงกับความเป็นจริง
ขโมเดลมีหน่วยความจำไม่เพียงพอในการเก็บข้อมูลทั้งหมด จึงลืมข้อมูลสำคัญและสร้างคำตอบที่ผิดพลาดแทน
คโมเดลเชื่อมต่ออินเทอร์เน็ตไม่ได้ระหว่างการตอบคำถาม จึงไม่สามารถตรวจสอบข้อเท็จจริงแบบเรียลไทม์ได้
งโมเดลถูกออกแบบให้ตอบคำถามทุกข้อโดยไม่แสดงความไม่แน่ใจ ทำให้โปรแกรมเมอร์ต้องปิดฟังก์ชันตรวจสอบข้อมูล
เฉลยอธิบาย
Hallucination ในโมเดลภาษาขนาดใหญ่เกิดจากกระบวนการเรียนรู้แบบ statistical pattern matching โมเดลถูกฝึกให้ทำนายคำหรือข้อความถัดไปที่มีความเป็นไปได้สูงสุดตามบริบท โดยไม่มีกลไกตรวจสอบความถูกต้องของข้อเท็จจริงในตัวเอง เมื่อโมเดลเจอคำถามที่อยู่นอกเหนือข้อมูลที่เคยเรียนรู้ หรือข้อมูลในชุดฝึกขัดแย้งกัน โมเดลจะยังคงสร้างคำตอบที่ดูสมเหตุสมผลทางภาษาแต่อาจไม่ตรงกับความเป็นจริง ซึ่งแก้ไขได้ยากเพราะรากฐานของสถาปัตยกรรม Transformer ทำงานบนหลักความน่าจะเป็น ไม่ใช่การค้นหาข้อเท็จจริง