อาการประสาทหลอน

คำนิยาม

ในปัญญาประดิษฐ์ (AI) อาการประสาทหลอนหมายถึงกรณีที่แบบจำลองสร้างผลลัพธ์ที่ลื่นไหล แต่ไม่ถูกต้องตามข้อเท็จจริงหรือไม่สมเหตุสมผล อาการนี้มักเกิดขึ้นบ่อยมากในแบบจำลองภาษาขนาดใหญ่และ AI เชิงกำเนิด

จุดมุ่งหมาย

การศึกษาภาพหลอนช่วยเพิ่มความน่าเชื่อถือและความปลอดภัยของแบบจำลอง ช่วยให้นักพัฒนาสามารถออกแบบมาตรการป้องกันเพื่อตรวจจับและลดผลลัพธ์ที่ไม่ถูกต้องได้

ความสำคัญ

• ลดความไว้วางใจต่อ AI หากไม่ได้รับการแก้ไข
• อาจก่อให้เกิดอันตรายต่อแอปพลิเคชันที่ละเอียดอ่อน เช่น การดูแลสุขภาพหรือกฎหมาย
• เน้นย้ำข้อจำกัดของโมเดลกำเนิดปัจจุบัน
• ขับเคลื่อนการวิจัยในวิธีการค้นหาข้อเท็จจริงและการสืบค้น

วิธีการทำงาน

1. แบบจำลองได้รับคำเตือนหรือข้อสอบถาม
2. สร้างผลลัพธ์โดยอิงจากรูปแบบที่เรียนรู้ ไม่ใช่การตรวจสอบข้อเท็จจริง
3. อาจให้ผลลัพธ์ที่ดูสมเหตุสมผลแต่ไม่ถูกต้อง
4. มีการใช้เทคนิคการตรวจจับและการแก้ไข (เช่น RAG)

ตัวอย่าง (โลกแห่งความเป็นจริง)

• บางครั้ง ChatGPT จะให้ข้อมูลที่ไม่ถูกต้องเมื่อได้รับการแจ้งเตือน
• การสาธิตเบื้องต้นของ Google Bard แสดงให้เห็นข้อผิดพลาดเชิงข้อเท็จจริง
• คำแนะนำทางการแพทย์ที่สร้างโดย AI บางครั้งอาจมีข้อมูลที่ไม่ถูกต้อง

อ้างอิง/อ่านเพิ่มเติม

• “การลดอาการประสาทหลอนในแบบจำลองภาษาขนาดใหญ่” — พิมพ์ล่วงหน้าของ arXiv
• กรอบการจัดการความเสี่ยงของ NIST AI
• Mitchell และคณะ “การ์ดโมเดลสำหรับการรายงานโมเดล” ACM FAccT
• สาเหตุของภาพหลอน AI