โลกที่แปลกประหลาดของ AI และภาพหลอนของมัน

จิตใจของมนุษย์ยังคงอธิบายไม่ได้และลึกลับมาเป็นเวลานาน และดูเหมือนว่านักวิทยาศาสตร์จะยอมรับคู่แข่งรายใหม่ในรายการนี้ – ปัญญาประดิษฐ์ (AI) ในตอนแรก การเข้าใจจิตใจของ AI ฟังดูค่อนข้างจะออกแนวตรงกันข้าม อย่างไรก็ตาม ในขณะที่ AI ค่อยๆ มีความรู้สึกมากขึ้น และพัฒนาเข้าใกล้การเลียนแบบมนุษย์และอารมณ์ของพวกเขามากขึ้น เรากำลังเห็นปรากฏการณ์ที่มีมาแต่กำเนิดของมนุษย์และสัตว์ นั่นคือ ภาพหลอน

ใช่แล้ว ดูเหมือนว่าการเดินทางที่จิตใจได้เข้าไปสัมผัสเมื่อถูกทิ้งไว้กลางทะเลทราย ถูกทิ้งไว้บนเกาะร้าง หรือถูกขังอยู่คนเดียวในห้องที่ไม่มีหน้าต่างและประตูนั้น เครื่องจักรก็ประสบเช่นกันการเห็นภาพหลอนโดย AIมีอยู่จริง และผู้เชี่ยวชาญและผู้ที่ชื่นชอบเทคโนโลยีได้บันทึกข้อสังเกตและการอนุมานต่างๆ ไว้มากมาย

ในบทความวันนี้ เราจะสำรวจแง่มุมที่ลึกลับแต่น่าสนใจของแบบจำลองภาษาขนาดใหญ่ (LLMs)และเรียนรู้ข้อเท็จจริงแปลก ๆ เกี่ยวกับการหลงผิดของ AI

AI ภาพหลอนคืออะไร?

ในโลกของปัญญาประดิษฐ์ (AI) ภาพหลอนไม่ได้หมายถึงรูปแบบ สี รูปร่าง หรือบุคคลที่จิตใจสามารถมองเห็นได้อย่างชัดเจน แต่ภาพหลอนหมายถึงข้อเท็จจริงและคำตอบที่ไม่ถูกต้อง ไม่เหมาะสม หรือแม้กระทั่งทำให้เข้าใจผิด ซึ่งเครื่องมือ AI แบบสร้างสรรค์สร้างขึ้นมา

ตัวอย่างเช่น ลองจินตนาการถึงการถามโมเดล AI ว่ากล้องโทรทรรศน์อวกาศฮับเบิลคืออะไร และกล้องเริ่มตอบสนองด้วยคำตอบ เช่น “กล้อง IMAX เป็นภาพเคลื่อนไหวพิเศษที่มีความละเอียดสูง….” 

คำตอบนี้ไม่เกี่ยวข้อง แต่ที่สำคัญกว่านั้น เหตุใดโมเดลจึงสร้างการตอบสนองที่แตกต่างจากพรอมต์ที่นำเสนอในเชิงสัมผัส ผู้เชี่ยวชาญเชื่อว่าอาการประสาทหลอนอาจเกิดจากหลายปัจจัย เช่น:

• ข้อมูลการฝึกอบรม AI มีคุณภาพต่ำ
• โมเดล AI ที่มั่นใจมากเกินไป 
• ความซับซ้อนของโปรแกรมประมวลผลภาษาธรรมชาติ (NLP)
• ข้อผิดพลาดในการเข้ารหัสและถอดรหัส
• การโจมตีของฝ่ายตรงข้ามหรือการแฮ็กโมเดล AI
• ความแตกต่างแหล่งอ้างอิง
• อคติในการป้อนข้อมูลหรือความคลุมเครือของการป้อนข้อมูลและอื่น ๆ

ภาพหลอนของ AI เป็นอันตรายอย่างยิ่ง และความรุนแรงของมันจะเพิ่มขึ้นตามข้อกำหนดการใช้งานที่เพิ่มขึ้นเท่านั้น 

ตัวอย่างเช่น เครื่องมือ GenAI ที่ทำให้ประสาทหลอนอาจทำให้องค์กรที่นำไปใช้งานสูญเสียชื่อเสียงได้ อย่างไรก็ตาม เมื่อมีการปรับใช้โมเดล AI ที่คล้ายกันในภาคส่วนต่างๆ เช่น การดูแลสุขภาพ มันจะเปลี่ยนสมการระหว่างความเป็นและความตาย ลองนึกภาพสิ่งนี้ หากโมเดล AI เห็นภาพหลอนและสร้างการตอบสนองต่อการวิเคราะห์ข้อมูลของรายงานภาพทางการแพทย์ของผู้ป่วย ก็อาจรายงานเนื้องอกที่ไม่ร้ายแรงว่าเป็นเนื้อร้ายโดยไม่ได้ตั้งใจ ส่งผลให้การวินิจฉัยและการรักษาของแต่ละบุคคลเบี่ยงเบนไป 

ทำความเข้าใจกับตัวอย่างภาพหลอนของ AI

ภาพหลอน AI มีหลายประเภท มาทำความเข้าใจกับสิ่งที่โดดเด่นที่สุดกันดีกว่า 

การตอบสนองข้อมูลไม่ถูกต้องตามความเป็นจริง

• การตอบสนองเชิงบวกที่เป็นเท็จ เช่น การแจ้งไวยากรณ์ที่ถูกต้องในข้อความว่าไม่ถูกต้อง
• การตอบสนองเชิงลบที่เป็นเท็จ เช่น การมองข้ามข้อผิดพลาดที่ชัดเจนและส่งต่อว่าเป็นข้อผิดพลาดจริง
• การประดิษฐ์ข้อเท็จจริงที่ไม่มีอยู่จริง
• การจัดหาหรือดัดแปลงการอ้างอิงไม่ถูกต้อง
• ความมั่นใจมากเกินไปในการตอบกลับด้วยคำตอบที่ไม่ถูกต้อง ตัวอย่าง: ใครร้องเพลง Here Comes Sun? เมทัลลิก้า
• การผสมผสานแนวคิด ชื่อ สถานที่ หรือเหตุการณ์ต่างๆ
• การตอบสนองที่แปลกหรือน่ากลัว เช่น เสียงหัวเราะปีศาจที่โด่งดังของ Alexa และอีกมากมาย

การป้องกันภาพหลอน AI

ข้อมูลเท็จทุกประเภทที่สร้างขึ้นโดย AIสามารถตรวจจับและแก้ไขได้ นั่นคือความเชี่ยวชาญของการทำงานกับ AI เราเป็นผู้คิดค้นสิ่งนี้ และเราก็สามารถแก้ไขได้ นี่คือวิธีการบางส่วนที่เราสามารถทำได้