อคติใน AI

คำนิยาม

อคติใน AI หมายถึงข้อผิดพลาดอย่างเป็นระบบในผลลัพธ์ของ AI ที่เกิดจากข้อมูลที่บิดเบือน การออกแบบที่บกพร่อง หรือความไม่เท่าเทียมกันทางสังคมที่สะท้อนอยู่ในชุดข้อมูล ซึ่งอาจนำไปสู่ผลลัพธ์ที่ไม่ยุติธรรมหรือเลือกปฏิบัติ

จุดมุ่งหมาย

วัตถุประสงค์ของการศึกษาอคติคือการระบุและลดความไม่เป็นธรรมในระบบ AI องค์กรต่างๆ มุ่งสร้างแบบจำลองที่เป็นธรรมมากขึ้นโดยการแก้ไขปัญหาเหล่านี้

ความสำคัญ

• นำไปสู่การเลือกปฏิบัติในการจ้างงาน การให้กู้ยืม หรือการดูแลสุขภาพ หากไม่ได้รับการแก้ไข
• บั่นทอนความไว้วางใจในระบบ AI
• ต้องปฏิบัติตามข้อกำหนดในอุตสาหกรรมที่มีความอ่อนไหว
• เกี่ยวข้องกับความยุติธรรมและการปฏิบัติ AI อย่างมีความรับผิดชอบ

วิธีการทำงาน

1. ระบุแหล่งที่มาที่อาจเกิดอคติได้ (การรวบรวมข้อมูล การติดฉลาก การสร้างแบบจำลอง)
2. วิเคราะห์ชุดข้อมูลเพื่อหาความไม่สมดุล
3. ประยุกต์ใช้แนวทางการอบรมที่คำนึงถึงความยุติธรรม
4. ทดสอบผลลัพธ์ด้วยมาตรวัดความเป็นธรรม
5. ปรับการออกแบบและฝึกอบรมใหม่หากจำเป็น

ตัวอย่าง (โลกแห่งความเป็นจริง)

• เครื่องมือประเมินความเสี่ยง COMPAS ถูกวิพากษ์วิจารณ์เรื่องอคติทางเชื้อชาติ
• อัลกอริทึมการจ้างงานของ Amazon: ถูกยกเลิกเนื่องจากอคติทางเพศ
• การจดจำใบหน้า: เป็นที่ทราบกันว่าสามารถจำแนกกลุ่มประชากรบางกลุ่มผิดพลาดได้

อ้างอิง/อ่านเพิ่มเติม

• อคติ AI — NIST
• ความยุติธรรมและการเรียนรู้ของเครื่องจักร — Barocas, Hardt, & Narayanan (หนังสือ)
• อคติทางอัลกอริทึม — เอกสารการประชุม ACM FAccT
• ข้อมูลการฝึกอบรม AI ที่หลากหลาย: กุญแจสำคัญในการขจัดอคติ