มนุษย์ในวง

คำนิยาม

Human-in-the-loop (HITL) หมายถึงระบบที่การตัดสินใจของมนุษย์ถูกผสานเข้ากับเวิร์กโฟลว์ของ AI สำหรับงานต่างๆ เช่น การฝึกอบรม การประเมิน หรือการตัดสินใจ

จุดมุ่งหมาย

จุดประสงค์คือการผสานความเชี่ยวชาญของมนุษย์เข้ากับประสิทธิภาพของ AI เพื่อสร้างความมั่นใจในคุณภาพ การกำกับดูแลด้านจริยธรรม และความปลอดภัยในการใช้งานที่ละเอียดอ่อน

ความสำคัญ

• ลดข้อผิดพลาดในโดเมนที่มีความเสี่ยงสูง (เช่น การดูแลสุขภาพ การป้องกันประเทศ)
• ปรับปรุงการฝึกอบรมผ่านข้อเสนอแนะของมนุษย์
• ให้ความรับผิดชอบในระบบอัตโนมัติ
• ช้ากว่าและมีค่าใช้จ่ายสูงกว่าเมื่อเทียบกับระบบอัตโนมัติเต็มรูปแบบ

วิธีการทำงาน

1. กำหนดพื้นที่ที่จำเป็นต้องมีการกำกับดูแลโดยมนุษย์
2. รวบรวมผลลัพธ์หรือข้อเสนอแนะจาก AI
3. มนุษย์ตรวจสอบ แก้ไข หรือให้ข้อเสนอแนะ
4. มีการบูรณาการข้อเสนอแนะเพื่อฝึกอบรมใหม่หรือปรับปรุงโมเดล
5. ตรวจสอบประสิทธิภาพของระบบด้วยการตรวจสอบโดยมนุษย์อย่างต่อเนื่อง

ตัวอย่าง (โลกแห่งความเป็นจริง)

• การควบคุมเนื้อหา: มนุษย์ตรวจสอบโพสต์ที่ถูกทำเครื่องหมายจาก AI
• AI ทางการแพทย์: แพทย์ตรวจสอบการวินิจฉัยที่สร้างโดย AI
• การเรียนรู้เสริมแรงจากการตอบรับของมนุษย์ (RLHF): ฝึกโมเดลภาษาเช่น ChatGPT

อ้างอิง/อ่านเพิ่มเติม

• Amershi และคณะ “พลังแห่งประชาชน: บทบาทของมนุษย์ในการเรียนรู้ของเครื่องจักรแบบโต้ตอบ” นิตยสาร AI
• กรอบการจัดการความเสี่ยงของ NIST AI
• มาตรฐาน IEEE สำหรับระบบ Human-in-the-Loop
• ทำความเข้าใจเกี่ยวกับมนุษย์ในวงจร