เหตุใดทีม AI ระดับองค์กรจึงกำลังพิจารณาผู้ให้บริการข้อมูลราคาถูกและรวดเร็วอีกครั้ง

ในช่วงสองปีที่ผ่านมา ผู้ซื้อ AI จำนวนมากได้มุ่งเน้นไปที่สิ่งหนึ่งเหนือสิ่งอื่นใด นั่นคือ ความเร็ว การทดลองใช้งานที่เร็วขึ้น การปรับแต่งที่เร็วขึ้น รอบการประเมินที่เร็วขึ้น และการรับผู้ขายเข้าสู่ระบบที่เร็วขึ้น

แต่พัฒนาการล่าสุดเกี่ยวกับความเสี่ยงในห่วงโซ่อุปทานของ AI กำลังเปลี่ยนความคิดนั้นไป เมื่อความเสี่ยงเข้ามาสู่ชั้นข้อมูลและกระบวนการทำงาน ความเร็วจะไม่ใช่สิ่งสำคัญอีกต่อไป และความไว้วางใจจะกลายเป็นตัวชี้วัดที่แท้จริง รายงานล่าสุดเกี่ยวกับ Mercor และ LiteLLM ทำให้บทเรียนนี้ยากที่จะมองข้ามไปได้

ต้นทุนเริ่มต้นที่ถูกอาจซ่อนความเสี่ยงที่สูงในอนาคตไว้ได้

ชุดข้อมูลที่มีเอกสารประกอบไม่ดี ลิขสิทธิ์ไม่ชัดเจน การตรวจสอบความถูกต้องไม่รัดกุม หรือแหล่งที่มาขาดการกำกับดูแลที่เข้มแข็ง อาจดูประหยัดในตอนแรก แต่กลับกลายเป็นแพงในภายหลัง

ต้นทุนดังกล่าวปรากฏให้เห็นในรูปแบบของการทำงานซ้ำ ความไม่เสถียรของเกณฑ์มาตรฐาน ความไม่แน่นอนทางกฎหมาย การตรวจสอบที่ยากขึ้น และความน่าเชื่อถือของแบบจำลองที่ลดลง บทความสาธารณะของ Shaip เกี่ยวกับเรื่องนี้ อันตรายที่ซ่อนเร้นของข้อมูลโอเพนซอร์ส ซึ่งก็ชี้ให้เห็นประเด็นสำคัญในวงกว้างเช่นเดียวกัน นั่นคือ ข้อมูล "ฟรี" ยังคงอาจแฝงไปด้วยความเสี่ยงด้านคุณภาพ กฎหมาย และความปลอดภัย ซึ่งอาจก่อให้เกิดค่าใช้จ่ายสูงเมื่อนำไปใช้ในระดับการผลิตขนาดใหญ่

ความผิดพลาดด้านคุณภาพมักไม่ปรากฏให้เห็นชัดเจน

โปรแกรม AI หลายโปรแกรมไม่ได้ล้มเหลวอย่างฉับพลัน แต่จะค่อยๆ เสื่อมสภาพลงทีละน้อย

ความเสียหายมักเกิดจากป้ายกำกับที่ไม่สอดคล้องกัน คำแนะนำที่ไม่ชัดเจน การจัดการกรณีพิเศษที่ไม่ดี หรือการขาดขั้นตอนการตรวจสอบคุณภาพ (QA) (จากบทความสาธารณะของ Shaip) คู่มือมนุษย์ร่วมวงจร โต้แย้งว่าคุณภาพไม่ได้ล้มเหลวอย่างโจ่งแจ้ง และการกำกับดูแลโดยมนุษย์ควรอยู่ในจุดที่การตัดสินใจและความรับผิดชอบมีความสำคัญที่สุด

เหตุใดการตรวจสอบโดยมนุษย์อย่างเป็นระบบจึงยังคงมีความสำคัญ

แม้ในกระบวนการทำงานอัตโนมัติขั้นสูง องค์กรต่างๆ ก็ยังคงต้องการการตรวจสอบจากมนุษย์เพื่อพิจารณารายละเอียดปลีกย่อย กรณีพิเศษ และความถูกต้องของการประเมิน เว็บไซต์สาธารณะของ Shaip เน้นย้ำถึงการประเมินโดยผู้เชี่ยวชาญและชุดข้อมูล AI ที่ผ่านการตรวจสอบจากมนุษย์ว่าเป็นส่วนหนึ่งของการพัฒนา LLM ที่น่าเชื่อถือ