RAFT คืออะไร? RAG + Fine-Tuning

หากพูดแบบง่ายๆ การปรับแต่งละเอียดด้วยการค้นคืน หรือ RAFT ก็คือเทคนิค AI ขั้นสูงที่การสร้างแบบเพิ่มด้วยการค้นคืนจะถูกผูกเข้ากับการปรับแต่งละเอียดเพื่อปรับปรุงการตอบสนองเชิงกำเนิดจากแบบจำลองภาษาขนาดใหญ่สำหรับแอปพลิเคชันเฉพาะในโดเมนนั้นๆ

ทำให้โมเดลภาษาขนาดใหญ่สามารถให้ผลลัพธ์ที่แม่นยำยิ่งขึ้น มีความเกี่ยวข้องกับบริบท และแข็งแกร่งยิ่งขึ้น โดยเฉพาะอย่างยิ่งสำหรับภาคส่วนเป้าหมาย เช่น การดูแลสุขภาพ กฎหมาย และการเงิน โดยการรวม RAG และปรับแต่งอย่างละเอียด

ส่วนประกอบของ RAFT

1. การสร้างเสริมการสืบค้น

เทคนิคนี้ช่วยเพิ่มประสิทธิภาพให้กับ LLM โดยอนุญาตให้เข้าถึงแหล่งข้อมูลภายนอกระหว่างการอนุมาน ดังนั้น แทนที่จะเป็นความรู้ที่ฝึกไว้ล่วงหน้าแบบคงที่เช่นเดียวกับความรู้อื่นๆ RAG จะทำให้โมเดลสามารถค้นหาข้อมูลในฐานข้อมูลหรือคลังความรู้ได้อย่างแข็งขันภายในสองคลิกเพื่อตอบสนองต่อคำถามของผู้ใช้ ซึ่งแทบจะเหมือนกับการสอบแบบเปิดหนังสือ ซึ่งโมเดลจะตรวจสอบข้อมูลอ้างอิงภายนอกล่าสุดหรือข้อเท็จจริงอื่นๆ ที่เกี่ยวข้องกับโดเมน กล่าวคือ เว้นแต่จะจับคู่กับการฝึกอบรมบางรูปแบบที่ช่วยปรับปรุงความสามารถของโมเดลในการให้เหตุผลหรือจัดลำดับความสำคัญของข้อมูลที่เรียกค้นได้ RAG เองจะไม่ปรับปรุงความสามารถก่อนหน้านี้

คุณสมบัติของ RAG: 

• การเข้าถึงความรู้แบบไดนามิก: รวมถึงข้อมูลเรียลไทม์ที่รวบรวมจากแหล่งข้อมูลภายนอก
• ความสามารถในการปรับตัวเฉพาะโดเมน: คำตอบจะขึ้นอยู่กับชุดข้อมูลเป้าหมาย

ข้อจำกัด:ไม่มีกลไกในตัวสำหรับการแยกแยะระหว่างเนื้อหาที่เกี่ยวข้องและไม่เกี่ยวข้องที่ดึงมาได้

2. การปรับละเอียด

การปรับแต่งอย่างละเอียดคือการฝึก LLM ที่ได้รับการฝึกอบรมล่วงหน้าในชุดข้อมูลเฉพาะโดเมนเพื่อพัฒนาสำหรับงานเฉพาะทาง นี่เป็นโอกาสในการเปลี่ยนพารามิเตอร์ของแบบจำลองเพื่อให้เข้าใจเงื่อนไข บริบท และความแตกต่างเฉพาะโดเมนได้ดีขึ้น แม้ว่าการปรับแต่งอย่างละเอียดจะช่วยปรับปรุงความแม่นยำของแบบจำลองเกี่ยวกับโดเมนเฉพาะ แต่ข้อมูลภายนอกจะไม่ถูกใช้เลยในระหว่างการอนุมาน ซึ่งจำกัดความสามารถในการนำกลับมาใช้ใหม่เมื่อต้องทำซ้ำความรู้ที่พัฒนาขึ้นอย่างมีประสิทธิผล

คุณสมบัติของการปรับแต่งอย่างละเอียด: 

• ความเชี่ยวชาญ: เหมาะกับอุตสาหกรรมหรืองานเฉพาะสำหรับรุ่นเฉพาะ
• ความแม่นยำในการอนุมานที่ดีขึ้น: เพิ่มความแม่นยำในการสร้างการตอบสนองที่เกี่ยวข้องกับโดเมน

ข้อจำกัด : ความสามารถในการอัปเดตแบบไดนามิกในการสร้างองค์ความรู้มีประสิทธิภาพน้อยกว่า

RAFT ผสมผสาน RAG และ Fine Tuning เข้าด้วยกันได้อย่างไร

วิธีนี้รวมจุดแข็งของ RAG และการปรับแต่งเข้าเป็นแพ็คเกจเดียว LLM ที่ได้ไม่เพียงแต่ดึงเอกสารที่เกี่ยวข้องเท่านั้น แต่ยังผสานข้อมูลนั้นกลับเข้าไปในกระบวนการคิดเหตุผลได้สำเร็จอีกด้วย แนวทางแบบผสมผสานนี้รับประกันว่าโมเดลนี้มีความรู้รอบด้าน (ผ่านการปรับแต่ง) ขณะเดียวกันก็สามารถเข้าถึงความรู้ภายนอกได้แบบไดนามิก (ผ่าน RAG)

กลไกของ RAFT

การจัดทำข้อมูลการฝึกอบรม: 

• คำถามจะเชื่อมโยงกับเอกสารที่เกี่ยวข้องและเอกสารที่เบี่ยงเบนความสนใจ (ไม่เกี่ยวข้อง)
• คำตอบแบบห่วงโซ่แห่งความคิดที่เชื่อมโยงข้อมูลที่รวบรวมได้กับคำตอบสุดท้าย 

วัตถุประสงค์การฝึกอบรมแบบคู่: 

สอนแบบจำลองถึงวิธีจัดอันดับเอกสารที่เกี่ยวข้องเหนือสิ่งรบกวนทั้งหมด และพัฒนาทักษะการใช้เหตุผลด้วยการขอให้อธิบายทีละขั้นตอนที่เชื่อมโยงกับเอกสารต้นฉบับ 

ระยะอนุมาน: 

• แบบจำลองค้นหาเอกสารที่จัดลำดับสูงสุดผ่านกระบวนการ RAG 
• การปรับแต่งอย่างละเอียดช่วยให้สามารถให้เหตุผลได้อย่างแม่นยำและผสานข้อมูลที่เรียกค้นได้เข้ากับคำตอบหลัก 

ข้อดีของ RAFT