จาก Human-in-the-Loop สู่ Human-on-the-Loop: วิวัฒนาการความอิสระของ AI Agent… HITL คืออะไร? HOTL คืออะไร? และต่างกันอย่างไร?
ในปัจจุบัน สถาปัตยกรรมของ AI กำลังเปลี่ยนผ่านจากการควบคุมแบบ Human-in-the-Loop (HITL) ที่มนุษย์ต้องมีส่วนร่วมหรืออนุมัติในทุกการตัดสินใจที่สำคัญ ไปสู่รูปแบบ Human-on-the-Loop (HOTL) ที่ AI ทำงานได้อย่างอิสระมากขึ้น โดยมีมนุษย์คอยกำกับดูแลและแทรกแซงเฉพาะเมื่อจำเป็นเท่านั้น การเปลี่ยนแปลงนี้มีจุดมุ่งหมายเพื่อเพิ่มประสิทธิภาพและการขยายตัวของระบบ ภายใต้แนวทางและมาตรการรักษาความปลอดภัยที่เหมาะสม
| Human-in-the-Loop (HITL) คืออะไร? Human-in-the-Loop (HITL) หมายถึง ระบบที่มนุษย์มีส่วนร่วมในการตัดสินใจในผลลัพธ์ที่สร้างขึ้นจาก AI ซึ่งมนุษย์จะต้องตรวจสอบและอนุมัติก่อนที่จะผ่านไปยังขึ้นตอนต่อไป เพื่อให้มั่นใจในความถูกต้อง ปลอดภัย และมีจริยธรรมมีความรับผิดชอบ Human-on-the-Loop (HOTL) คืออะไร? Human-on-the-Loop (HOTL) หมายถึง ระบบที่มนุษย์เป็นผู้กำกับดูแล แต่ไม่มีได้มีส่วนร่วมในการตัดสินใจทุกขั้นตอน ซึ่ง AI Agent จะทำงานอย่างอิสระตั้งแต่การรับรู้-ตัดสินใจ-ดำเนินการโดยอัตโนมัติ ส่วนมนุษย์จะควบคุมตรวจสอบความคืบหน้าการทำงานของ AI และแทรกแซงในกรณีที่เกิดปัญหา |
ความแตกต่างระหว่าง HITL และ HOTL
Human-in-the-Loop (HITL) หมายถึง ระบบที่มนุษย์มีส่วนร่วมโดยตรงในวงจรการตัดสินใจของ AI ในการออกแบบ HITL ตัวแทน AI อาจเสนอการกระทำหรือผลลัพธ์ แต่มนุษย์ที่เป็น “ผู้ตรวจสอบแก้ไข” จะต้องตรวจสอบและอนุมัติก่อนที่จะดำเนินการต่อไป วิธีการนี้ช่วยเพิ่มการควบคุมสูงสุดและมักใช้ในโดเมนที่มีความเสี่ยงสูง เช่น แพทย์อนุมัติคำแนะนำการวินิจฉัยของ AI หรือสมาชิกทีมการเงินอนุมัติธุรกรรมที่เริ่มต้นโดย AI
อย่างไรก็ตาม ข้อเสียคือความสามารถในการขยายขนาดและความเร็ว การต้องมีข้อมูลจากบุคคลในทุกการตัดสินใจทำให้สิ่งต่างๆ ช้าลงและไม่สามารถรองรับการทำงานตลอด 24 ชั่วโมง 7 วันต่อสัปดาห์ได้ดี การที่มนุษย์กลายเป็นจุดตรวจสอบในขั้นตอนการทำงานก็อาจสร้างปัญหาคอขวดได้
ในทางกลับกัน Human-on-the-Loop (HOTL) วางตำแหน่งมนุษย์เป็นผู้กำกับดูแลมากกว่าผู้เข้าร่วมอย่างต่อเนื่อง ในสถาปัตยกรรม HOTL เจ้า AI Agent จะทำงานอย่างอิสระด้วยวงจรการรับรู้-ตัดสินใจ-ดำเนินการ ในขณะที่มนุษย์จะตรวจสอบความคืบหน้าผ่านการแจ้งเตือนหรือแดชบอร์ด และจะเข้ามาแทรกแซงเฉพาะในกรณีที่มีข้อยกเว้นหรือการปรับเปลี่ยนที่สำคัญเท่านั้น
กล่าวอีกนัยหนึ่ง AI มีความเป็นอิสระในการตัดสินใจและดำเนินการด้วยตนเองมากขึ้น และผู้ควบคุมที่เป็นมนุษย์จะ “อยู่ในวงจร” คอยดูแลAI Agent หลายตัวทำงานพร้อมกันแทนที่จะจัดการแต่ละขั้นตอนอย่างละเอียด โมเดลนี้ยังคงมีมนุษย์ไว้สำหรับกรณีที่เกิดปัญหาหรือจำเป็นต้องมีการตัดสินทางจริยธรรม แต่หลีกเลี่ยงความไร้ประสิทธิภาพของการที่บุคคลเข้ามาเกี่ยวข้องกับการตัดสินใจประจำวันทุกครั้ง
แนวทาง HOTL “สร้างสมดุลระหว่างความเป็นอิสระของ AI (มากกว่า HITL) กับการกำกับดูแล… โดยมุ่งเน้นที่ประสิทธิภาพโดยไม่ต้องมีการป้อนข้อมูลอย่างต่อเนื่อง” ในทางปฏิบัติ นั่นอาจหมายความว่าระบบการกลั่นกรองเนื้อหาด้วย AI จะกรองเนื้อหาส่วนใหญ่โดยอัตโนมัติ โดยจะแจ้งเตือนเฉพาะกรณีที่คลุมเครือหรือยากลำบากเพื่อให้ผู้กลั่นกรองที่เป็นมนุษย์ตรวจสอบ และจัดการงานมาตรฐานอย่างอิสระ และจะเรียกมนุษย์ก็ต่อเมื่อพบความผิดปกติที่อยู่นอกเหนือขอบเขตอำนาจของตนเท่านั้น
Changing Paradigms: From Human-in-the-Loop to Human-on-the-Loop
การเปลี่ยนจาก HITL ไปสู่ HOTL นี้เกิดขึ้นจากความสามารถที่เพิ่มขึ้นของ AI Agent และความต้องการระบบที่สามารถทำงานได้ในระดับใหญ่ เอเจนต์สมัยใหม่ที่ใช้โมเดลภาษาขนาดใหญ่สามารถทำการให้เหตุผลที่ซับซ้อน โต้ตอบกับเครื่องมือหรือ API หลายตัว และจัดการงานหลายอย่างได้โดยไม่ต้องอาศัยความช่วยเหลือ การที่ต้องให้มนุษย์อนุมัติทุกการกระทำเหล่านี้จะทำให้ประสิทธิภาพที่เพิ่มขึ้นนั้นลดลงไปมาก
ดังนั้น ทีมต่างๆ จึงยอมรับบทบาทการกำกับดูแลของมนุษย์ โดยไว้วางใจให้ AI ดำเนินการตัดสินใจที่มีความเสี่ยงต่ำด้วยตนเอง ตราบใดที่มีมาตรการป้องกันที่เหมาะสม สถาปัตยกรรม HOTL จึงเรียกร้องให้เรากำหนดกฎและขอบเขตที่ชัดเจนสำหรับ AI
ดังนั้นเราต้องตัดสินใจว่าเอเจนต์ได้รับอนุญาตให้ดำเนินการใด ๆ โดยอัตโนมัติ สถานการณ์ใดที่ควรแจ้งเตือนหรือหยุดชั่วคราว และเอเจนต์จะส่งสัญญาณขอความช่วยเหลืออย่างไรเมื่อจำเป็น กล่าวอีกนัยหนึ่ง ความเป็นอิสระที่เพิ่มขึ้นต้องมาพร้อมกับสิทธิ์ แนวทาง และระบบความปลอดภัยที่กำหนดไว้อย่างดี เพื่อให้มนุษย์ยังคงมั่นใจและควบคุมผลลัพธ์โดยรวมของระบบได้
บทสรุป การเปลี่ยนสู่ Human-on-the-Loop ไม่ได้หมายถึงการละทิ้งการควบคุมของมนุษย์ แต่เป็นการใช้การควบคุมอย่างชาญฉลาดและตรงจุดมากขึ้น เพื่อให้ AI ทำงานที่ซ้ำซ้อนได้อย่างรวดเร็ว ในขณะที่มนุษย์ทำหน้าที่กำหนดทิศทางเชิงกลยุทธ์และการตัดสินใจที่สำคัญ
ข้อมูลจาก: https://bytebridge.medium.com/from-human-in-the-loop-to-human-on-the-loop-evolving-ai-agent-autonomy-c0ae62c3bf91
