AI ที่อธิบายได้: ทำไมทุกคะแนนจับคู่ต้องชี้ที่มาได้
ในงานที่กระทบชีวิตคน ระบบต้องอธิบายเหตุผลได้ บทความนี้อธิบายหลัก Explainable AI และวิธีที่ระบบคำนวณคะแนนจับคู่
โดย ทีมพัฒนาระบบ RTA-TRC
เมื่อระบบเสนอว่ากำลังพลนายหนึ่งเหมาะกับตำแหน่งใด ผลนั้นกระทบต่อโอกาสในชีวิตของคนจริง การตัดสินใจด้วย “กล่องดำ” ที่อธิบายไม่ได้จึงยอมรับไม่ได้ในบริบทราชการ RTA-TRC ใช้หลัก Explainable AI ที่ทุกคะแนนต้องตามรอยกลับไปยังเกณฑ์ที่มนุษย์เข้าใจได้
คะแนนจับคู่มาจากอะไร
คะแนนเป็นผลรวมถ่วงน้ำหนักของปัจจัยที่ชัดเจน ไม่ใช่ตัวเลขที่โผล่มาลอย ๆ ปัจจัยหลักที่ใช้ประกอบด้วย
- ความสอดคล้องของกลุ่มงานและทักษะกับตำแหน่งที่เปิดรับ
- ระดับการศึกษาเทียบกับคุณสมบัติขั้นต่ำของตำแหน่ง
- พื้นที่และความเป็นไปได้ในการเดินทางหรือย้ายถิ่น
- ระยะเวลาก่อนปลดประจำการและความพร้อมเข้าทำงาน
น้ำหนักปรับได้ตามนโยบาย
หน่วยงานสามารถปรับน้ำหนักของแต่ละปัจจัยให้สอดคล้องกับนโยบายในแต่ละช่วงเวลา เช่น เน้นการจ้างงานในพื้นที่ภูมิลำเนา หรือเร่งช่วยกลุ่มใกล้ปลด ระบบจะแสดงผลกระทบของการปรับน้ำหนักอย่างโปร่งใส
ถ้าอธิบายที่มาของคะแนนไม่ได้ เราก็ไม่ควรนำคะแนนนั้นไปใช้ตัดสินใจกับคน
— หลักการออกแบบ RTA-TRC
อธิบายได้ คือ ตรวจสอบได้
เมื่อทุกคะแนนชี้ที่มาได้ เจ้าหน้าที่สามารถทบทวน ยืนยัน หรือโต้แย้งผลการจับคู่บนพื้นฐานของเหตุผล ผู้บริหารได้ข้อพิจารณาที่เชื่อถือได้ และระบบทั้งหมดตรวจสอบย้อนหลังได้ตามหลักธรรมาภิบาลข้อมูล