AI มั่นใจ…แต่ความมั่นใจนั้นบอกอะไรเรากันแน่?
โลกทุกวันนี้เต็มไปด้วยปัญญาประดิษฐ์ หรือ AI ที่คอยช่วยเหลือและตอบคำถามต่างๆ ให้กับเรา ทุกครั้งที่ AI ประมวลผลและให้คำตอบ มักจะมีค่าหนึ่งที่เรียกว่า คะแนนความมั่นใจ (confidence score) หรือ ความน่าจะเป็น (probability) ซ่อนอยู่เบื้องหลัง
คนส่วนใหญ่มักจะเข้าใจว่า ถ้า AI ให้คะแนนความมั่นใจสูง แปลว่าคำตอบนั้นถูกต้องแน่นอน ส่วนถ้าคะแนนความมั่นใจต่ำ ก็แปลว่า AI ไม่ค่อยแน่ใจ และคำตอบนั้นอาจจะผิด นี่คือความเข้าใจที่ดูสมเหตุสมผล แต่ในความเป็นจริงแล้ว มันมีอะไรที่ซับซ้อนกว่านั้นมาก
ความเข้าใจผิดๆ เกี่ยวกับความมั่นใจของ AI
เมื่อ AI ให้คำตอบพร้อมคะแนนความมั่นใจ คนส่วนใหญ่มีแนวโน้มจะใช้คะแนนนี้เป็นตัวชี้วัดความถูกต้องโดยตรง เช่น ถ้า AI บอกว่ามั่นใจ 90% ก็รู้สึกว่าเชื่อถือได้ แต่ถ้ามั่นใจแค่ 55% ก็จะเริ่มสงสัย
ความคิดแบบนี้ทำให้เรามักจะเพิกเฉยหรือระมัดระวังกับคำตอบที่ AI ให้ ความมั่นใจต่ำ และคิดว่าคำตอบที่มี ความมั่นใจสูง นั้นปลอดภัยที่จะนำไปใช้ได้ทันที
แต่จากการศึกษาทดลองและพัฒนาโมเดล AI ใหม่ๆ พบว่าการทำงานของคะแนนความมั่นใจนั้นไม่ได้เป็นไปตามที่เราคิดเสมอไป
สิ่งที่คะแนนความมั่นใจของ AI บอกเราจริงๆ
สิ่งที่น่าประหลาดใจคือ คะแนนความมั่นใจของ AI ไม่ได้ทำนายว่า AI จะตอบผิด เมื่อไหร่ แต่กลับบอกว่า ถ้า AI ตอบผิด คำตอบที่ผิดนั้นจะ ผิดมากน้อยแค่ไหน ต่างหาก
ลองนึกภาพดูว่า ถ้า AI ตอบผิดแล้วคะแนนความมั่นใจของมัน ต่ำ ข้อผิดพลาดที่เกิดขึ้นมักจะเป็นเพียง ข้อผิดพลาดเล็กน้อย หรือคลาดเคลื่อนไปไม่มากนัก อาจจะเป็นการให้ข้อมูลที่ไม่ครบถ้วน หรือตอบไม่ตรงประเด็นเป๊ะๆ แต่ก็ยังพอมีส่วนที่ถูกต้องอยู่บ้าง
ในทางกลับกัน ถ้า AI ตอบผิดแล้วคะแนนความมั่นใจของมัน สูงมาก นี่แหละคือจุดที่อันตราย เพราะเมื่อ AI ที่มั่นใจสุดๆ กลับตอบผิด ข้อผิดพลาดนั้นมักจะเป็น ข้อผิดพลาดร้ายแรง หรือเป็นความผิดพลาดที่บิดเบือนไปจากความจริงอย่างสิ้นเชิง บางครั้งอาจถึงขั้นหลอนสร้างข้อมูลที่ไม่เป็นจริงขึ้นมาเลยทีเดียว
นี่คือสิ่งที่ต้องทำความเข้าใจใหม่: ความมั่นใจของ AI ไม่ได้เป็นสัญญาณเตือนว่ามันกำลังจะผิด แต่มันเป็นตัวบ่งชี้ ขนาดของความผิดพลาด ที่อาจเกิดขึ้น
ใช้ประโยชน์จากความมั่นใจของ AI ได้อย่างไร
การทำความเข้าใจความหมายที่แท้จริงของคะแนนความมั่นใจนี้เป็นสิ่งสำคัญอย่างยิ่งสำหรับการใช้ AI ในสถานการณ์จริง
แทนที่จะใช้คะแนนความมั่นใจเพื่อตัดสินว่าคำตอบนั้นถูกหรือผิด ควรใช้มันเพื่อประเมิน ความเสี่ยงของความผิดพลาด และ ประเภทของความผิดพลาด ที่อาจเกิดขึ้น
เมื่อ AI ให้คำตอบด้วย ความมั่นใจต่ำ อาจหมายถึงคำตอบนั้นต้องการ การตรวจสอบเพิ่มเติม หรืออาจจะมีรายละเอียดที่ซับซ้อนกว่าที่ AI จะสรุปได้ง่ายๆ แต่ไม่จำเป็นต้องหมายความว่าคำตอบนั้นใช้ไม่ได้เสียทีเดียว
แต่เมื่อ AI ให้คำตอบด้วย ความมั่นใจสูง และอยู่ในบริบทที่มีความสำคัญมาก หากคำตอบนั้นเกิดผิดพลาดขึ้นมา มันอาจนำไปสู่ผลลัพธ์ที่ หายนะ ได้ นี่คือจุดที่จำเป็นต้องมี การตรวจสอบโดยมนุษย์ อย่างรอบคอบที่สุด
การใช้ AI อย่างฉลาดคือการรู้ว่าเมื่อใดควรเชื่อ และเมื่อใดควรตั้งคำถาม และที่สำคัญที่สุดคือ เมื่อใดที่ความมั่นใจของ AI กลายเป็นสัญญาณเตือนถึงข้อผิดพลาดที่ใหญ่หลวง ไม่ใช่แค่ความไม่แน่ใจเล็กๆ น้อยๆ เพื่อให้เราสามารถใช้เทคโนโลยีนี้ได้อย่างปลอดภัยและมีประสิทธิภาพสูงสุด