จะวางใจให้ AI เขียนโค้ดได้อย่างไร? เมื่อ ‘ความรู้สึก’ อาจไม่เพียงพอ

ช่วงหลังมานี้ เราได้เห็นความสามารถของ AI Coding Agent ที่พัฒนาไปไกลมาก

AI เหล่านี้สามารถเขียนโค้ดได้ซับซ้อน จนหลายคนเริ่มพึ่งพาให้มันสร้างระบบต่างๆ

แต่เคยสงสัยไหมว่า โค้ดที่ AI สร้างขึ้นนั้น “ถูกต้อง” จริงๆ หรือเปล่า?

ไม่ได้หมายถึงแค่เรื่องไวยากรณ์โค้ดที่ผิดพลาด แต่เป็นการทำงานตามวัตถุประสงค์อย่างแท้จริง

หัวใจสำคัญของปัญหานี้คือสิ่งที่เรียกว่า “epistemic failure”

ซึ่งคือสถานการณ์ที่ AI เชื่อว่าโค้ดของมันนั้นถูกต้องสมบูรณ์แบบ

แม้ในความเป็นจริงแล้ว มันอาจจะมีข้อผิดพลาดร้ายแรงแฝงอยู่

ความผิดพลาดเหล่านี้ไม่ใช่แค่บั๊กธรรมดา แต่มักเป็นความเข้าใจที่คลาดเคลื่อนเชิงตรรกะ หรือพฤติกรรมของโปรแกรมที่ไม่เป็นไปตามที่ควรจะเป็น

และที่น่ากังวลคือ ความผิดพลาดประเภทนี้มักจะจับได้ยากด้วยวิธีการทดสอบแบบเดิมๆ

ลองคิดดูว่าเมื่อ AI เป็นผู้เขียนโค้ด แล้วมันก็เป็นคนเขียน Unit Tests หรือ Integration Tests ด้วยตัวเอง

มีความเสี่ยงสูงที่ AI จะเขียนชุดทดสอบที่ “อ่อนเกินไป” หรือทดสอบเพียงแค่สิ่งที่มันเข้าใจว่าถูกต้อง

นั่นหมายความว่า แม้การทดสอบจะผ่าน แต่ก็ไม่ได้เป็นการรับประกันว่าโค้ดจะทำงานได้ถูกต้องตามความต้องการจริงๆ

เหมือนกับคนโกงข้อสอบที่เขียนเฉลยเอง แล้วก็ตรวจข้อสอบตัวเองให้ผ่านนั่นแหละ

การตรวจสอบด้วยมือของมนุษย์เองก็มีข้อจำกัด

เมื่อโค้ดที่ AI สร้างมีปริมาณมหาศาล การค้นหาบั๊กที่ซับซ้อนและละเอียดอ่อนด้วยตาเปล่าทำได้ยากมาก

ส่วนการรอให้โปรแกรมไปเจอข้อผิดพลาดตอนใช้งานจริงใน Production นั้นก็สายเกินไปและอาจก่อให้เกิดความเสียหายตามมามากมาย

เพื่อให้มั่นใจว่าโค้ดจาก AI นั้นน่าเชื่อถือจริงๆ จึงต้องมีการเพิ่มขั้นตอนที่เรียกว่า “Verification Gate”

นี่คือกระบวนการตรวจสอบที่เป็นอิสระจาก AI ผู้สร้างโค้ด

วัตถุประสงค์หลักคือการ พิสูจน์ความถูกต้อง ของโค้ด ไม่ใช่แค่การทดสอบเพื่อหาข้อผิดพลาด

Verification Gate ต้องสามารถทำความเข้าใจ “ความตั้งใจดั้งเดิม” หรือ Specification ของระบบได้อย่างลึกซึ้ง

มันจะต้องรู้ว่าโค้ดควรจะทำงานอย่างไร ไม่ใช่แค่ดูว่ามันทำงานอย่างไรเมื่อถูกรันผ่านชุดทดสอบที่อาจจะถูกออกแบบมาอย่างไม่สมบูรณ์

การตรวจสอบอิสระนี้เปรียบเสมือนมีผู้เชี่ยวชาญคนที่สองมาดูงาน

ผู้เชี่ยวชาญคนนี้ไม่ได้สนใจแค่ว่าโค้ดผ่านการทดสอบภายในหรือไม่

แต่จะเน้นไปที่การยืนยันว่าโค้ดนั้นสอดคล้องกับข้อกำหนดและเจตนารมณ์ดั้งเดิมของโปรเจกต์อย่างแท้จริง

สิ่งนี้จำเป็นต้องอาศัย AI ตรวจสอบที่มีความสามารถในการวิเคราะห์เชิงลึก

เข้าใจความหมายของโปรแกรม หรือมีข้อมูลเกี่ยวกับข้อกำหนดต่างๆ ก่อนที่โค้ดจะถูกเขียนขึ้นด้วยซ้ำ

การมี Verification Gate ที่แข็งแกร่ง จะช่วยให้สามารถส่งมอบโค้ดที่สร้างโดย AI ได้อย่างมั่นใจ

ลดความเสี่ยงจากข้อผิดพลาดที่ซ่อนอยู่ และยกระดับคุณภาพของซอฟต์แวร์โดยรวมอย่างแท้จริง