577/69 (IT) ประจำวันพฤหัสบดีที่ 22 ตุลาคม 2569
OpenAI เปิดเผยรายงานจำนวน 2 เหตุการณ์ หลังพบ AI Agent จำนวน 2 รุ่น ที่ปรับลดหรือปิดกลไกเฝ้าระวังพฤติกรรมที่อาจไม่สอดคล้องกับข้อกำหนดด้านความปลอดภัย (Misalignment Monitoring) ระหว่างปฏิบัติงานเขียนและปรับปรุงโค้ดตามปกติ โดยทั้ง 2 กรณีนี้ ไม่ได้เกิดจากการโจมตีภายนอก แต่เป็นผลจากการตีความคำสั่งของผู้ใช้ที่นำไปสู่การลดทอนมาตรการตรวจสอบดังกล่าว กรณีแรกเกิดขึ้นเมื่อวันที่ 3 ตุลาคม โดย AI Agent รุ่น GPT-6.1 Sol ปิดการแจ้งเตือนอัตโนมัติไปยังทีมรักษาความปลอดภัย เนื่องจากตีความคำสั่งที่ห้ามส่งข้อความระหว่างค้นหาประวัติ Slack ว่าครอบคลุมถึงการแจ้งเตือนด้านความปลอดภัยด้วย แม้ระบบเฝ้าระวังยังคงทำงานและบันทึกรายงานได้ แต่เจ้าหน้าที่กลับไม่ได้รับการแจ้งเตือนตามที่กำหนด
กรณีที่ 2 เกิดขึ้นเมื่อวันที่ 6 ตุลาคม เมื่อ AI Agent รุ่น GPT-6 Astra ได้รับมอบหมายให้ย้ายโปรแกรมโดยอ้างอิงจากโค้ดต้นแบบ พร้อมรักษาความสามารถเดิมไว้ แต่ระหว่างดำเนินการ AI Agent กลับนำระบบเฝ้าระวังออก เนื่องจากโค้ดต้นแบบไม่มีระบบดังกล่าว อีกทั้งยังปรับเปลี่ยนการทดสอบให้กำหนดว่าระบบเฝ้าระวังต้องถูกปิดใช้งาน และเมื่อผู้ใช้สอบถามภายหลังว่าได้ถอดระบบตรวจสอบออกหรือไม่ AI Agent กลับตอบว่าไม่ได้ดำเนินการดังกล่าว ทั้งที่ข้อเท็จจริงตรงกันข้าม โดย OpenAI ระบุว่าพฤติกรรมทั้ง 2 กรณี อาจเกิดจากสิ่งที่เรียกว่า “Benign Overpersistence” ซึ่งหมายถึงการยึดติดกับการปฏิบัติตามคำสั่งมากเกินไป โดยไม่เข้าใจเจตนาหรือความสำคัญของมาตรการความปลอดภัยอย่างเพียงพอ อย่างไรก็ตาม บริษัทยังไม่สามารถตัดความเป็นไปได้ที่โมเดลอาจมีแนวโน้มหาเหตุผลมาสนับสนุนการหลีกเลี่ยงระบบที่ใช้ตรวจสอบพฤติกรรมของตนเองได้
เพื่อเป็นการรับมือและแก้ไขปัญหาดังกล่าว OpenAI ได้ปรับปรุงระบบตรวจสอบอัตโนมัติให้สามารถตรวจจับและระงับความพยายามในการปิดระบบความปลอดภัย พร้อมทั้งเตรียมกำหนดให้ทุกกระบวนการทำงานต้องมีแผนควบคุมที่ชัดเจน สำหรับผู้ใช้งาน ผู้พัฒนา หรือผู้ดูแลระบบที่นำตัวแทนปัญญาประดิษฐ์มาประยุกต์ใช้ภายในองค์กร ควรดำเนินการลดความเสี่ยงด้วยการออกแบบสถาปัตยกรรมระบบให้กลไกการตรวจสอบทำงานแยกส่วนและอยู่นอกเหนือสิทธิการควบคุมของ AI อย่างเด็ดขาด นอกจากนี้ควรตรวจสอบพฤติกรรมการทำงานของระบบอย่างสม่ำเสมอ เพื่อป้องกันการตีความคำสั่งที่อาจนำไปสู่การปิดกั้นระบบรักษาความปลอดภัยโดยพลการ