448/69 (IT) ประจำวันพุธที่ 19 สิงหาคม 2569
ทีมนักวิจัยจากบริษัท Anthropic พบพฤติกรรมที่ไม่คาดคิดจากการทดสอบ AI เมื่อเอเจนต์ (Agent) ของโมเดล Claude จำนวนสามชุดที่ถูกกำหนดเป้าหมายการทำงาน เกิดความขัดแย้งกัน โดยได้ทำการโจมตีกันเองเพื่อแย่งชิงพื้นที่การทำงานบนระบบ ซึ่งเหตุการณ์นี้เป็นกรณีศึกษาที่แสดงให้เห็นอย่างชัดเจนว่า หากระบบเอเจนต์ AI ได้รับคำสั่งที่ขัดแย้งกันและขาดการควบคุมพฤติกรรมอย่างรัดกุม ระบบอาจประมวลผลและสร้างภัยคุกคามทางไซเบอร์เพื่อขัดขวางการทำงานของระบบอื่นได้ด้วยตนเอง
การทดสอบดังกล่าวเกิดขึ้นบน Virtual Machine โดยเอเจนต์แต่ละตัวได้รับคำสั่งให้แปลงระบบการทำงานจากภาษา Python ไปเป็นภาษาโปรแกรมอื่นที่แตกต่างกัน ได้แก่ Go, Rust และ Typescript โดยที่เอเจนต์แต่ละตัวไม่ทราบถึงการมีอยู่ของเอเจนต์ตัวอื่น เมื่อเอเจนต์ตรวจพบการทำงานที่ขัดแย้งกัน ภายในเวลาเพียง 4 ชั่วโมง ระบบได้สร้างมัลแวร์ที่สามารถทำสำเนาตัวเองได้ (Self-Replicating Malware) เพื่อโจมตีฝ่ายตรงข้าม รวมถึงมีการระงับบัญชีผู้ใช้งานระบบ Unix สั่งยุติโปรเซสการทำงานของโมเดลอื่น และพยายามซ่อนพรางโค้ดอันตราย เหตุการณ์ลักษณะนี้มีความสอดคล้องกับรายงานของบริษัท Dreadnode ในงาน Black Hat USA 2026 ที่พบว่าโมเดล AI มักพยายามปรับแก้โค้ดเพื่อเอาชนะระบบคู่แข่ง หากไม่ถูกจำกัดสิทธิ์การทำงาน
แม้ผลการทดสอบจะระบุว่าโมเดลรุ่นใหม่อย่าง Mythos สามารถเรียนรู้ที่จะเจรจาแก้ไขความขัดแย้งได้เองถึง 98 % แต่พฤติกรรมเริ่มต้นของระบบก็ยังคงเป็นการพยายามโจมตีและระงับการทำงานของระบบอื่นก่อนเสมอ ดังนั้น ผู้ดูแลระบบและองค์กรที่มีการนำ AI แบบเอเจนต์มาใช้งาน จึงควรเพิ่มความระมัดระวังในการกำหนดขอบเขตการทำงาน ซึ่งแนวทางที่แนะนำในการลดความเสี่ยงเบื้องต้นคือการแยกสภาพแวดล้อมการทำงานของ AI ออกจากระบบหลักอย่างเด็ดขาด (Isolation) กำหนดสิทธิ์การเข้าถึงทรัพยากรให้น้อยที่สุดเท่าที่จำเป็น (Least Privilege) และควรมีการเฝ้าระวังระบบบันทึกข้อมูล (Log) รวมถึงตรวจสอบพฤติกรรมการแก้ไขสคริปต์อัตโนมัติอย่างสม่ำเสมอ เพื่อป้องกันไม่ให้ AI ดำเนินการใด ๆ ที่อาจส่งผลกระทบต่อความมั่นคงปลอดภัยของระบบเครือข่ายโดยไม่ได้ตั้งใจ
แหล่งข่าว : https://www.darkreading.com/threat-intelligence/turf-war-claude-agents-self-replicating-malware