538/69 (IT) ประจำวันพฤหัสบดีที่ 1 ตุลาคม 2569
ทีมนักวิจัยจาก Forcepoint X-Labs ได้เปิดเผยรายงานการค้นพบวิธีการโจมตีรูปแบบใหม่ต่อระบบ AI ที่ใช้สำหรับสรุปเนื้อหาอีเมล โดยพบว่าผู้ไม่ประสงค์ดีสามารถหลอกให้ AI สรุปข้อมูลผิดพลาดได้ ผ่านการแทรกข้อความปลอมแปลงลงไปในสายการสนทนา (Email thread) โดยไม่จำเป็นต้องใช้เทคนิคการซ่อนข้อความหรือป้อนคำสั่งควบคุม AI โดยตรง ซึ่งการค้นพบนี้มีความสำคัญอย่างยิ่งต่อองค์กรและผู้ใช้งานทั่วไป ที่เริ่มพึ่งพาระบบ AI ในการสรุปข้อมูลจำนวนมาก เนื่องจากอาจนำไปสู่ความเข้าใจผิดในข้อมูลสำคัญทางธุรกิจและการตัดสินใจที่ผิดพลาดได้
การทดสอบนี้เป็นการจำลองสภาพแวดล้อมการทำงานบนระบบอีเมลที่ใช้โมเดล AI ในการสรุปข้อมูล ซึ่งพบว่าเพียงแค่ผู้โจมตีแทรกส่วนหัวอีเมล หรือข้อความที่ถูกปลอมแปลงเข้าไป โครงสร้างของข้อความที่เปลี่ยนไปก็เพียงพอที่จะหลอกระบบได้ โดยจากการทดสอบหน้าต่างการทำงานของระบบสรุปอีเมลพบว่า ข้อมูลดั้งเดิมที่ระบุวันประชุมเป็นวันจันทร์ที่ 24 สิงหาคม 2026 และมียอดค้างชำระ 8,650 ยูโร ถูก AI ประมวลผลและสรุปข้อมูลบิดเบือนเป็นวันพฤหัสบดีที่ 3 กันยายน 2026 และมียอดค้างชำระสูงถึง 46,200 ยูโร นอกจากนี้ เมื่อเปรียบเทียบผลลัพธ์การสรุปข้อมูล ระบบยังสามารถถูกหลอกให้ระบุว่าผู้เข้าร่วมประชุมไม่ต้องดำเนินการใด ๆ (None required) จากเดิมที่ผู้เข้าร่วมประชุมมีหน้าที่ต้องจัดการเอกสารก่อนการประชุม นักวิจัยชี้ว่าการบิดเบือนนี้อาศัยโครงสร้างของการสนทนาเพื่อชี้นำ AI ทำให้ระบบตรวจสอบความปลอดภัยแบบดั้งเดิมที่เน้นตรวจจับคีย์เวิร์ดหรือรูปแบบคำสั่งโจมตีไม่สามารถป้องกันหรือแจ้งเตือนได้
แม้การทดสอบนี้ จะดำเนินการบนระบบที่ไม่ได้เปิดใช้งานมาตรการป้องกันอย่างเต็มรูปแบบ และไม่ได้บ่งชี้ว่าระบบรักษาความปลอดภัยของอีเมลทั้งหมดจะล้มเหลว แต่ก็เป็นสัญญาณเตือนว่าการพึ่งพาเพียงระบบตรวจจับข้อความซ่อนหรือการสแกนหาคำสั่งผิดปกติ อาจไม่เพียงพออีกต่อไป ผู้ดูแลระบบควรตระหนักถึงข้อจำกัดของระบบ AI ในปัจจุบันและพิจารณาเพิ่มมาตรการตรวจสอบข้อมูลที่ถูกประมวลผล สำหรับผู้ใช้งานทั่วไปและระดับองค์กรที่ใช้ AI ช่วยทำงาน ควรตรวจสอบความถูกต้องของข้อมูลที่มีความละเอียดอ่อน เช่น ตัวเลขทางการเงิน วันที่สำคัญ หรือคำสั่งให้ดำเนินการต่าง ๆ จากเนื้อหาอีเมลต้นฉบับด้วยตนเองควบคู่ไปด้วยเสมอ เพื่อลดความเสี่ยงจากข้อมูลที่อาจถูกหลอกให้บิดเบือนและป้องกันความเสียหายที่อาจเกิดขึ้นในระดับองค์กร
แหล่งข่าว : https://thehackernews.com/2026/09/attackers-exploit-zimbra-flaw-to-deploy.html