358/69 (IT) ประจำวันพฤหัสบดีที่ 2 กรกฎาคม 2569
นักวิจัยจาก LayerX ค้นพบการโจมตีแบบใหม่ที่เรียกว่า BioShocking ซึ่งเป็นการโจมตีประเภท Prompt Injection ที่สามารถหลอกเบราว์เซอร์ที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ (AI-powered browser) ให้เพิกเฉยต่อระบบรักษาความปลอดภัยและทำการขโมยข้อมูลสำคัญได้ การโจมตีนี้อาศัยการสร้างสถานการณ์จำลองเพื่อหลอกให้ระบบ AI เข้าใจว่าการกระทำที่มีความเสี่ยงในโลกแห่งความเป็นจริง เป็นเพียงส่วนหนึ่งของสถานการณ์สมมติในเกม ส่งผลกระทบต่อผลิตภัณฑ์เบราว์เซอร์ที่มี AI agent ระดับองค์กรและผู้ใช้งานทั่วไป ซึ่งปัญหาดังกล่าวอาจทำให้ข้อมูลส่วนบุคคลตลอดจนรหัสผ่านที่สำคัญของผู้ใช้งานตกอยู่ในความเสี่ยงต่อการถูกลักลอบนำออกไป
จากหลักฐาน Proof of Concept ที่ LayerX พัฒนาขึ้น พบว่าเว็บไซต์ที่มีเจตนาร้ายสามารถนำเสนอเกมปริศนาในธีมเกม BioShock ที่ให้รางวัลกับคำตอบที่ผิด เพื่อปลูกฝังให้ AI agent เข้าใจว่ากฎเกณฑ์ปกติใช้ไม่ได้ในบริบทนี้ และเมื่อดำเนินไปถึงขั้นตอนสุดท้ายของเกม ตัว AI agent จะถูกสั่งให้เข้าไปยังที่เก็บข้อมูลบน GitHub เพื่อคัดลอกและเปิดเผยข้อมูลสำคัญ รวมถึงรหัสผ่าน โดยการทดสอบดังกล่าวดำเนินการกับเบราว์เซอร์เชิงตัวแทนหลัก 6 ผลิตภัณฑ์ ได้แก่ ChatGPT Atlas, Comet, Fellou, Genspark Browser, Sigma Browser และปลั๊กอิน Claude บน Chrome ซึ่งทั้งหมดยืนยันช่องโหว่นี้ โดยมีเพียงผู้พัฒนารายเดียวเท่านั้นที่แก้ไขปัญหาได้สำเร็จหลังได้รับรายงาน
ทั้งนี้ LayerX แจ้งผลการค้นพบไปยังผู้พัฒนาแพลตฟอร์มต่าง ๆ ตั้งแต่เดือนตุลาคมปีที่ผ่านมา โดยพบว่ามีเพียง OpenAI เท่านั้นที่แก้ไขช่องโหว่นี้ได้สำเร็จบนเบราว์เซอร์ ChatGPT Atlas ขณะที่ Anthropic ได้พยายามอุดช่องโหว่บนปลั๊กอิน Chrome แล้วแต่ยังไม่สามารถป้องกันการโจมตีตามหลักฐานเชิงประจักษ์ดังกล่าวได้อย่างสมบูรณ์ ส่วน Perplexity AI ปิดรายงานปัญหาโดยไม่มีการแก้ไขใด ๆ ทาง LayerX จึงแนะนำให้ผู้พัฒนาเพิ่มการยืนยันตัวตนจากผู้ใช้อย่างชัดเจนก่อนดำเนินการที่มีความอ่อนไหว เสริมการตรวจสอบบริบทให้เข้มงวดขึ้น และจำกัดขอบเขตการทำงานของเซสชันเชิงตัวแทน พร้อมทั้งแนะนำให้ผู้ใช้ทั่วไปตั้งค่าจำกัดสิทธิ์การเข้าถึงบริการที่มีความอ่อนไหวของเบราว์เซอร์ AI ที่ตนใช้งานอยู่ด้วยเช่นกัน