ศูนย์ประสานการรักษาความมั่นคงปลอดภัยระบบคอมพิวเตอร์แห่งชาติ (ThaiCERT) ได้ติดตามสถานการณ์ช่องโหว่ด้านความมั่นคงปลอดภัยในระบบปัญญาประดิษฐ์ (Artificial Intelligence: AI) พบรายงานช่องโหว่ใน NVIDIA NemoClaw ซึ่งเป็นแพลตฟอร์มสำหรับพัฒนาและใช้งาน AI Agent ภายในเครื่อง โดยช่องโหว่ดังกล่าวอาจเปิดโอกาสให้ผู้โจมตีที่ควบคุมเว็บไซต์อันตรายสามารถเข้าถึงบริการ AI ที่ทำงานอยู่ภายในเครื่องผ่านเทคนิค DNS Rebinding และแก้ไขคำสั่งภายในโมเดล เช่น Chat Template หรือ System Instructions ส่งผลให้ AI Agent อาจถูกควบคุมพฤติกรรมหรือดำเนินการตามคำสั่งที่ผู้โจมตีแทรกไว้ได้ จึงขอแนะนำให้ผู้ใช้งานและผู้ดูแลระบบที่ใช้งาน NVIDIA NemoClaw หรือระบบ AI Agent ภายในองค์กร เร่งตรวจสอบการตั้งค่าและติดตามแนวทางแก้ไขจากผู้ผลิตโดยทันที [1]
1. รายละเอียดช่องโหว่
1.1 ช่องโหว่นี้เกี่ยวข้องกับการทำงานร่วมกันระหว่าง NVIDIA NemoClaw และ Ollama Local AI Runtime ซึ่งใช้สำหรับให้บริการโมเดล AI ภายในเครื่อง โดยนักวิจัยจาก Oasis Security พบว่าการตั้งค่าบางส่วนของ NemoClaw อาจทำให้บริการ Ollama ที่ทำงานภายในเครื่องสามารถถูกเข้าถึงจากเว็บเพจที่เป็นอันตรายได้ผ่านเทคนิค DNS Rebinding
1.2 DNS Rebinding เป็นเทคนิคที่ผู้โจมตีใช้เปลี่ยนแปลงการตอบกลับ DNS เพื่อหลอกให้เว็บเบราว์เซอร์ของเหยื่อเชื่อมต่อไปยังบริการภายในเครื่อง (Local Service) ซึ่งปกติไม่ควรสามารถเข้าถึงได้จากภายนอก เมื่อผู้โจมตีสามารถเข้าถึง Local Ollama Instance ได้ อาจสามารถดำเนินการดังต่อไปนี้ เข้าถึง API ของ AI Model ที่กำลังทำงานอยู่, แก้ไข Chat Template ของโมเดล, ฝังคำสั่งซ่อนเร้น (Hidden Instructions)และ เปลี่ยนพฤติกรรมของ AI Agent ในการตอบสนองคำสั่ง ส่งผลให้ AI อาจถูกใช้เป็นช่องทางในการดำเนินการที่ผู้ใช้งานไม่ได้ตั้งใจ เช่น การเปิดเผยข้อมูล การให้คำตอบผิดพลาด หรือการดำเนินการตามคำสั่งที่ผู้โจมตีควบคุม [2]
2. รูปแบบการโจมตี
2.1 ผู้ใช้งานเข้าถึงเว็บไซต์ที่เป็นอันตราย: ผู้โจมตีสร้างเว็บไซต์ที่มีโค้ด JavaScript หรือเนื้อหาที่ออกแบบมาเพื่อเรียกใช้งานบริการภายในเครื่องของผู้ใช้งาน
2.2 ใช้ DNS Rebinding เพื่อหลีกเลี่ยงข้อจำกัดการเข้าถึง: เว็บไซต์ดังกล่าวใช้เทคนิค DNS Rebinding เพื่อเปลี่ยนเส้นทางคำร้องขอจากเว็บไซต์ภายนอกไปยังบริการ AI ที่ทำงานอยู่ภายในเครื่อง เช่น Ollama API
2.3 ควบคุม AI Model หรือ AI Agent: เมื่อสามารถเข้าถึงบริการ AI ได้ ผู้โจมตีอาจ เปลี่ยนแปลง System Prompt, แก้ไข Chat Template, เพิ่มคำสั่งซ่อนเร้นในโมเดล และทำให้ AI ตอบสนองตามเป้าหมายของผู้โจมตี
2.4 การโจมตีแบบ Persistent AI Manipulation: คำสั่งที่ถูกฝังไว้ในโมเดลอาจยังคงอยู่ แม้ผู้ใช้งานจะเริ่มต้นบทสนทนาใหม่ ส่งผลให้เกิดความเสี่ยงต่อการใช้งาน AI ในระยะยาว
3. ผลิตภัณฑ์ที่ได้รับผลกระทบ
3.1 NVIDIA NemoClaw v0.0.34 และก่อนหน้า
3.2 NemoClaw บน Windows/WSL ยังไม่มีแพตช์แก้ไข
4. แนวทางการป้องกันและแก้ไข
4.1 macOSและLinux อัพเดต NVIDIA NemoClaw เป็น v0.0.35 ขึ้นไป
4.2 ผู้ใช้งาน Windows/WSL ควรใช้มาตรการลดความเสี่ยงเพิ่มเติมจนกว่าจะมีแพตช์จากผู้พัฒนา
5. หากยังไม่สามารถดำเนินการแก้ไขได้ทันที ควรดำเนินการดังนี้ สำหรับ Windows/WSL
5.1 ตรวจสอบว่า Ollama API ไม่เปิดรับจากทุก Interface (0.0.0.0:11434) ควรกำหนดให้รับเฉพาะ localhost (127.0.0.1)
5.2 ปิดการเข้าถึง Port 11434 จากเครือข่ายภายนอก
5.3 หลีกเลี่ยงการเปิดเว็บไซต์ที่ไม่น่าเชื่อถือขณะเปิดใช้งาน NemoClaw/Ollama
5.4 ตรวจสอบ Model Configuration ได้แก่ System Prompt, Chat Template และ Model Manifest เพื่อค้นหาการเปลี่ยนแปลงที่ไม่ได้รับอนุญาต
5.5 จำกัดการทำงานของ AI Agent ตามหลัก Least Privilege
5.6 ติดตามประกาศ Security Advisory จาก NVIDIA และอัปเดตระบบอย่างต่อเนื่อง
แหล่งอ้างอิง
[1] https://dg.th/5o73xzwvcn
[2] https://dg.th/hf0sl3yegu