NVIDIA เปิดตัว AI Agent Safety Stack ซึ่งเป็นระบบความปลอดภัยที่ครอบคลุมการจัดการข้อมูล การควบคุมการเข้าถึง และการตรวจสอบการทำงานของ AI Agent ที่มีความสามารถในการคิด ใช้เครื่องมือ และปรับพฤติกรรมตามข้อมูลที่ได้รับ ระบบนี้ช่วยป้องกันการโจมตีที่อาจเกิดขึ้นจากการใช้งานผิดวิธีหรือข้อมูลที่ไม่ปลอดภัย โดยเน้นการตรวจสอบการทำงานของ Agent ทั้งในขั้นตอนการรันและหลังจากเกิดเหตุการณ์ NVIDIA ร่วมกับ Cisco และ JFrog พัฒนา OpenShell ซึ่งเป็นรันไทม์ที่มีการตรวจสอบแบบเปิด ช่วยจำกัดการเข้าถึงทรัพยากรและบังคับใช้กฎเกณฑ์ที่กำหนดไว้ รวมถึงการสแกนและตรวจสอบความสามารถของ Agent เพื่อให้แน่ใจว่าการทำงานอยู่ภายใต้ขอบเขตที่กำหนด การทดสอบระบบต้องครอบคลุมทั้งการป้องกันการโจมตีที่ไม่คาดคิด เช่น การเปลี่ยนสิทธิ์หรือการแทรกแซงระบบ ซึ่งต้องทำซ้ำหลังจากอัปเดตโมเดลหรือเครื่องมือ เพื่อให้มั่นใจว่ามาตรการป้องกันยังคงมีประสิทธิภาพ ระบบนี้กำหนดขอบเขตการใช้งานที่ชัดเจน ควบคุมการเข้าถึงข้อมูล และบันทึกการตัดสินใจที่เกิดขึ้นเพื่อใช้ในการตรวจสอบภายหลัง ซึ่งช่วยลดความเสี่ยงจากการละเมิดข้อมูลหรือการใช้งานที่ไม่ได้รับอนุญาต
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว