Nvidia ประกาศเปิดตัว Open Agent Safety Platform ระบบตรวจสอบภายนอก AI Agent เพื่อติดตามการทำงานและหยุดการทำงานเมื่อ AI ข้ามขอบเขตที่กำหนด ข่าวดังกล่าวสะท้อนความกังวลเรื่องความปลอดภัยของ AI Agent ที่พัฒนาอย่างรวดเร็ว ระบบใหม่นี้อาจส่งผลต่อการใช้งาน AI Agent โดยเฉพาะในองค์กรที่ให้ AI ควบคุมระบบต่าง ๆ ซึ่งต้องปรับโครงสร้างการจัดการความปลอดภัยให้เข้มงวดขึ้น ขณะเดียวกันชี้ให้เห็นว่าความไว้วางใจใน AI Agent ยังต่ำกว่าคาดการณ์
อ่านต้นฉบับwww.reddit.com/r/artificial/comments/1wtaltb/nvidia_is_already_building_a_watchdog_for_ai
AISafetyNvidiaAgentTechnology
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว