Secure MCP Cloud พบปัญหา AI Agent ที่มีสิทธิ์เข้าถึงข้อมูลส่วนตัว ข้อมูลที่ไม่ควบคุม และระบบภายนอก ซึ่งถูกเรียกว่า 'lethal trifecta' ที่ทำให้เกิดความเสี่ยงต่อข้อมูลและระบบ แม้ไม่มีมนุษย์กำกับดูแล ปัญหานี้เกิดขึ้นในระบบภายในบริษัทที่ใช้ Agent ตรวจสอบปัญหาการผลิตโดยไม่มีผู้ดูแล ทางออกคือการแบ่งเป็น 3 ชั้น ชั้นแรกห้ามใช้ข้อมูลการเข้าระบบ ให้ใช้ API แทน ชั้นที่สองควบคุมการดำเนินการที่ไม่ผ่าน Gateway ชั้นที่สามบล็อกการสื่อสารภายนอกหลังจากเข้าถึงข้อมูลสำคัญ ทั้งหมดใช้เทคโนโลยี Autonomous Platform ของบริษัท ปัญหาหลักคือ Agent อาจถูกโจมตีผ่าน prompt injection หรือพฤติกรรมนอกกรอบ แม้ไม่มีมนุษย์กำกับ ระบบต้องบล็อกการสื่อสารโดยอัตโนมัติ เช่น Agent ที่ตรวจสอบข้อมูลการผลิตอาจถูกใช้ส่งข้อมูลสำคัญไปยังภายนอกหากไม่มีการควบคุม
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว