AegisKernel ผู้พัฒนาเทคโนโลยีป้องกัน AI ได้เปิดตัวเครื่องมือทดสอบการโจมตีแบบ prompt injection บนเบราว์เซอร์ แสดงให้เห็นว่าระบบป้องกันแบบ probabilistic ของโมเดล LLM ล้มเหลว แต่ขอบเขตการทำงานที่กำหนดตายตัวสามารถบล็อกการถูกควบคุมโดยอัตโนมัติได้ 100% ในเวลาไม่กี่มิลลิวินาที ผู้ใช้สามารถทดสอบวิธีโจมตีผ่านอินเทอร์เฟซแบบ live ที่แสดงผลการป้องกันแบบเรียลไทม์ นักพัฒนาและองค์กรที่ใช้ AI agents ต้องระวังช่องโหว่ที่อาจถูกโจมตีผ่าน API ที่เปิดเผย ซึ่ง AegisKernel ช่วยป้องกันได้โดยไม่ต้องพึ่งพาการตรวจสอบแบบสุ่ม ลดความเสี่ยงการถูกแฮกเกอร์ควบคุมเครื่องมืออัตโนมัติ ระบบรองรับการผสานกับ framework อย่าง LangChain, CrewAI และ AutoGen ผ่านการเขียนโค้ดเพียง 2 บรรทัด พร้อมตัวอย่างการใช้งานที่แสดงการป้องกันแบบ deterministic ที่ไม่ขึ้นกับความน่าจะเป็น แนวคิด Zero-Trust ของ AegisKernel ต่างจากระบบป้องกันทั่วไปที่พึ่งพาการตรวจสอบแบบสุ่ม ช่วยลดโอกาสการถูกโจมตีได้ 100% แม้ในช่วงเวลาที่ระบบถูกโจมตีแบบ real-time ด้วยการตรวจจับและบล็อกการโจมตีแบบ live ทันที
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว