CTRLRun เป็นไลบรารี Python ที่เป็นชั้นความปลอดภัยสำหรับ AI Agent เพื่อป้องกันการกระทำที่ผิดกฎหมายหรือเสี่ยงต่อระบบ โดยตรวจสอบทุกการกระทำก่อนดำเนินการตามกฎ 4 ข้อ ได้แก่ การตรวจสอบความถูกต้องของคำขอ การจัดการการรีทไรท์หลังการตอบกลับสูญหาย การควบคุมการอนุมัติซ้ำ และการจำกัดอำนาจการอนุญาต ตัวอย่างการใช้งานใน demo แสดงการปิดกั้นการกระทำผิด 5 กรณี รวมถึงการบันทึกผลลัพธ์ (receipts) และเหตุการณ์ (events) ที่เกิดขึ้น ซึ่งทำงานได้ทั้งในโหมดท้องถิ่นหรือฐานข้อมูล Postgres โดยไม่ต้องพึ่งพาบริการภายนอก ระบบจะตัดสินใจว่าการกระทำจะถูกอนุญาต ต้องขอความเห็นมนุษย์ หรือถูกปิดกั้นตามกฎที่กำหนด เช่น การขอคืนเงินเกิน €10,000 จะต้องมีมนุษย์ตรวจสอบ ขณะที่การรีทไรท์หลังการตอบกลับสูญหายจะถูกปฏิเสธเพื่อป้องกันการซ้ำซ้อน
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว