Magic Actions for YouTube ซึ่งมีผู้ใช้งานกว่า 1 ล้านคน ถูกปิดโดยระบบตรวจจับมัลแวร์อัตโนมัติหลัง AI สร้างรายงานเท็จ ไฟล์ CRX ถูกส่งไปยัง VirusTotal โดย ExodiaLabs ซึ่งเป็น AI ที่ไม่ได้รับการตรวจสอบ สร้างข้อสรุปว่าไฟล์สร้างเมนูย่อยและส่งข้อมูลผู้ใช้ไปยัง api64.com ซึ่งเป็นข้อความเท็จ เนื่องจาก LLM สร้างการวิเคราะห์ที่ไม่ตรงกับพฤติกรรมจริงของ API ทำให้ Google Safe Browsing บล็อกไฟล์ทันที แม้ไฟล์จะถูกตรวจสอบจาก AV ทั้ง 60+ แพลตฟอร์มและได้รับการอนุมัติจาก CWS ทีม ปัญหานี้ส่งผลให้ผู้ใช้หลุดออกจากตัวอย่างและระบบอัตโนมัติของ Chrome ซึ่งตีความการยกเลิกเป็นการยืนยันว่ามีภัยคุกคาม ทีมพัฒนาได้รายงานปัญหาไปยัง Chromium Issue Tracker พร้อมโต้แย้งการรายงานของ ExodiaLabs และต้องการคำแนะนำจากชุมชนและทีม CWS เกี่ยวกับมาตรการป้องกัน AI Hallucination ที่จะส่งผลต่อการตรวจจับภัยคุกคามในอนาคต
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว