ซีอีโอ Telegram กล่าวว่าผู้คุกคามใช้ AI ปลูกฝัง CSAM ในแชทเพื่อให้แอปถูกตัดออกจาก App Store

ซีอีโอ Telegram ปะเวล ดูโรฟ กล่าวว่าผู้คุกคามใช้ AI แก้ไขข้อความเก่าในกลุ่มสาธารณะเพื่อปลูกฝังเนื้อหาผิดกฎหมาย ทำให้ Apple ตัดแอปออกจากระบบ App Store ชั่วคราวโดยไม่แจ้งเตือน Telegram ก่อน สร้างความเสี่ยงระบบสำหรับแอปที่มีเนื้อหาผู้ใช้สร้าง ดูโรฟอธิบายว่าผู้โจมตีใช้บัญชีอัตโนมัติปลูกฝังเนื้อหาผิดกฎหมายในกลุ่มสาธารณะ แล้วรายงานตรงไปยัง Apple เพื่อให้แอปถูกตัดออก แม้ Telegram มีระบบตรวจสอบเนื้อหาอย่างเข้มงวด แต่ผู้โจมตีต้องใช้เทคนิคซ่อนเนื้อหาจากกลุ่มสมาชิก เหตุการณ์นี้สะท้อนว่าผู้โจมตีและ Apple อาจตอบสนองเกินจริง ขณะที่ Telegram ยังคงดำเนินการป้องกันชุมชนออนไลน์ แม้จะเสี่ยงถูกตัดออกจาก App Store ชั่วคราว

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว