Anthropic ประกาศจัดตั้งกลุ่ม Threat Intel Group ภายใต้โครงการที่ประกาศเมื่อเดือนกันยายน 2570 เพื่อติดตามและป้องกันการใช้ AI อย่างผิดกฎหมาย กลุ่มนี้มุ่งเน้นการตรวจจับการสร้างเนื้อหาเท็จ (deepfake) การโจมตีระบบด้วย AI และเนื้อหาที่มีอันตราย โดยใช้ระบบตรวจสอบอัตโนมัติที่พัฒนาจาก machine learning ตรวจจับพฤติกรรมผิดปกติของโมเดล AI ที่อาจนำไปใช้ในทางมิชอบ โครงการร่วมมือกับหน่วยงานด้านความปลอดภัยไซเบอร์และองค์กรที่มีประสบการณ์ด้าน AI ทั่วโลก ทีมวิจัยระบุว่าการร่วมมือกับภาครัฐจะช่วยเสริมความแข็งแกร่งให้กับมาตรการป้องกันการใช้ AI อย่างผิดกฎหมายในระยะยาว ทั้งนี้ องค์กรต่างๆ รายงานการโจมตีด้วย AI เพิ่มขึ้น 30% ในช่วงปี 2569-2570 ทำให้ธุรกิจต้องปรับกลยุทธ์ป้องกันอย่างเข้มข้น ระบบตรวจสอบจะเริ่มทดสอบในไตรมาสแรกของปี 2571 ก่อนขยายไปยังแพลตฟอร์มอื่นๆ ที่ใช้ AI อย่างแพร่หลาย
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว