Anthropic ปิดกั้นการใช้ Claude หลังพบการโจมตีเพื่อวิจัยอาวุธชีวภาพ

บริษัท AI ชื่อ Anthropic ยืนยันปิดกั้นการใช้งานโมเดล Claude หลังตรวจพบกลุ่มสนับสนุนรัฐพยายามเข้าถึงระบบผ่าน API ด้วยวิธีการผิดกฎหมาย ซึ่งถูกบล็อกโดยระบบตรวจสอบอัตโนมัติ กรณีนี้เป็นครั้งแรกที่เปิดเผยการปิดกั้น AI ด้วยเหตุผลด้านความปลอดภัย บริษัทระบุว่ามาตรการป้องกันนี้มีมาตั้งแต่เริ่มพัฒนาโมเดล รวมถึงการตรวจสอบแหล่งที่มาของคำขอและข้อจำกัดการใช้งาน ประเด็นการใช้ AI ในการวิจัยอาวุธชีวภาพถูกวิพากษ์วิจารณ์อย่างกว้างขวาง โดยองค์กรต่าง ๆ เรียกร้องให้บริษัทเทคโนโลยีมีมาตรการรับมืออย่างมีความรับผิดชอบ ขณะนี้ Anthropic ยังไม่เปิดเผยรายละเอียดเพิ่มเติม

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว