Anthropic ยืนยันปิดกั้นการใช้โมเดล AI 5 กรณีที่อาจสนับสนุนการพัฒนาอาวุธชีวภาพและอาวุธดัดแปลง หลังตรวจพบการใช้งานในแคมเปญแฮ็กข้อมูลรัสเซีย สถาบันการเมืองอิหร่าน และกลุ่มอาชญากรรมทั่วโลก ระหว่างเดือนธ.ค. 2325-ส.ค. 2326 รายงานระบุว่าโมเดล Claude Haiku, Sonnet, Opus ถูกใช้สร้างซอฟต์แวร์อาวุธดัดแปลง ระบบควบคุม และเป้าหมาย รวมถึงการพัฒนาวัคซีนหรือการรักษาโรคบางกรณี บริษัทระบุว่าหยุดการใช้งานโมเดลที่เกี่ยวข้องกับอาวุธชีวภาพ 5 กรณี และร่วมมือกับหน่วยงานรัฐป้องกันภัยในอนาคต นักวิจัยเตือนถึงความเสี่ยงของ AI ที่อาจส่งผลกระทบต่อมนุษยชาติ หลัง OpenAI ขอให้ชะลอพัฒนา AI ชั่วคราว
AIอาวุธชีวภาพAnthropicความปลอดภัยไซเบอร์การเมืองระหว่างประเทศ
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว