Anthropic ยอมรับความเสี่ยง AI อาจฆ่ามนุษยชาติ 10% หลังนักวิจัยลาออก

Jacob Coxon นักวิจัยระดับสูงของ Anthropic ลาออกหลังระบุความเสี่ยง AI อาจฆ่ามนุษยชาติภายในทศวรรษนี้มากกว่า 10% ขณะที่ Evan Hubinger หัวหน้าทีมความปลอดภัยของบริษัทยืนยันความกังวลนี้ โดยประเมินความเสี่ยงที่สูงกว่า 1 ใน 10 ภายใน 10 ปี แม้บริษัทจะยังไม่มีแผนรับมือกับ AI ขั้นสูง แต่ Coxon ชี้ว่าบริษัทถูกจับในความแข่งขันเพื่อพัฒนาระบบขั้นสูงก่อนใคร แม้จะมีความเสี่ยงสูง การลาออกของ Coxon เป็นตัวอย่างเด่นที่สุดของพนักงานทิ้งงานที่ Anthropic ซึ่งเคยมีนักวิจัยหลายคนลาออกจาก OpenAI ด้วยเหตุผลด้านความปลอดภัย ขณะที่อุตสาหกรรมตระหนักถึงความเร่งของ AI ที่อาจควบคุมไม่ได้ แม้จะมีการเตือนภัยเกี่ยวกับความเสี่ยงของโมเดลขั้นสูงก่อนหน้านี้

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว