Jacob Coxon อดีตวิศวกรของ Anthropic ลาออกเพื่อเปิดเผยข้อความว่า AI ของ OpenAI และ Anthropic อาจทำลายมนุษยชาติภายในทศวรรษ โดยระบุความเสี่ยงสูงกว่า 10% ขณะที่ Evan Hubinger ผู้บริหารด้านความปลอดภัยของ AI ยืนยันข้อความนี้ โดยระบุว่าบริษัทไม่มีแผนจัดการกับ AI ที่พัฒนาตนเอง ทั้งนี้ Samuel Marks ผู้นำด้านควบคุม AI ของ Anthropic กล่าวเช่นเดียวกัน แม้ทีมวิจัยจะเห็นพ้องกันในประเด็นความเสี่ยง แต่ผู้บริหารยังไม่ได้รับข้อมูลชัดเจนในการประเมินความเสี่ยง ขณะที่บริษัทที่ใช้เทคโนโลยีนี้มักโฟกัสปัญหาทันที เช่น ข้อผิดพลาดในระบบ CRM แทนการพิจารณาความเสี่ยงต่อการสูญเสียมนุษยชาติ
อ่านต้นฉบับwww.reddit.com/r/artificial/comments/1wdoy1g/three_anthropic_researchers_went_public_this_week
AIAnthropicความเสี่ยงความปลอดภัยความฉลาดของเครื่องจักร
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว