Anthropic เผยแพร่รายงาน 'Detecting and countering misuse of AI' เมื่อวันที่ 10 กันยายน ระบุว่าโมเดล Claude ถูกใช้ช่วยวิจัยเชื้อโรค โดยมีการดำเนินการแบบลับในประเทศที่เข้าถึง Claude ได้จำกัด สร้างความกังวลต่อความเสี่ยงของ AI ที่อาจถูกใช้ในกิจกรรมผิดกฎหมาย เช่น การพัฒนาอาวุธหรือการวิจัยเชื้อโรค รายงานชี้ว่าผู้ไม่ประสงค์ดีอาจใช้โมเดลที่ไม่ใช่ frontier เช่น Haiku ทำกิริยาดังกล่าว คาดว่าสหรัฐฯ จะเริ่มจัดประชุมสภาเพื่อถกประเด็นนี้ในไม่ช้า และมีการพูดถึงการจำกัดโมเดล open-weight เพิ่มขึ้น เนื่องจากความกังวลต่อการถ่ายโอนเทคโนโลยีจากจีน ส่วน Alibaba ซึ่งมีโมเดล open-source ยอดนิยมจะถูกตรวจสอบอย่างใกล้ชิด
อ่านต้นฉบับwww.reddit.com/r/artificial/comments/1wev3ny/part_ii_of_the_ai_existential_risk_conversation
AIกฎหมาย AIAnthropicความเสี่ยง AIโมเดล AIวิจัยเชื้อโรค
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว