Hacker News·
Anthropic เสนอแผนควบคุมการพัฒนา AI แบบมีความรับผิดชอบ หลังยืนยันความเสี่ยงจากเทคโนโลยีทรงพลัง
Dario Amodei ผู้บริหารบริษัท Anthropic ระบุในบทความว่า การพัฒนา AI ต้องดำเนินไปอย่างสมดุลระหว่างความปลอดภัยกับประโยชน์ โดยเสนอให้มีกฎหมายควบคุมบริษัทในสหรัฐฯ ที่ทำงานด้าน AI ขั้นสูง แผนงานมี 3 องค์ประกอบหลัก ได้แก่ 1) ระบบตรวจสอบภายนอกโดยทีมผู้เชี่ยวชาญ 2) การประสานงานระหว่างบริษัทเพื่อกำหนดมาตรฐานความปลอดภัยร่วมกัน 3) มาตรการรัฐบาลควบคุมข้อมูลอันตราย หลังจากที่ GARM องค์กรที่เคยทำงานร่วมกับหน่วยงานกำกับดูแล AI ถูกยุติในปี 2024 หลังมีข้อกล่าวหาการใช้อำนาจผิดกฎหมาย แผนนี้ต้องการให้บริษัททั้งหมดชะลอการพัฒนา AI ภายใต้การกำกับดูแลของรัฐ แม้จะเริ่มต้นด้วยการเสนอให้เป็นความร่วมมือโดยสมัครใจ แต่สุดท้ายต้องใช้กฎหมายบังคับใช้
AIAnthropicAI Safety
อ่านต่อ →