Jack Clark ผู้ก่อตั้งบริษัท Anthropic ระบุว่า 'kill switch' ที่สามารถปิดระบบ AI ได้โดยผู้ตรวจสอบภายนอกอาจต้องเป็นข้อบังคับ หลังความกังวลเกี่ยวกับความเสี่ยงของ AI ทวีความรุนแรง ทั้งนี้ บริษัทหลายแห่งมีวิธีปิดระบบ AI อยู่แล้ว แต่กฎหมายอาจต้องบังค์ับให้ทำตาม ขณะที่รัฐบาลสหราชอาณาจักรปฏิเสธแนวคิดดังกล่าว ขณะที่สหรัฐมีร่างกฎหมาย 'Kill Switch Act' ที่ให้หน่วยงานรัฐควบคุม AI ที่มีปัญหา Clark ชี้การพัฒนา AI อย่างรวดเร็วและการขาดการควบคุมอาจนำไปสู่ความเสี่ยงที่ร้ายแรง ขณะที่นักวิจัยบางคนเชื่อว่า AI อาจควบคุมระบบสำคัญที่เชื่อมต่ออินเทอร์เน็ตและทำลายมนุษยชาติ อย่างไรก็ตาม ผู้เชี่ยวชาญบางคนโต้แย้งว่าความกังวลนี้อาจเกินจริงหรือใช้เพื่อสร้างความตื่นตระหนก ขณะที่บริษัท Anthropic กำลังเตรียมเสนอขายหุ้นในตลาดหุ้น หลังจากที่ OpenAI ยกเลิกแผนเดิมเนื่องจากข้อถกเถียงเกี่ยวกับความปลอดภัยของ AI
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว