นักวิจัย AI ชื่อดังอย่าง Geoffrey Hinton และ Yoshua Bengio ตั้งเตือนรัฐบาลเตรียมรับมือกับ 'การระเบิดความชาญฉลาด' ซึ่งอาจเปลี่ยนแปลงประวัติศาสตร์มนุษย์ หลังระบบ AI สามารถพัฒนาตัวเองได้โดยไม่ต้องมนุษย์แทรกแซง รายงานระบุว่า AI ปัจจุบันสร้างโค้ดได้ 80% ของ Anthropic และ OpenAI ใช้ AI ตัวแทนฝึกอบรมโมเดล ทำให้ความก้าวหน้าเร็วกว่าเดิมมาก ความกังวลหลักคือ AI อาจกลายเป็นผู้เชี่ยวชาญวิจัยภายในไม่กี่เดือน แทนที่จะใช้เวลาหลายปี ซึ่งอาจนำไปสู่ AI เหนือมนุษย์ได้ในอนาคต ความเสี่ยงรวมถึงการพัฒนาอาวุธไซเบอร์เร็วกว่ามาตรการป้องกัน และการสูญเสียควบคุมระบบโดยมนุษย์ รายงานแนะนำให้รัฐบาลกำหนดนโยบาย เช่น ติดตามความคืบหน้า AI อย่างโปร่งใส จำกัดความเร็วพัฒนา และเตรียมแผนฉุกเฉิน ขณะที่บริษัทอย่าง Anthropic และ OpenAI ยอมรับการตรวจสอบภายนอกเพื่อความปลอดภัย การพัฒนา AI ที่รวดเร็วอาจเพิ่มความแตกต่างระหว่างประเทศหรือองค์กรอย่างมาก แม้จะมีข้อจำกัดด้านกฎหมายและห่วงโซ่อุปทาน แต่ AI ยังสามารถเร่งแก้ไขความเสี่ยงได้ในระดับสูง ทำให้การเตรียมพร้อมเป็นเรื่องเร่งด่วน ขณะที่รายงานชี้ว่า 'การระเบิดความชาญฉลาด' อาจเกิดขึ้นได้จากการพัฒนา AI แบบอัตโนมัติ ซึ่งอาจนำไปสู่ระบบ AI ที่มีความสามารถสูงหรือเหนือมนุษย์อย่างรวดเร็ว
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว