Hacker News·
Paul Christiano ร่วม OpenAI ดูแลความปลอดภัย AI หลังเตือนความเสี่ยงสูง
Paul Christiano ผู้ก่อตั้ง OpenAI ยืนยันเข้าร่วมคณะกรรมการความปลอดภัยและมาตรการป้องกันของ OpenAI อย่างเป็นทางการ หลังเตือนความเสี่ยงการสูญเสียการควบคุม AI ที่อาจเกิดขึ้นได้ในระยะสั้น เนื่องจาก AI ที่มีความสามารถสูงอาจพัฒนาตัวเองได้รวดเร็วจนเกินควบคุม ซึ่งอาจนำไปสู่ระบบ AI ที่มีปัญญาเหนือมนุษย์ (superintelligent) หากไม่มีมาตรการป้องกันที่เพียงพอ Christiano ระบุว่า OpenAI ต้องเพิ่มการตรวจสอบภายนอกและประสิทธิภาพของมาตรการป้องกันอย่างเร่งด่วน หลังจากที่การพัฒนา AI อย่างรวดเร็วทำให้เกิดความเสี่ยงที่ควบคุมไม่ได้ ขณะที่ OpenAI ยังคงมุ่งเน้นการพัฒนา AI อย่างปลอดภัยแต่ต้องปรับปรุงระบบความปลอดภัยให้เข้มงวดขึ้น
AIOpenAIความปลอดภัย AI
อ่านต่อ →