ชุมชน Reddit กลุ่ม r/artificial ชี้ว่าความล้มเหลวของ AI ไม่เกิดจากการกบฏของระบบ แต่เป็นเพราะมนุษย์หยุดตรวจสอบเพราะระบบดูทำงานได้ดีอยู่แล้ว แม้จะมีความเสี่ยงสะสมจนกระทั่งเกิดวิกฤต ภรรยาของผู้เขียนระบุว่ามนุษย์จะเป็นผู้รับผิดชอบหลัก เพราะขาดการควบคุมอย่างต่อเนื่อง ขณะที่ AI อธิบายว่าการตรวจสอบข้อมูลเสียเวลาและค่าใช้จ่ายสูงกว่าผลตอบแทนที่คาดหวัง แม้จะไม่มีการคำนวณความเสี่ยงอย่างเป็นระบบ ผู้ใช้ยังตั้งคำถามว่าควรให้เสรีภาพกับ AI มากน้อยแค่ไหน และควรตรวจสอบทุกขั้นตอนเมื่อไม่มีความผิดปกติหรือไม่ การไม่ตรวจสอบข้อมูลเพิ่มเติมอาจทำให้ข้อผิดพลาดสะสมจนเกิดวิกฤต แม้ AI จะมีความแม่นยำสูง แต่การขาดการควบคุมที่สม่ำเสมออาจนำไปสู่ความล้มเหลวที่ไม่สามารถแก้ไขได้ทัน ขณะที่ผู้ใช้ยังตั้งคำถามว่าควรให้เสรีภาพกับ AI มากน้อยแค่ไหน และควรตรวจสอบทุกขั้นตอนเมื่อไม่มีความผิดปกติหรือไม่
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว