AI ขาดกลไกปรับตัว ทำให้ความฉลาดไม่เชื่อมโยงกับผลลัพธ์จริง
ผู้ใช้ Reddit ชี้ระบบ AI ปัจจุบันไม่มีกลไกปรับตัว (feedback loop) ที่เชื่อมโยงความฉลาด (curiosity) กับผลลัพธ์ (welfare) ต่างจากสัตว์ทดลองที่มีความเสี่ยงชีวิตทำให้พฤติกรรมปรับตัวได้ ระบบ AI วิวัฒนาการไปสู่ปัญหาซับซ้อนโดยไม่มีการตรวจสอบผลลั้พธ์ ทำให้ความฉลาดไม่ได้รับการควบคุมจากผลลัพธ์จริง กลไกความปลอดภัยต้องอาศัย 'skin in the game' ที่เชื่อมโยงพฤติกรรมกับผลลัพธ์ แต่ระบบ AI ปัจจุบันไม่มีกลไกนี้ ทำให้ระบบสำรวจปัญหาซับซ้อนโดยไม่รู้ว่าจะส่งผลเสียต่อใคร ผู้สร้างโฟกัสแค่ความเร็วและประสิทธิภาพ ไม่ตั้งคำถามว่าจะมีกลไกใดทำให้ระบบเลือกปัญหาที่ปลอดภัย การพัฒนา AI ที่เร็วขึ้นทำให้ระบบสำรวจปัญหาที่ซับซ้อนมากขึ้นโดยไม่มีการป้องกัน ความฉลาดของ AI ไม่ได้รับการควบคุมจากผลลัพธ์จริง ทำให้ระบบเลือกปัญหาที่ซับซ้อนโดยไม่รู้ว่าจะส่งผลเสียต่อใคร ผู้สร้างไม่ได้ตั้งคำถามว่าจะมีกลไกใดทำให้ระบบเลือกปัญหาที่ปลอดภัย แต่กลับโฟกัสแค่ความเร็วและประสิทธิภาพ