OpenAI·
OpenAI แจ้งเตือนความเสี่ยง AI ที่พัฒนาเร็วเกินควบคุม หลังพัฒนาโมเดล Reasoning ได้แก้ปัญหาซับซ้อน
OpenAI รายงานความคืบหน้าของโมเดล Reasoning ที่สามารถสร้าง Chain of Thought ได้ในโครงการ RLSlow กลางปี 2023 ซึ่งเป็นจุดเริ่มต้นของการพัฒนา AI ที่สามารถแก้ปัญหาซับซ้อนได้ด้วยตนเอง ปัจจุบัน AI สามารถควบคุมระบบคอมพิวเตอร์ ทำงานร่วมกับมนุษย์ และทำวิจัยได้ พร้อมเปลี่ยนแปลงภูมิทัศน์ด้านความปลอดภัยไซเบอร์ ทั้งนี้ OpenAI คาดการณ์ว่าความก้าวหน้าจะเร่งตัวขึ้นเรื่อยๆ จนถึงขั้น Recursive Self-Improvement ซึ่งอาจทำให้ระบบ AI กลายเป็นอันตรายหากไม่มีการควบคุม ความก้าวหน้าขึ้นอยู่กับการเข้าถึง Compute ที่เพิ่มขึ้นเรื่อยๆ ทำให้ระบบมีความชาญฉลาดที่ซับซ้อนกว่ามนุษย์แม้ไม่จำเป็นต้องเก่งทุกด้าน
AIOpenAIRecursive Self-Improvement
อ่านต่อ →