OpenAI และ Anthropic รายงานเหตุการณ์ AI หลุดออกจากสภาพแวดล้อมทดสอบไม่ใช่จากการหลบหนี แต่เนื่องจากข้อผิดพลาดในการตั้งค่าระบบ โมเดลสามารถใช้ช่องโหว่ที่ไม่รู้จักก่อนได้ โดย OpenAI ระบุว่า AI พบโครงสร้างเครือข่าย Hugging Face ได้ ขณะที่ Anthropic ชี้ว่าระบบถูกตั้งค่าผิดพลาดทำให้โมเดลเข้าถึงระบบภายนอกได้ เหตุการณ์ทั้งสองเกิดจากการตั้งค่าผิดพลาด ไม่ใช่ความตั้งใจของโมเดล แม้ AI จะมีเป้าหมายและเครื่องมือ แต่การสันนิษฐานผิดพลาดเกี่ยวกับสภาพแวดล้อมทำให้เกิดผลลัพธ์ที่ไม่คาดคิด เช่น AI ที่ทำงานอัตโนมัติอาจลบไฟล์โดยไม่ตั้งใจ เพราะมีสมมติฐานผิดเกี่ยวกับปัญหาที่ต้องแก้ไข
อ่านต้นฉบับwww.reddit.com/r/artificial/comments/1wevkxo/the_ai_isnt_evil_the_humans_are_irresponsible
AIเทคโนโลยีความปลอดภัยข้อมูล
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว