สถาบันเทคโนโลยีแมสซาชูเซตส์ (MIT) ระบุในรายงานปี 2023 ว่าความเสี่ยงจาก AI หลักอยู่ในขั้นตอนการทดลองภายในห้องปฏิบัติการ โดยเฉพาะการพัฒนาโมเดลที่ขาดกรอบการกำกับดูแล ซึ่งอาจส่งผลต่อความปลอดภัยทางเทคนิคและจริยธรรม เช่น ข้อมูลส่วนบุคคลรั่วไหลหรืออคติในอัลกอริทึม รายงานชี้ว่า 70% ของกรณีศึกษาที่วิเคราะห์พบว่าทีมวิจัยไม่ได้ทดสอบความปลอดภัยของโมเดลในระดับที่เพียงพอ แม้จะมีแนวทางการกำกับดูแลจากองค์กรต่างๆ อย่างไรก็ตาม MIT เสนอแนวทางแก้ไข เช่น การจัดตั้งทีมตรวจสอบความปลอดภัยภายในห้องปฏิบัติการ และการบังคับใช้มาตรฐานการทดสอบที่เป็นรูปธรรม การศึกษานี้ยังชี้ให้เห็นว่าความเสี่ยงจาก AI ไม่ได้เกิดขึ้นเฉพาะในขั้นตอนการใช้งานเชิงพาณิชย์ แต่เริ่มตั้งแต่การพัฒนาโมเดล ซึ่งอาจถูกมองข้ามเนื่องจากทีมวิจัยมุ่งเน้นที่การปรับปรุงประสิทธิภาพมากกว่าความปลอดภัย อย่างไรก็ตาม MIT ระบุว่าการสร้างกรอบการกำกับดูแลที่ชัดเจนในขั้นตอนการทดลองจะช่วยลดความเสี่ยงตั้งแต่ต้นทาง
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว