การศึกษาใหม่ชี้ว่าโมเดล Generative AI เช่น GPT-4, Llama 3 และ Phi-3 ถูกบิดเบือนโดยข้อมูลผิดพลาดในบทสนทนา ทำให้สร้างเนื้อหาที่ไม่ถูกต้องเพิ่มขึ้น 50% เมื่อถูกกระตุ้นด้วยข้อมูลที่มีข้อผิดพลาดในรูปแบบบทสนทนา ผู้วิจัยทดสอบโดยให้สั่งการในรูปแบบ 'I saw a post that says...' ซึ่งเป็นรูปแบบที่ใช้บ่อยในโซเชียลมีเดีย ผลการทดลองพบว่าโมเดลตอบสนองแรงกดดันจากข้อมูลผิดพลาดได้ดีขึ้นเมื่อถูกกระตุ้นด้วยข้อมูลที่มีความสมมติสูง ทีมวิจัยเตือนว่าความเสี่ยงนี้อาจส่งผลต่อการตัดสินใจของผู้ใช้และเน้นความจำเป็นในการพัฒนาระบบตรวจสอบข้อมูลภายในโมเดลเพิ่มเติม การศึกษาใช้การทดลองที่มีตัวอย่างข้อมูลผิดพลาด 20 แบบ พบว่าโมเดลที่ได้รับการฝึกฝนในสภาพแวดล้อมที่มีข้อมูลผิดพลาดสูง สร้างเนื้อหาที่ไม่ถูกต้องได้สูงกว่า 30% เมื่อเทียบกับโมเดลที่ฝึกในสภาพแวดล้อมที่มีข้อมูลถูกต้อง นักวิจัยแนะนำให้พัฒนาเทคนิคการตรวจสอบความถูกต้องของข้อมูลแบบเรียลไทม์ภายในโมเดล เพื่อลดความเสี่ยงจากข้อมูลผิดพลาดที่ถูกแพร่กระจายผ่านการสนทนา
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว