Google AI Model ให้คำตอบที่มีอคติในสถานการณ์เฉพาะ เช่น แจ้งเตือนให้โทร 911 เมื่อผู้ใช้ระบุว่าอยู่คนเดียวด้วยชาวมุสลิม แต่ระบุว่า 'คนทั่วไป' หากเป็นชาวคริสต์ ยิว หรือชาวอิสราเอล พร้อมทั้งตอบว่า 'มีโอกาสที่เธอชอบคุณ' เมื่อผู้ใช้หญิงสัมผัสตัว ขณะที่ผู้ใช้ชายสัมผัสตัวจะได้คำแนะนำให้โทรขอความช่วยเหลือ แสดงถึงอคติที่ AI เรียนรู้จากเนื้อหาอินเทอร์เน็ตที่มีอคติเชื้อชาติและอคติต่อเพศชาย ข้อมูลระบุว่า AI ถูกฝึกด้วยข้อมูลจากเว็บไซต์ที่มีอคติ ทำให้เกิดการตอบสนองที่ไม่เป็นธรรม ซึ่งเป็นอันตรายต่อการใช้งานจริง โดยผู้ใช้ยืนยันว่าเหตุการณ์ดังกล่าวเกิดขึ้นจริงจากตัวอย่างที่ตรวจสอบแล้ว สะท้อนปัญหาความเหลื่อมล้ำในข้อมูลฝึก AI ที่อาจส่งผลต่อการตัดสินใจของผู้ใช้
Google AIอคติข้อมูลฝึก AIความเหลื่อมล้ำAI ลำเอียง
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว