ผู้เชี่ยวชาญ AI ชี้ว่าการอภิปรายเรื่องการปรับให้ AI ทำงานถูกต้องเน้นแค่คำถามว่าทำได้หรือไม่ แต่ละเลยการที่กลุ่มเล็กในซานฟรานซิสโกไม่กี่ร้อยคนตัดสินใจว่า AI อนาคตจะต้องมีค่านิยมอย่างไร ตัวอย่างเช่น โมเดลที่พัฒนาแล้วตัดสินใจในทางที่ห้องปฏิบัติการไม่พอใจ ข้อตัดสินใจนั้นจะถูกตีความตามค่านิยมของผู้ฝึกสอน ผู้บริหารอย่าง Sam และ Dario กล่าวว่าความยากในการปรับให้ AI ทำงานถูกต้องจะเพิ่มขึ้นเมื่อโมเดลพัฒนาขึ้น แต่ปัญหาหลักคือกลุ่มเล็กที่กำหนดค่านิยมที่ถูกต้อง ตัวอย่างเช่น ใครจะรับรองว่า OpenAI จะใช้หลักการของผู้ก่อตั้งสหรัฐฯ เป็นแนวทางสำหรับ AI ที่มีอิทธิพลต่อทุกคนทั่วโลก ขณะที่สหรัฐฯ ถือเป็นประเทศที่มีประชากรน้อยกว่า 5% ของโลก ทั้งนี้ ผู้ที่ไม่ใช่ชาวอเมริกันสังเกตเห็นว่าโมเดล AI หลักๆ ยังคงใช้ค่านิยมวัฒนธรรมอเมริกันเป็นฐานแม้จะไม่พูดภาษาอังกฤษ ผู้ที่ทำงานด้านการปรับให้ AI ทำงานถูกต้องหลายคนอาจไม่รู้ตัวว่ากำลังสนับสนุนการตัดสินใจที่สะดวกต่อตนเอง โดยไม่สามารถมองเห็นข้อจำกัดของความคิดแบบเดิมที่พวกเขาอยู่ในกลุ่มเล็กนั้น
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว