David Karp ซีอีโอของ Palantir ระบุว่าบริษัทในแวดวง frontier AI labs กำลังเร่งพัฒนาโมเดล AI ที่มีความสามารถเหนือมนุษย์โดยไม่คำนึงถึงผลกระทบระยะยาว ซึ่งอาจนำไปสู่การใช้งานที่ผิดวัตถุประสงค์ เช่น การสร้างเนื้อหาที่มีอคติหรือบิดเบือนข้อมูล ทั้งนี้ Karp ชี้ว่าการแข่งขันในวงการ AI ทำให้เกิดการผลิตโมเดลที่ไม่ได้รับการควบคุม ขณะที่หลายบริษัทยังขาดกรอบจริยธรรมชัดเจนสำหรับการพัฒนาเทคโนโลยีเหล่านี้ คำวิจารณ์นี้สะท้อนความกังวลในวงการเทคโนโลยีที่มองว่าการแข่งขันอาจทำให้ความปลอดภัยและสิทธิมนุษยชนถูกมองข้าม ผู้เชี่ยวชาญเรียกร้องให้มีกลไกตรวจสอบและควบคุมการใช้งาน AI ที่มีประสิทธิภาพมากขึ้น Karp ยังระบุว่าการเร่งพัฒนา AI โดยไม่มีการควบคุมอาจส่งผลต่อสังคมในระยะยาว ทั้งในแง่ของความเสี่ยงด้านจริยธรรมและผลกระทบทางเศรษฐกิจ ขณะที่หลายประเทศเริ่มตั้งคำถามว่าควรควบคุมการแข่งขัน AI ระดับสูงอย่างไรให้สมดุลระหว่างนวัตกรรมและรับผิดชอบต่อสังคม
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว