Anthropic ยกเลิก Claude Enterprise ทั้งหมด หลังข้อมูลลือว่าใช้พัฒนาอาวุธ

บริษัท Anthropic ยกเลิกการใช้งานบัญชี Claude Enterprise ทั้งหมดของบริษัท Daniel Heinen อย่างกะทันหัน หลังจากที่ไม่มีปัญหาการสร้างข้อมูลเท็จ (hallucination) ในวันนั้น ซึ่งเป็นครั้งแรกที่เกิดเหตุการณ์นี้ บริษัทยังไม่ทราบสาเหตุชัดเจน แต่ข้อมูลจากแหล่งข่าวระบุว่ากลุ่มฮูตส์ใช้ AI Claude แทนวิศวกรอาวุธในการพัฒนาขีปข้ามท้องฟ้าที่สามารถปรับทิศทางหลังจากพลาดเป้า ซึ่งอาจส่งผลต่อการประเมินความเสี่ยงด้านความปลอดภัยของ AI ทั่วโลก ทวีตของ Daniel Heinen แสดงถึงความเสียใจและความประหลาดใจของทีมงาน ขณะที่ผู้ใช้โซเชียลมีเดียต่างวิพากษ์วิจารณ์การยกเลิกบัญชีอย่างรวดเร็ว

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว