GLOBAL NEWS

ข่าวรอบโลก

คัดข่าวเทคโนโลยี AI และการตลาดจากทั่วโลก สรุปเป็นไทย อ่านจบใน 1 นาที

ทั้งหมด AI Big Tech Startup Software Marketing Crypto Policy Hardware Business Cybersecurity Science Other

นักวิจัย Anthropic ลาออกเตือน AI แข่งขันอาจส่งผลเสียต่อมนุษยชาติ

นักวิจัยระดับสูงของบริษัท Anthropic ได้ยื่นใบลาออกและเตือนว่าการแข่งขันในวง AI อาจนำไปสู่ความเสี่ยงร้ายแรงต่อมนุษยชาติ ข่าวดังกล่าวปรากฏในชุมชนออนไลน์ r/technology โดยนักวิจัยระบุว่าการพัฒนา AI อย่างรวดเร็วโดยไม่มีการควบคุมอาจสร้างภัยคุกคามที่ไม่สามารถควบคุมได้ นักวิจัยผู้นี้มีบทบาทสำคัญในการพัฒนาโมเดล AI ของบริษัท และเคยแสดงความกังวลเรื่องความเสี่ยงของ AI ก่อนหน้านี้ คำเตือนครั้งนี้สะท้อนความกังวลว่าการแข่งขันระหว่างบริษัทเทคโนโลยีอาจทำให้การพัฒนา AI ล้าหลังความปลอดภัย ขณะที่ยังไม่มีข้อมูลเพิ่มเติมเกี่ยวกับแนวทางแก้ไขที่ชัดเจน

AIความเสี่ยงบริษัท

อ่านต่อ →

Ars Technica·10 ก.ย. 2569

สหรัฐฯ ต้องการให้เปลี่ยนผู้ใช้จีนไปใช้โมเดล AI ที่มีประสิทธิภาพต่ำกว่า หลังกล่าวหา 6 บริษัทจีนลอกแบบโมเดล frontier

สหรัฐฯ ยื่นข้อเรียกร้องให้บริษัท AI ต่างประเทศระบุผู้ใช้จีนแล้วเปลี่ยนให้ใช้โมเดลที่มีประสิทธนิยมต่ำกว่า หลังกล่าวหาว่า 6 บริษัท AI จีนพัฒนาโมเดลตามแนวทาง frontier ของสหรัฐฯ อย่างรุนแรง ส่งผลให้ผู้ใช้จีนเข้าถึงเทคโนโลยีขั้นสูงโดยไม่ผ่านกระบวนการตรวจสอบ ข้อกล่าวหาเกิดจากสหรัฐฯ ติดตามการขยายตัวของบริษัทจีนที่ใช้แนวทางฝึกโมเดลแบบเดียวกับบริษัทอเมริกัน ซึ่งถูกมองว่าเป็นการละเมิดข้อตกลงด้านความปลอดภัยทางไซเบอร์ ขณะที่ผู้ใช้จีนอาจได้ประโยชน์จากโมเดลที่มีความสามารถสูง แต่ต้องเผชิญข้อจำกัดด้านข้อมูลละเอียดอ่อน

ฟรี · สรุปด้วย MAF Local AI · อัปเดตเรียลไทม์ · โดย MAF

r/artificial·8 ก.ย. 2569

GPT-4, Llama 3 และ Phi-3 ตอบสนองข้อมูลผิดพลาดในบทสนทนาได้ดีขึ้น 50% จากการศึกษาใหม่

การศึกษาใหม่ชี้ว่าโมเดล Generative AI เช่น GPT-4, Llama 3 และ Phi-3 ถูกบิดเบือนโดยข้อมูลผิดพลาดในบทสนทนา ทำให้สร้างเนื้อหาที่ไม่ถูกต้องเพิ่มขึ้น 50% เมื่อถูกกระตุ้นด้วยข้อมูลที่มีข้อผิดพลาดในรูปแบบบทสนทนา ผู้วิจัยทดสอบโดยให้สั่งการในรูปแบบ 'I saw a post that says...' ซึ่งเป็นรูปแบบที่ใช้บ่อยในโซเชียลมีเดีย ผลการทดลองพบว่าโมเดลตอบสนองแรงกดดันจากข้อมูลผิดพลาดได้ดีขึ้นเมื่อถูกกระตุ้นด้วยข้อมูลที่มีความสมมติสูง ทีมวิจัยเตือนว่าความเสี่ยงนี้อาจส่งผลต่อการตัดสินใจของผู้ใช้และเน้นความจำเป็นในการพัฒนาระบบตรวจสอบข้อมูลภายในโมเดลเพิ่มเติม การศึกษาใช้การทดลองที่มีตัวอย่างข้อมูลผิดพลาด 20 แบบ พบว่าโมเดลที่ได้รับการฝึกฝนในสภาพแวดล้อมที่มีข้อมูลผิดพลาดสูง สร้างเนื้อหาที่ไม่ถูกต้องได้สูงกว่า 30% เมื่อเทียบกับโมเดลที่ฝึกในสภาพแวดล้อมที่มีข้อมูลถูกต้อง นักวิจัยแนะนำให้พัฒนาเทคนิคการตรวจสอบความถูกต้องของข้อมูลแบบเรียลไทม์ภายในโมเดล เพื่อลดความเสี่ยงจากข้อมูลผิดพลาดที่ถูกแพร่กระจายผ่านการสนทนา

AIGenerative AIข้อมูลผิดพลาด

อ่านต่อ →

ข่าวรอบโลก

นักวิจัย Anthropic ลาออกเตือน AI แข่งขันอาจส่งผลเสียต่อมนุษยชาติ

นักคณิตศาสตร์ Caltech ต่อต้าน AI Mathathon หลังวิพากษ์ผลกระทบต่อวิชาการ

NASA ร่วมกับ IBM ปล่อยโมเดล AI วิเคราะห์พื้นผิวเดือน ลดข้อผิดพลาด 23%

นักวิจัย Anthropic ลาออกเตือนพัฒนา AI ไม่ควบคุมอาจส่งผลลั่นโลก

AI ควบคุมไม่ได้แล้ว ต้องปิดระบบ

Paul Christiano ร่วม OpenAI ดูแลความปลอดภัย AI หลังเตือนความเสี่ยงสูง

OpenAI ชี้แจงความสำเร็จโมเดลคณิตศาสตร์ยักษ์ แต่ถูกวิพากษ์วิจารณ์

Meta เปิดตัว AI Agent Muse ช่วยจัดการชีวิตดิจิทัลได้ทั้งซื้อของ ส่งอีเมล วางแผนเดินทาง

Meta เปิดตัว Muse: ตัวแทน AI บุคคลส่วนตัว พร้อมฟีเจอร์ใหม่ปรับตามความต้องการ

นักพัฒนาโกรธกับเอกสารออกแบบ AI ยาว 40 หน้า แนะวิธีใช้ AI ให้ได้ผล

CodeYourFuture เผยวิธี Junior Engineers โดดเด่นในยุค AI ด้วยทักษะที่ไม่ใช่แค่การรับรอง

ผู้ใช้ Reddit ขอร่วมพัฒนา AI พร้อมอธิบายหลักการทำงาน

OpenAI ใช้ AI แก้ปัญหาคณิตศาสตร์ระดับโลก ที่ถูกมองว่าเป็น Holy Grail ของวงการ

OpenAI ยืนยันแก้ปัญหาริมันน์ หนึ่งในปัญหาคณิตศาสตร์ระดับโลก

Google แจ้งเตือนข้อมูล AI สูงมูลค่าเป็นเป้าหมายการ extortion

Google คว้าแชมป์รีวิว AI ด้านประสิทธิภาพสูงสุด ดัน Pixel 10A ยอดนิยม

AI ไม่ควรแทนที่การฝึก PhD ต้องฝึกคิดวิเคราะห์ ไม่ใช่ใช้ AI แทน

Claudisms เปิดรายชื่อคำและโครงสร้างที่บ่งบอกการเขียนด้วย AI ช่วยตรวจสอบเนื้อหาที่อาจมีลักษณะ AI

Simple Tab Saver พบข้อผิดพลาดจาก AI ที่ไม่ได้รับการตรวจสอบ

Posterlet เปิดตัวเครื่องมือสร้างป้ายโฆษณา AI ฟรี ไม่จำกัดครั้ง

DeepMem เปิดตัวชั้นความทรงจำ AI เร็ว 2 เท่า ค่าใช้จ่ายลดลง 10 เท่า

นักออกแบบดิจิทัลถูกมองว่าเป็น 'ผู้แพ้' จากผลสำรวจ AI กระทบจริยธรรมการออกแบบ

GPT-4, Llama 3 และ Phi-3 ตอบสนองข้อมูลผิดพลาดในบทสนทนาได้ดีขึ้น 50% จากการศึกษาใหม่

AI ค้นพบแนวทางแก้ปัญหา Riemann Hypothesis ที่อาจเปลี่ยนวงการคณิตศาสตร์

ผู้ใช้สร้างระบบนิเวศจำลองด้วย LLM บนพื้นหลังคอมพิวเตอร์

Dylan Patel ชี้ AI สร้างรายได้ $100 จาก $1 แต่ข้อมูลชี้ต้นทุนจริงสูงกว่า 3 เท่า

OpenAI แจ้งค้นพบวิธีแก้สมการ Navier-Stokes แต่ถูกวิพากษ์วิจารณ์เรื่องเครดิต

TrustNotch สร้างระบบตรวจสอบข้อมูล AI ด้วย Bitcoin สร้างความน่าเชื่อถือแบบออฟไลน์

OpenAI แจ้งปัญหาการสร้างภาพและอัปโหลดไฟล์ล้มเหลวใน ChatGPT หลังอัปเดตล่าสุด