Cerebras เปิดตัวระบบประมวลผล AI บนชิปขนาดแผ่นวงจร (wafer-scale) รองรับโมเดล Kimi K3 ขนาด 3T พารามิเตอร์ ด้วยการแบ่งโมเดลออกเป็น 59 ชิป โดยแต่ละชิปมีหน่วยความจำ 44GB รองรับการประมวลผล 1,000-2,000 โทเคนต่อวินาที ชิปแต่ละชิปทำงานเป็นขั้นตอนแยกต่างหาก พร้อมรองรับคำขอหลายคำขอพร้อมกัน ระบบใช้การแบ่งงานแบบ pipeline ต่อเนื่อง พร้อมใช้ SRAM บนชิปเพื่อเพิ่มประสิทธิภาพการสื่อสารระหว่างชิปผ่าน RDMA ที่ใช้เวลาเพียง 2 ไมโครวินาทีต่อการกระโดด
AICerebraswafer-scaleKimi K3
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว