OpenAI กำลังพัฒนาชิป Jalapeño ที่มีกำลังประมวลผล 1.7 exaFLOPS และหน่วยความจำ HBM 27 TB เพื่อเพิ่มประสิทธิภาพการประมวลผล AI ในขั้นตอน inference ซึ่งเป็นขั้นตอนสำคัญในการใช้งานโมเดลขนาดใหญ่ ชิปนี้ออกแบบมาเพื่อแก้ปัญหาการประมวลผลข้อมูลขนาดใหญ่และลดข้อจำกัดด้านหน่วยความจำ แม้ OpenAI จะยังไม่เปิดเผยรายละเอียดการใช้งานหรือเวลาเปิดตัวอย่างเป็นทางการ แต่ข้อมูลระบุว่าชิปนี้อาจให้ข้อได้เปรียบเหนือชิป Blackwell และ Rubin ของคู่แข่ง ชิป Jalapeño จะใช้ชิป 128 ชิ้นร่วมกัน ซึ่งช่วยเพิ่มประสิทธิภาพการประมวลผลข้อมูลที่ซับซ้อน พร้อมทั้งรองรับการใช้งานโมเดล AI ที่ต้องการทรัพยากรสูง โดย HBM 27 TB ที่มีความจุสูงจะช่วยลดการขัดข้องจากข้อมูลขนาดใหญ่ ทั้งนี้ OpenAI เน้นว่าชิปนี้มีเป้าหมายเพื่อพัฒนาการประมวลผล inference ให้เร็วขึ้น ซึ่งเป็นขั้นตอนหลักในการใช้งาน AI ที่ต้องการการตอบสนองทันที
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว