Nvidia 3000 Series GPU ปลดล็อก FP/BF16 ด้วยโมดูล Linux ทำให้ความเร็วเพิ่ม 2 เท่า

นักพัฒนาสร้างโมดูล Linux kernel ปลดล็อกอัตราการส่งคำสั่ง FP/BF16 บน Nvidia 3000 series ทำให้ความเร็วคำนวณ FMA กลายเป็น FP32 เพิ่มขึ้น 2 เท่า สำหรับการ์ด GA102/GA103/GA104/GA106 โดยใช้เทคนิค V67/PLM ร่วมกับการตั้งค่า UEFI ไม่ต้องแก้ไขไดรเวอร์ทุกเวอร์ชัน ผู้ใช้รายงานผลการทดสอบ GEMM ความหนาแน่น 8192³ ที่ 450 W แสดงการเพิ่มประสิทธิภาพ 25-36% สำหรับงาน LLM prefill ความเร็ว FlashAttention และ diffusion แต่ไม่ส่งผลต่อ LLM decode หรืองาน INT8 ที่ขึ้นกับความเร็วหน่วยความจำ

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว