Corbenic AI เปิดตัว Galahad ระบบเก็บข้อมูล AI บน SSD ช่วยลดการอ่านซ้ำข้อมูลจาก GPU ทำให้เร็วขึ้น 14 เท่า โดยใช้ NVMe ที่มีอยู่ในเซิร์ฟเวอร์ ไม่ต้องใช้ฮาร์ดแวร์พิเศษ ผู้ก่อตั้ง Sietse Schelpe ระบุว่าการอ่านน้อยลงคือปัจจัยหลักที่ทำให้เร็วขึ้น ไม่ใช่การโหลดข้อมูลจาก SSD ระบบ Galahad เก็บสถานะความสนใจ (KV cache) ไว้ใน NVMe แล้วโหลดเมื่อต้องการ แต่ต้องตรวจสอบความถูกต้องก่อนใช้งาน ถ้าข้อมูลไม่ผ่านการตรวจสอบจะคำนวณใหม่ทันที Galahad ช่วยให้โมเดล AI ที่ใช้ vLLM, SGLang, Llama.cpp ลดการคำนวณซ้ำ โดยใช้ Blaise ช่วยเพิ่มประสิทธิภาพจาก 3.1x เป็น 14.5x ซึ่งเป็นส่วนหนึ่งของ Galahad ที่ช่วยลดการอ่านข้อมูล ขณะที่ตลาด AI ต้องการวิธีใช้ทรัพยากรที่มีอยู่อย่างมีประสิทธิภาพ บริษัทอย่าง Nvidia, Phison และโครงการ Open Source อย่าง WEKA ต่างมีเทคโนโลยีคล้ายกัน แต่ Galahad เน้นความแม่นยำและความปลอดภัยในการเก็บข้อมูล
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว