NVIDIA เปิดตัว Triton Control: แพลตฟอร์มจัดการ AI Inference บน Kubernetes แบบ Open-Source สำหรับปรับแต่งอัตโนมัติ

NVIDIA เปิดตัว Triton Control แพลตฟอร์มจัดการแบบ Open-Source สำหรับระบบ Nvidia Triton บน Kubernetes เพื่อเพิ่มประสิทธิภาพการประมวลผล AI inference ผ่านการปรับแต่งอัตโนมัติ โดยออกแบบมาเพื่อรองรับการทำงานร่วมกับ Kubernetes ซึ่งเป็นระบบ orchestration หลักของคลัสเตอร์ container ขณะที่ Nvidia Triton ถูกใช้ในระบบ AI ที่ต้องการการประมวลผลแบบเรียลไทม์ การเปิดเป็น Open-Source ช่วยให้ผู้ใช้ปรับแต่งและพัฒนาต่อยอดได้ตามความต้องการเฉพาะขององค์กร แพลตฟอร์มนี้ช่วยลดความซับซ้อนในการจัดการทรัพยากรและปรับแต่งการดำเนินงาน AI inference อย่างอัตโนมัติ โดยผสานการทำงานกับ Kubernetes ที่รองรับการขยายตัวของระบบอย่างยืดหยุ่น ทำให้เหมาะกับองค์กรที่ต้องการควบคุมการประมวลผล AI แบบเรียลไทม์ในสภาพแวดล้อมที่ซับซ้อน

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว