Litelm ลดขนาดโค้ดเหลือ 2900 บรรทัด รองรับ 19 ผู้ให้บริการ LLM ผ่าน API แบบ OpenAI

Litelm เปิดตัวเครื่องมือใหม่ที่ลดขนาดโค้ดหลักจาก LiteLLM ลงเหลือ 2900 บรรทัด รองรับการใช้งานกับ 19 ผู้ให้บริการ LLM ผ่านการกำหนดค่า provider/model-name และรองรับ OpenAI-compatible endpoint ผ่าน api_base ระบบจัดการข้อผิดพลาดคล้าย LiteLLM เช่น ContextWindowExceededError, RateLimitError และ AuthenticationError สามารถติดตั้งง่ายด้วย pip install พร้อม SDK สำหรับ Anthropic, Bedrock ฯลฯ โค้ดพัฒนาด้วย AI ช่วย (Claude Code และ GPT-5.5) ผ่านการทดสอบ 262 กรณี รวมถึงตรวจสอบความเข้ากันได้กับ DSPy ทั้ง 7 รูปแบบการทำงาน รองรับการสร้าง completion, embedding และ streaming ผ่าน API แบบเดียวกับ LiteLLM แต่ติดตั้งง่ายกว่า ผู้ใช้สามารถเปลี่ยนจาก LiteLLM เป็น Litelm เพียงเปลี่ยนชื่อ import เท่านั้น

สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว