TypeSafe AI เปิดตัวโมเดล AI ชื่อ Jev ที่ออกแบบมาเพื่อการตัดสินใจแบบไม่ต้องสรุปหรืออธิบาย ทดสอบประสิทธิภาพกับ GPT และ Claude พบว่า Jev จัดประเภทอีเมล 1,000 ฉบับใน 6 วินาที ค่าใช้จ่าย 9 เซนต์ ขณะที่ GPT ใช้เวลา 5 นาที ค่าใช้จ่าย 62 เซนต์ โมเดลใช้เทคนิค RLCD ทำงานด้วยการให้คำตอบแบบ JSON ทันที (yes/no, หมวดหมู่, คะแนน) ไม่ต้องสรุปเนื้อหา เหมาะกับงานตัดสินใจเร็ว เช่น ระบบติดตามข่าวหรือบอทซื้อขายคริปโต แต่ไม่เหมาะกับงานวิเคราะห์เนื้อหาหรือสรุปแนวโน้ม ต้นทุนเพิ่มขึ้นเร็วหากใช้งานปริมาณมาก ต้องควบคุมการใช้งานอย่างระมัดระวัง Jev ทำงานโดยใช้เกณฑ์การตัดสินใจที่ชัดเจน เช่น แยกประเภทอีเมลเป็นเร่งด่วน/ทั่วไป หรือวัดความหงุดหงิดของลูกค้าเป็นคะแนน ไม่สร้างข้อความอธิบายเพิ่มเติม ทำให้เร็วกว่าโมเดลอื่น 20-200 เท่า และถูกกว่า 40-400 เท่า แต่ต้องใช้ร่วมกับโมเดลเต็มรูปแบบในขั้นตอนสุดท้ายสำหรับงานที่ต้องการความคิดสร้างสรรค์ ตัวอย่างการใช้งานจริง เช่น ขยายเพิ่มเติมใน Chrome จัดประเภทโพสต์ X แบบเรียลไทม์ หรือระบบเทรดคริปโตที่ตัดสินใจทุกวินาที แต่ต้นทุนอาจสูงหากใช้งานปริมาณมาก ทำให้ต้องวางแผนการใช้งานอย่างมีประสิทธิภาพ
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว