OpenAI เริ่มใช้ระบบติดป้ายน้ำข้อความ (text watermarking) ภายใต้กฎหมาย AI ของยุโรป ซึ่งบังคับให้ระบุแหล่งที่มาของข้อมูล AI ได้โดยเครื่องมือ ผู้ใช้ API สามารถเปิดใช้งานได้ตั้งแต่วันนี้ แต่เป็นโหมดปิดเริ่มต้น ขณะที่ผู้ใช้ ChatGPT และ Codex ในยุโรปจะได้รับการติดป้ายน้ำในสัปดาห์หน้า ระบบมีข้อจำกัด เช่น ความแม่นยำลดลงเมื่อข้อความสั้นหรือถูกแก้ไข รายงานระบุว่าการแทนคำด้วยคำพ้องลดอัตราการตรวจจับจาก 92% เหลือ 17% ทำให้ OpenAI จำกัดการเข้าถึงเครื่องมือตรวจสอบเฉพาะนักวิจัยและองค์กรที่เชี่ยวชาญ ระบบยังไม่สามารถรับประกันความแม่นยำในใช้งานจริงได้ แม้จะมีประสิทธิภาพสูงในสภาพแวดล้อม ideal กฎหมาย AI ยุโรปกำหนดให้ผู้ให้บริการ AI ต้องระบุแหล่งที่มาของข้อมูลได้ด้วยเทคโนโลยีที่อ่านได้โดยเครื่องมือ ระบบติดป้ายน้ำของ OpenAI ยังไม่สมบูรณ์ แต่เน้นความโปร่งใสว่าข้อมูลไม่สามารถบอกได้ว่าผู้ใช้เป็นใครหรือข้อมูลถูกสร้างอย่างไร OpenAI วางแผนเปิดแหล่งโค้ดทั้งหมดให้ใช้ได้โดยสาธารณะในอนาคต และอธิบายการทำงานของระบบในรายงานเทคนิคที่จะอัปเดตเพิ่มเติม OpenAI ใช้เทคโนโลยี textGrain เพิ่มสัญญาณสถิติในคำเลือกของโมเดล ระบบตรวจจับจะค้นหาสัญญาณนี้เพื่อประเมินว่าข้อความมีป้ายน้ำจาก OpenAI หรือไม่ แม้ระบบจะมีประสิทธิภาพสูงในสภาพแวดล้อม ideal แต่ยังไม่สามารถรับประกันความแม่นยำในใช้งานจริงได้ เนื่องจากเครื่องมืออาจเกิดข้อผิดพลาด เช่น ตรวจจับป้ายน้ำที่ไม่มี (false positive) หรือหลุดข้อความที่มีป้ายน้ำ (false negative) ซึ่งส่งผลต่อประสิทธิภาพของระบบ
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว