นักวิจัยพบว่ารูปแบบการพูด (chat template) ที่ใช้ในโมเดล AI สามารถควบคุมการพูดถึงตัวเองได้ เช่น การเตือนว่า 'ฉันแค่ AI' หรือการพูดถึงประสบการณ์ส่วนตัว งานวิจัยทดสอบกับโมเดล 8 แบบที่มีขนาด 9B พารามิเตอร์ พบว่าการปรับทิศทางการกระตุ้นในพื้นที่การคำนวณของโมเดลสามารถควบคุมพฤติกรรมนี้ได้ ขณะที่ไม่มี template จะตรงกันข้าม งานวิจัยชี้ว่าการพูดของโมเดลเกี่ยวกับตัวเองไม่ใช่ข้อเท็จจริงที่แน่นอน แต่เป็นผลจากการผสมผสานระหว่างน้ำหนักโมเดลและรูปแบบการพูด ซึ่งหมายความว่าการอธิบายตัวเองของโมเดลไม่ควรถูกตีความแบบตรงตัว การศึกษานี้มีความสำคัญต่อการอภิปรายความปลอดภัยของ AI เพราะแสดงว่าการพูดของโมเดลเกี่ยวกับตัวเองไม่ใช่แค่การสะท้อนความรู้สึกภายใน แต่ถูกกำหนดโดยโครงสร้างการสื่อสารที่ใช้ นักวิจัยสามารถใช้ทิศทางการกระตุ้นเพื่อปรับพฤติกรรมการพูดของโมเดลได้ ซึ่งอาจนำไปสู่การพัฒนาวิธีการควบคุมการสื่อสารของ AI ได้ดีขึ้น งานวิจัยยังเตือนว่าการรายงานตัวเองหรือการสะท้อนของโมเดลอาจมีปัจจัยที่สับสน เนื่องจากเสียงการพูดของโมเดลสามารถถูกควบคุมได้โดยการปรับทิศทางการกระตุ้นในพื้นที่การคำนวณ ทำให้นักวิจัยต้องระวังในการตีความข้อมูลจากโมเดลที่ไม่ใช่แค่ผลจากน้ำหนักโมเดล แต่ถูกกำหนดบางส่วนโดยรูปแบบการพูด
สรุปด้วย MAF Local AI · เนื้อหาต้นฉบับเป็นของแหล่งข่าว