Context Rot คืออะไร ?
Context Rot: เมื่อข้อมูลมากเกินไป กลายเป็นจุดอ่อนของ AI ถ้าเราให้ AI อ่านทุกอย่าง แล้วมันยังตอบผิด เราควรโทษว่าโมเดลไม่เก่ง หรือข้อมูลมันมากเกินไปคำถามนี้ไม่ใช่เรื่องของ prompt แต่เป็นข้อจำกัดเชิงโครงสร้างของ AI ยุคปัจจุบันเราถูกทำให้เชื่อว่า “ยิ่ง context เยอะ = ยิ่งฉลาด” แต่ในความเป็นจริง หลายครั้งมันตรงกันข้าม ปัญหาไม่ได้อยู่แค่ “ปริมาณ” แต่รวมถึง “เวลา”context ไม่ได้เสื่อมเพราะยาวอย่างเดียว แต่มัน เสื่อมลงเมื่อถูกใช้งานต่อเนื่องข้อมูลที่ถูกเติมซ้ำ ผ่านหลายรอบ จะค่อย ๆ สูญเสียโครงสร้าง ความชัดเจน และลำดับความสำคัญ ลองนึกถึงพ่อครัวระดับท็อปในช่วงที่อยู่ในฟอร์มสูงสุด ทุกจานคม แม่น และบาลานซ์อย่างแม่นยำแต่เมื่อเวลาผ่านไป ความละเอียดเริ่มลดลง สิ่งเล็ก ๆ ที่เคยควบคุมได้เริ่มคลาดเคลื่อนจาก “เป๊ะทุกจาน” กลายเป็น “ยังดี…แต่ไม่เหมือนเดิม” สุดท้ายเหลือเพียงชื่อเสียงว่าเคยเป็นตำนาน Context ก็เช่นเดียวกันตอนที่มันยังสดและถูกจัดวางอย่างดี โมเดลจะ reasoning ได้คมและแม่นแต่เมื่อมันยืดยาว ถูกเติม และไม่เคยถูกจัดระเบียบใหม่ความคมจะค่อย ๆ […]
