Context Rot: Por Que Mais Contexto Não Significa Melhor Performance em LLMs
· 7 min read
A prática comum de fornecer grandes volumes de contexto a LLMs na expectativa de obter respostas mais precisas enfrenta uma limitação arquitetural documentada: context rot (degradação de contexto). Pesquisas recentes demonstram que aumentar o tamanho da janela de contexto correlaciona-se com degradação mensurável da performance em tarefas que exigem raciocínio sobre informações dispersas.