StateBench évalue la capacité des LLM à suivre l’état dans le long contexte
Un nouveau benchmark, StateBench, classe les problèmes de suivi d'état en quatre niveaux de complexité. L'analyse révèle des limites théoriques similaires entre les Transformers et les SSMs.