Claude devient mauvais quand la conversation s'allonge

Tu connais ce moment. La conversation avait très bien commencé, Claude comprenait tout du premier coup. Une heure plus tard, il se met à se répéter, il oublie une consigne que tu viens de lui donner, il ressort une idée que tu avais écartée vingt messages plus tôt.

Le réflexe naturel, c'est de le recadrer et de continuer. C'est précisément l'erreur. Pour comprendre pourquoi, il faut regarder ce qui se passe vraiment à chaque message que tu envoies.

À chaque message, Claude ne reçoit pas seulement ta phrase. Il reçoit tout le paquet : l'historique complet de la conversation, tes instructions personnalisées, la liste de ses outils et de ses skills, sa mémoire persistante. C'est ça, le contexte.

L'impression de mémoire est une illusion bien faite : en réalité, tout est renvoyé à chaque fois, il compose sa réponse à partir de ce paquet. Et les modèles récents acceptent des paquets énormes, jusqu'à un million de tokens. Pour donner un ordre de grandeur, c'est plus que la Bible en entier.

Le piège est là. Pouvoir envoyer un million de tokens ne veut pas dire que c'est une bonne idée : plus le contexte grossit, plus la qualité des réponses se dégrade. Le phénomène a un nom, le contexte rot, littéralement le contexte qui pourrit.

Ce n'est pas une impression d'utilisateur. Des chercheurs de Chroma l'ont mesuré sur dix-huit modèles, y compris les plus récents : à tâche égale, la performance baisse à mesure que l'entrée s'allonge, même quand la tâche est simple. L'IA commence à confondre les couches de la conversation, à mélanger ce qui compte encore avec ce qui est périmé, puis à inventer.

Quatre signes qui ne trompent pas :

1/ il se répète, ou répond un peu à côté

2/ il oublie une consigne donnée quelques messages plus tôt

3/ il ramène un sujet que tu avais abandonné

4/ ses réponses deviennent plus vagues, plus consensuelles

Un de ces signes suffit : résume, recommence.

Une nuance quand même, parce que tout n'est pas à jeter dans un gros contexte. Donner un long document utile en début de conversation ne pose aucun problème. Ce qui pourrit, c'est l'accumulation de bavardage : les essais ratés, les détours, les sujets clos. Le bon critère n'est pas la taille, c'est la part d'inutile.

C'est d'ailleurs pour protéger ce contexte que tes skills ne sont jamais chargés en entier : Claude ne lit que leurs en-têtes, j'ai détaillé ce mécanisme ici.

Depuis que j'ai pris ce réflexe, je traite mes conversations comme des sessions de travail : une tâche, une conversation, un résumé si ça doit continuer. Claude me semble meilleur chaque matin, alors qu'en réalité c'est juste moi qui ai arrêté de le noyer.