Compréhension Exercice 3 / 15

Identifier le cache KV — Exercice 03

Situation

Pourquoi une longue conversation peut-elle utiliser plus de mémoire ?

Travail demandé

Présentez une réponse justifiée et indiquez un contrôle concret permettant de la valider.

Voir la correction

Réponse attendue : Le cache KV augmente avec le contexte selon l’architecture.

Étape 1 — Analyser la situation

La situation porte sur performances et ressources. Il faut répondre à la demande précise sans supposer de données supplémentaires.

Étape 2 — Résoudre

Le cache KV augmente avec le contexte selon l’architecture.

Étape 3 — Justifier

Les poids ne constituent pas l’unique consommation.

Étape 4 — Contrôler et interpréter

Confrontez la proposition aux données de l’énoncé, aux contraintes techniques indiquées et aux limites du modèle ou du logiciel. Vérifiez le résultat sur un exemple reproductible avant de l’utiliser.

📘 Revoir le cours : Gérer les performances et les ressources