Compréhension Exercice 3 / 15
Identifier le cache KV — Exercice 03
Situation
Pourquoi une longue conversation peut-elle utiliser plus de mémoire ?
Travail demandé
Présentez une réponse justifiée et indiquez un contrôle concret permettant de la valider.
Voir la correction
Réponse attendue : Le cache KV augmente avec le contexte selon l’architecture.
Étape 1 — Analyser la situation
La situation porte sur performances et ressources. Il faut répondre à la demande précise sans supposer de données supplémentaires.
Étape 2 — Résoudre
Le cache KV augmente avec le contexte selon l’architecture.
Étape 3 — Justifier
Les poids ne constituent pas l’unique consommation.
Étape 4 — Contrôler et interpréter
Confrontez la proposition aux données de l’énoncé, aux contraintes techniques indiquées et aux limites du modèle ou du logiciel. Vérifiez le résultat sur un exemple reproductible avant de l’utiliser.
📘 Revoir le cours : Gérer les performances et les ressources
