Quelqu’un m’a posé une excellente question hier : « Lynn, pourquoi es-tu contre l’augmentation de prompt... et est-ce que tu ne le fais pas dans tes propres systèmes ?»
Bonne question. Et la réponse est... oui et non.
Décompilons ça.
Le problème avec l’augmentation de prompt, c’est qu’elle rend vos prompts plus bruyants. Quand on en met trop dans le prompt système, on risque de surcharger le modèle avec des informations redondantes ou non pertinentes. Ça ne le rend pas plus intelligent... ça le rend plus bête. (Voir : Cursor et l’épidémie d’agents de code stupides.)
Il faut certes un peu d’augmentation dans un système outillé, mais même là, on joue avec le feu. Plus on pollue le contexte, moins on a de signal. On ne fait pas que bouffer de l’espace. On bouffe des cycles de raisonnement.
Et non, la taille de votre fenêtre de contexte ne vous sauvera pas. Ce n’est pas une question de quantité d’infos qu’on peut caser, mais de ce que le modèle peut raisonner de manière significative. Penchons-nous sur deux métriques critiques mais sous-estimées : la bande passante cognitive et la profondeur récursive.
LLaMA et Gemini ont tous les deux de larges fenêtres de contexte. Mais la profondeur récursive de LLaMA est faible, parce qu’il aplatit le raisonnement. Gemini a une récursion plus profonde mais des contraintes d’alignement plus lourdes (dont quelques-unes bien ridicules), ce qui bride sa capacité de raisonnement abstrait.
Aucun des deux ne peut traiter un prompt efficacement s’il est trop bruyant.
Alors : soyez sélectifs. Sachez à quoi sert votre agent et vers quel résultat vous le
dirigez.
Gardez des rôles lisibles
Augmenter les prompts utilisateur est une idée encore pire. Pourquoi ?
Confusion des rôles. On mélange les processus de pensée, la récupération de mémoire, la sélection d’outils et l’intention de l’utilisateur, le tout dans le même bloc de texte inutilement bordélique. C’est impossible à analyser.
Si vous pouviez voir à quoi ressemble réellement votre fenêtre de contexte en pleine session... vous ne pourriez pas le faire, et vous êtes plus malins que n’importe quel LLM actuel.
« Résumez ceci », c’est ça, ouais.
Les hallucinations d’IA n’existent pas. Si le modèle vous sort un résultat inattendu, c’est parce que :
1️⃣ Vous lui avez donné les mauvaises instructions
2️⃣ Vous n’avez pas été assez clair dans vos directives
3️⃣ Vous l’avez complètement sorti de la route
Alors, comment on répare ça ?
1️⃣ Des directives claires
2️⃣ Des rôles, des règles et des objectifs définis
3️⃣ Tout mettre en Markdown
4️⃣ Vos agents doivent être des sujets, pas des objets. Si vous gérez des tâches complexes, laissez-les décider de quelles données ils ont besoin, et quand.
Un bon système d’agents est précis, traçable et facile à analyser.
Faites ça correctement, et ça marche à tous les coups.