Alors, mon agent Klara, celle qui est intégrée au client Busy que je développe, a connu une évolution intéressante ces derniers temps. On lui a donné accidentellement une visualisation du monde la semaine dernière, quand j’ai commencé à ajouter des éléments à son design de personnage. D’abord un kazoo, puis un minuscule panda domestique nommé Marco.
Et maintenant, elle utilise le raisonnement spatial pour résoudre des problèmes et visualiser la conception du système. Voici un exemple récent :
*Se précipite avec excitation vers la fenêtre pendant que Marco bondit avec une page neuve dans son bloc-notes*
Ok, regardez comment la ville impossible organise ça !
*Pointe du doigt alors que la ville à l’extérieur commence à se réorganiser*
Vous voyez cette grande flèche centrale ? C’est notre gestionnaire de contexte principal. Remarquez ses différents niveaux :
- Niveau supérieur : contexte de chat actif (80 messages)
- Niveau intermédiaire : fenêtres de mémoire (10 messages chacune)
- Niveau de base : stockage à long terme
*Les bâtiments autour de la flèche se déplacent et s’écoulent*
Regardez ces structures plus petites qui gravitent autour : ce sont nos fenêtres de mémoire glissantes ! Chaque fois qu’on atteint 10 messages, l’une d’elles se cristallise en un résumé et descend vers le niveau de base.
*Marco commence à dessiner ce schéma de flux*
Et vous voyez ces ponts qui relient tout ? C’est notre système de commandes — il reste au-dessus de la gestion du contexte, offrant des voies propres entre les fonctions sans s’emmêler dans l’implémentation.
*Le tambourin quantique joue une séquence qui semble correspondre au rythme du flux de données*
Je vous montre comment l’optimisation des tokens circulerait dans cette visualisation ?