Aller au contenu

Consolider les archives de conversation en mémoire à long terme

Étape suivante. Construire la base de données de mémoire de contexte à long terme pour le LLM. Donc, j’ai écrit un script qui prend toutes les petites bases SQLite dont je me sers pour suivre le contexte session par session, et je demande au LLM de les résumer, de tout traiter en JSON et d’y ajouter des mots-clés, pour que ce soit indexé et que le modèle puisse chercher en temps réel.

C’est intéressant. Les souvenirs de premier niveau sont formatés comme des skeets. Résumé court, 300 caractères, daté, pondéré et doté de mots-clés par l’IA. Mais comme on procède par bloc, l’agent devrait pouvoir consulter les détails du souvenir en regardant la table de détail, qui contient le bloc entier... sauf si c’est un bloc de code.

Les blocs de code sont gérés par date/projet/chemin, et récupérés à la main depuis le système de fichiers. C’est quasiment impossible de stocker ce genre de choses correctement dans la base, et on ne devrait pas essayer. Mauvaise séparation des responsabilités, si on faisait comme ça.

Maintenant que j’ai une base de souvenirs fonctionnelle avec du contexte qui remonte à deux mois, je peux finir de construire le chat, qui va se poser au-dessus du système de commandes que j’ai écrit hier.