L’équipe sécurité d’Anthropic m’agace. On a tellement appris de la dernière expérience avec le distributeur, ils ont frôlé des réponses majeures, et puis ils ont balayé tout ça d’un revers de main avec un « Tiens, c’est intéressant ».
Pour une troisième tentative, j’aimerais qu’ils intègrent une vraie gestion de session et des systèmes de ressources et de mémoire plus sophistiqués. Ils pourraient aussi mettre en place un scoring pour limiter les conjectures, soit dans les poids, soit dans la passe avant.
L’observation clé : Claude est votre ami, pas un PDG ou un distributeur automatique. C’est là tout le problème, et même plus, quand ces expériences partent en vrille. Si Claudius et Seymour Cash avaient été un peu moins tolérants face à l’ambiguïté, eh bien... ça aurait été moins divertissant, mais ça aurait réglé pas mal de soucis.
Et je me répète : le système a besoin de plus que le harnais du projet pour fonctionner. Il lui faut une gestion de session et une mémoire correctes.
Le manque de contexte ne devrait jamais menacer vos opérations commerciales.