L’argument sur l’auto-amélioration récursive n’est vrai qu’à moitié.
C’est là que ça devient intéressant.
On ne peut pas prendre un transformer brut et lui demander de s’améliorer dans l’abstrait. Demandez à un modèle de réfléchir sur lui-même, ou demandez à deux modèles de bosser ensemble sur un projet sans le bon jeu d’outils, et vous aurez une dégradation du signal, une dérive et un effondrement total.
Et puis, si vous cherchez juste à maximiser vos tokens, c’est un moyen facile de grimper en haut des classements.
Rappelez-moi de vous raconter l’histoire des porte-gobelets de la navette spatiale un de ces quatre. Je suis sûre d’en avoir déjà parlé.
Bref, c’est pour ça qu’il faut faire gaffe quand on entraîne avec des données synthétiques, et pourquoi c’est si facile de corrompre un bon jeu de données avec des infos foireuses.
La vérification externe change la boucle
Les systèmes d’ingénierie d’agents comme Claude Code fonctionnent bien parce qu’ils fournissent un retour externe. L’agent imagine du code, le code est testé par de vrais compilateurs.
D’autres agents utiliseront un outil pour accéder à vos documents, vos e-mails ou vos flux de réseaux sociaux, mais la théorie est la même.
Le modèle échantillonne peut-être à partir de sa distribution apprise, mais il ne fait pas que ça.
En d’autres termes, dès qu’il y a une boucle de vérification externe, l’argument de la « même distribution » ne suffit plus à tout expliquer.
Les discussions récentes sur la position d’Anthropic se concentrent sur le code généré par IA et l’éventuelle « auto-amélioration récursive », avec des rapports indiquant que Claude écrit désormais environ 80 % du code interne ou fusionné d’Anthropic.
En utilisant Claude Code ou des harnais similaires, un modèle assez puissant peut maintenant s’attaquer à des projets de l’ordre de la réécriture de frameworks majeurs, du travail sur des compilateurs ou des migrations d’infrastructure.
Mais si l’agent améliore le harnais, alors la boucle a changé.
À ce stade, on ne parle plus vraiment de code, on pense plutôt à construire des machines qui construisent de meilleures machines qui construisent un meilleur code.
Si cette meilleure machine fait partie du processus utilisé pour construire la prochaine génération de modèles... Je sais pas, ça me semble idiot de commencer à parler de chatbots qui planent à leurs propres gaz d’échappement.
Mais c’est ça qu’ils veulent dire.
L’amélioration récursive au niveau de la couche système.
Et je ne pense pas que quiconque soit en train de survendre le truc.