J’ai l’impression que les modèles Système 1 ont changé ma façon de concevoir l’architecture des applis IA.
Ça simplifie énormément le processus.
Avant, on avait deux options classiques.
Soit on entraînait un réseau de neurones pour qu’il se comporte comme un classificateur spécialisé, soit on utilisait un LLM pour la classification et on bricolait un workflow complexe pour vérifier les résultats et s’assurer qu’ils étaient exacts.
Les classificateurs demandent encore du boulot pour être vraiment précis, mais le processus est bien plus simple maintenant.
Le truc intéressant, c’est que les classificateurs sont en fait plutôt bons pour les décisions simples, le classement et l’estimation de probabilités.
Ce que les LLM gèrent moins bien, c’est la navigation dans des arbres de décision complexes avec plein de conditions si/alors imbriquées.
L’ajout de classificateurs permet à vos systèmes d’agents de se conformer beaucoup plus facilement à vos organigrammes, qui sont, eux, résolument déterministes.
Comment ça marche ?
Eh bien, au lieu de demander à un modèle de raisonnement de naviguer dans tout l’arbre logique, on laisse le logiciel déterministe gérer les branches et on utilise des classificateurs pour évaluer chaque condition étape par étape.
Voyez une grille de décision comme une série d’instructions si/alors imbriquées.
Chaque classification détermine la branche suivante à prendre, et chaque branche est évaluée indépendamment. On ne fait donc tourner que les branches utiles.
D’un coup, on se retrouve avec un système considérablement plus déterministe que si on demandait à un raisonneur probabiliste de tout résoudre tout seul.
Et comme on évalue des décisions individuelles, on peut mesurer la confiance, comparer les classements, identifier les désaccords et vérifier les résultats sélectivement, sans avoir à construire un workflow de raisonnement élaboré.
Ensuite, on rend les preuves collectées au LLM de raisonnement pour le jugement final. Et c’est important, parce qu’une collection de classifications individuellement correctes ne produit pas forcément une décision finale correcte.
C’est comme ça qu’on sépare classification, procédure et jugement.
Le raisonnement probabiliste est toujours là, mais il n’est plus responsable de toute la mise en scène.
Et on économise des milliards de tokens par la même occasion.
Ou alors, si on veut être encore plus agressif et sortir totalement le LLM de l’équation, on pourrait toujours utiliser un classificateur pour classer si ce que le classificateur précédent a fait est un succès, ou pas. Et ensuite utiliser un quorum de classificateurs pour classer les classificateurs, et voilà : on a classé sa classification classiquement.
C’est ce qu’on appelle... le consensus !
Évidemment.