Voilà mon plan diabolique.
Je m’offre un Spark pour les fêtes d’hiver.
Cette semaine, je lui écris un harnais d’entraînement spécialisé.
D’abord, je prends une copie de Gemma 27b, optimisée pour le fp8.
Je vais l’ajuster sur Stack, Vault et TACO pour que ses compétences en code soient enfin au niveau.
Ensuite, je vais piquer la technique de récursion de l’étude hrm et l’entraîner sur ses propres sorties en 32:1 sur le raffinement, avec une boucle de récompense personnalisée. C’est comme ça qu’ils ont transformé un modèle de 7m de paramètres en candidat sérieux pour arc agi.
L’étape suivante, c’est le raffinement via des exercices de jeu style Absolute Zero : je branche un parseur et je le laisse choisir lui-même des tâches d’écriture de code complexes.
Mais c’est là que ça devient intéressant : je prolonge le processus avec une étape d’évaluation interne.
Une fois que le parseur a validé que le code fonctionne, je lance des revues de personas : le modèle reçoit une série de prompts système pour jouer différents relecteurs avec des critères variés.
Ensuite, il doit assimiler les retours et écrire un nouveau morceau de code qui plaise à la fois au parseur et aux relecteurs qu’il incarne.
Je choisis Gemma3-27b pour une raison précise. Ce modèle a un truc difficile à expliquer. Il est malin. L’état par défaut de Gemma est... unique dans sa créativité face aux instructions.
Je me dis que je peux traduire ça en un agent de code de classe mondiale !
Si j’arrive à sortir un truc cohérent, je publierai les poids.