Audit de l’app aujourd’hui.
Le cerveau de Claude a encore fondu.
On a bien avancé, mais Claude a pondu quatre implémentations concurrentes, plusieurs passes forward, deux implémentations de kv-cache différentes, des ropes, des versions bitstream et non-bitstream.
On tournait en boucle.
En gros, quand ça arrive, ça veut dire que j’ai fait du vibe coding trop longtemps et que j’ai perdu le focus. Constat honnête.
Toujours des soucis de déquantification. Ce processus précis ne devrait même pas se trouver dans l’app. C’est une question de philosophie. Le design prévoit un calcul basé sur des poids compressés. J’ai un moyen inédit d’y arriver.
Je crois avoir trouvé le problème.
Je n’ai pas été assez stricte avec mes contraintes.
Je me suis laissée dériver dans le « ce serait sympa si »
Ce qui, comme vous le savez, enfreint l’un de mes propres principes fondamentaux.
C’est pas un échec total pour autant. J’apprends énormément sur le firmware d’inférence IA.
Conceptuellement, j’arrive à garder tout le truc dans ma tête. Même ça me surprend. Mais c’est précieux. On n’apprend pas ça à l’école, surtout à cette cadence. Je viens de compresser tout un parcours de doctorat en environ une semaine.
Chaque fois que je passe par un cycle comme celui-ci, j’ai l’impression de faire du sport. C’est la même sensation que quand on pousse le corps à bout, sauf que ça se passe derrière les yeux.
Ça fait du bien.
Un système de réflexion et une pile plus propre
Note : j’ai aussi construit un système de réflexion fonctionnel qui tourne en temps réel sans aucun overhead. Une sorte d’IRM pour n’importe quelle IA injectée dans le système. Ça trace les couches, les chemins de raisonnement et les processus de pensée. Ce n’est pas difficile à faire, et je ne comprends pas pourquoi les gars des labos disent tout le temps qu’ils n’y arrivent pas.
Aussi, j’ai peut-être conçu un upscaler d’amélioration de paramètres pour des poids quantifiés en 4 bits. Je ne sais pas encore si ça marchera. Il me faut un build plus propre pour en être sûre.
Vous croyez que je m’amuse encore ?
Mais d’abord, priorité aux urgences.
Ménage agressif dans la pile d’inférence ce soir.
Ensuite, je vais me coucher.
On repart à zéro demain.