Ruby Tumbler : préserver le comportement dynamique sans s’épuiser pour rien
Je suis allée plus loin que prévu et j’ai appris des trucs fascinants sur les langages dynamiques.
Lynn Cole / Laboratoire
Laboratoire
Expériences, notes de recherche, science folle et travaux en cours.
Flyborg : une prothèse mémorielle synthétique pour mouche numérique
Je passe le week-end à faire de la neurochirurgie sur une mouche du vinaigre numérique.
Pourquoi donner une mémoire à une drosophile numérique ?
Une mouche numérique a déjà des circuits de mémoire. Je les branche sur une mémoire synthétique pour voir ce qu’elle retient et comment elle apprend.
Peinture de bruit : du matériau peint aux retouches
L’idée, c’est de partir d’une image peinte à la main ou d’un collage, mais de le concevoir de façon à brouiller les systèmes de classification et de débruitage d’un modèle de diffusion.
Après l’injection d’activation : qu’est-ce que le modèle peut inférer ?
Une proposition d’expérience pour séparer l’injection d’activation, le conditionnement du transcript et ce qu’un modèle peut inférer une fois l’intervention terminée.
Un compilateur Brainfuck composable pour les LLM
Si on arrête de lire le code généré, à quoi devrait ressembler un langage pour machine ? Proposition de compilateur délibérément odieux.
Entraînement récursif : préparation d’un troisième corpus
Préparer un troisième corpus d’entraînement récursif, ça veut dire séparer les objectifs contradictoires et tester l’ordre dans lequel l’élève les apprend.
Le début d’un compilateur Ruby plus rapide
Ruby n’est pas mon langage préféré, mais je trouve ça offensant que quiconque remplace une application Rails parfaitement fonctionnelle par une app écrite en Rust.
AI-hotbox : un contre-exemple dans les expériences de pilotage des activations
Changer un corpus d’activation-steering transforme une expérience sur le langage de la douleur en un contre-exemple utile — avec une condition bien moins solennelle.
Quand des signaux d’entraînement plus forts affaiblissent l’auto-évaluation
Un mentor a amélioré les signaux d’entraînement, mais a plombé l’auto-évaluation de Qwen. Le prochain corpus commence par le raisonnement de code et l’estimation logicielle.
Kinetic Painter : apprendre l’instrument tout en le construisant
Construire un instrument de peinture basé sur le geste, ça veut dire apprendre à peindre avec en même temps.
Entraîner séparément les compétences et le discernement technique
L’entraînement récursif a amélioré la justesse tout en affaiblissant le goût technique. Une ablation contrôlée du taux d’apprentissage et l’échec d’une porte de promotion ont changé la donne pour l’expérience suivante.