GhostTown : une ville d’habitants synthétiques
GhostTown simule une ville d’habitants synthétiques avec des profils aléatoires et des schémas sociaux émergents. La prochaine version ouvrira davantage ce monde à l’interaction.
Lynn Cole / Laboratoire
Laboratoire
Expériences, notes de recherche, science folle et travaux en cours.
Ce qu’un minuscule agent de bureau sait faire
Un minuscule modèle de bureau n’est pas aussi performant partout. Mes tests font la part des choses entre l’automatisation, le marquage et les résumés — où il est utile — et les tâches de raisonnement, où il galère.
Un petit agent local : moitié comptable, moitié oracle
Blossom12 donne à un agent une mémoire associative derrière une interface de système de tickets, avec un minuscule modèle local qui gère la tenue des comptes et le rappel.
Sporkle : priorité à la mémoire et à l’orchestration des périphériques
Une vérité qui fâche : nos piles IA basées sur CUDA ont été conçues par des gens qui optimisent des équations, pas du matériel.
Le GPU fonctionnait — et puis j’ai découvert la régression du CPU
La première implémentation GPU a marché. Puis un benchmark CPU a révélé une régression : un système de gestion de mémoire novateur avait été remplacé par sept boucles imbriquées.
Fenêtres de contexte glissantes et pourquoi je suis contre la compaction avec perte
Les fenêtres de contexte glissantes, la récupération dirigée par l’agent et des résultats d’outils clairement étiquetés : voilà mon alternative à la compaction avec perte du contexte.
En route vers Sporkle : note d’étape sur un framework de calcul
Une expérience de framework de calcul en Fortran atteint des benchmarks CPU solides, alors que le GPU et le réseau maillé restent explicitement simulés.
Plan pour une implémentation CPU d’opérations style CUDA
Un plan pour implémenter des opérations style CUDA sur CPU : commencer par les kernels, puis optimiser la mémoire et la concurrence.
Nettoyage des implémentations concurrentes dans une pile d’inférence
Des passes forward et des implémentations de cache concurrentes ont révélé une dérive dans un projet d’inférence. Grand ménage avant la prochaine expérience.
C’est quoi, Horizon Beta ?
Une enquête datée sur Horizon Beta à travers son style de code, son comportement créatif, ses contraintes et ses modes de défaillance. Quel genre de modèle se cachait derrière ce nom ?
Bâtir un transformer en Go : une nuit de non-sens de plus en plus intéressants
Un transformer natif en Go fonctionne presque. Tokenizers, vocabulaire, normes, initialisation du cache et attention passent tous en revue durant une nuit de non-sens de plus en plus intéressants.
Portage de Memvid vers Go : le chunking sensible aux tokens
Le portage de Memvid vers Go a révélé un problème de chunking : 6 messages peuvent représenter des budgets de tokens radicalement différents. Une stratégie sensible aux tokens rend la limite plus prévisible.