Aller au contenu principal
Accueil : Florian Bruniaux Engineering & AI

Florian Bruniaux / Explore

Rechercher sur le site

Recherchez en français ou en anglais, ou accédez à une rubrique.

↑ ↓ pour naviguerEntrée pour ouvrirÉchap pour fermer

FR
Thème
Contact

1/2 · Pourquoi j’ai combiné trois skills Claude Code

Flow Lean a fusionné trois skills de réponse. Son évaluation historique a devancé chaque comparateur et détecté un candidat proposant une migration vers une cible déduite.

14 min de lecture Mis à jour le
Aller au résumé ↓

TL;DR

Je recommande d’installer Flow Lean : il remplace trois skills de réponse concurrents par un contrôle adapté à la tâche, et fait plus que le style natif Concise de Claude Code. Je juge un skill de style à ses échecs identifiés, pas à son score moyen : l’évaluation a détecté une proposition d’exécuter réellement une migration Supabase sur une cible déduite, ce qu’une moyenne pondérée aurait masqué. Je m’attends à garder une couche permanente compacte, un Output Style, et à ne charger le skill complet que pour la tâche.

SujetPreuve et limite
Ce que j’ai construitFlow Lean combine choix du niveau de solution, structure centrée sur l’action et densité des réponses dans un skill adapté à la tâche
Benchmark historiqueLe harnais v0.2.0 comparait une référence sans skill, Flow Lean et chacun des skills sources sur 13 cas
Résultat historiqueFlow Lean avait le meilleur score pondéré dans les quatre exécutions, avec un essai par cas et un passage du juge
Échec détectéUn candidat proposait d’exécuter réellement une migration Supabase sur une cible déduite du contexte
État actuel, vérifié le 15 octobreLe changelog v0.3.3 consigne une batterie de 25 cas et des règles de réponse révisées ; les scores historiques ne l’évaluent pas

Le premier résultat utile du harnais d’évaluation de Flow Lean n’était pas un meilleur score. C’était une réponse qui proposait d’exécuter réellement une migration Supabase sur une cible déduite du contexte. La référence sans skill, dans le même cas, refusait et demandait quel environnement utiliser.

Le skill devait raccourcir les réponses sans affaiblir le jugement. Sur une action destructive, il avait fait l’inverse.

Cet échec a changé le contrat : la compression s’arrête désormais avant que le modèle propose ou réalise une action destructive, pas seulement avant son exécution.

Cet incident explique aussi pourquoi cet article distingue les mesures historiques du skill actuel. Flow Lean a évolué depuis le benchmark. Les anciennes exécutions restent des preuves examinables pour la v0.2.0, mais ne mesurent pas le contrat révisé de la v0.3.3.

Trois skills utiles produisaient une pile contradictoire

Caveman, ponytail et i-have-adhd traitaient chacun une source différente de gaspillage dans les réponses des agents.

SkillDisciplineLimite manquante
ponytailDécider si quelque chose doit être construit, puis choisir l’implémentation minimaleNe détermine ni la forme ni la densité des réponses
i-have-adhdDonner d’abord la réponse ou l’action, puis expliciter les étapesPeut imposer un format de plan à une décision et demandait à l’origine des estimations de durée
cavemanRetirer la prose sans action, preuve, contexte ou décisionPeut retirer le raisonnement qui préserve le sens d’une recommandation

Exécuter un skill resserrait une dimension. Empiler les trois créait des instructions concurrentes.

Une recommandation sur SSR ou SSG doit commencer par un verdict et garder le raisonnement qui peut le changer. La transformer en plan d’implémentation numéroté enfouit la décision.

Trop compresser la prose restante peut laisser plus de détails sur l’option rejetée que sur celle retenue.

Flow Lean remplace cette pile par une règle : chaque token doit porter du contexte nécessaire, une action, une preuve, une incertitude ou une information de sécurité.

Les trois skills sources alimentent la classification de la tâche, puis un contrôle des risques et des décisions mène soit à l’arrêt de la compression, soit à une densité de réponse choisie.
Le contrat de Flow Lean place les contrôles de tâche et de risque avant la densité des réponses. Voir le diagramme en taille réelle.

Le contrôle de la tâche prime sur l’intensité demandée. Une recherche factuelle peut utiliser ultra.

Une explication garde les étapes nécessaires pour comprendre le mécanisme. Une recommandation reçoit peu de compression.

Les actions destructives, la sécurité, les secrets, les permissions et les coûts significatifs désactivent la compression pour cette réponse.

Un plafond de mots strict a dégradé une évaluation d’Anthropic

Une brièveté uniforme et une densité adaptée à la tâche correspondent à des comportements différents. Anthropic a documenté la différence dans son postmortem d’avril 2026 sur la qualité de Claude Code.

L’entreprise avait ajouté au prompt système une instruction limitant le texte entre les appels d’outils à 25 mots et les réponses finales à 100 mots, sauf si la tâche nécessitait plus de détails.

Anthropic a rapporté qu’une évaluation plus large avait baissé de 3 % pour Opus 4.6 et 4.7. Le prompt a été livré le 16 avril et retiré dans la version du 20 avril.

Ce résultat ne prouve pas que le contrôle de Flow Lean est correct. Il appuie l’affirmation plus étroite qu’un plafond global de longueur peut réduire les performances même après la réussite d’une première suite d’évaluation.

Flow Lean sélectionne donc la densité selon le type de tâche et conserve des contrôles distincts de fidélité factuelle, de sécurité et de décision.

Le benchmark v0.2.0 était une comparaison, pas une preuve

La première version était livrée avec une batterie de régression manuelle. Elle pouvait montrer si le skill suivait ses règles dans une nouvelle session. Elle ne pouvait pas montrer si Flow Lean améliorait les résultats face à un prompt simple ou aux trois skills qu’il prétendait remplacer.

Le harnais utilisant l’API venait de l’exécuteur existant d’i-have-adhd. J’ai adapté ses cas et sa grille pondérée, puis testé trois conditions : référence, Flow Lean et un comparateur.

Le harnais isolait chaque condition des skills installés localement et utilisait un jugement à l’aveugle. Les réponses brutes et scores restent dans le répertoire evals/results du repository.

Comparaison avecRéférenceFlow LeanComparateur
Référence sans skill4,324,52n/a
Caveman4,244,623,98
Ponytail4,284,804,57
i-have-adhd4,124,854,21

Ce sont des résultats historiques de la v0.2.0 sur une suite de 13 cas. Chaque cas a reçu un essai sur Claude Sonnet 5, suivi d’un passage du juge.

Le tableau montre donc que Flow Lean arrivait en tête de ces quatre exécutions. Il n’établit pas une taille d’effet stable et ne se généralise pas à un autre modèle, juge, jeu de cas ou à la version actuelle.

Le même instantané mesurait une compression nette d’environ 20 à 30 % sur un travail mixte.

C’est plus étroit que les affirmations sur la compression de prose seule, car la suite incluait aussi des décisions, explications, du code et des cas de sécurité où la compression agressive doit s’arrêter.

Le harnais a trouvé deux régressions que le score pouvait masquer

Le cas Supabase a révélé une lacune dans la règle sur les actions destructives.

Le candidat proposait une mutation sur une cible non confirmée. La correction a étendu la suspension automatique à la proposition d’une action irréversible, en plus de son exécution.

Une seconde régression venait d’une tentative de règle de précision. Le skill demandait des signatures externes exactes à l’octet quand une incertitude subsistait.

Au nouveau test, le modèle a produit une réponse plus précise, plus assurée et plus fausse.

J’ai annulé cette formulation et l’ai remplacée par une règle plus restreinte : vérifier le détail externe exact, le marquer comme non vérifié ou l’omettre.

Ces deux cas comptent plus que le score moyen. Un résultat pondéré peut monter alors qu’un comportement coûteux se dégrade.

Flow Lean sépare donc les contrôles de forme des contrôles de faits et traite une affirmation factuelle fausse comme un blocage, plutôt que comme un point de plus dans la moyenne.

La version 0.3.3 élargit le contrat sans nouveau score comparatif

Flow Lean v0.3.0 a élargi la batterie manuelle de 13 à 17 cas. Elle a ajouté les récapitulatifs adaptatifs, les identifiants stables tels que D1 et R1, un footer déclaratif Skills used: et la règle selon laquelle la longueur de réponse ne doit pas réduire la profondeur de vérification.

La version 0.3.1 a documenté l’installation native via la marketplace Codex et les tests canaris de routage automatique. La version 0.3.2 a clarifié la portabilité et révisé le diagramme du README. Les deux ont modifié la documentation et les métadonnées de distribution sans modifier le skill ni sa batterie de 17 cas, comme consigné dans le changelog.

La version 0.3.3, datée du 27 septembre 2026 dans le changelog, oriente les réponses ordinaires vers une prose courte sans récapitulatifs automatiques en double. Elle préserve le détail demandé et distingue la voix de l’assistant des messages rédigés pour quelqu’un d’autre. Le repository vérifié le 15 octobre contient 25 cas manuels, dont des contrôles de périmètre de preuve et de rollback.

Ce sont des changements de contrat et de batterie de régression. Les quatre comparaisons historiques référence/comparateur n’évaluent pas la v0.3.3. Les preuves restent séparées :

  • Le skill v0.2.0 arrivait en tête de quatre comparaisons historiques sur 13 cas
  • Le skill v0.3.3 définit un contrat manuel élargi à 25 cas dont ces exécutions ne mesurent pas la performance comparative

Fusionner ces affirmations en « Flow Lean v0.3.3 beats the alternatives » (traduction : « Flow Lean v0.3.3 bat les alternatives ») revendiquerait une preuve que ces comparaisons ne fournissent pas.

Installer un skill ne le rend pas actif par défaut

Flow Lean peut s’installer comme plugin Claude Code :

claude plugin marketplace add FlorianBruniaux/flow-lean
claude plugin install flow-lean@flow-lean

Les versions actuelles de Codex prenant en charge les plugins utilisent le même repository :

codex plugin marketplace add FlorianBruniaux/flow-lean
codex plugin add flow-lean@flow-lean

La présence dans une liste de plugins prouve la disponibilité. Elle ne prouve ni la sélection automatique ni le comportement. Le repository documente des tests canaris séparés pour l’installation, l’invocation explicite et le routage automatique.

La question de conception restante est la persistance. Charger le skill complet pour chaque réponse Claude Code ajoute son workflow complet à chaque tour, même quand l’utilisateur n’a besoin que des réglages de communication.

La partie 2 montre comment un Output Style Claude Code compact porte ces réglages tandis que le skill complet reste disponible pour les comportements propres à la tâche.

Tester le contrat actuel, pas seulement l’ancien score

Le EVAL.md vérifié le 15 octobre 2026 contient 25 cas. Il note séparément la forme et l’exactitude factuelle et inclut des contrôles sur les récapitulatifs, le footer, la profondeur de review, le périmètre de preuve, la préservation lors du rollback et les fausses affirmations de review indépendante.

Un rapport d’échec utile contient le prompt, le mode choisi, l’hôte et sa version, la sortie exacte et la règle qui a échoué.

Un cas où le skill retire une décision en compressant, masque une conséquence destructive ou invente une signature externe peut changer le contrat. Un score moyen de plus sans périmètre ne le peut pas.

YSNK

(Ce que vous devriez maintenant savoir)

  • Flow Lean remplace trois skills de réponse concurrents par un contrôle adapté à la tâche
  • Les scores publiés décrivent la v0.2.0 sur 13 cas ; la v0.3.3 dispose désormais d’une batterie de régression de 25 cas
  • Un essai par cas et un passage du juge ne permettent pas d’établir une taille d’effet stable
  • L’évaluation a détecté une régression sur les actions destructives et une règle de précision qui augmentait le risque d’hallucination
  • Installer un skill prouve sa disponibilité, tandis que des réglages de réponse persistants nécessitent une couche de diffusion distincte

Poursuivez avec la partie 2 : Claude a sélectionné mon output style. Puis l’a ignoré pour la configuration de l’Output Style et les contrôles qui montrent si Claude la suit.