99% des conversations sur l'IA agentique parlent de vitesse. Ça devrait tous et toutes nous empêcher de dormir.
Parce que très peu de monde parle de responsabilité.
Depuis des mois, je vois émerger sur LinkedIn, dans les conférences, en meetups, une idéologie qui me glace le sang.
L'abandon de la responsabilité individuelle est devenu un signal de maturité technologique.
"Tu supervises encore ton code ? T'as rien compris."
Concrètement, ça donne des boîtes qui sortent des fonctionnalités à la chaîne, accélérées par l'IA, sans qu'un humain en ait lu le code.
Le MTTR est devenu le bouclier moral de l'industrie.
Puisqu'on répare vite, on peut négliger les contrôles qualité, voire les abandonner. Ils ne captureraient pas les bons défauts, ils coûteraient trop cher.
Curieusement, c'est à l'instant précis où cette observation nous arrange qu'on parvient à la faire.
Alors on se permet de percer la coque du bateau de manière industrielle, parce qu'on sait colmater les avaries.
Sauf que pendant qu'on tâtonne, il y a des gens dans la cale.
Le MTTR mesure le temps qu'on met à réparer le système. Personne ne mesure le temps qu'on met à réparer les gens.
Une patiente dont le dossier médical devient inaccessible en pleine urgence. Un voyageur bloqué sur un quai sans alternative. Un compte bancaire gelé pendant 72 heures sans explication. Pourquoi prendre ce risque ?
Instinct de survie. "Si on le fait pas, un concurrent le fera."
En une respiration, on a oublié les grands discours de révolution planétaire. La tech allait démocratiser l'éducation, réinventer la santé, préserver le climat. Une tech au service des êtres humains.
Je continue de poser la question en conférence : "Comment vous avez résolu le problème de la qualité à l'échelle ?" Tout le monde bafouille.
Réponse 1. "Il faut des gens qui font attention." Réponse 2. "Y'a pas besoin, on corrige aussi vite qu'on développe."
La première est un vœu pieux. La seconde est le nœud du problème.
Être capable de réparer ne dispense pas d'être responsable de ce qu'on casse.
Je vois peu de personnes prendre position pour plus de fiabilité, plus de stabilité, plus de robustesse.
Publié à l'origine sur LinkedIn.
Voir le post sur LinkedIn →