99% des conversations sur l'IA agentique parlent de vitesse. Ça devrait tous et toutes nous empêcher de dormir.
Parce que très peu de monde parle de responsabilité.
Depuis des mois, je vois émerger sur LinkedIn, dans les conférences, en meetups, une idéologie qui me glace le sang.
L'abandon de la responsabilité individuelle est devenu un signal de maturité technologique.
"Tu supervises encore ton code ? T'as rien compris."
Concrètement, ça donne des boîtes qui sortent des fonctionnalités à la chaîne, accélérées par l'IA, sans qu'un humain en ait lu le code.
Le MTTR est devenu le bouclier moral de l'industrie.
Puisqu'on répare vite, on peut négliger les contrôles qualité, voire les abandonner. Ils ne captureraient pas les bons défauts, ils coûteraient trop cher.
Curieusement, c'est à l'instant précis où cette observation nous arrange qu'on parvient à la faire.
Alors on se permet de percer la coque du bateau de manière industrielle, parce qu'on sait colmater les avaries.
Sauf que pendant qu'on tâtonne, il y a des gens dans la cale.
Le MTTR mesure le temps qu'on met à réparer le système. Personne ne mesure le temps qu'on met à réparer les gens.
Une patiente dont le dossier médical devient inaccessible en pleine urgence. Un voyageur bloqué sur un quai sans alternative. Un compte bancaire gelé pendant 72 heures sans explication. Pourquoi prendre ce risque ?
Instinct de survie. "Si on le fait pas, un concurrent le fera."
En une respiration, on a oublié les grands discours de révolution planétaire. La tech allait démocratiser l'éducation, réinventer la santé, préserver le climat. Une tech au service des êtres humains.
C’est fini.
L'ennemi n'est pas encore là, mais on sent déjà son souffle chaud dans notre cou. Alors on court, les yeux fermés, en scandant que l'IA agentique va nous sauver.
Je continue de poser la question en conférence : "Comment vous avez résolu le problème de la qualité à l'échelle ?" Tout le monde bafouille.
Réponse 1. "Il faut des gens qui font attention."
Réponse 2. "Y'a pas besoin, on corrige aussi vite qu'on développe."
La première est un vœu pieux. La seconde est le nœud du problème.
🔴 Être capable de réparer ne dispense pas d'être responsable de ce qu'on casse. N’importe quel enfant de 6 ans l’a enregistré.
Je vois peu de personnes prendre position pour plus de fiabilité, plus de stabilité, plus de robustesse.
Si tes inquiétudes sur la qualité logicielle trouvent pas d'écho autour de toi, lève la main. Fais-toi entendre.
Y'a besoin de toi.
Publié à l'origine sur LinkedIn.
Voir le post sur LinkedIn →