Construire une app avec l'IA : grisant, jusqu'à ce que ça casse

J’utilise l’IA tous les jours pour coder, et soyons honnêtes : elle m’émerveille. Elle me débloque sur des sujets complexes, me fait gagner des heures, transforme une idée en un écran qui s’anime. Mais il y a quelque chose qui me trouble. Plus je la trouve puissante, plus je vois où elle peut nous tromper — pas elle, en fait, mais la confiance qu’on lui donne. Et ça, mis bout à bout, c’est le vrai sujet de ce billet.

L’opportunité est réelle

Commençons par le bon côté, parce qu’il est immense. Il y a quelque chose de vertigineux à décrire une idée et à la voir prendre forme. Des gens qui n’ont jamais écrit une ligne de code construisent aujourd’hui des outils qui marchent, lancent des projets, testent une intuition en un week-end. Cette barrière technique qui décourageait tant de bonnes idées, elle s’effondre. Et ça, sincèrement, ça me réjouit.

Pour moi aussi, l’IA est un accélérateur formidable. Elle écrit le code répétitif, propose des pistes, m’explique une erreur obscure en trois lignes. Sur ce point, aucun débat : il y a un avant et un après.

Le problème n’est pas le code généré. C’est ce qu’on ne voit pas.

Voici ce que j’observe. L’IA produit du code qui fonctionne — la démo tourne, l’écran s’affiche, c’est grisant. Mais « ça marche » et « c’est bien fait » sont deux choses différentes. Et cette différence-là, c’est précisément celle qu’on ne peut pas voir sans bagage technique.

Un code peut tourner parfaitement et, en même temps, exposer les données de vos utilisateurs, coûter dix fois trop cher à l’usage, devenir impossible à faire évoluer dans six mois, ou s’effondrer dès que cent personnes l’utilisent en même temps. Rien de tout ça n’apparaît dans la démo. Ça apparaît plus tard — toujours au pire moment.

Le nerf de la guerre, c’est la donnée

Car le cœur d’une application, ce ne sont pas ses boutons ni son superbe design. C’est la façon dont la donnée est structurée. L’interface, on peut la refaire en un week-end ; un modèle de données bancal, lui, contamine tout ce qui se construit par-dessus, et le corriger plus tard revient souvent à tout reprendre.

Et c’est exactement le sujet sur lequel l’IA brille le moins. Elle excelle à produire l’écran qu’on lui décrit, mais elle questionne rarement les fondations : comment les informations sont reliées, ce qu’on garde en mémoire, ce qui doit rester cohérent dans le temps. Une démo magnifique peut reposer sur une structure qui condamne le projet — et sans bagage, on ne voit que la démo.

La confiance aveugle, c’est ça le vrai risque

Le piège n’est pas l’IA. C’est la confiance qu’elle inspire. Une IA répond toujours avec assurance, y compris quand elle a tort. Jamais elle ne dit « là, je ne suis pas sûr, fais valider par quelqu’un ». Elle propose un choix d’architecture, une dépendance, une façon de stocker un mot de passe, avec le même aplomb tranquille — qu’il soit excellent ou catastrophique.

Quand on a l’expérience, on sent quand une réponse sonne faux, on pose une contre-question, on vérifie. Quand on ne l’a pas, on n’a aucun moyen de distinguer le bon conseil du mauvais. On valide tout, parce que tout a l’air de marcher. Et c’est exactement comme ça qu’on construit, sans le savoir, sur des fondations fragiles.

Le jour où ça casse

Le moment de vérité, ce n’est pas la création. C’est la panne. L’application en production qui tombe, le bug que personne ne comprend, la facture cloud qui explose, la faille de sécurité. Là, il faut diagnostiquer — et on ne répare pas un système dont on ne comprend pas soi-même le fonctionnement. On décrit un symptôme qu’on ne sait pas nommer, l’IA propose une rustine, qui en casse une autre, et on s’enfonce.

Construire, l’IA le fait presque seule. Comprendre ce qu’elle a construit, ça, ça reste indispensable.

Ma position, nuancée

Je ne dis pas « n’utilisez pas l’IA ». Je l’utilise moi-même, intensément. Je dis : ne lui accordez pas une confiance que vous n’accorderiez à aucun prestataire humain sans un deuxième avis.

Concrètement, ça veut dire garder un œil technique dans la boucle — le sien, qu’on développe peu à peu, ou celui de quelqu’un, ne serait-ce que pour une relecture. Apprendre les bonnes questions à poser compte autant que d’obtenir des réponses. Et traiter ce que produit l’IA comme un brouillon talentueux : un excellent point de départ, pas une vérité à déployer les yeux fermés.

L’IA abaisse la barrière pour commencer. Elle ne supprime pas le besoin de discernement pour durer. Et cette nuance, à mon avis, se révèle le jour où un projet commence à prendre de l’ampleur, à avoir de vrais utilisateurs — le moment où soit les fondations tiennent, soit tout s’écroule sans que personne sache pourquoi.