LEBIGDATA.FR I.A, Cloud & Cybersécurité
Une nouvelle étude de dbt Labs, acteur majeur du cadre pour assurer la fiabilité des données, lève le voile sur une tension croissante au cœur de nos organisations. L’adoption de l’intelligence artificielle ne s’accompagne pas d’un investissement équivalent dans la fiabilité et la gouvernance de ces mêmes données.
Et si, en cherchant la vitesse, nous étions en train de construire une « usine à bugs » ultrarapide, minant la confiance même qui devrait être le socle de toute décision stratégique à l’ère du numérique ? Nous avons interrogé Benoît Perigaud, staff developer experience advocate chez dbt Labs, pour décrypter ce paradoxe sociologique et technologique, et comprendre les implications profondes de cette course effrénée à la productivité.
Les conclusions clés, l’IA à double tranchant pour le monde de la donnée
L’étude de dbt Labs met en lumière plusieurs dynamiques préoccupantes. Elle dessine un avenir incertain si des garde-fous ne sont pas rapidement mis en place. Le grand paradoxe réside dans une vitesse aveugle et une fiabilité en berne
Le chiffre est frappant. Selon : 72 % des équipes utilisent l’IA pour coder plus vite, mais seulement 24 % l’exploitent pour tester la fiabilité des données qu’elles génèrent. Ce décalage crée un véritable gouffre.
Le staff developer experience advocate de dbt Labs apporte une nuance importante sur ce chiffre. “Ces 24 % mesurent l’usage de l’IA spécifiquement pour des tâches d’observabilité et de gouvernance — pas le niveau de test réel des données produites. Ce n’est pas la même chose.” La distinction est de taille : des frameworks comme dbt intègrent les tests directement dans le cycle de transformation des données.
Lorsque l’IA génère du code dans ce type d’environnement, la fiabilité est vérifiée au moment même de la création, sans étape supplémentaire. Le vrai risque n’est donc pas universel. Il se concentre là où l’IA est utilisée hors de tout cadre structurant, sans garde-fous natifs.
L’étude révèle aussi que la confiance demeure une priorité stratégique… mais une pratique quotidienne délaissée. En effet, la confiance dans les données est devenue la priorité numéro 1 pour 83 % des organisations, une hausse de 17 points en un an. Pourtant, cette priorité stratégique ne se traduit pas toujours dans les actions quotidiennes.
L’hallucination,le danger vicieux de l’IA
L’IA, par sa capacité à « halluciner », devient un vecteur de désinformation potentiellement puissant. « On sait que l’IA a halluciné. L’IA aide à donner des réponses fausses. On va perdre la confiance autour de la data. La confiance va disparaître après la première hallucination. »
Le risque est réel. 71 % des professionnels de la data craignent d’envoyer des résultats faux ou « hallucinés » aux décideurs. Les conséquences pour un business sont majeures. Cependant, si l’IA est utilisée dans des pipelines de transformation où des tests robustes sont déjà en place, les risques sont mitigés.
Mais lorsqu’elle sert à « chatter » sur les données pour obtenir des requêtes ad-hoc, sans couche sémantique pour structurer les interrogations des LLM, le risque de « différentes réponses pour une seule question » explose. Ceci sape la crédibilité des insights.
Le coût de la fiabilité, économie et gouvernance en tension
Sur le plan économique, la situation est complexe. Les coûts d’infrastructure grimpent pour 57 % des répondants, tandis que les budgets des équipes stagnent. L’IA agit donc comme un « multiplicateur de la productivité ». Elle permet de répondre à plus de questions avec le même nombre de personnes. Le défi est de s’assurer que cette dépense est « utile ou génère de la valeur ».
Par ailleurs, un manque de clarté sur la propriété des données affecte 41 % des entreprises, freinant la vélocité et la réactivité des équipes data qui doivent chercher les responsables en cas de problème. Cette zone grise de la responsabilité devient un terreau fertile pour les erreurs non détectées.
La mutation du rôle de l’expert data
Face à ces défis, le rôle des experts data évolue. On passe de « fabricant de code » à « concepteur de systèmes ». L’IA, excellente pour le développement de code, pousse les humains vers des tâches plus stratégiques.
Cependant, « ce n’est pas un ‘flic’, mais un garant de la fiabilité de la donnée. L’IA va s’occuper de tout ce qui est automatisé. » La formation doit désormais renforcer les soft skills. L’architecture, la compréhension métier, et la capacité à guider les LLM gagnent en importance.
La gouvernance ne doit plus être une option, mais une infrastructure de confiance. Elle doit s’intégrer a priori pour accélérer la productivité plutôt que la freiner.
Pour les agents autonomes, dbt Labs insiste sur des principes forts. Chaque changement doit être traçable et testable, avec des efforts pour surveiller les transformations et permettre à l’IA de s’auto-réparer sous supervision.
Le conseil aux CTO, Le contexte est roi pour la fiabilité
Pour un CTO cherchant à maximiser la productivité via l’IA sans sacrifier la gouvernance, le message de Benoît est clair. « De plus en plus, on parle de ‘contexte’. Plus on peut donner de contexte à l’IA, plus il s’en sort. Le meilleur conseil, ce serait d’avoir un système qui permet de rendre le contexte disponible à l’IA et le garder à jour. Ainsi, il va aider les entreprises. »
La mise en place de « semantic layers » est cruciale pour fournir aux LLM une compréhension structurée des données et éviter les hallucinations.
Les deux futurs de l’entreprise Data-Driven
Le rapport de dbt Labs et les éclaircissements du staff developer dessinent deux futurs distincts pour l’entreprise « Data-Driven » de 2030.
Celles qui ignoreront ces signaux d’alarme risquent de se retrouver avec « beaucoup de tables et de dashboards, mais des chiffres différents en fonction des dashboards », générant « plus de bruit qu’autre chose » et une érosion totale de la confiance.
La « confiance va disparaître » et avec elle, la capacité à prendre des décisions éclairées, transformant l’investissement IA en gouffre financier et stratégique.
À l’inverse, les organisations qui investiront proactivement dans une « infrastructure de confiance » feront de la fiabilité des données un avantage concurrentiel majeur. Elles pourront répondre « avec une vitesse incomparable » aux questions complexes de demain. La confiance deviendra un avantage concurrentiel réel.
L’IA, loin de rendre la donnée obsolète, en intensifie la nécessité d’une gouvernance rigoureuse et d’un rôle humain réinventé. Celui de garant de la fiabilité. La question n’est plus de savoir si l’IA va transformer nos entreprises, mais si nous serons capables de maîtriser cette transformation pour construire un futur où l’innovation rime avec certitude.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
