LEBIGDATA.FR I.A, Cloud & Cybersécurité
Comment l’intelligence artificielle peut devenir une source de fragilités pour les entreprises ? La DGSI l’a expliqué dans son dernier Flash ingérence en racontant trois situations bien réelles, vécues par des marques françaises.
En gros, ces outils sont déjà largement adoptés dans les bureaux. Et pourtant, ils déplacent des données, influencent des décisions et ouvrent parfois la porte à des usages risqués.
Le message du service de renseignement intérieur vise à alerter, sans dramatiser, sur la nécessité de structurer les pratiques avant que de mauvaises habitudes ne s’installent.
Première leçon
Le premier cas concerne une entreprise stratégique dont certains salariés utilisaient un service d’IA générative public pour traduire des documents confidentiels. L’outil, développé par une société étrangère, servait de raccourci quotidien pour traiter des contenus internes.
L’usage se faisait sans validation hiérarchique, dans un souci d’efficacité. La direction informatique a découvert cette pratique lors d’un contrôle interne. Et elle a rapidement demandé l’arrêt de ce service, au profit d’une solution interne payante. Un groupe de travail a aussi été créé pour définir une doctrine d’usage de l’IA au sein de l’entreprise.
La DGSI rappelle que ces versions gratuites utilisent souvent les données saisies pour entraîner leurs modèles. Certaines politiques de confidentialité prévoient aussi un stockage hors du territoire, parfois sans consentement explicite.
Des informations internes peuvent alors être soumises à des lois étrangères, avec une portée extraterritoriale. L’agence signale aussi que la connexion à des plugins ou des interfaces externes renforce les vulnérabilités.
Car ces briques techniques présentent parfois des protections limitées. L’épisode illustre un automatisme courant : confier des données sensibles à un outil pratique, sans mesurer les conséquences.
La prise de décision
Le second cas touche à la prise de décision. Une société française en croissance sur des marchés étrangers a confié sa procédure de due diligence à un outil d’IA développé à l’étranger.
L’outil délivrait des rapports d’évaluation sur des partenaires potentiels. Par manque de temps, les équipes validaient ces analyses sans vérification complémentaire. Les décisions commerciales se sont alors alignées presque entièrement sur ces résultats automatisés.
La DGSI souligne que ces systèmes produisent des réponses probabilistes. Ils fournissent la réponse statistiquement la plus probable, pas toujours la plus pertinente. Des biais introduits lors de la conception, ou des hallucinations, peuvent influencer les conclusions.
Cette dépendance peut réduire la vigilance humaine et entraîner une perte de contrôle sur des choix stratégiques. L’agence invite donc à maintenir un regard critique et à intégrer une validation experte dans ces processus.
Le risque le plus évident : les dérives de l’IA
Le troisième cas montre une dérive plus visible. Le responsable d’un site industriel a reçu un appel en visioconférence d’un interlocuteur ressemblant parfaitement au dirigeant du groupe. La voix et l’apparence correspondaient.
L’individu a demandé un transfert financier dans le cadre d’un projet présenté comme une acquisition en préparation. Trouvant la demande inhabituelle, le responsable a interrompu l’échange et alerté sa direction. L’entreprise a confirmé une tentative d’escroquerie reposant sur un deepfake audio et vidéo.
La DGSI rappelle que ces manipulations se multiplient rapidement. Le volume de deepfakes présents en ligne aurait été multiplié par plus de dix entre 2023 et 2025. Plusieurs millions de contenus circulent déjà.
Près de la moitié des entreprises déclarent avoir subi des tentatives d’escroquerie impliquant ce type de procédé. Ces attaques reposent souvent sur une analyse rapide de données publiques et privées pour personnaliser les approches et renforcer leur crédibilité.
Ce qu’il faut retenir
Plus largement, l’agence rappelle que l’adoption de l’IA progresse rapidement dans les organisations. Près de 78 % des entreprises mondiales utilisent déjà ces outils dans au moins une fonction. Les gains de productivité peuvent atteindre 55 %. Des études évoquent un retour financier moyen proche de 3,70 dollars par dollar investi.
En parallèle, des fragilités demeurent visibles, notamment sur la gouvernance. En Europe, environ un tiers des entreprises ne dispose pas de politique formelle dédiée à l’IA. Les préoccupations liées à l’éthique et à la confidentialité restent fortes.
Face à ces constats, la DGSI encourage un encadrement raisonné. Elle recommande de définir clairement les conditions d’usage, de privilégier des solutions locales ou françaises, et de former régulièrement les équipes.
La transparence interne, la protection des données personnelles et la vérification des résultats par des experts font aussi partie des pratiques attendues. Un canal de signalement permet enfin de remonter tout événement suspect.
Ces recommandations dessinent un usage plus structuré, pensé pour accompagner l’adoption, sans laisser la technologie guider seule les décisions.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
