LEBIGDATA.FR I.A, Cloud & Cybersécurité
Afin de lutter contre les cyberattaques basées sur l'IA, le Royaume-Uni compte munir ses propres espions d'intelligence artificielle. C'est ce que révèle un rapport basé sur des sources proches des renseignements britanniques…
L'intelligence artificielle se développe et se répand, pour le meilleur comme pour le pire. Si cette technologie permet de réaliser de formidables avancées dans le domaine de la science ou de la santé, elle représente aussi une nouvelle arme pour les cybercriminels.
Les cyberattaques basées sur l'IA vont se multiplier au fil des années à venir, et notamment à l'encontre des systèmes politiques. Pour faire face à cette menace, un rapport du think tank Royal United Services Institute (RUSI) basé sur des sources proches des renseignements britanniques révèle que le Royaume-Uni compte doter ses espions d'intelligence artificielle.
L'une des futures menaces à craindre pourrait être celle des Deep Fakes. L'IA pourrait être utilisée pour générer des vidéos falsifiées d'une personne à des fins de manipulation de l'opinion publique ou d'influence sur les élections par exemple.
https://youtu.be/I02UNq7jHTE
L'intelligence artificielle pourrait aussi permettre la mutation de malwares à des fins de cyberattaque. Ces malwares seraient alors plus difficiles à détecter par les systèmes traditionnels. Ils pourraient même être modifiés pour contrôler des drones et perpétrer des attaques physiques.
L'IA sera alors nécessaire pour contrer l'IA, selon le rapport : » l'adoption de l'IA n'est pas seulement importante pour aider les agences de renseignements à relever le défi technique de la surcharge d'information. Il est très probable que des acteurs malicieux utilisent l'IA pour attaquer le Royaume-Uni de différentes façons, et de nouvelles mesures de défense basées sur l'IA devront être développées « .
Les trois agences de renseignements britanniques ont fait des données et de la technologie leur priorité pour le futur, et le nouveau directeur du MI5, Ken McCallum, compte notamment faire du Machine Learning son atout majeur.
Le Royaume-Uni ne croit pas à un futur à la » Minority Report «
L'IA sera notamment utilisée pour détecter et arrêter ces attaques d'un genre nouveau. Cependant, les auteurs du rapport estiment que les machines seront probablement incapables de prédire qui risque de commettre un crime.
L'intelligence artificielle pourrait se révéler particulièrement inefficace dans le domaine de l'anti-terrorisme. Pour cause, les attentats sont trop peu fréquents pour fournir suffisamment de données afin que l'IA puisse y déceler des patterns. Un jugement humain restera donc nécessaire.
Même au sein de l'ensemble des données, le profil et les idéologies de terroristes varient bien trop pour qu'il soit possible d'établir un modèle de profil. Chaque événement est potentiellement radicalement différent du précédent. Les prédictions sont donc impossibles. De plus, le profilage pourrait être discriminatoire et mener à de nouvelles inquiétudes concernant les droits de l'Homme.
Plutôt que l'intelligence artificielle, le rapport s'attend à ce que la lutte anti-terroriste s'appuie sur l'intelligence » augmentée « . La technologie sera là pour aider les analystes humains à parcourir et à prioriser de larges volumes de données pour leur permettre d'émettre leurs propres jugements.
Il sera d'ailleurs essentiel que les opérateurs humains conservent une responsabilité pour les décisions prises par l'IA, et que l'IA ne se comporte pas comme une » boîte noire « dont il est impossible de comprendre les décisions.
Le Royaume-Uni peut devenir leader de l'espionnage basé sur l'IA, mais doit rester éthique
Toujours selon ce rapport, il est peu probable que l'intelligence artificielle » bouleverse » le monde des renseignements brutalement. Les auteurs s'attendent plutôt à une » augmentation » progressive des processus déjà en place plutôt qu'à l'arrivée de nouvelles capacités futuristes.
Le Royaume-Uni pourrait toutefois mener la danse et se hisser parmi les leaders de l'IA grâce à son secteur privé, mais aussi à des organisations comme le Alan Turing Institute et le Centre for Data Ethics and Innovation.
Cependant, pour faire face aux nouvelles craintes pour la confidentialité liées à l'usage de l'IA par les renseignements, de nouvelles lois et mesures devront être mises en place. Les espions devront notamment pouvoir justifier de la collecte et de l'analyse de larges volumes de données de citoyens ordinaires afin de détecter les criminels.
Il faudra aussi définir dans quelle mesure la confidentialité est compromise lorsque les données sont collectées et analysées par une machine plutôt que par un humain. L'IA a besoin de larges volumes de données pour trouver des patterns, et ceci pourrait représenter un nouveau niveau d'intrusion.
Quoi qu'il en soit, les auteurs du rapport invitent à ne pas se préoccuper plus que de raison des inconvénients potentiels de cette technologie. Pour cause, » se focaliser sur les scénarios catastrophes et les spéculations sur un futur réseau de surveillance IA dystopique risque de freiner l'innovation « …
- Partager l'article :
