Sécurité et technologies émergentes : attention à l’intelligence artificielle et la réalité étendue

Les agences fédérales sont de plus en plus habiles à déployer des technologies comme la réalité augmentée et l’intelligence artificielle afin d’améliorer l’efficacité de leur mission. Mais selon Theresa Payton, experte en cybersécurité et ancienne DSI de la Maison-Blanche, elles doivent réellement s’inquiéter de la façon dont ces outils pourraient compromettre leur cybersécurité.

Réinvention des technologies et de la cybercriminalité

L’expert en cybersécurité Theresa Payton a détaillé ses prévisions de sécurité informatique pour 2021 et 2022 lors d’un récent webinaire parrainé par CDW et Intel. Dans son intervention, elle a déclaré que tout le monde est en pleine réinvention, les organisations et les entreprises comme les gouvernements, mais pas seulement. Les cybercriminels, dit-elle, sont également en mode réinvention

Payton a déclaré que les organisations doivent se prémunir de toute altération des systèmes d’IA pendant le temps de développement et de formation du système. Elle a également prédit que les systèmes de réalité étendue, qui incluent des outils de réalité virtuelle et augmentée, seront attaqués par des hackers.

Protégez les systèmes d’IA de la manipulation

Selon Payton, les risques liés à l’IA seront un sujet de préoccupation en 2021. Comme le note Towards Data Science, une attaque se produit lorsque l’adversaire est capable d’injecter de mauvaises données au modèle, ce qui peut conduire à un apprentissage erroné. Dans les modèles d’intelligence artificielle solidement construits, Payton a noté que le coach IA devrait être autodidacte et conscient du contexte. Il doit presque devenir une boîte noire pour l’ingénieur une fois que l’IA est opérationnelle.

D’après les prédictions de Payton, à mesure que les développeurs implémentent plus d’IA, les pirates vont pirater et modifier cet algorithme sans être détectés, de sorte que l’IA fasse des choses qui ne sont pas initialement prévues dans la conception. L’IA sera l’arme de choix des cybercriminels pour les aider à accéder aux comptes, aux réseaux et aux banques de données.

Tester l’IA pour se protéger

Les organisations ne devraient pas abandonner l’IA et doivent utiliser les outils d’IA pour lutter contre les cyberattaques. L’IA est également nécessaire pour la résilience et la fiabilité des opérations et pour être en mesure de faire évoluer les opérations. Néanmoins, Payton  recommande aux organisations de s’assurer que tous leurs composants d’IA soient testés. Il faut s’assurer qu’il est réellement d’exécuter des exemples de décisions en dehors de l’IA, de le comparer à la décision prise par l’IA et de le faire réviser si besoin.

Payton assure qu’il faut également se méfier des piratages sur les plateformes de réalité étendue dont l’adoption ira en crescendo en 2021. Et les premiers piratages arriveront vers 2022. Payton a déclaré qu’elle était optimiste sur la technologie de réalité étendue (XR). Cette dernière va donner à toute organisation le pouvoir de révolutionner le fonctionnement des opérations en cas de pandémie, de catastrophe naturelle ou de catastrophe d’origine humaine. 

Cependant, comme les plateformes XR se développent en collectant les réactions émotionnelles des utilisateurs, elles constituent une mine de données potentiellement précieuse pour les hackers. La prudence est de mise.

Pin It on Pinterest