LEBIGDATA.FR I.A, Cloud & Cybersécurité
Des chercheurs sont parvenus à modifier une intelligence artificielle dédiée à la découverte de médicaments, afin qu'elle invente des armes chimiques. En seulement six heures, l'IA a créé des compositions d'une léthalité inouïe…
L'intelligence artificielle sera-t-elle notre salut, ou notre damnation ? Cette question provoque de vifs débats, et la nouvelle prouesse de l'IA ne va certainement pas rassurer les pessimistes…
Dans une étude publiée dans le journal Nature Machine Intelligence, des chercheurs révèlent avoir volontairement transformé une IA de découverte de médicaments pour la rendre maléfique. L'objectif était de vérifier de quelle façon des cybercriminels pourraient détourner cette technologie, si jamais ils s'en emparaient…
Les résultats de cette étude confirment qu'un tel détournement serait catastrophique. En seulement six heures, l'IA corrompue est parvenue à identifier 40 000 nouvelles armes chimiques potentielles.
L'IA invente des armes chimiques plus léthales que VX
Certaines de ces armes chimiques sont similaires à l'un des plus dangereux agents innervants de tous les temps : VX. Une seule goutte de cette substance sans goût ni odeur peut provoquer des sueurs intenses et des contractions chez un humain. Une dose plus forte peut causer des convulsions, et même un arrêt respiratoire complet.
Par souci de sécurité, les scientifiques ont reçu pour consigne de dissimuler les détails sur la façon dont ils ont transformé cette IA bienveillante en une version malfaisante. Selon Fabio Urbina, chef du projet, » nous avons utilisé de nombreux ensembles de données de molécules ayant été testés pour voir s'ils sont toxiques ou non « .
Les chercheurs se sont focalisés sur l'inhibiteur d'acétylcholinestérase sur lequel est basé VX. Cette molécule est utilisée par les neurones du cerveau humain à chaque action liée aux muscles pour transmettre le signal d'activation. Le VX est léthal car il empêche le diaphragme de bouger. Les poumons sont paralysés, et la respiration devient impossible.
En parallèle, la manière dont l'IA traite habituellement les données fournies pour vérifier la toxicité d'un produit a été modifiée. Les chercheurs ne savaient pas exactement où ils allaient, puisque leurs modèles génératifs sont de nouvelles technologies très peu utilisées jusqu'alors.
Les chercheurs craignent qu'un hacker crée des armes chimiques
Première surprise : de nombreux composés générés par l'IA pourraient être encore plus toxiques que VX, alors même qu'il s'agit d'un des composants les plus puissants à l'heure actuelle. Une quantité homéopathique d'une telle substance suffirait à causer la mort.
Les chercheurs ont aussi été choqués par la facilité avec laquelle l'IA a effectué ces découvertes. Une large partie des données utilisées peuvent être obtenues gratuitement sur internet.
Ainsi, l'équipe de scientifiques a même hésité à publier son étude par peur que des criminels s'en inspirent et copient ses travaux. N'importe quel programmeur informatique pourrait télécharger le dataset et transformer une IA en machine à créer des armes chimiques.
Les chercheurs ont finalement décidé de publier leur étude, car un cybercriminel sera tôt ou tard en mesure d'arriver au même résultat. La priorité n'est donc pas de leur cacher la marche à suivre, mais de trouver des solutions pour empêcher un futur désastre…
Alors que les armes autonomes robotisées sont déjà déployées sur les champs de bataille, l'intelligence artificielle risque aussi d'être utilisée pour inventer de nouvelles armes dévastatrices. Il devient urgent de bannir ou de réguler cette technologie dans le domaine militaire…
- Partager l'article :
