LEBIGDATA.FR I.A, Cloud & Cybersécurité
Des chercheurs de Shanghaï ont développé une IA capable de remplacer un procureur, en rédigeant un procès et en prononçant des sanctions contre les suspects d'affaires criminelles. Cette intelligence artificielle pourrait être prochainement déployée dans la Chine, mais suscite la controverse…
Au fil des prochaines années, l'intelligence artificielle va automatiser de nombreux métiers. Et ceci concerne même certains métiers auxquels on ne s'attendrait pas…
La Chine annonce avoir développé une IA capable de juger les criminels avec une exactitude de plus de 97%. Elle a été créée et testée par le Parquet du Shanghai Pudong People, qui est le plus large office des poursuites du pays.
Le système est capable d'identifier les » dissidents » de façon autonome, et de suggérer des sentences pour les criminels présumés. L'intervention humaine n'est donc plus nécessaire.
Une IA capable de rédiger le procès et de suggérer une sentence
En se basant sur une description textuelle de l'affaire, l'IA peut rédiger le procès et suggérer une sanction. Pour décider de la sentence, elle se base sur 1000 » traits » provenant du texte descriptif généré par l'humain.
L'intelligence artificielle a été entraînée sur plus de 17 000 affaires tirées du monde réel entre 2015 et 2020. Elle est capable d'identifier et de suggérer des sentences pour les huit crimes les plus communs à Shanghai.
Parmi les crimes reconnus par cette IA, on compte la » provocation de trouble « , la fraude à la carte de crédit, les crimes de jeux d'argent, la conduite dangereuse, le vol, la fraude, les blessures intentionnelles et l'obstruction aux autorités. Le système reconnaîtra bientôt d'autres types de crimes, et pourra remplir plusieurs procès contre un même suspect après une mise à jour.
Selon le professeur Shi Yong à l'origine du projet, cette innovation pourrait permettre de soulager les procureurs humains et leur permettre de se concentrer sur les cas les plus complexes. Le système peut être exécuté sur un PC ordinaire.
Les procureurs humains s'inquiètent des risques de dérives
Il existe déjà des intelligences artificielles utilisées par la police et la justice. L'Allemagne utilise par exemple la reconnaissance faciale et la forensique pour résoudre des affaires complexes. De même, la Chine utilise l'outil System 206 pour évaluer des preuves, la menace représentée par un suspect ou les conditions de son arrestation.
Toutefois, c'est la première fois qu'une IA serait utilisée pour prononcer des sanctions. Certains craignent d'ores et déjà que cette IA puisse être militarisée par le Parti Communiste Chinois. En effet, les juges humains se demandent qui endossera la responsabilité des décisions prises par la machine…
Un procureur de Guangzhou s'inquiète notamment du taux d'exactitude de 97%. À ses yeux, si ce pourcentage semble haut d'un point de vue technologique, il traduit une marge d'erreur de 3%. De nombreux innocents risquent d'être accusés à tort. Il convient donc de déterminer qui sera tenu responsable entre le procureur, l'IA ou le concepteur de son algorithme…
En outre, il est convaincu que de nombreux procureurs humains refuseront qu'un ordinateur interfère avec leur travail. Selon lui, » une IA peut aider à détecter une erreur, mais ne peut pas remplacer les humains dans la prise de décision « …
La Chine est actuellement le pays le plus avancé dans le domaine de l'IA, surpassant même les États-Unis grâce à des investissements colossaux dans cette technologie nouvelle. Il est donc logique que l'intelligence artificielle soit déployée plus rapidement dans de nombreux domaines.
Ce pays asiatique est aussi beaucoup plus strict que l'Europe et les États-Unis, comme a pu le révéler la gestion intransigeante de la crise du Covid par le PCC. Néanmoins, on peut craindre que de telles innovations dangereuses et liberticides soient déployées dans nos contrées dans un futur proche…
- Partager l'article :
