"Intelligence artificielle : tout comprendre du nouveau cadre européen", 21 avril 2021

... En résumé, l’approche européenne consiste à encadrer l’IA, afin d’éviter de sombrer dans une technologie menaçante pour les droits humains...tout en garantissant ses potentiels pour l’économie...Un cadre stratégique de l'UE basé sur les valeurs de l'UE donnera aux citoyens la confiance nécessaire pour accepter des solutions basées sur l'IA, tout en encourageant les entreprises à les développer et à les déployer”, peut-on voir écrit sur la page officielle de la proposition européenne...

Le texte propose clairement d’interdire les systèmes de notation sociale de la population...

En général, les technologies d’IA destinée à “une surveillance indiscriminée appliquée de manière généralisée à toutes les personnes physiques sans différenciation” seront interdites...

Globalement, la proposition veut aussi interdire les systèmes d'IA qui causent du tort aux personnes en manipulant leur comportement, leurs opinions ou leurs décisions...

La proposition de loi instaure de nouvelles règles pour les fournisseurs de systèmes d’IA à haut risque, et les définit. L’IA considérée comme “à haut risque” englobe toutes les technologies qui, par leurs rôles clé en société, par leur potentiel d’utilisation et pour les risques associés, pourraient nuire gravement aux droits des citoyens.

Parmi ces technologies, on trouve les algorithmes utilisés pour scanner les CV...

...Les données qui alimentent un programme d’intelligence artificielle peuvent en effet être la source de problèmes de préjugés raciaux et sexistes, qui entravent le développement de la technologie. L'une des exigences de la Commission dans le projet est que les ensembles de données “n'intègrent aucun biais intentionnel ou involontaire” qui peut conduire à une discrimination. Pour cette raison, le test de conformité sera primordial...

Les entreprises qui ne se conforment pas aux nouvelles règles pourraient être condamnées à une amende pouvant aller jusqu'à 20 millions d'euros, ou 4% de leur chiffre d'affaires.

Afin de contrôler et superviser les États dans l’adoption des nouvelles règles, le texte propose également de créer un comité européen de l'intelligence artificielle...

Certains militants des droits numériques, tout en accueillant positivement de nombreuses parties du projet de loi, ont déclaré que certains éléments semblaient trop vagues et offraient trop d'échappatoires aux entreprises utilisant l’IA, et notamment aux Big Tech. ...