"Discrimination, manipulation, destruction d'emploi... Les plus grands risques liés à l'IA", 1er novembre 2023

Une inquiétude de plus en plus forte. Le Royaume-Uni organise, mercredi 1er et jeudi 2 novembre, le premier sommet mondial sur les risques de l'intelligence artificielle (IA). Ce sommet...vise à identifier et à discuter des dangers potentiels liés aux IA d'avant-garde, comme le robot conversationnel ChatGPT. 

Des smartphones aux voitures, l'IA est déjà présente dans de nombreux aspects de notre vie. Ces dernières années, ses progrès se sont accélérés avec le développement des IA génératives, capables de produire du texte, des sons et des images en quelques secondes. Son potentiel suscite d’immenses espoirs : elle pourrait révolutionner de nombreux domaines, comme la médecine, l'éducation ou l'environnement. Mais son développement effréné peut également entraîner des risques, tels que des atteintes à la vie privée, des campagnes de désinformation ou même la possibilité de "fabriquer des armes chimiques ou biologiques", s'est inquiété le Premier ministre britannique Rishi Sunak...

Utilisés pour générer du texte, des voix et des images, les systèmes d’IA sont capables de produire des contenus qui sont de plus en plus difficiles à distinguer de ceux produits par l’humain. Ces productions peuvent être utilisés à mauvais escient pour tromper les utilisateurs, notamment en créant de fausses vidéos ou témoignages qui semblent authentiques...

Tromperie, pression ou exploitation de la vulnérabilité... La manipulation représente l’un des problèmes éthiques majeurs de l'IA, selon les chercheurs. L'arrivée du robot conversationnel ChatGPT dans la vie de millions d'individus, à l’automne 2022, a suscité de nombreuses craintes quant à la transformation du monde du travail et à son impact sur l'emploi. À moyen terme, les experts redoutent que l’IA permette de supprimer de nombreux postes, comme le personnel administratif, les avocats, les médecins, les journalistes ou les enseignants...

À l’heure actuelle, les risques de discrimination représentent l’un des principaux points faibles de l’IA, selon les chercheurs. Les algorithmes d'intelligence artificielle figent des stéréotypes racistes ou sexistes...Autre atteinte directe aux droits humains : l'IA peut compromettre notre vie privée. Les grands modèles de langage étant entraînés sur des données pouvant contenir des informations personnelles, il est difficile en pratique de garantir que ces modèles ne compromettent pas la confidentialité des utilisateurs...

Enfin, l'utilisation par l’IA de données en libre accès soulève des questions de propriété intellectuelle. Les outils d'IA générative sont souvent alimentés par des modèles entraînés sur des quantités massives de données textuelles ou visuelles...