(2/5) Comment développer des évaluations d'impacts de l'IA sur les droits fondamentaux ?

Organisé le 21 avril 2023 par l'Observatoire de l'IA de l'université Paris 1 Panthéon-Sorbonne, le colloque « Intelligence artificielle et droits fondamentaux : regards transatlantiques » avait pour objectif de présenter une approche de droit comparé relative aux impacts des systèmes d’intelligence artificielle sur les droits humains. En effet, ces dernières années, de nombreux rapports et avis ont été publiés sur la manière de réglementer et de réguler l’intelligence artificielle (IA). La Commission européenne a présenté une proposition de règlement sur l'intelligence artificielle actuellement en discussion au sein du Conseil et du Parlement européen. De plus, des travaux ont été menés au sein d’un comité sur l’IA du Conseil de l’Europe. D’autres initiatives sont aujourd'hui conduites au niveau international, notamment aux États-Unis, mais aussi au Canada.

Catherine Régis a notamment participé à l'élaboration de la Déclaration de Montréal pour un développement responsable de l'IA (1) et a récemment co-dirigé l'ouvrage « Angles morts de la gouvernance de l’IA » publié aux presses de l'UNESCO en avril 2023 (2). Elle est par ailleurs co-responsable du Groupe sur l’IA responsable du Partenariat Mondial sur l’IA, professeur titulaire de la Chaire de recherche du Canada en droit et politique de santé ainsi que chercheuse à l'Institut québécois d'IA (MILA) à l'université Montréal. Au sein de son intervention dans le colloque cité plus haut et via ses travaux, Catherine Régis visent notamment à proposer une évaluation d'impact sur les enjeux éthiques de l’IA afin de réduire l’écart entre les droits fondamentaux et les pratiques des acteurs de l’IA.

Trois constats l’ont amené à travailler sur le sujet :

• Premièrement, la plupart des travaux actuels se concentrent sur l'articulation des systèmes d’IA (SIA) avec le droit à la vie privée alors que les enjeux sur les droits humains sont bien plus vastes.
• Deuxièmement, même si une interprétation commune sur les droits humains est parfois possible, il est difficile de les mobiliser de manière pratique alors même que ce besoin est primordial pour les développeurs et les utilisateurs des SIA.
• Troisièmement, les déclarations d’impact environnemental pourraient inspirer ces études d’impact sur les enjeux éthiques de l’IA en matière de droits fondamentaux. Il s’agit d’examiner l’impact de projets alors qu’ils sont en développement et qu’il est encore possible de les modifier. Cela pourrait notamment aider les déployeurs de SIA à anticiper, évaluer et limiter l’impact de leur SIA sur les droits fondamentaux avant leur utilisation par le grand public et les acteurs gouvernementaux.

Dans son intervention, Catherine Régis soutient qu’il est nécessaire de travailler à l’établissement d’études d’impact efficaces en matière d’IA et qui puissent être menées tout au long du système de vie du SIA.

(1) Déclaration de Montréal pour un développement responsable de l'intelligence artificielle.
(2) Benjamin Prud’homme, Catherine Régis et Golnoosh Farnadi (dir.), Angles morts de la gouvernance de l’IA, rapport pour l’UNESCO de la Chaire Mila, avril 2023, https://unesdoc.unesco.org/ark:/48223/pf0000384801.