Par Anne-Laure Villedieu, avocat associé, CMS Francis Lefebvre.
Le Comité européen de la protection des données (« CEPD »), qui rassemble les différentes Autorités de protection des données européennes, parmi lesquelles la CNIL, a publié le 18 juin 2021, conjointement avec le Contrôleur européen de la protection des données, son avis concernant la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle du 21 avril 2021 (COM (2021) 206 final, 2021/0106 (COD)).
La proposition de règlement concernée vise à doter l’IA d’un cadre juridique harmonisé dans l’Union européenne. La Commission a adopté une approche fondée sur les risques.
En synthèse, les systèmes d’IA présentant un risque inacceptable sont prohibés, les systèmes « à haut risque » sont soumis à un régime de conformité (analyse et gestion des risques, transparence, garanties de correction, garanties d’absence de biais, garanties de sécurité, etc.) et certains systèmes présentant des risques faibles sont soumis à des obligations de transparence.
Sont ainsi prohibés les systèmes d’identification biométrique à distance et en temps réel, utilisés dans l’espace public aux fins d’application de la loi, les systèmes utilisant des techniques de manipulation subliminale ou encore les systèmes de notation généralisée des personnes par les autorités publiques.
Ces prohibitions connaissent cependant des exceptions, en vue par exemple de la recherche ciblée de victimes d’actes criminels ou de la prévention d’une menace imminente pour la vie ou la sécurité des personnes physiques.
Le CEPD invite à étendre le champ des systèmes d’IA interdits
L’avis du CEPD approuve l’approche de la Commission basée sur les risques. Il souligne néanmoins la nécessité d’étendre le champ des systèmes d’IA interdits et de clarifier leur définition.
Ainsi, le CEPD, soulignant les risques extrêmement élevés posés par l’identification à distance des personnes dans les espaces publics, préconise de supprimer toute exception à l’interdiction générale de ces systèmes.
