Voté par une très large majorité des députés (523 voix pour et 46 voix contre), ce texte s’est fixé pour objectif de protéger les droits et la sécurité des personnes et des entreprises contre les éventuelles dérives de l’intelligence artificielle, tout en soutenant l’innovation dans ce domaine. « C’est le premier standard international sur le développement et l’usage de l’IA, souligne Adrien Hug-Korda, directeur digital trust & compliance chez Converteo, cabinet de conseil data et IA. Il propose une catégorisation des systèmes d’IA en fonction des risques liés aux usages qui vont en être faits. »

Ainsi, en vertu de cette approche, les cas d’usages présentant des « risques inacceptables » sont totalement interdits (scoring social, IA manipulatrice, etc.). De l’autre côté du spectre, ceux qui engendrent un « risque minimal » ne sont pas du tout règlementés (filtres anti-spam, jeux vidéo, etc.). Les systèmes d’IA à « risque limité » (chatbot) sont quant à eux soumis à une obligation de transparence et doivent notamment s’assurer que les utilisateurs sont conscients qu’ils interagissent avec une IA.

Les éditeurs de logiciels fortement responsabilisés

Finalement, ce sont les systèmes d’IA à « haut risque » qui sont les plus concernés par les nouvelles obligations introduites par l’IA Act. « En plus de l’obligation de transparence, les éditeurs de solutions d'IA à haut risque doivent s'enregistrer au sein d'une base de donnée européenne, fournir des instructions d’utilisation de leurs solutions, et s'assurer que celles-ci généreront automatiquement des logs, c’est à dire des historiques d'événements permettant un audit des actions menées par l’IA en cas d'incident », indique Adrien Hug-Korda.

Pour le entreprises utilisatrices, il s’agit plutôt de respecter scrupuleusement les instructions des éditeurs en mettant en place un système de gouvernance adéquat et en formant les équipes en interne. Puis, dans un second temps, en reportant sur leur utilisation de l’outil. « En cas de manquement, elles s’exposent à une amende qui peut aller jusqu’à 3 % du chiffre d’affaires mondial ou 15 millions d’euros, prévient le consultant. Ce montant peut même grimper jusqu’à 7 % du CA pour les manquements les plus graves, comme la vente ou l'utilisation d'un logiciel illégal par exemple. » La version définitive du texte devrait être publiée avant la fin de la législature européenne au printemps, pour une entrée en vigueur échelonnée avec une série de mesures tous les six mois pendant trois ans.