TECHNOLOGIES EMERGENTES ET PROJETS A IMPACTS – Etat des lieux du règlement européen sur l’Intelligence artificielle (AI Act)

L’IA est au cœur de toutes les préoccupations. Une place importante lui a d’ailleurs été réservée lors du séminaire des 9 et 10 octobre entre le Président Macron et le Chancelier Scholz. Mais qu’en est-il de sa régulation ?

Avec l’adoption de sa proposition de règlement sur l’intelligence artificielle par le Parlement européen le 14 juin 2023, les pourparlers vont pouvoir commencer entre les pays au sein du Conseil (Trilogue) avant son adoption envisagée pour la fin de l’année.

L’AI Act fournit une définition de ce qu’est un système d’intelligence artificielle, à savoir « un logiciel qui est développé au moyen d’une ou plusieurs des techniques et approches énumérées à l’annexe I et qui peut, pour un ensemble donné d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit ». Cette définition a été pensée pour être technologiquement aussi neutre que possible et donc à l‘épreuve du temps. L’annexe I liste les techniques d’approche et de développement de l’IA qui seront à adapter par la Commission à mesure que de nouvelles technologies apparaitront.

Plus simplement, l’IA repose avant tout sur un algorithme capable de reproduire des comportements humains sur la base de données qui lui auront été fournies. L’IA n’est donc ni artificielle, car elle repose sur une machine dotée d’une logique informatique, ni intelligente puisqu’elle ne fait que reproduire ou générer des informations à partir de données existantes.

Poursuivant l’objectif de systèmes d’IA sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement, le règlement sur l’IA suit une approche par les risques et prévoit des règles différentes selon les niveaux de risques.

Sont ainsi considérés comme inacceptables et donc interdits, le scoring social ou encore les systèmes d’identification biométriques en temps réel et à distance, tels que la reconnaissance faciale. Sous certaines conditions détaillées dans l’AI Act, les IA relevant notamment des domaines de l’identification biométrique et la catégorisation des personnes physiques, de l’éducation et la formation professionnelle, de l’emploi, la gestion des travailleurs, de la gestion de la migration, de l’asile et du contrôle des frontières, constituent des risques élevés et doivent à ce titre être évalués avant leur mise sur le marché et tout au long de leur cycle de vie. Ces systèmes d’IA à risques élevés devront faire l’objet d’un enregistrement dans une base de données européenne et se conformer à de nombreuses obligations de robustesse, de cybersécurité, de surveillance humaine, de gouvernance des données,…

Les systèmes d’IA à risques limités sont principalement soumis à des obligations de transparence ; quant aux systèmes d’IA à risques faibles, la création de codes de conduite est encouragée.

Une autorité nationale compétente devra être nommée par chaque Etat membre. Cette autorité nationale sera en charge de surveiller l’application de l’AI Act au niveau national et participera au Comité Européen de l’Intelligence Artificielle. Dans une étude publiée le 30 août 2022, le Conseil d’Etat a proposé de renforcer les pouvoirs de la CNIL et de faire évoluer son rôle pour qu’elle devienne l’autorité de contrôle nationale compétente prévue par l’AI Act.

En complément de l’AI Act, une directive sur la responsabilité en matière d’IA est actuellement en préparation.