Les défis que pose l’Intelligence Artificielle (IA) sont nombreux. Ils sont liés notamment à des problèmes d’explicabilité des algorithmes, d’opacité du fonctionnement ou leur complexité. Afin de les encadrer, une règlementation européenne horizontale était nécessaire. Ce nouveau règlement, dont le projet a été publié le 21 avril 2021, se veut un acte politique fort.

Les nouvelles règles applicables à l’IA suivent une approche fondée sur les risques

Risque inacceptable (allant à l’encontre des valeurs européennes) : les systèmes d’IA considérés comme une menace évidente pour la sécurité, les moyens de subsistance et les droits des personnes seront interdits. Il s’agit notamment des systèmes ou applications d’IA qui manipulent le comportement humain pour priver les utilisateurs de leur libre arbitre (par exemple, des jouets utilisant une assistance vocale incitant des mineurs à avoir un comportement dangereux) et des systèmes qui permettent la notation sociale par les États.
Risque élevé : systèmes d’IA qui seront soumis à des règles d’évaluation strictes, parmi lesquels on peut citer les technologies d’IA utilisées dans :
les infrastructures critiques (par exemple les transports) et susceptibles de mettre en danger la vie et la santé des citoyens ;
l’éducation ou la formation professionnelle, qui peuvent déterminer l’accès à l’éducation et le parcours professionnel d’une personne (notation d’épreuves d’examens par exemple) ;
les composants de sécurité des produits (application de l’IA dans la chirurgie assistée par robot par exemple) ;
le domaine de l’emploi, de la gestion de la main d’œuvre et de l’accès à l’emploi indépendant (logiciels de tri des CV pour les procédures de recrutement par exemple) ;
les services privés et publics essentiels (évaluation du risque de crédit, qui prive certains citoyens de la possibilité d’obtenir un prêt par exemple) ;
le domaine du maintien de l’ordre, qui sont susceptibles d’interférer avec les droits fondamentaux des personnes (vérification de la fiabilité des éléments de preuve par exemple) ;
le domaine de la gestion de la migration, de l’asile et des contrôles aux frontières (vérification de l’authenticité des documents de voyage par exemple) ;
les domaines de l’administration de la justice et des processus démocratiques (application de la loi à un ensemble concret de faits par exemple).

Risque limité : systèmes d’IA auxquels s’appliquent des obligations spécifiques en matière de transparence.
Risque minime : la proposition législative autorise l’utilisation libre d’applications telles que les jeux vidéo ou les filtres anti-spam reposant sur l’IA. La grande majorité des systèmes d’IA relèvent de cette catégorie. Le projet de règlement ne prévoit pas d’intervention dans ce domaine, car ces systèmes ne représentent qu’un risque minime, voire nul, pour les droits ou la sécurité des citoyens.

Enfin, il est à noter que certaines problématiques spécifiques à l’IA seront également introduites dans certaines règlementations sectorielles, comme l’introduction d’exigences liées à l’IA dans le projet de révision de la directive machines.

Projet de réglementation sur l’Intelligence Artificielle (pdf, en anglais)

Annexes (pdf, en anglais)

The post Le premier projet de réglementation sur l’IA est européen appeared first on Eurogip.

Les défis que pose l’Intelligence Artificielle (IA) sont nombreux. Ils sont liés notamment à des problèmes d’explicabilité des algorithmes, d’opacité du fonctionnement ou leur complexité. Afin de les encadrer, une règlementation européenne horizontale était nécessaire. Ce nouveau règlement, dont le projet a été publié le 21 avril 2021, se veut un acte politique fort.
The post Le premier projet de réglementation sur l’IA est européen appeared first on Eurogip.Read More