Nouvel accord sur le futur règlement européen sur l’intelligence artificielle

Nouvel accord sur le futur règlement européen sur l'intelligence artificielle

Après plusieurs mois de négociations, les députés du Parlement européen et les membres du Conseil ont finalement trouvé un accord provisoire sur le futur règlement européen sur l’intelligence artificielle (IA) le 8 décembre 2023.

Ce nouveau règlement, premier cadre de régulation de l’intelligence artificielle à voir le jour, vient poser de nouvelles garanties pour les droits fondamentaux tout en encourageant l’innovation en veillant à ce que les entreprises puissent développer des solutions d’IA dans des environnements règlementairement propres.

Il prévoit une approche fondée sur les risques afin d’encadrer les cas d’usage des différents systèmes d’IA.

En se basant sur cet accord de principe, des travaux techniques doivent désormais permettre de finaliser le projet de texte, en vue de son approbation, début 2024.

Une approche fondée sur le risque

L’accord trouvé, à l’issue des négociations entre les différentes instances européennes, consacre une approche fondée sur des niveaux de risque :

• Le risque minimal : les systèmes d’IA sont exemptés d’obligations. Mais le législateur recommande tout de même de prendre en compte les exigences applicables au niveau supérieur, notamment en adhérent à un code de conduite.
  
  Exemples : les IA intégrés aux jeux vidéo, les filtres anti-spam ou bien les systèmes de recommandations.

• Le risque élevé : Les systèmes d’IA présentant un risque élevé vont devoir respecter certaines exigences en matière de sécurité, de documentation et de supervision humaine.
  
  Exemples : le scoring bancaire, le secteur du travail, la justice, la santé ou encore la formation et l’éducation.

• Le risque inacceptable : Les systèmes d’IA présentant un risque beaucoup trop élevé en raison de leur atteinte aux droits fondamentaux seront interdits (sauf exceptions, notamment pour les services répressifs).
  
  Exemples : les extractions non ciblées d’images faciales sur Internet pour créer des bases de données de reconnaissance faciale, la notation sociale basée sur le comportement social et/ou les caractéristiques personnelles, les systèmes d’IA qui manipulent le comportement humain pour contourner le libre arbitre, etc.

Un cadre pour les systèmes généraux d’IA

Au regard de la rapide évolution des systèmes d’IA et du nombre croissant de tâches qu’ils peuvent accomplir, le nouveau texte européen prévoit que ceux-ci devront être soumis à une obligation générale de transparence. Cela concerne notamment la mise à jour de la documentation technique mais aussi de se mettre en conformité avec la règlementation européenne en matière de droit d’auteur.

Ces obligations seront toutefois renforcées lorsque les modèles d’IA concernés seront considérés comme présentant un niveau de risque plus élevé compte tenu de leurs fonctionnalités et de leur complexité.

Un nouveau système de sanction proportionné au risque

Le projet d’accord prévoit que le non-respect des règles pourra entrainer des amendes pouvant aller, selon la gravité du manquement, de 7,5 millions d’euros ou 1,5% du chiffre d’affaires à 35 millions d’euros ou 7% du chiffre d’affaires mondiale. Ces amendes prendront notamment en compte la gravité de l’infraction (non-respect de la transparence, absence de documentation technique, …) mais aussi de la taille de l’entreprise.

Prochaine étape

Après une proposition de règlement le 21 avril 2021 et une approbation (contre quelques modifications) le 8 décembre 2023, le texte doit encore être formellement adopté par le Parlement et le Conseil afin d’intégrer officiellement la législation de l’UE.

On peut, sans trop s’avancer, estimer que ce nouveau règlement sera adopté dès le début de cette année 2024. Il devrait ensuite, à l’instar de son homologue sur la protection des données personnelles, laisser aux différents acteurs du domaine une période transitoire de deux années afin de se préparer.