L’AI Act européen : vers une réglementation horizontale de l’intelligence artificielle

Avec l’AI Act européen, sa nouvelle tentative visant à instaurer une réglementation horizontale de l’intelligence artificielle, l’Union européenne franchit une étape décisive dans l’équilibre entre innovation technologique et gestion des risques. Afin de mieux comprendre les implications de cette réglementation pour les entreprises, notamment au Luxembourg, nous avons échangé avec Eva Gram, Head of Codit Luxembourg, filiale du groupe Proximus. Forte de son expertise dans l’accompagnement des entreprises face aux défis technologiques complexes, Eva partage son point de vue sur les spécificités de l’AI Act européen ainsi que sur le rôle joué par Proximus NXT Luxembourg, notamment à travers des initiatives telles qu’AI4Gov, pour aider les entreprises à intégrer l’intelligence artificielle de manière éthique et conforme aux exigences réglementaires.

L’AI Act européen constitue la première tentative de mise en place d’une réglementation horizontale de l’IA. Qu’est-ce qui distingue cette approche des autres réglementations technologiques et comment permet-elle de gérer les risques liés à certains usages spécifiques des systèmes d’IA ?

Eva Gram (EG) :
« Ce qui rend cette réglementation unique, c’est son approche fondée sur les risques. Il s’agit d’une évolution très positive, car elle permet de trouver un équilibre entre l’innovation technologique et la protection des individus, notamment en matière de confidentialité et de respect de la vie privée.

Avec l’AI Act européen, chaque développement est évalué en fonction de ses résultats attendus et des risques associés. Par exemple, un système d’IA utilisé pour gérer des dossiers médicaux présente des risques nettement plus élevés qu’un chatbot destiné à rechercher des informations publiques. Cette approche adaptée constitue une différence majeure par rapport à d’autres cadres réglementaires, comme le RGPD, qui repose davantage sur une approche uniforme applicable à tous les cas. Ici, la flexibilité est essentielle : les évaluations et les mesures mises en place sont adaptées à la complexité et à la gravité des risques.

Par ailleurs, cette flexibilité permet à la réglementation de s’adapter rapidement aux évolutions technologiques. Les modèles d’IA évoluent à une vitesse impressionnante, et l’AI Act prend en compte cette dynamique en laissant la possibilité d’intégrer progressivement des outils plus intelligents et plus sécurisés. Cette capacité d’évolution avec la technologie en fait un cadre moins rigide et davantage adapté aux besoins des entreprises. »

Quelles mesures spécifiques les entreprises luxembourgeoises doivent-elles mettre en place pour se conformer à la nouvelle réglementation ? Comment peuvent-elles garantir la sécurité des systèmes d’IA tout en respectant les exigences de l’AI Act ?

EG :
« Avant toute chose, les entreprises doivent réaliser des évaluations des risques afin d’identifier, gérer et réduire les risques potentiels. Cela permet de détecter d’éventuelles failles ou vulnérabilités avant le déploiement d’un système. Ces évaluations doivent être approfondies et adaptées à la complexité du projet.

Un autre aspect essentiel concerne la gestion des ensembles de données. Les modèles d’IA nécessitent d’importantes quantités de données pour fonctionner efficacement, mais il est indispensable de garantir la qualité, la robustesse et la fiabilité de ces données tout en évitant les biais. La sécurité des données est également primordiale : les entreprises doivent se protéger contre les menaces potentielles, comme les cyberattaques, en appliquant des normes élevées en matière d’intégrité, de confidentialité et d’accessibilité des données.

Le Luxembourg dispose d’un écosystème bien structuré pour accompagner ces démarches. Des institutions telles que la Commission nationale pour la protection des données (CNPD), l’ILNAS et la Commission nationale de l’intelligence artificielle fournissent des recommandations et des cadres de gouvernance afin d’aider les entreprises à atteindre la conformité.

Enfin, investir dans la formation et la sensibilisation est essentiel, aussi bien pour les équipes techniques que pour les utilisateurs finaux. Les développeurs et les data scientists doivent parfaitement comprendre leurs responsabilités ainsi que l’impact des modèles ou algorithmes qu’ils conçoivent. Cela nécessite une gouvernance renforcée, une documentation complète et une plus grande responsabilisation de l’ensemble des acteurs impliqués.

Pour les utilisateurs finaux, la transparence est primordiale. Par exemple, lorsqu’un utilisateur interagit avec un chatbot ou un système automatisé, il doit être clairement informé qu’il ne communique pas avec un être humain. Cette transparence favorise une relation de confiance entre les entreprises et leurs clients, tout en encourageant un usage éthique et éclairé des systèmes d’IA. »

Comment Proximus NXT Luxembourg aide-t-il ses clients à comprendre et à mettre en œuvre les bonnes pratiques nécessaires au respect des nouvelles règles ?

EG :
« Chez Proximus NXT Luxembourg, nous avons mis en place plusieurs initiatives afin d’accompagner nos clients dans cette transition. Par exemple, nous aidons les entreprises à intégrer une couche d’évaluation des risques dans leurs projets. Cette approche est particulièrement pertinente dans des secteurs comme la finance et l’assurance, où les risques sont souvent plus importants.

Prenons l’exemple d’une compagnie d’assurance : un modèle d’IA mal calibré pourrait entraîner des discriminations en refusant injustement certains contrats. Nous accompagnons ces entreprises afin d’éviter ce type de situation.

En matière de développement logiciel, il existe des moyens permettant de surveiller les modèles, que nous appliquons déjà à certains d’entre eux. Cela nous permet de suivre leur comportement et d’intervenir ou d’effectuer des ajustements lorsque les résultats s’écartent des objectifs initialement définis lors de la conception du modèle.

La sécurité reste une priorité. Nous réalisons des analyses approfondies des vulnérabilités potentielles liées aux données ou aux modèles eux-mêmes. Cela comprend la protection des ensembles de données, la garantie d’une documentation complète des processus ainsi que la mise en place de plans de continuité permettant de réagir efficacement en cas d’incident.

Enfin, nous collaborons étroitement avec les institutions luxembourgeoises afin de garantir que nos pratiques respectent les normes locales, notamment sur la base de l’initiative AI4Gov, un projet gouvernemental visant à fournir des outils et des conseils pratiques aux ministères, administrations et agents publics afin de les aider à naviguer dans l’univers complexe et exigeant de l’intelligence artificielle. »

L’AI Act européen marque un tournant dans la gouvernance de l’intelligence artificielle en Europe. Grâce à son approche flexible fondée sur les risques, il offre aux entreprises un cadre clair et adaptable. Avec l’aide d’acteurs tels que Proximus NXT Luxembourg, les entreprises peuvent non seulement répondre aux nouvelles exigences réglementaires, mais également s’appuyer sur les meilleures pratiques pour intégrer l’IA de manière éthique, sécurisée et durable.