L’EU AI Act : un nouveau cadre pour une intelligence artificielle responsable

L’intelligence artificielle transforme rapidement les entreprises, les services publics, l’éducation, la santé, la cybersécurité et de nombreux autres secteurs. À mesure que les systèmes d’IA deviennent plus puissants et plus largement utilisés, les gouvernements et les autorités de régulation cherchent à garantir que l’innovation se développe dans le respect de la sécurité, de la transparence, de la responsabilité et des droits fondamentaux.

L’EU AI Act, ou Règlement européen sur l’intelligence artificielle, constitue l’un des cadres réglementaires les plus importants au monde dans le domaine de l’IA. Son objectif est d’établir un cadre juridique harmonisé pour les systèmes et modèles d’intelligence artificielle présents sur le marché européen, tout en favorisant une innovation responsable et digne de confiance.

Une approche fondée sur les risques

L’EU AI Act repose sur une approche basée sur le niveau de risque. Tous les systèmes d’intelligence artificielle ne sont donc pas soumis aux mêmes obligations. Le niveau de réglementation dépend généralement des risques que présente le système en fonction de son utilisation prévue.

Certaines pratiques d’IA considérées comme présentant un risque inacceptable peuvent être interdites. D’autres systèmes, notamment ceux utilisés dans des domaines sensibles ou critiques, peuvent être classés comme systèmes d’IA à haut risque et soumis à des exigences strictes.

D’autres systèmes peuvent principalement être soumis à des obligations de transparence, tandis que les applications présentant un niveau de risque limité ou minimal sont généralement soumises à moins d’obligations.

Cette approche vise à trouver un équilibre entre deux objectifs essentiels : protéger les individus et la société tout en permettant à l’innovation technologique de se développer.

Les systèmes d’IA à haut risque

Les systèmes d’IA à haut risque constituent l’une des catégories les plus réglementées par l’EU AI Act. Ces systèmes peuvent être utilisés dans des domaines où les décisions prises ou influencées par l’IA peuvent avoir un impact important sur la sécurité, les droits fondamentaux, les opportunités ou l’accès des personnes à certains services.

Les organisations qui développent ou utilisent des systèmes d’IA à haut risque peuvent devoir respecter des exigences concernant notamment :

• La gestion des risques ;
• La gouvernance et la qualité des données ;
• La documentation technique ;
• L’enregistrement et la conservation de certaines informations ;
• La transparence et les instructions d’utilisation ;
• La supervision humaine ;
• L’exactitude, la robustesse et la cybersécurité ;
• Les systèmes de gestion de la qualité ;
• La surveillance après la mise sur le marché.

La conformité ne consiste donc pas uniquement à développer un modèle performant. Elle nécessite également la mise en place de processus de gouvernance, de mécanismes de contrôle, de documentation et de suivi tout au long du cycle de vie du système d’IA.

Transparence et confiance

La transparence constitue également un élément central de l’EU AI Act. Dans certaines situations, les personnes doivent être informées lorsqu’elles interagissent avec un système d’intelligence artificielle ou lorsqu’un contenu généré ou manipulé par l’IA nécessite une information particulière.

Ces obligations visent notamment à limiter les risques de manipulation, de tromperie et de désinformation.

Pour les entreprises, la transparence ne doit pas être considérée uniquement comme une obligation réglementaire. Elle peut également constituer un facteur de confiance important auprès des clients, des utilisateurs, des partenaires et des autorités.

Les modèles d’IA à usage général

L’EU AI Act introduit également des obligations concernant les modèles d’IA à usage général, souvent appelés GPAI (General-Purpose AI).

Ces modèles peuvent être intégrés dans de nombreuses applications et produits différents. Les grands modèles de langage et les modèles de fondation utilisés pour développer des assistants IA, des outils d’analyse ou des solutions d’automatisation entrent notamment dans cette évolution du paysage technologique.

Les fournisseurs de modèles d’IA à usage général peuvent être soumis à des obligations concernant la documentation, le partage d’informations, certaines politiques liées au droit d’auteur et la transparence.

Les modèles présentant des risques systémiques peuvent être soumis à des obligations supplémentaires.

Cette dimension est particulièrement importante pour les entreprises qui construisent leurs produits ou services à partir de modèles d’IA développés par des fournisseurs externes.

La gouvernance de l’IA devient une nécessité

Pour les organisations qui développent ou utilisent l’intelligence artificielle, la conformité ne doit pas être considérée comme une action ponctuelle.

Les systèmes d’IA évoluent constamment à travers les mises à jour logicielles, les nouvelles données, les changements de cas d’usage et les interactions avec les utilisateurs.

Une stratégie efficace de gouvernance de l’IA peut donc inclure :

• L’identification des systèmes d’IA utilisés dans l’organisation ;
• L’évaluation de leur niveau de risque ;
• La documentation de leur finalité et de leurs limites ;
• La définition des responsabilités ;
• La surveillance des performances et des risques ;
• La gestion des fournisseurs et partenaires technologiques ;
• La conservation des documents de conformité ;
• La mise en place de mécanismes de suivi et de correction.

Les organisations qui mettent en place ces processus dès maintenant peuvent réduire leurs risques réglementaires tout en améliorant la qualité et la fiabilité de leurs solutions d’intelligence artificielle.

L’importance de l’automatisation de la conformité

La complexité de l’EU AI Act crée un besoin croissant d’outils capables d’aider les organisations à gérer plus efficacement leurs obligations de gouvernance et de conformité.

Les plateformes spécialisées peuvent notamment aider les entreprises à :

• Maintenir un inventaire de leurs systèmes d’IA ;
• Identifier les obligations réglementaires applicables ;
• Évaluer les niveaux de risque ;
• Générer et gérer la documentation de conformité ;
• Organiser les responsabilités ;
• Suivre les obligations réglementaires ;
• Conserver des preuves et des pistes d’audit ;
• Surveiller les risques tout au long du cycle de vie des systèmes d’IA.

Cependant, l’automatisation doit être considérée comme un outil d’assistance. Elle ne remplace pas entièrement l’expertise humaine, juridique ou technique nécessaire pour prendre certaines décisions de conformité.

Conclusion

L’EU AI Act représente une évolution majeure dans la manière dont l’intelligence artificielle sera réglementée en Europe. Son impact pourrait également influencer les réglementations et les pratiques liées à l’IA dans de nombreuses autres régions du monde.

Pour les startups, les entreprises technologiques et les organisations utilisant l’intelligence artificielle, le principal défi ne consiste pas uniquement à comprendre la réglementation. Il s’agit surtout de transformer les exigences juridiques en processus concrets, en contrôles techniques, en documentation et en mécanismes de gouvernance.

Les organisations qui anticipent ces exigences peuvent considérer la conformité non seulement comme une obligation réglementaire, mais également comme un avantage concurrentiel.

Une gouvernance responsable de l’intelligence artificielle peut contribuer à renforcer la confiance, réduire les risques et développer des produits plus fiables.

À mesure que l’intelligence artificielle continue d’évoluer, les organisations devront de plus en plus combiner innovation, excellence technique, gouvernance et conformité. L’EU AI Act constitue une étape importante vers la construction d’un écosystème d’intelligence artificielle plus sûr, plus transparent et plus digne de confiance.