Quelles conséquences du "AI Act" pour le secteur de l'assurance ?
En ces temps d’évolution technologique continue et effrénée, le développement de l’intelligence artificielle change complètement la donne dans d’innombrables domaines. Il est impossible d’en sous-estimer l’importance sociétale, tant pour les entreprises que les consommateurs. Jour après jour, nous sommes directement confrontés à l'impact de l'IA sur nos vies. Si d’aucuns se réjouissent des possibilités sans précédent qu’elle offre, cette évolution n’est pas sans soulever de nombreuses questions. Le secteur de l’assurance, lui aussi, ne peut évidemment pas ignorer l'influence croissante de l'intelligence artificielle.
Interview avec Danilo Gattullo, Policy Advisor, Insurance Europe, sur le “AI Act”, la législation européenne imposant des règles quant à l'usage d'intelligence artificielle.
1.Quels sont les principaux avantages que l’IA devrait apporter au secteur européen de l’assurance ?
Les assureurs adoptent de plus en plus d’outils basés sur l’IA pour une multitude d’usages, allant de l’amélioration de l’expérience client à la détection de la fraude en passant par l’offre de produits innovants. Néanmoins, le rythme d’adoption de l’IA varie au sein de l’UE : certains assureurs font office de chefs de file tandis que d’autres en sont encore au stade des balbutiements.
L’IA peut aider les assureurs à mieux adapter les contrats aux besoins individuels et à traiter plus rapidement les sinistres. L’utilisation de chatbots et d’assistants virtuels pilotés par l’IA peut améliorer les interactions avec les clients et leur fournir une assistance 24 heures sur 24. Elle peut aussi ouvrir de nouvelles opportunités en termes de produits et services innovants. Par exemple, l’IA peut aider les assureurs à fournir des services innovants axés sur la prévention et l’atténuation des risques. Les systèmes d’IA peuvent être utilisés pour aider à contrôler et à prédire les risques, ainsi que pour fournir des conseils aux clients sur la manière de réduire de futurs risques. Cela peut à son tour contribuer à réduire la fréquence et la gravité des pertes à terme, au bénéfice des preneurs d’assurance et de la société dans son ensemble.
2. Quelles sont les principales inquiétudes (politiques) concernant l’IA dans le secteur de l’assurance ?
L’IA renferme un énorme potentiel transformationnel pour le secteur et la société. Toutefois, comme toute évolution technologique, elle s’accompagne également de défis qui doivent être évalués et si nécessaire gérés par les responsables politiques et les entreprises. L’efficacité d’un système d’IA dépend de la qualité, de la précision et de l’exhaustivité de l’ensemble de données utilisé. S’ils ne sont pas correctement construits, les systèmes d’IA peuvent potentiellement apprendre des biais à partir des données sur la base desquelles ils sont entraînés.
Pour relever les défis uniques posés par l’IA, il est essentiel de conserver un marché de l’assurance qui fonctionne bien, avec une bonne surveillance. Pour atteindre cet objectif, toute nouvelle disposition réglementaire relative à l’utilisation de l’IA dans le secteur de l’assurance devrait être considérée dans le contexte des législations horizontales et spécifiques au secteur existantes afin d’éviter des chevauchements et des charges réglementaires inutiles.
Par exemple, en plus de la législation horizontale existante comme le Règlement général sur la protection des données (RGPD), les assureurs sont également soumis à une large législation spécifique au secteur ayant pour but d’assurer une gestion prudentielle des risques et des systèmes de gouvernance efficaces. Tout cela est complété par un ensemble solide de règles de conduite qui renferment des exigences relatives à la gouvernance des produits et à la transparence. Nous observons un chevauchement potentiel avec les exigences de la Législation sur l’intelligence artificielle qui engendrera inévitablement des complexités inutiles et de l’incertitude.
3. Qu’est-ce que la Législation sur l’IA ? Et dans quel contexte cette législation a-t-elle vu le jour?
La Législation sur l’IA est un nouveau règlement régissant la vente et l’usage de l’intelligence artificielle au sein de l’UE. Son principal objectif est d’assurer le bon fonctionnement du marché unique européen en fixant des normes pour l’utilisation de l’IA à travers les États membres de l’UE. Dans la pratique, il s’agit du premier règlement qui gère les risques liés à l’intelligence artificielle par le biais d’un ensemble d’obligations et d’exigences pour les développeurs et les utilisateurs de l’IA. Ce règlement vise une approche fondée sur le risque, dans le cadre de laquelle les systèmes d’IA sont régis sur la base du niveau de risque qu’ils présentent pour la santé, la sécurité et les droits fondamentaux d’une personne. Les systèmes d’IA relevant de la catégorie des risques inacceptables sont totalement interdits, tandis que les développeurs de systèmes d’IA qui présentent un risque élevé doivent satisfaire à différentes exigences prouvant que leur technologie répond à certaines normes.
La Législation sur l’IA fait partie d’un arsenal plus large de règles numériques émergentes dans l’UE qui régissent différents aspects de l’économique numérique, comme la Loi sur les données (Data Act), la Loi sur la gouvernance des données (Data Governance Act), le Règlement sur les services numériques (Digital Services Act) et la Législation sur les marchés numériques (Digital Markets Act). Par le biais de ces mesures, l’UE vise à renforcer son indépendance numérique tout en fixant des normes ayant un impact sur la régulation numérique dans le monde entier.
4. Où en sera le cycle d’élaboration de la politique en mars 2024 ? Et à quoi pouvons-nous nous attendre ensuite ?
Les colégislateurs de l’UE sont parvenus à un accord politique concernant la Législation sur l’IA le 8 décembre à la suite de fortes pressions politiques pour conclure les discussions avant la fin de l’année. Les discussions se sont ensuite poursuivies au niveau technique en vue de peaufiner le texte convenu au niveau politique. Le texte devrait être formellement approuvé par le Parlement européen et le Conseil de l’UE avant la fin de cette législature.
L’IA restera néanmoins inscrite à l’agenda des responsables politiques à l’avenir. Mairead McGuinnes, commissaire européenne aux Services financiers, à la Stabilité financière et à l’Union des Marchés des Capitaux, a déclaré que des lignes directrices étaient nécessaires en ce qui concerne l’usage de l’IA dans le secteur financier, tandis que l’EIOPA (Autorité européenne des assurances et des pensions professionnelles) a aussi dévoilé ouvertement ses intentions de mener des travaux sur ce thème. La Législation sur l’IA proprement dite habilite également la Commission européenne à adopter des mesures « level 2 » et « level 3 » pour régler les questions non résolues comme le besoin de normes communes et les modalités pour la création de bacs à sable réglementaires. La Commission conserve également le pouvoir d’amender à l’avenir, via des actes délégués, la liste des applications d’IA considérées comme à haut risque qui est reprise dans l’Annexe III.
5. Quels sont les articles les plus pertinents de la Législation sur l’IA pour le secteur de l’assurance ?
L’Annexe III de la Législation sur l’IA de l’UE contient une liste des cas d’utilisation qui sont considérés comme à haut risque, dont les systèmes d’IA utilisés pour l’évaluation des risques et la tarification en assurance vie et santé. Les développeurs de ces systèmes d’IA devront s’assurer que de telles applications sont conformes aux exigences définies dans le Chapitre II du règlement. Ces exigences sont notamment de mettre en place un système de gestion des risques, d’établir la documentation technique ainsi qu’une déclaration de conformité et d’assurer la transparence et le contrôle humain. Le Chapitre III du texte prévoit également d’autres obligations, comme l’exigence de mettre en place un système de gestion de la qualité ainsi que l’obligation de procéder à une analyse d’impact relative aux droits fondamentaux sur la base d’une série d’éléments mentionnés à l’article 29 (a).
Le texte fixe notamment aussi des critères pour s’assurer que les systèmes d’IA repris dans la liste à haut risque ne doivent pas nécessairement satisfaire aux exigences de la Législation sur l’IA s’ils sont destinés à des tâches opérationnelles à faible risque. Ces critères d’auto-évaluation sont repris à l’article 6 du règlement. Une autre exception est prévue au considérant 37 qui clarifie que les systèmes d’IA utilisés pour détecter la fraude et calculer les exigences de capital des assureurs ne devraient pas être considérés comme à haut risque même s’ils sont utilisés dans le contexte d’un des cas d’utilisation à haut risque mentionnés à l’Annexe III.
6. Quels sont les impacts positifs et négatifs attendus de la Législation sur l’IA pour le secteur de l’assurance ?
Comme mentionné ci-avant, nous observons un chevauchement potentiel au niveau des exigences de la future Législation sur l’IA qui engendrera inévitablement des complexités inutiles et de l’incertitude. Par exemple, la directive Solvabilité II de l’UE requiert déjà des entreprises d’assurances qu’elles mettent en place une gestion efficace des risques et des systèmes de gouvernance. Il pourrait y avoir un chevauchement avec certaines mesures de la Législation sur l’IA telles que l’exigence pour les fournisseurs d’IA de mettre en place un système de gestion de la qualité.
Nous sommes déçus que certains cas d’utilisation dans le domaine de l’assurance soient repris dans la catégorie à haut risque de la Législation sur l’IA. Les assureurs sont déjà soumis à un cadre réglementaire européen solide en termes de règles prudentielles et de règles de conduite. À cela s’ajoutent encore des cadres nationaux et des exigences légales européennes dans un large éventail de domaines différents, comme les droits fondamentaux et la protection des données. Ils sont en outre soumis à une surveillance stricte des autorités de surveillance.
Une analyse d’impact aurait dû être réalisée pour évaluer si le cadre réglementaire et prudentiel existant permettait déjà de gérer d’une manière appropriée les risques potentiels résultant de l’utilisation de l’IA dans le domaine de l’assurance. Cela aurait évité des incohérences et des doublons qui ne font que freiner l’innovation sans apporter de bénéfice concret aux consommateurs.