Perspectives

Éviter les préjugés inconscients dans l’IA - une perspective européenne

Rédigé par Solomon Philip | 13 juil. 2023 15:11:00

Solomon Philip - Head of Market Intelligence chez Shift Technology

Qualifier le secteur de l'assurance de très réglementé semble presque désuet. Les assureurs sont non seulement redevables des lois et des règlements qui régissent les différents pays dans lesquels ils exercent leurs activités, mais aussi de ceux qui dépassent les frontières. Et si nombre de ces réglementations portent sur la manière dont les assureurs exercent leurs activités, comme les exigences de solvabilité ou les règles de lutte contre le blanchiment d'argent, certaines concernent les pratiques et les approches technologiques adoptées par les assureurs. Le plus souvent, les réglementations régissant la technologie sont conçues pour protéger les assurés et veiller à ce que l'assurance reste équitable et accessible à tous les consommateurs.

L'IA dans l'assurance et le domaine de la réglementation

Bien que l'IA générative soit un sujet d'intérêt actuel (et le restera probablement pendant un certain temps), les assureurs ont adopté divers types d'intelligence artificielle pour les aider à automatiser les processus et à prendre des décisions commerciales plus éclairées. L'intelligence artificielle aide les assureurs à déterminer quels nouveaux produits et services développer et quels consommateurs pourraient être les plus intéressés à les acheter. Elle permet également de déterminer plus facilement quels sinistres - ou demandeurs - nécessitent le plus d'attention et quels sinistres peuvent faire l'objet d'un traitement accéléré en vue d'un règlement immédiat. L'IA aide donc les souscripteurs et le SIU à prendre des décisions plus rapides et plus précises sur les demandes d'assurance ou les sinistres suspects. En bref, l'IA accompagne les compagnies d'assurance dans la prévention des fuites de primes, l’amélioration des taux de sinistres et l'expérience des clients, parmi une myriade d'autres avantages.

Pourtant, alors que l'IA continue d'être adoptée par le secteur de l'assurance, certains s'inquiètent des conséquences négatives que cette technologie peut avoir pour certains assurés. On sait depuis longtemps que l'IA a le potentiel de développer des préjugés inconscients au fil du temps, que ce soit en raison d'une mauvaise conception de ses algorithmes initiaux, de l'utilisation d'ensembles de données défectueux pour former ces algorithmes, d'un manque d'examen et de surveillance appropriés, ou d'une combinaison de tous ces facteurs et d'autres encore. Et comme l'IA est souvent considérée comme une technologie "boîte noire", un client dont la demande de police a été rejetée ou un assuré dont les demandes d'indemnisation sont systématiquement examinées ou refusées car frauduleuses (en raison de l'utilisation de cette technologie) peut donner l'impression d'avoir peu de recours.

Entré en vigueur le 25 mai 2018, le RGPD est considéré comme l'une des lois les plus strictes au monde en matière de protection de la vie privée et de sécurité. Bien qu'il vise principalement à protéger les données des individus et la manière dont elles sont collectées, utilisées et stockées, le RGPD contient également des dispositions stipulant que les individus doivent avoir recours à des explications significatives sur les décisions automatisées les concernant. Le non-respect du RGPD peut entraîner de lourdes amendes - jusqu'à 4 % du chiffre d'affaires annuel mondial d'une entreprise ou 20 millions d'euros.

En outre, la mission de l'UE a publié sa loi sur l'IA en 2021, une proposition ambitieuse de cadre législatif complet pour l'utilisation de l'IA dans les institutions de services financiers, y compris les assureurs. Bien qu'elles n'aient pas encore été approuvées et mises en œuvre, ses dispositions exigent que les systèmes d'IA à haut risque utilisent des ensembles de données, une formation, une validation et des tests de haute qualité avec des pratiques de gouvernance et de gestion appropriées. Les assureurs devront prendre des mesures pour prévenir une éventuelle corruption des données, les attaques adverses et l'exploitation des vulnérabilités. La loi attend des assureurs qu'ils fassent preuve de diligence lors de l'acquisition de données, de manière à ce que celles-ci soient proportionnées au cas d'utilisation. L'essor de l'évaluation algorithmique du crédit et la dépendance à l'égard des données personnelles dans les services financiers ont amplifié les problèmes de discrimination. Et si les assureurs pensent qu'une violation du RGPD est décourageante, la loi sur l'IA fait monter les enchères. Le non-respect de la loi sur l'IA pourrait coûter aux assureurs jusqu'à 30 millions d'euros d'amendes ou 6 % de leur chiffre d'affaires annuel mondial.

Garantir la conformité

Les assureurs ne doivent pas attendre l'adoption des réglementations proposées pour travailler sur certains principes fondamentaux qui sous-tendent les réglementations en matière de partialité et de protection de la vie privée. L'adoption de l'IA pour soutenir les processus clés de l'assurance doit être fondée sur le traitement équitable et impartial des clients avant et après la vente. Les assurés doivent également être suffisamment informés des données clients susceptibles d'être collectées et de la manière dont elles peuvent être utilisées au cours du parcours du client. L'établissement de principes clairs dès les phases de planification et de développement permet aux assureurs de se concentrer sur l'exécution de leur stratégie commerciale au lieu de se préoccuper de la conformité après coup.

Les assureurs devraient également chercher à travailler avec des fournisseurs de solutions qui sont experts dans l'élaboration d'algorithmes conçus pour atténuer les préjugés conscients et inconscients dès le départ. Ils devraient insister pour travailler avec des fournisseurs qui prennent au sérieux la sécurité et la confidentialité des données et qui peuvent démontrer cet engagement. Enfin, les assureurs devraient rechercher des fournisseurs de technologie capables d'expliquer pleinement les décisions prises par leurs solutions et de fournir un véritable historique de toutes les données ou variables associées aux alertes et aux décisions générées par leur système.

Conclusion

L'IA s'est déjà révélée être un outil incroyablement efficace pour les assureurs qui cherchent à améliorer les processus critiques qui régissent leurs activités. En même temps, dans un secteur très réglementé, les assureurs doivent veiller à ce que la technologie qu'ils déploient ne les mette pas en porte-à-faux avec la loi. Une stratégie soigneusement élaborée, mise en œuvre avec les bons partenaires technologiques, est l'un des meilleurs moyens de récolter les avantages de l'IA tout en restant en conformité avec les réglementations.

Pour plus d'informations sur la façon dont Shift peut vous aider à utiliser l'IA pour améliorer la prise de décision en matière d'assurance, contactez-nous dès aujourd'hui.