Evaluation du crédit, données et IA : trois questions clés
L'évaluation du crédit présente des avantages tant pour les consommateurs que pour les fournisseurs, avec le potentiel de promouvoir des prêts plus responsables et de réduire le risque de défauts de remboursement. Cependant, l'évolution de l'utilisation des données et de l'IA pourrait encore compliquer un domaine déjà controversé.
Une récente consultation avec les membres de Consumers International en a dressé un tableau plutôt complexe, et ceci au niveau mondial. Il existe en effet des différences significatives entre les pays en ce qui concerne les responsables de l'évaluation des risques-clients, notamment les bureaux publics, les grands bureaux privés et un nombre croissant de fintechs effectuant des vérifications de solvabilité, soit pour leurs propres prêts, soit pour des tiers. Notre membre BEUC a souligné que même en Europe, il n’existe pas de système commun.
Il y a également des différences notoires pour ce qui est des données utilisées. Alors que certaines évaluations utilisent des données limitées sur les défauts de paiement antérieurs, l'utilisation de données financières, telles que le paiement des factures de services publics, ainsi que des données non financières, est en constante augmentation. Cela peut inclure les médias sociaux, l'historique de navigation et même des tests psychométriques.
Ces différences entre les pays ne posent pas nécessairement de problème, mais certaines pratiques suscitent des inquiétudes. Trois problèmes clés se posent pour les consommateurs et l'évaluation des risques-clients dans le monde.
Confusion
Les membres de Consumers International suggèrent que la confusion au sujet de l'évaluation des risques-client pourrait être très répandue. Une étude de CHOICE a révélé qu'un consommateur australien sur 3 a déclaré ne pas bien comprendre comment l'évaluation des risques-client est effectuée. De même, au Royaume-Uni, seuls 5 % des participants ont pu identifier correctement les actions qui ont un impact sur leur solvabilité à partir d'une liste de 20 options.
Cette confusion s'étend également à un manque de compréhension du contrôle que les consommateurs peuvent exercer sur leurs informations. En Corée du Sud, au Royaume-Uni et en Australie, ceux-ci ont le droit d'accéder à un nombre limité de rapports de solvabilité gratuits, mais ils ignorent souvent ce droit ou pensent que demander de tels rapports peut nuire à leur évaluation.
Ceci est particulièrement préoccupant, des études ayant révélé que les évaluations peuvent contenir d'innombrables erreurs. Consumer Reports a noté que la Federal Trade Commission a constaté qu'environ un consommateur sur cinq, soit environ 40 millions de personnes, avait un de ses rapports d'évaluation contenant une erreur.
Consentement
Les consommateurs ignorent souvent que leurs données sont utilisées pour l'évaluation des risques-clients. Ils peuvent avoir donné leur consentement en cochant simplement une case à la fin d'une longue page de Conditions générales particulièrement complexes, et cela n'est même pas toujours exigé. Au Brésil, on craint que la législation récente autorise le partage de certaines données sur les consommateurs avec diverses administrations sans que leur consentement préalable soit nécessaire.
Ce manque de transparence pourrait s'aggraver avec l'avènement des « super-applications » qui offrent du crédit à la consommation aux côtés de services tels que les médias sociaux, le commerce électronique et les paiements. Comprendre comment les données d'un consommateur sont collectées et utilisées dans de telles situations pourrait être particulièrement complexe. Les données des réseaux sociaux sont déjà utilisées par certaines fintechs de manière préoccupante ; par exemple, Lenddo réduit l'évaluation de solvabilité d'un consommateur s'il est ‘ami’ sur Facebook avec quelqu'un qui n'a pas remboursé à temps un prêt Lenddo.
Même dans les régions dotées d'une législation solide sur la protection des données, comme l'UE, il existe encore des risques. Une discordance dans le règlement général de l'UE sur la protection des données (RGPD) entre les concepts de minimisation des données et leur utilisation légitime a été constatée. Les entreprises peuvent être en mesure d'exploiter ces données si elles sont capables de démontrer que l'utilisation de certains types d’entre-elles est suffisamment prédictive dans l'évaluation des risques-clients.
Enfin, des questions se posent également sur l'utilisation croissante des rapports de solvabilité par les prestataires de services non financiers. Des rapports provenant du Kenya révèlent que l'évaluation des risques-clients a été utilisée par des employeurs potentiels, tandis que des militants allemands ont souligné qu’une évaluation SCHUFA (crédit) peut être utilisée par des propriétaires d’immobilier ou des fournisseurs de réseaux.
Corrélation, pas causalité
Avec des sources de données alternatives, l'objectif est de créer une image plus globale de la capacité du consommateur à rembourser un prêt en rassemblant une plus large gamme de données qui peuvent être rapidement analysées au moyen d'algorithmes. Si l'utilisation d'algorithmes et de l'IA dans l'évaluation de solvabilité devient plus répandue et plus perfectionnée, incorporant l'apprentissage automatique plutôt que la simple analyse, les consommateurs pourraient se voir exposés à des risques supplémentaires.
Bien que l'IA soit apte à repérer les modèles, elle a tendance à identifier la corrélation plutôt que la causalité. Une étude a utilisé des empreintes numériques pour prédire qui rembourserait un prêt et a constaté que les utilisateurs d'ordinateurs Mac et ceux possédant un compte Gmail présentaient une meilleure évaluation des risques-clients que les utilisateurs d'un PC et de Hotmail. Cela fait ressortir le potentiel des algorithmes à discriminer en fonction des corrélations, ce qui devient beaucoup plus préoccupant lorsque cela est appliqué à des caractéristiques sociales telles que l'ethnicité, le sexe ou le revenu.
Chi Chi Wu du National Consumer Law Center a témoigné devant la Chambre des représentants des États-Unis en juillet 2019 sur l'utilisation de données alternatives dans l'évaluation des risques-clients, notant sur le fait que l'utilisation d'algorithmes pouvait reproduire des disparités et des préjugés profondément ancrés. Elle a souligné la nécessité de prendre en compte des implications sociétales plus étendues plutôt que de se fier simplement aux capacités prédictives d'un algorithme.
Enfin, il est crucial de noter que la valeur des résultats des algorithmes ne peut dépasser celle des informations utilisées. Étant donné les graves préoccupations concernant l'exactitude et la pertinence de certaines données d'évaluation des risques-clients, l'IA ne doit pas être considérée comme une solution miracle aux problèmes existants.
Quelles sont les prochaines étapes à franchir ?
Malgré les préoccupations qui surgissent avec l'utilisation des données et de l'IA dans l'évaluation des risques-clients, il est important de se souvenir de tous les avantages potentiels que cela présente ; elle peut être un outil utile pour l'inclusion financière, donnant aux consommateurs ayant peu d'antécédents financiers officiels un accès au crédit qui, sans cela, leur aurait été sans doute refusé, créant ainsi un processus plus efficace dont tous peuvent bénéficier. De plus, alors que les risques de préjugés en IA peuvent être préoccupants, il ne faut pas oublier que les préjugés humains restent également un problème dans les processus d'évaluation plus traditionnels.
Néanmoins, cette nouvelle technologie doit être gérée avec soin pour éviter le surendettement et l'exclusion potentielle. Les prochaines étapes clés pour les défenseurs des consommateurs et les régulateurs consistent à s'assurer que les consommateurs aient facilement accès à des informations claires concernant l'évaluation des risques-clients, et à veiller également à la transparence et aux contrôles sur la façon dont leurs données de crédit sont collectées et utilisées. Dans le même temps, les entreprises qui utilisent l'IA doivent intégrer la responsabilité dans leurs conceptions.
Compte tenu des préoccupations et des difficultés auxquelles les consommateurs sont déjà confrontés avec l'évaluation des risques-clients, ces étapes sont cruciales pour exploiter les opportunités que les nouvelles technologies peuvent offrir, tout en minimisant les risques. Sans cela, nous pourrions nous retrouver dans une situation où les coûts du crédit sont plus que simplement financiers.
Ce blog résume une présentation que nous avons faite lors de la réunion annuelle de FinCoNet en novembre 2019. Pour en savoir plus sur nos travaux sur les services financiers, veuillez lire notre rapport « Miser sur l'avenir » et contacter notre Advocacy Director, Justin Macmullan à jmacmullan@consint.org.
