Les data et l’intelligence artificielle au service de la détection des risques
Léa Deleris (96), head of RISK Artificial Intelligence Research de BNP Paribas nous fait découvrir le périmètre de sa division, ses challenges au quotidien, sa vision du monde de demain et les perspectives qui s’offrent aux jeunes dans le monde des data et de l’intelligence artificielle.
Quelles sont les étapes les plus marquantes de votre parcours professionnel ?
Après Polytechnique, j’ai fait l’école des Ponts avant de rejoindre Stanford University pour un master. C’est d’ailleurs là que j’ai découvert le monde de la recherche et que j’ai décidé de rester aux États-Unis pour y faire ma thèse en gestion des risques d’ingénierie.
Après ma thèse, je me suis orientée vers le monde de la recherche privée, dans les laboratoires d’IBM, au Watson Research Center près de New York. En 2010, je suis ensuite partie en Irlande pour participer à la création d’un laboratoire IBM à Dublin. Cette expérience m’a permis de découvrir de nouvelles thématiques, mais aussi d’avoir des responsabilités managériales plus importantes.
En 2018, j’ai décidé de revenir vivre en France et là, j’ai rejoint BNP Paribas dans la fonction RISK où j’ai été amenée à monter une équipe d’intelligence artificielle. Trois ans après, l’équipe a atteint son rythme de croisière, elle est établie, elle fonctionne et plusieurs projets sont déjà en production avec de nombreux autres sur le chemin de l’industrialisation.
Vous êtes à la tête de la division RISK Artificial Intelligence Research de BNP Paribas. En quoi consiste justement votre métier et quel est le périmètre de cette division ?
Notre division a plusieurs mandats et un périmètre large.
La première mission consiste à faire du consulting interne dans le développement des modèles d’intelligence artificielle pour la gestion des risques, et parfois au-delà. Concrètement, nous intervenons sur toute la partie détection des événements rares notamment les fraudes, les erreurs, les problèmes de fuites de données. Nous utilisons les forces du machine learning pour concevoir des modèles qui détectent mieux (moins de faux positifs) et plus tôt ce genre d’événements. Nous utilisons aussi les données sous format texte, notamment pour anticiper les risques, comprendre comment l’environnement des risques évolue, ou comment certains clients se positionnent de manière plus qualitative. L’utilisation du Natural Language Processing (NLP) nous permet de le faire à plus grande échelle, sur un portefeuille clients plus large et de manière plus fréquente.
La deuxième mission consiste à travailler plus sur des sujets transverses. Notre équipe compte aujourd’hui 20 personnes mais nous avons également au sein de BNP Paribas plus de 300 data scientists, et plus de 1 000 personnes qui travaillent dans les métiers liés à l’intelligence artificielle. C’est un sujet qui prend de plus en plus d’ampleur et qu’il faut savoir encadrer pour faire de l’IA de manière responsable, notamment en définissant comment les modèles doivent être validés, comment les expliquer au mieux selon l’auditoire ciblé, et comment identifier les situations dans lesquelles les problèmes d’amplification des biais sont probables tout en proposant des pistes pour les adresser.
C’est un travail qui est mené en collaboration avec le Group Data Office de BNP Paribas, en charge de la data. Nous apportons plus particulièrement un point de vue d’expert (praticien et chercheur). Cela nous a permis de déployer dés 2019 des guidelines au niveau du groupe sur le développement de modèles d’intelligence artificielle. Nous menons de nombreuses sessions de sensibilisation sur ces sujets, en interne naturellement mais aussi en externe. J’ai récemment eu l’occasion de discuter du sujet « IA, Data et algorithmes : quelle réalité face aux enjeux d’éthique et d’égalité ? » lors d’un échange dans le cadre d’Xploration BivwAk ! (https://bivwak.bnpparibas/fr/podcasts) avec Paul Duan, cofondateur et président de Bayes Impact.
Les data et l’intelligence artificielle révolutionnent le monde. Selon vous comment sera le monde de demain ? Quels seront les défis à relever ?
Le monde de demain sera sans nul doute plus connecté et plus numérique mais aussi plus frugal et plus local. En effet, la crise sanitaire nous a poussés à réfléchir sur nos façons de travailler, de nous déplacer et de communiquer et d’interagir ensemble. La toute récente COP 26 a souligné l’ampleur de la prise de conscience de la société par rapport aux challenges climatiques. Au niveau de l’économie, entreprises et consommateurs vont évoluer vers plus de responsabilité envers la planète, avec un mode de consommation différent, et des acteurs qui vont revoir leurs produits, la qualité de ce qu’ils offrent, la fréquence mais aussi les chaînes d’approvisionnement. Donc d’ici 2030, la grande question est de savoir si cette transition va s’opérer dans la douleur et de manière désordonnée ou bien de concert de manière à limiter les impacts sociaux de ces changements.
Pour accompagner cette vague d’évolutions, le rôle de l’information, du numérique et de l’intelligence artificielle va être majeur. Nous aurons de moins en moins la capacité de tout-avoir et pour pouvoir faire face à des choix difficiles, il nous faudra mieux comprendre et mieux modéliser leurs conséquences. En revanche, l’intelligence artificielle et les données nécessitent des serveurs et une infrastructure sous-jacente qui consomment beaucoup d’énergie et qui constituent une source de gaz à effet de serre non négligeable. Un des challenges majeurs sera d’utiliser l’information pour être plus efficace dans la façon dont on utilise ces données et qu’on en réduise l’impact.
D’un point de vue plus personnel, quels sont vos challenges au quotidien au sein de votre direction ?
Le grand challenge pour un manager est de savoir piloter son équipe, tout en gérant la dualité importance/urgence, qui s’est exacerbée dans le contexte de crise sanitaire, où il fallait être dynamique, réactif, tout en ayant le recul nécessaire pour réfléchir.
Quel message adresseriez-vous aux jeunes diplômés qui voudraient s’orienter vers vos métiers ?
Je pense qu’il est important de savoir comprendre l’information et manipuler la donnée, comprendre les modèles et les technologies, avoir des connaissances en programmation. Mais il ne faut pas s’arrêter en si bon chemin. Il est primordial également de comprendre le métier, de s’intéresser à la réalité sans négliger la partie humaine, la créativité et la curiosité. La technologie est un domaine qui joue un rôle essentiel dans notre société et influence notre avenir, on se doit donc de bien faire le lien entre l’abstraction des modèles et la réalité dans laquelle ils sont utilisés. Ce n’est pas vraiment nouveau. Dans l’avenir, cela restera pertinent et permettra d’offrir des opportunités multiples à celles et ceux qui s’y attèlent !
Pour conclure, je voudrais souligner une compétence de base de nos vies professionnelles et personnelles qui est souvent oubliée au profit de la capacité à prédire : notre capacité à savoir prendre des décisions. Dans un monde de plus en plus contraint, à l’inverse de la seconde partie du XXe siècle, il faudra être capable de choisir. Nous le faisons de manière instinctive mais il est utile de réfléchir de manière structurée à la prise de décision. Notamment, il faut comprendre que la décision, au-delà de la compréhension des scénarios possibles et de leurs vraisemblances, s’appuie aussi sur ce que l’on appelle dans le monde académique les préférences.
Ces préférences déterminent les compromis que nous sommes prêts à faire entre les alternatives auxquelles nous faisons face : que ce soit des compromis entre des dimensions diverses (comme qualité, coût et disponibilité), entre l’immédiat et le différé ou entre la certitude et le risque. Les préférences représentent nos valeurs individuelles et peuvent donc difficilement venir de données externes et de modèles. C’est donc à nous de les connaître et de les construire.
En bref
BNP Paribas est présent dans 68 pays avec plus de 193 000 collaborateurs dont près de 148 000 en Europe. Le Groupe accompagne tous ses clients – particuliers, associations, entrepreneurs, PME-ETI, grandes entreprises et institutionnels – dans la réussite de leurs projets grâce à ses solutions de financement, d’investissement, d’épargne et de protection.
BNP Paribas occupe des positions clés dans ses trois pôles opérationnels :
- Retail Banking fédère les réseaux des banques de détail du Groupe et plusieurs métiers spécialisés
- Investment & Protection Services regroupe des métiers spécialisés offrant un large éventail de solutions d’épargne, d’investissement et de protection
- Corporate & Institutional Banking propose des solutions financières sur mesure pour les clientèles entreprises et institutionnels