Souveraineté technologique : point de vue sur la Data & IA
Aldrick Zappellini, directeur Data & IA Groupe et Chief data officer groupe au sein du Pôle Technologies, Digital et Paiements de Crédit Agricole SA., nous explique comment son Groupe appréhende la question de la souveraineté industrielle. Explications.
Présentez-nous votre Direction.
Ma Direction a pour mission de maximiser la contribution de la Data et de l’Intelligence Artificielle au fonctionnement du groupe Crédit Agricole.
“Nous agissons au quotidien pour accélérer le développement maîtrisé des usages de la Data et de l’IA au service des projets Client, Humain et Sociétal et des stratégies des Métiers du Groupe.”
Positionnée au carrefour des métiers et des IT, elle regroupe deux ensembles complémentaires pour le développement maîtrisé des usages. Tout d’abord, la gouvernance qui accompagne nos instances d’orientation stratégique et la définition de règles communes sur les usages de la Data et l’IA, et les transformations associées notamment de nos IT. Ensuite, un DataLab et une AI Factory Group qui aident les entités du Groupe à accélérer leurs transformations Data/IA notamment en développant en interne des solutions innovantes et industrielles.
Cette capacité à développer en interne des solutions data et IA permet de répondre à un enjeu de souveraineté. Dites-nous en plus.
Aujourd’hui, un de nos enjeux majeurs est en effet de maîtriser nos risques de dépendance technologique. Selon les projets, nous devons être en mesure de choisir entre développer notre propre solution, en acheter une, voire hybrider ces deux options. Disposer des expertises internes évite de dépendre d’un fournisseur unique pour une IA stratégique pour notre business ou encore permet de maîtriser intégralement le modèle IA sur un périmètre où nos régulateurs ont de fortes exigences. Il peut aussi arriver qu’une IA soit « interchangeable », elle peut alors être utilisée comme une facilité pour accélérer la réponse au besoin des métiers. Cela suppose néanmoins que son coût d’usage soit acceptable au regard de la valeur dégagée. Dans le cas contraire, la développer peut-être intéressant en particulier lorsque les volumes traités sont conséquents. Bref, le pragmatisme est la règle !
“Disposer des expertises internes évite de dépendre d’un fournisseur unique pour une IA stratégique pour notre business ou encore permet de maîtriser intégralement le modèle IA sur un périmètre où nos régulateurs ont de fortes exigences.”
Ainsi, dans le contexte de déploiement à l’échelle de l’IA générative, il est important de concevoir des solutions déployables sur de multiples environnements Cloud et de pouvoir changer facilement de Large Language Model (LLM), par exemple pour se prémunir d’un changement de politique tarifaire ou d’une défaillance d’un fournisseur.
Nous sommes donc très vigilants à diversifier nos choix en amont, et même si cela représente un coût de fabrication additionnel, à concevoir des architectures permettant de « pivoter » entre environnements ou LLM avec un effort maîtrisé.
Qu’en est-il de la souveraineté des données ?
Elle peut concerner différents aspects.
Tout d’abord, rappelons que la banque est un tiers de confiance, la protection et l’usage éthique des données des clients sont une priorité.
Par exemple, avant tout choix d’environnement, nous analysons les risques et mettons en place les mesures idoines de sécurisation et de désensibilisation des données.
“La souveraineté doit s’inscrire au cœur des choix stratégiques avec une vision des impacts à long terme afin de réduire le risque de dépendance future.”
D’un point de vue éthique, nous sommes particulièrement vigilants pour certains usages à la maîtrise des jeux de données d’apprentissage des modèles d’IA afin de détecter et corriger de potentiels biais discriminatoires que l’IA pourrait amplifier.
Un autre aspect lié aux données est plus rarement abordé : la « souveraineté culturelle » que la plupart des modèles d’IA génératives met à mal. Un Large Language Model ayant appris sur une grande majorité de contenus produits aux États-Unis d’Amérique, avec de surcroît un renforcement par « feedback » humain selon une politique définie par une entreprise de la Silicon Valley, a peu de chance d’être représentatif de la culture européenne ou française dans ses réponses.
Quelles pistes de réflexion pourriez-vous partager avec nos lecteurs ?
La souveraineté doit s’inscrire au cœur des choix stratégiques avec une vision des impacts à long terme afin de réduire le risque de dépendance future. Pour développer cette vision, il nous faut nous inscrire dans une démarche d’anticipation et de responsabilisation de l’ensemble des parties prenantes. Cela nécessite de mener un important travail d’acculturation et de pédagogie.
