Stratégie

La Société Générale intègre l'IA générative à sa feuille de route data

A droite, Etienne Guibout, AI Data Leader de la Société Générale. Et, au milieu, Sébastien Brasseur, Distinguished Engineer au sein de la banque. (Photo : R.F.)

Parmi plus de 80 cas d'usage identifiés des LLM, la banque en a priorisé 8. La Société Générale construit une plateforme centralisée pour assurer le déploiement de ces applications à l'échelle.

PublicitéPour la Société Générale, l'IA est associée à une ambition publiquement affichée : générer 500 M€ de création de valeur par an dès 2026 grâce à cette technologie et à la data. « Nous faisons tourner des applications de Machine Learning en production depuis un peu moins de 10 ans, détaille Etienne Guibout, AI Data Leader au sein de la banque de la Défense. L'enjeu est d'intégrer ces cas d'usage aux processus métiers, soit dans des scénarios défensifs, comme la lutte contre la fraude ou la maîtrise des risques, soit dans des scénarios offensifs, autour de la création de nouvelles activités ou de la relation client. » Des applications sont ainsi déjà en production, par exemple dans l'identification des cas de fraude sur les paiements ou l'optimisation des émissions obligataires.

Pour l'expert, l'IA générative est, avant tout, une « nouvelle étape, non une révolution technologique ». Les caractéristiques des modèles de LLM - des modèles déjà entraînés, qui permettent d'aller plus loin dans le traitement des données non structurées et fonctionnent de façon générique sur différentes natures de documents - en font en particulier des leviers d'efficacité opérationnelle au sein des banques. « Nous avons identifié quatre grands types de cas d'usage de l'IA générative, que nous appelons les quatre C, indique Etienne Guibout, qui s'exprimait la semaine dernière sur la scène de l'événement organisé à Paris par l'éditeur Dataiku. La concision d'abord, via des agents accompagnant les collaborateurs dans la réalisation de synthèses de documents. Les contenus ensuite, la technologie permettant de créer des contenus à des fins marketing par exemple. Le client encore, qu'il soit interne ou externe, avec de réels progrès dans les capacités d'interaction en langage naturel. Et le code enfin, l'IA générative permettant d'en accélérer la production, mais aussi de le documenter ou de le traduire d'un langage à l'autre. » Pour la Société Générale, les fonctions potentiellement impactées sont donc multiples : les développeurs, la relation client, le marketing et les ventes ainsi que toutes les directions centrales, comme les risques, la conformité et le juridique.

8 applications prioritaires parmi 80 cas d'usage

Reste à amener ces scénarios d'usage en production et à les intégrer dans les processus de ces différentes fonctions. Ce qui passe par une acculturation des collaborateurs au potentiel, mais aussi aux limites de l'IA générative. « Il ne faut pas surestimer la capacité des utilisateurs à se lancer dans le prompt engineering », remarque Sébastien Brasseur, Distinguished Engineer au sein de la banque, qui réfléchit à inclure un coach virtuel en prompt directement dans la plateforme mise à disposition des utilisateurs, bâtie autour de la technologie de l'éditeur spécialiste de la Data Science. « C'est aussi là-dessus que j'attends l'accompagnement de Dataiku », lance-t-il sur la scène de l'évènement organisé par la société d'origine française.

PublicitéPour l'instant, la Société Générale a identifié plus de 80 cas d'usage de l'IA générative en interne. « Nous avons priorisé ces scénarios par la valeur et les freins qui s'opposent à leur déploiement, pour ramener ce total à 40. Et, en priorisant de nouveau en fonction de la maturité technologique et du potentiel de transformation, nous avons isolé 8 applications, pour lesquelles nous allons développer un modèle d'architecture », dit Etienne Guibout.

« Brancher et débrancher facilement un modèle »

Pour se lancer dans ces déploiements, Sébastien Brasseur insiste sur le besoin de découpler les cas d'usage de la plateforme technique sous-jacente. « Par ailleurs, cette architecture technique ne doit pas se limiter au conversationnel, être capable de passer à l'échelle avec des coûts raisonnables et pouvoir être mise à disposition des Data Scientists, ingénieurs data et autres experts de la donnée en interne », détaille l'ingénieur, qui voit d'ailleurs dans la formation de ces populations aux nouveaux modèles un de ses principaux défis.

Par ailleurs, toujours selon Sébastien Brasseur, la plateforme de Data Science doit se montrer suffisamment souple pour encaisser les évolutions très rapides de l'IA générative. « Nous devons être en mesure de brancher ou débrancher un modèle sans trop d'efforts. Et disposer d'une télémétrie applicative pour mesurer les modèles exploités et ceux qui ne sont pas ». Cette plateforme doit, enfin, intégrer les contraintes réglementaires associées aux métiers de la banque, comme la traçabilité, l'auditabilité ou l'explicabilité des modèles, relève le spécialiste.