Projets

Hello Bank infuse la GenAI dans son chatbot client, mais pianissimo

Bertrand Cizeau, directeur d’Hello Bank pour la France : « pour mieux sécuriser les réponses, nous voulons coupler la GenAI à du Machine Learning pour les limiter à la base documentaire. »

La banque en ligne de BNP Paribas travaille à une nouvelle version de son chatbot animée par l'IA générative. Tout en reconnaissant que la piste la plus solide à moyen terme réside dans un couplage entre celle-ci et du Machine Learning plus classique. Pour des questions de sécurité, mais aussi de coûts.

Publicité1000 cas d'usage d'IA en production en 2025 - dont une centaine reposant sur l'IA générative -, permettant de créer 500 M€ de valeur par an. Tel est l'objectif affiché par le groupe BNP Paribas. Si elle n'a pas encore fait de réel bilan intermédiaire du déploiement de sa stratégie d'IA, la première banque européenne a donné, début mars, quelques illustrations de scénarios d'utilisation de cette technologie, notamment dans la banque de détail. Sophie Heller, la chief operating officer du pôle commercial, personal Banking et services, soit les réseaux des banques commerciales de BNP Paribas et des métiers spécialisés dans le crédit, le financement et la mobilité, dit viser trois objectifs avec les projets d'IA : des gains opérationnels, la simplification des processus de bout en bout et l'amélioration de l'expérience client. « Nous voulons créer des compagnons de confiance pour les clients sur leurs besoins bancaires actuels et futurs, mais aussi sur des univers transverses, comme l'immobilier ou la santé », explique-t-elle.

C'est dans ce cadre que s'inscrit justement l'évolution du chatbot d'Hello Bank, la banque en ligne du groupe. Selon Bertrand Cizeau, son directeur pour la France, l'établissement gère environ 200 000 interactions avec ses clients par mois, dont environ 20% débute sur le chat. « C'est le canal qui progresse le plus rapidement », assure le dirigeant. Hello Bank possède déjà un chatbot, baptisé Helloïz et construit sur des algorithmes de Machine Learning allant piocher dans une base de connaissances de 600 questions. Un outil précis - il n'hallucine pas -, mais limité. D'où le développement d'une v2 de cet outil, basée sur l'IA générative. Pour l'instant testé auprès d'une centaine de clients, ce chabot modernisé gagne en compréhension des questions, conserve le contexte d'une conversation et se montre capable d'une certaine forme d'empathie, selon le dirigeant, qui a effectué une démonstration de l'outil mardi 4 mars au matin. « Mais il est encore un peu lent, car nous avons peu de GPU », souligne Bertrand Cizeau. Le modèle tourne, en effet, sur les infrastructures propres de la banque.

La GenAI ? « Une technologie de luxe »

Hello Bank envisage de mettre en place une seconde phase de tests auprès de 10 000 clients également collaborateurs du groupe. Objectif : ramener le temps de réponse à entre 3 et 8 secondes - contre 15 à 20 actuellement - en allégeant les vérifications de sécurité qui ralentissent aujourd'hui le temps d'inférence. « Ensuite, d'ici la fin de l'année, nous envisageons la bascule de notre million de clients sur Helloïz v2, par tranches de 200 000 clients à la fois, reprend le dirigeant. Cet outil doit nous aider à gérer la croissance des activités, en la décorrélant de celle du nombre de conseillers. »

PublicitéPour ce passage en production, Bertrand Cizeau envisage toutefois un hybride entre l'approche de la v1 et celle de la v2. « Pour mieux sécuriser les réponses, nous voulons coupler l'IA générative à du Machine Learning plus classique pour les limiter à la base documentaire. Ce qui permettra aussi de limiter la sollicitation des LLM. » Car, même sur de l'inférence seule, la différence de coûts entre la technologie utilisée pour Helloïz v1 et sa v2 serait « importante », selon le dirigeant. « La question centrale réside dans le passage à l'échelle sur la GenAI, qui reste une technologie de luxe », souligne le directeur France d'Hello Bank.

L'objectif à plus long terme ? Greffer des fonctions transactionnelles au chatbot, une étape clef pour laquelle BNP Paribas travaille sur un projet mutualisé à l'échelle du groupe, baptisé AVM (Assistant virtuel mutualisé). Celui-ci s'appuiera notamment sur les compétences de Fortis, la première banque belge qui fait partie de BNP Paribas, et de son équipe IA comptant environ 80 personnes. BNP Paribas n'a pas donné de calendrier quant à la mise en service de ce chatbot capable d'accompagner les clients jusqu'à des transactions sur ses SI bancaires.