Technologies

Encadrement de la GenAI : la finance US s'organise en communauté

Le graphique publié par la Fintech Open Source Foundation identifiant les menaces pesant sur une architecture associant RAG et LLM.

Une fondation Open Source, regroupant grands noms américains de la finance et de la tech, publie une première version d'un framework de gouvernance des applications couplant RAG et LLM.

PublicitéLa Fintech Open Source Foundation, ou Finos, a publié la première version de son framework d'adoption de l'IA pour les institutions financières, fruit des réflexions d'un groupe de travail monté par cette communauté en avril dernier. Le document, encore à l'état de brouillon, décrit les mesures à mettre en oeuvre dans un système couplant LLM et RAG (Retrieval Augmented Generation) et exploitant un service SaaS pour l'inférence. « Toutes les banques disposent de processus matures pour l'intégration des technologies, mais l'IA présente de nouveaux défis pour lesquels les processus existants ne sont pas forcément bien adaptés », indique la Fintech Open Source Foundation.

L'ambition de cette communauté, qui compte parmi ses membres Moody's, Capital One, Citi, Goldman Sachs, JPMorgan Chase, Morgan Stanley, mais aussi AWS, Google, Microsoft ou encore Nvidia, est de développer un cadre de gouvernance large, « pouvant s'appliquer à une grande variété de cas d'usage, en commençant par un champ d'application étroit », soit les applications couplant RAG et LLM. Finos espère ainsi enclencher de premières implémentations et un cycle d'itération de son framework.

Application prioritaire dans la finance

Sur ce scénario d'utilisation - l'interrogation de bases de connaissances internes via un système de RAG et une synthèse confiée à un LLM pré-entraîné -, Finops recense 14 menaces spécifiques et 16 niveaux de contrôle à mettre en place pour les encadrer. La première typologie d'applications qu'a choisie de traiter Finos correspond à une priorité du secteur financier. Y compris de ce côté-ci de l'Atlantique. Récemment, lors d'un salon organisé à Paris, le Crédit Agricole et la Société Générale ont, chacun de leur côté, dévoilé un outil de recherche couplant LLM et RAG et permettant d'explorer leurs vastes corpus réglementaires.

Le framework conçu par Finos, une communauté proche de la fondation Linux, illustre le mode d'organisation de la communauté financière américaine autour de ce sujet. L'an dernier, cette communauté avait déjà lancé une initiative, dirigée par Citi, pour façonner les normes de conformité, de résilience et de sécurité du cloud public pour l'ensemble du secteur.