Projets

Audi optimise sa documentation interne avec un chatbot à base d'IA

Les collaborateurs d'Audi peuvent trouver rapidement des informations fiables, comme des documents de projet, à l'aide d'un chatbot construit avec une approche RAG. Cela permet d'accélérer les processus, y compris dans la production. (Photo : Audi)

Un chatbot reposant sur l'intelligence artificielle aide les employés d'Audi à trouver des informations telles que la documentation de projet et les analyses de risques.

PublicitéAudi a amélioré la gestion interne de ses connaissances à l'aide d'un chatbot basé sur l'IA générative. Le système a été développé par Storm Reply, un partenaire AWS. Pour développer ce bot, l'entreprise a eu recours à Amazon Sagemaker. Cette plateforme cloud permet aux utilisateurs de créer, d'entraîner et de mettre en oeuvre des modèles de Machine Learning.

Les employés d'Audi utilisent le chatbot pour trouver des informations en quelques secondes, par exemple des données issues de documentations de projets et d'évaluations de risques. « Le chatbot est capable d'intégrer des données provenant de sources telles que Confluence, Notion, des PDF et des sites web spécifiques afin de maintenir la base de données à jour », explique Filippo Rizzante, le Chief Technology Officer de Reply.

L'aspect sécurité a également été pris en compte : « L'architecture du chatbot a été développée dans un Virtual Private Cloud (VPC) afin de garantir la sécurité des données et la confidentialité des utilisateurs », reprend le CTO.

Seules les données pertinentes sont mises à disposition

Le chatbot ne met à la disposition des utilisateurs que des données pertinentes. Cela signifie qu'il n'invente pas de réponses (les fameuses hallucinations) lorsque les informations dont il dispose sont insuffisantes. Au lieu de cela, le bot informe l'utilisateur qu'il ne peut pas répondre avec certitude à la question, faute de données manquantes.

L'un des éléments clés du système est la génération augmentée de récupération (RAG pour Retrieval Augmented Generation). Cette approche combine des composants dédiés à la création de textes assistée par l'IA avec des fonctions pour l'extraction d'informations à partir de différentes sources telles que des bases de données, des articles de blog et des bases de documents.

L'un des avantages du RAG réside dans le fait que la base de connaissances peut être modifiée et affinée sans qu'il soit nécessaire de former à nouveau le modèle de langage. De plus, le RAG fournit des réponses qui sont davantage liées au contexte des requêtes (voir encadré).

Des extensions pour un effort réduit

Le chatbot permet à Audi de briser les silos de connaissances, de rationaliser les processus et, en fin de compte, de réduire les coûts. « Il réduit les obstacles à la recherche de connaissances pour nos différents interlocuteurs internes et ne nécessitera probablement que peu d'efforts supplémentaires pour être étendu à d'autres cas d'utilisation », explique Michael Pawelke, Product Owner AWS Foundation Services chez Audi AG.

À cela s'ajoute un autre facteur : « Le chatbot d'IA générative développé par Storm Reply accélère notre transition vers le cloud. C'est un excellent exemple de la façon dont une technologie innovante peut être utilisée pour résoudre des cas d'usage pratiques avec un court de mise en oeuvre réduit », ajoute Michael Pawelke.

Comprendre le RAG

La génération augmentée par récupération (Retrieval Augmented Generation ou RAG) est une technique de traitement du langage naturel (NLP) utilisée pour 'ancrer' de grands modèles de langage (LLM) avec des sources de données spécifiques, souvent des sources qui n'ont pas été incluses dans l'entraînement original des modèles. Les trois étapes d'une approche RAG sont la récupération d'informations dans une source spécifique - via des modèles basés sur l'extraction de données -, l'augmentation du prompt avec le contexte récupéré de ladite source, puis la génération d'une réponse en utilisant le modèle d'IA générative sollicité par le prompt augmenté.

L'approche est classiquement exploitée par les entreprises, qui peuvent ainsi spécialiser un modèle générique sur leur contexte métier spécifique sans avoir à le réentraîner. Elle peut aussi s'attaquer à deux problèmes classiques des grands modèles de langage : les données d'entraînement périmées et l'introduction de documents de référence dépassant la taille maximale des fenêtres de prompt des LLM.