Technologies

Les déploiements de GenAI s'accélèrent, les échecs de projet se multiplient

Plusieurs études convergent pour pointer les interrogations croissantes des entreprises quant aux coûts et au ROI des projets de GenAI. (Photo : Geralt/Pixabay)

Selon une étude de Gartner, 80% des entreprises auront testé ou déployé l'IA générative d'ici deux ans. Mais près de 30% des projets actuels vont se solder par des échecs. Le coût de la technologie et son ROI incertain suscitent de plus en plus de débats.

PublicitéSelon une enquête publiée récemment par le cabinet Gartner, d'ici 2026, 80 % des entreprises auront utilisé des API d'IA générative (GenAI) ou de grands modèles de langage (LLM) ou déployé des applications basées sur l'IA générative dans des environnements de production, contre moins de 5 % en 2023. Ce résultat montre que les entreprises adoptent massivement cette technologie pour découvrir les modèles et tirer parti de données exploitables afin d'automatiser les tâches fastidieuses.

Cependant, même si 9 % des entreprises exploitent actuellement la GenAI pour transformer leurs business model et créer des opportunités, près d'un tiers de ces projets seront abandonnés d'ici la fin de l'année prochaine, majoritairement en raison de la mauvaise qualité des données, de contrôles des risques insuffisants, de coûts de plus en plus élevés ou d'une valeur métier peu claire.

Le fardeau financier de la GenAI s'alourdit

Pour cette enquête, Gartner a interrogé 822 dirigeants d'entreprise et membres de conseils d'administration. « Après le battage médiatique de l'année dernière, les dirigeants sont impatients de voir les retours sur investissement de la GenAI, mais les entreprises peinent à prouver cette valeur et à réaliser les bénéfices attendus », souligne Rita Sallam, analyste et vice-présidente de Gartner. « À mesure que la portée des initiatives s'élargit, le fardeau financier du développement et du déploiement des modèles de GenAI se fait de plus en plus sentir », ajoute-t-elle. Les déploiements d'IA peuvent coûter cher, dans une fourchette allant de 5 à 20 M$. Selon Gartner, d'ici 2028, plus de la moitié des entreprises qui ont construit des LLM à partir de zéro les abandonneront en raison des coûts, de la complexité et de la dette technique associée à leurs déploiements.

Les coûts des différents cas d'usages de la GenAI, selon Gartner. (Crédit : Gartner)

Un essoufflement déjà perceptible

Une autre étude, intitulée « GenAI Global Study » et publiée par le fournisseur Lucidworks (spécialisé dans la recherche et le discovery basées sur l'IA), montre que seulement 63 % des entreprises mondiales prévoient d'augmenter leurs dépenses en matière d'IA au cours des 12 prochains mois, contre 93 % en 2023. L'éditeur a également constaté que les entreprises de services financiers n'ont déployé qu'un quart des initiatives d'IA qu'elles avaient planifiées pour 2024, même si près de 50 % des dirigeants de services financiers avaient une vision positive de l'IA en 2023. Selon Lucidworks, les plus grandes préoccupations liées à l'utilisation de l'IA générative dans les services financiers concernent la sécurité des données (45 %), suivie de la précision (43 %) et du coût (40 %).

PublicitéBasée sur une enquête menée auprès de plus de 2 500 chefs d'entreprise impliqués dans la prise de décision en matière de technologie de l'IA, l'étude de Lucidworks montre clairement que la croissance autrefois explosive de l'IA générative s'essouffle, car les entreprises sont confrontées à des obstacles liés aux coûts et à la sécurité. « Les entreprises reconnaissent le potentiel, mais aussi les risques et les coûts », souligne Mike Sinoway, Pdg du fournisseur, dans un communiqué. Parmi les entreprises qui prévoient d'augmenter leurs dépenses en IA cette année, celles basées aux États-Unis restent les plus optimistes. Mais même si les investissements restent élevés, de plus en plus d'entreprises cherchent à équilibrer le potentiel de la GenAI avec la gestion des risques et des coûts.

Paradoxalement, c'est essentiellement par souci de compétitivité que la plupart des entreprises déploient des outils d'IA générative. Ainsi, selon LucidWorks, un tiers des chefs d'entreprise ont l'impression d'être distancés par leurs concurrents alors que presque tout le monde s'efforce de mettre en oeuvre la technologie.

Malgré ces réserves grandissantes, l'investissement dans l'IA se poursuit et LucidWorks estime que, d'ici 2030, une entreprise dépensera en moyenne 42 Md$ par an dans des projets de GenAI comme les chatbots et les outils de recherche, de rédaction et de synthèse. Même si les LLM payants dominent actuellement le marché, de plus en plus d'entreprises s'intéressent également aux petits modèles personnalisés qui n'utilisent que des données internes. « Près de huit entreprises sur dix utilisent des LLM payants, et 21 % ont opté pour l'open source uniquement », indique LucidWorks.

Un ROI toujours difficile à déterminer

Selon Lucidworks et d'autres études, alors que la technologie a été vantée pour les gains de productivité qu'elle pouvait apporter, le retour sur investissement (ROI) s'avère difficile à déterminer. Dans l'étude, 42 % des entreprises ont déclaré qu'elles n'avaient pas encore tiré d'avantages significatifs de leurs initiatives GenAI. Les secteurs de l'IT et la grande distribution se distinguent par un déploiement plus important et des gains réalisés, mais dans l'ensemble, la plupart des industries peinent à dépasser les programmes pilotes. Si la sécurité reste une préoccupation majeure pour les chefs d'entreprise, les inquiétudes liées aux coûts ont été multipliées par 14 au cours de l'année écoulée, tandis que celles concernant la précision des réponses ont été multipliées par cinq, en raison des hallucinations persistantes associées à la technologie. Ce qui souligne l'importance d'une sélection minutieuse des LLM pour équilibrer les coûts et garantir des résultats précis et sûrs.

« Il est difficile de mesurer le retour sur investissement », reconnaît Bret Greenstein, responsable data et IA chez PriceWaterhouseCoopers (PwC). Mais en adaptant un LLM pour exécuter une fonction ou un processus, il est plus facile de comparer ses performances en termes de coût, de précision et de rapidité avec les processus antérieurs. « Une fois que l'on a réussi à atteindre ce nouveau niveau de performance, il est possible de le déployer en production avec la gouvernance et les processus opérationnels appropriés et suivre son utilisation, souligne le responsable. Lorsqu'un cas d'usage permet d'économiser deux heures sur un processus de six heures, et que l'on suit son utilisation, on peut agréger les économies ».