Stratégie

Les coûts élevés et imprévisibles de la GenAI freinent les stratégies IA des DSI

La tarification aléatoire et expériementale de la GenAI stresse les DSI et freine les projets. (Image Pixabay. G.Altmann)

L'imprévisibilité des prix et de très nombreux autres coûts plus ou moins cachés de l'IA générative se révèlent d'importants obstacles à son adoption pour beaucoup de DSI.

PublicitéDes résultats discutables et le manque de confiance dans les avantages promis se révèlent des obstacles majeurs dans l'adoption de la GenAI. Mais, selon une récente enquête d'IDC, viennent s'y ajouter les nombreuses questions relatives aux coûts. 46 % des plus de 1 000 professionnels IT interrogés par le cabinet d'études affirment que le manque de prévisibilité des prix est devenu l'une des principales barrières à la mise en oeuvre de la technologie. Les répondants à l'enquête IDC indiquent ainsi « se tourner de préférence vers du "pay-as-you go" pour se rassurer. Une attitude qui n'est cependant pas en phase avec la préférence de la plupart des fournisseurs pour un engagement à l'avance », selon le rapport d'IDC, découlant d'une enquête menée en octobre.

Sastry Durvasula, directeur de l'exploitation, de l'information et du numérique du fonds de pension pour les enseignants TIAA, est ainsi fermement convaincu que la tarification à la consommation est le meilleur modèle pour les stratégies d'IA des entreprises. « La plupart des organisations sont encore en train de déterminer leurs modèles d'utilisation de l'IA, insiste-t-il. Il est donc risqué pour elles de s'engager dans des coûts initiaux importants. Le paiement à l'usage offre une meilleure visibilité et un meilleur contrôle des coûts, ainsi que la flexibilité d'évoluer en fonction de l'utilisation réelle constatée. Nous sommes moins préoccupés par les coûts ponctuels d'entraînement et de fine-tuning que par la gestion des dépenses opérationnelles courantes. Avec un modèle pay-as-you-go, nous pouvons directement lier les coûts à la valeur et les ajuster si nécessaire ».

Des modèles de prix permettant un déploiement incrémental

Chris Nardecchia, DSI de l'industriel spécialiste des automatismes Rockwell Automation, est en phase avec son homologue. « La plupart des entreprises non technologiques sont confrontées à des obstacles importants pour mettre en oeuvre des infrastructures d'IA internes capables d'exécuter des modèles très avancés, précise-t-il. Se lancer à partir de zéro est hors de portée pour la plupart d'entre elles. Or, les modèles basés sur la consommation permettent justement aux DSI de mettre en oeuvre l'IA de façon incrémentale avec un ROI plus mesurable. »

Les DSI comprennent de mieux en mieux les approches tarifaires des fournisseurs d'IA, mais ne l'apprécient pas pour autant ! Dave McCarthy, vice-président de la recherche chez IDC et l'un des auteurs de l'enquête, rappelle qu'ils sont toujours en train d'étudier la meilleure façon de gérer les coûts aléatoires du cloud et savent combien il est difficile d'estimer les coûts de nouveaux workloads sans données historiques. « Le caractère encore relativement nouveau de l'IA pour la plupart des entreprises fait de la budgétisation des projets un vrai défi. Pour aggraver les choses, de nombreux fournisseurs expérimentent encore différents modèles de tarification, susceptibles d'être modifiés à tout moment, en particulier pour les entreprises peu enclines à prendre des risques, explique Dave McCarthy. La tarification à l'usage est ainsi un moyen de réduire les risques financiers en évitant de s'engager dans des contrats à long terme ».

PublicitéLa folle expérimentation tarifaire des fournisseurs

Adnan Masood chief AI Architect de l'ESN UST, affirme que ce type de « tarification imprévisible » rend difficile la gestion des dépenses en IA, même pour les directeurs financiers. « La vraie crainte en matière d'IA n'est pas la puissance de la technologie, mais le manque de contrôle des coûts en temps réel et de mesure claire des performances qui permettent de justifier des investissements audacieux en la matière ».

Outre les craintes concernant les prix, selon l'étude IDC, les principaux obstacles à l'adoption de l'IA résident dans les inquiétudes concernant les mauvais résultats (51,3 %), notamment les biais involontaires, l'utilisation non autorisée de la propriété intellectuelle d'une autre personne ou la fuite involontaire d'informations confidentielles, et le manque de confiance dans les avantages de l'IA générative (46,1 %).

Se concentrer sur les usages de bases

Dans ce cas, la parade peut être d'utiliser des agents SaaS et de se concentrer sur des cas d'usage de base de l'IA, tels que la synthèse automatisée de documents, plutôt que d'essayer de construire et d'entraîner un modèle de base, par exemple, comme l'explique Paul Beswick, DSI du cabinet de gestion des risques Marsh McLennan. « C'est vraiment un moyen idéal pour tester l'IA à un prix raisonnable ». Le DSI, tout comme Adnan Masood de l'UST, convient par exemple du risque majeur pour une organisation de se lancer dans la création de ses propres modèles d'IA générative sur mesure. « Les DSI semblent également effrayés par le spectre de factures galopantes liées à l'usage de la GenAI, une fois qu'ils appuient sur « go » à grande échelle, en l'absence de transparence opérationnelle et de stratégie solide d'atténuation des risques ».

Les contraintes budgétaires trouvent également leur source dans l'infrastructure nécessaire à l'IA, compte tenu du coût des GPU, comme le rappelle Chris Nardecchia, DSI de Rockwell Automation. Sans oublier la pénurie d'architectes et de data scientists expérimentés en IA, la complexité technique et la préparation des données. « Les modèles nécessitent des données vastes, propres et structurées, et la plupart des organisations sont encore aux prises aujourd'hui avec des silos existants et des données de mauvaise qualité. C'est la contrainte n° 1 dont j'entends parler quand j'en parle avec mes pairs ».

Les coûts effrayants de l'IA agentique

Autre constat issu de l'enquête IDC, la plupart des entreprises s'attendent à ce que l'IaaS du cloud public constitue leur principale source d'infrastructure pour la GenAI. Mais ils veulent aussi utiliser des systèmes sur site pour une plus grande confidentialité. Cette préférence pour une architecture d'IA hybride « nécessitera des modèles de tarification bien définis qui tiennent compte des coûts associés au transfert de données entre les différents lieux de déploiement », selon le rapport d'IDC.

« Les coûts très élevés de l'IA agentique - des agents d'IA sophistiqués agissant de manière autonome - sont, quant à eux, terrifiants pour un ROI pourtant très flou », ajoute Adnan Masood de l'UST. La façon dont les fournisseurs vont définir la tarification de l'IA agentique est un sujet de débat et de confusion. Salesforce, par exemple, qui a récemment annoncé Agentforce 2.0, adopte une approche de tarification à la conversation. La plateforme est utilisée, par exemple, par FedEx pour rationaliser les opérations et par la chaîne de grands magasins Saks Fifth Avenue pour répondre aux questions des clients concernant les articles.

Analyser précisément l'ensemble des sources de coûts

Mais pendant un certain laps de temps, toutes les entreprises ne pourront probablement pas s'offrir ces agents. « La plupart des acheteurs de services comprenant de la GenAI s'attendent à des prix élevés, note l'étude IDC. Cependant, ils estiment que des modèles de tarification plus équilibrés et variés apparaîtront dans les trois ans à venir. »

Bryan Muehlberger, DSI de la marque de vêtements Lumiyo et ancien DSI et CTO des vêtements de sport Vuori et de Red Bull, conseille aux DSI de prendre en compte sérieusement tous les coûts liés à l'IA (modèles de tarification incertains, coûts de l'énergie et conditions économiques) dans toutes les analyses avant tout lancement de projet. « À l'heure actuelle, la hausse des coûts des puces, la consommation d'énergie associée et les tensions macroéconomiques avec la Chine et au sein de la chaîne d'approvisionnement [sont des préoccupations majeures], explique-t-il par exemple. Ils auront tous un impact considérable sur l'avenir de l'IA dans les deux prochaines années. Même OpenAI rencontre des problèmes pour déployer ses dernières versions en raison de ces complications ».