Stratégie

Les DSI préoccupés par les inexactitudes produites par l'IA

Environ 9 DSI sur 10 affirment qu’il n’est pas possible de garantir l’exactitude des résultats produits par l’IA. (Photo : Steve Johnson / Unsplash)

Poussés par leur direction à déployer rapidement l'IA, les DSI s'inquiètent des risques liés à cette technologie. En particulier des erreurs et des biais produits par les algorithmes.

PublicitéSous pression pour déployer rapidement cette technologie, les DSI s'inquiètent de l'exactitude des informations générées par l'IA, selon une enquête de Wakefield Research, menée pour Juniper Networks. Près de 9 dirigeants IT sur 10 pensent qu'il n'est probablement pas possible de savoir si les résultats produits par l'IA pour leur entreprise sont exacts ou pas, selon cette étude menée auprès de 1 000 cadres impliqués dans les projets IA de leur organisation. La grande majorité des dirigeants interrogés (91%) affirment que les employés font plus confiance à l'IA qu'ils ne le devraient.

L'enquête menée à l'international par Wakefield Research révèle aussi que 87 % des dirigeants IT subissent une pression pour mettre en oeuvre l'IA, même si les trois-quarts d'entre eux estiment que les politiques de leur entreprise ne sont pas capables de suivre l'évolution des risques et avantages potentiels de l'IA. « Si l'on considère la rapidité avec laquelle les solutions évoluent et ce dont elles sont capables, on peut comprendre que la pression pour une intégration rapide de l'IA crée des tensions dans beaucoup d'entreprises », écrit Sharon Mandell, vice-présidente senior et DSI de Juniper, dans un billet de blog commentant l'étude.

Vulnérabilités introduites par l'IA : tous préoccupés (ou presque)

Pour cette dernière, l'IA est par nature différente des autres technologies de rupture qui ont marqué ces dernières décennies, comme le cloud, l'IoT et le mobile. « L'IA ne se limite pas à la mise en oeuvre d'un nouvel outil ou d'une nouvelle application à des fins d'efficacité ; il s'agit également d'analyser l'impact qu'elle peut avoir sur l'ensemble de l'entreprise, dit-elle. La peur de l'inconnu et l'incertitude des conséquences font de l'adoption de l'IA un défi beaucoup plus complexe et stimulant pour les DSI que la plupart des percées technologiques précédentes ». Seulement 1 % des cadres interrogés par Wakefield déclarent ne pas s'inquiéter des vulnérabilités introduites par l'IA, notamment des atteintes à la vie privée, de l'empoisonnement des données, des fuites de données ou d'autres cyberattaques. 9 dirigeants sur 10 affirment que la totalité ou la plupart des résultats issus de l'IA sont influencés par des préjugés, ceux-ci trouvant leur origine avant tout dans les données d'entraînement.

Selon le cabinet d'études IDC, au cours des prochaines années, les dépenses des entreprises en services, logiciels et infrastructures pour l'IA générative vont exploser, passant de 16 milliards de dollars en 2023 à 143 milliards de dollars en 2027.