Tribunes

Edito - La morale du monde qui vient

Bertrand Lemaire, rédacteur en chef de CIO

2016 sera peut-être l'année du véhicule autonome. Les vieux thèmes de la science-fiction philosophique vont être de nouveau à la mode.

PublicitéChers lecteurs,

L'usage veut que je vous souhaite une excellente année 2016. Cela n'engage pas à grand'chose. Et puis, ça me ferait évidemment plaisir de savoir que, dans douze mois, vous vous retournerez sur l'année écoulée en vous disant : « quelle belle année je viens de passer ! ».
Pourtant, cette année pourrait vous amener certains maux de tête. Oui, à vous qui mettez en oeuvre des systèmes d'information de plus en plus efficaces, efficients, optimisés, riches en fonctionnalités, garantissant une expérience utilisateur omnicanale disruptive ubiquitaire, etc.
En effet, nous allons peut-être connaître l'année des objets connectés et, surtout, l'année des premiers véhicules véritablement autonomes. Des vrais. Pas des bidules qui se baladent dans des laboratoires ou sur des routes balisées sous haute surveillance policière.
Et, là, les maux de tête commencent.
Avec le problème que tout le monde a pointé sans en comprendre les véritables tenants et aboutissants sociologiques. Voire philosophiques.

Une histoire de choix

Des maux en ique ? Oui, je vous avais prévenus de vous préparer à des maux de tête.
Voici une voiture autonome et automatique roulant sur une avenue au trafic intense dans les deux sens. Une mère avec une poussette débouche de sur un trottoir et traverse sans crier gare et trop près pour qu'un freinage utile puisse empêcher la collision. Le véhicule doit-il choisir de renverser la poussette ? Ou bien la mère ? Ou bien de s'encastrer dans un poteau ? Ou bien d'aller sur la voie de circulation en face où des véhicules arrivent à contre-sens ? Bref, qui l'ordinateur doit-il choisir de tuer : le bébé, la mère, le passager/propriétaire... ?
Des dilemmes de ce genre sont anciens en science-fiction. Ils sont à la base de nombreux romans et nouvelles s'appuyant sur les paradoxes soulevées par les trois lois de la robotique d'Isaac Asimov. Ils datent même de bien avant et le choix est toujours le ressort de mille tragédies. Andromaque doit-elle venger son époux au prix de la vie de son fils et de la sienne au lieu d'épouser le roi qui l'a emportée et l'aime sincèrement ? Le Cid doit-il aimer la fille de celui qui a insulté son père et qu'il a dû tuer ? Et je ne vous parle même pas des héros de la Guerre de Troie et des mythologies diverses et variées.
Je ne m'égare pas du tout car il y a entre d'une part les situations d'Andromaque et du Cid, d'autre part de la voiture autonome, des différences importantes.

Avant et après, ce n'est pas pareil

Pour bien comprendre la différence, revenons un peu en arrière.
Voici un héros (oui, un homme). A un point donné dans son aventure, alors qu'il lutte contre l'invasion d'ennemis implacables à la seule force de son épée et de son courage, il doit faire un choix. Par exemple : il doit laisser mourir la moitié de son armée (au risque de laisser les méchants gagner) ou bien provoquer d'une façon ou d'une autre la mort de sa jeune et tendre épouse.
Gageons que son choix sera différent dans les deux cas suivants. Première possibilité : la dite charmante et tendre épouse a été surprise la veille dans les bras du meilleur ami du héros, a été ensuite atteinte d'une migraine épouvantable avant d'annoncer que sa mère allait justement venir passer le week-end à la maison. Deuxième hypothèse : le jeune couple était en plein voyage de noces quand la guerre a commencé, la jeune épouse a écrit des mots doux tous les jours à son héros de mari et vient de lui annoncer qu'elle était enceinte.
Que nous apprend cet exemple ? Que la situation de base est insuffisante pour faire un choix qui va largement dépendre d'un contexte. De plus, il y a un très grand flou dans les critères du choix. Et chacun pourra ensuite juger le choix fait à l'aulne de sa propre morale, bref de sa propre échelle de valeur à un instant t. De nombreux tests psychologiques de personnalité se basent sur ce principe, notamment le célèbre test matrimonial de Robin des Bois.

PublicitéDe Hal et Alien à la voiture autonome

Or un ordinateur n'a pas toute cette complexité. Un ordinateur fait ce qu'on lui dit de faire. Point final. De ce point de vue, Terminator n'est pas crédible. Par contre Hal dans 2001, odyssée de l'espace comme Bishop dans Alien sont de véritables machines. Dans ces deux derniers cas, les équipages des vaisseaux spatiaux sont sacrifiés parce que ce sont les conséquences logiques des ordres donnés, même si les programmeurs n'avaient pas prévu ces conséquences. L'ordinateur est stupide et obéissant !
Revenons maintenant à nos voitures autonomes. Le choix qui va être fait par l'ordinateur va donc dépendre des ordres prévus. Le véhicule doit-il choisir de renverser la poussette ? Ou bien la mère ? Ou bien de s'encastrer dans un poteau ? Ou bien d'aller sur la voie de circulation en face où des véhicules arrivent à contre-sens ? Bref, qui l'ordinateur doit-il choisir de tuer : le bébé, la mère, le passager/propriétaire... ? Tout dépendra des règles instituées a priori selon un arbre de décision, bref un organigramme logique.

Conséquences philosophiques et sociologiques de la voiture autonome

La création de cet organigramme implique que l'on décide, en amont d'une situation, à froid, de manière formelle, qui l'on doit tuer. Si ce sont des exercices bien connus des stratèges militaires qui ont des échelles à cette fin (pourcentage tolérable de pertes pour atteindre tel objectif...), le commun des mortels risque d'être plutôt choqué par la pratique.
Dans le cas des métros automatiques apparus avec le VAL de Lille, le dilemme avait été traité en empêchant la situation de crise de survenir. Un métro automatique ne peut exister à l'heure actuelle que dans un tunnel totalement isolé, y compris au niveau des stations avec des portes palières. Lorsqu'un objet imprévu apparaît dans le tunnel, la machine freine en urgence et stoppe au plus vite. C'est sa seule instruction, simplicité rendue possible par le seul fait de l'isolement total du véhicule de toute circulation avec des humains.
Or c'est bien le commun des mortels qui va acquérir ou utiliser un véhicule autonome. De ce fait, il pourrait être choqué d'apprendre que Hal-Bishop le sacrifiera (si besoin) pour sauver une mégère et son mouflet incapables de traverser sur les clous lorsque le feu piéton est vert.
L'échec économique de la voiture autonome sera peut-être impliqué par le précédent paragraphe. L'homme reste avant tout égoïste.