De l’éthique des voitures autonomes : qui doit mourir en cas d’accident ?

Au-delà de tous les dilemmes juridiques, techniques ou économiques que peuvent alimenter les voitures autonomes, se pose aussi un dilemme éthique. En situation d’accident, qui faut-il protéger ? Les occupants du véhicule ou bien le petit garçon qui traverse la rue sans regarder ? Une plate-forme en ligne baptisée « Moral Machine » (lancée par des chercheurs du Massachusetts Institute of Technology – MIT) a enregistré entre juin 2016 et décembre 2017 les choix des internautes face à divers cas de figures. Plus de 2 millions de personnes ont participé, dans 233 pays et ont exprimé près de 40 millions de décisions. Les résultats ont été publiés cette semaine dans la revue Nature, et ont été relayés par l’Agence France Presse.

Haro sur la « Moral Machine »

« Jamais, dans toute l’histoire de l’humanité, nous n’avons permis à une machine de décider seule qui doit vivre et qui doit mourir, sans supervision. Mais nous allons franchir ce cap bientôt ; et cela (…) va arriver dans un des aspects les plus terre à terre de notre quotidien : les transports. » soulignent les chercheurs du MIT. Se pose alors une question : quelle « morale » inculquer aux voitures autonomes ? L’automatisation n’est pas synonyme de zéro-accident. Un homme peut très bien traverser la rue brusquement, et faire que l’on se retrouve face à un choix cornélien : protéger les passagers de la voiture autonome ou alors le piéton ? Ajoutons une nouvelle variable : cet homme, qui traverse la rue brusquement, est un dangereux criminel recherché depuis des mois par la police. Là, qu’est-ce qu’on fait ?

Depuis quelques années déjà, Google expérimente la voiture autonome.

Pour les scientifiques du MIT, il était temps d’avoir « une discussion globale » avec les citoyens. D’où le lancement de la plate-forme « Moral Machine ». Les participants avaient sous les yeux une voiture autonome dont les freins avaient lâché. Cette voiture devait faire des choix : par exemple, faucher une barrière de béton et, dans ce cas, mettre potentiellement à mal la vie de ses occupants ou alors, foncer sur un groupe de piétons.

Ces piétons avaient, selon les cas, des caractéristiques différentes : ils pouvaient être jeunes, âgés, de sexe féminin ou masculin, riches, pauvres, chats, chiens ou même, des criminels. « Nous avons vu se dégager trois grands principes sur lesquels les gens s’accordent plus ou moins: protéger la vie humaine plutôt que les animaux, sauver le plus grand nombre de vies et sauver en priorité les enfants » explique à l’Agence France Presse Jean-François Bonnefon, chercheur CNRS à l’Université de Toulouse et coauteur de l’étude. Globalement, les enfants, les bébés en poussettes et les femmes enceintes sont les plus protégés. L’âge paraît ainsi avoir eu un impact dans les choix des participants. De même, le statut social a été fortement pris en compte : les médecins (équipés d’une croix blanche, pour qu’on les reconnaissent) et les cadres dirigeants ont été relativement protégés. Les personnes au physique athlétique également.

Des résultats critiquables et à relativiser

A l’inverse, les animaux, mais aussi les personnes âgées, les criminels (silhouettes munies d’un butin), les gens pauvres et… les personnes en surpoids ont été les moins épargnés. Des choix moraux qui peuvent, bien-sûr, faire débat. Jean-François Bonnefon tempère en soulignant à l’AFP que « ces trois préférences fortes peuvent varier d’un pays à un autre« . Les pays asiatiques semblent moins portés sur l’âge, par exemple. Les chercheurs tentent également de relativiser ces résultats (qui sont tout de même censés aider les industriels et décideurs à élaborer, à l’avenir, les algorithmes des voitures autonomes).

Voici l’un des scenarii proposé aux participants de l’étude.

Ainsi, participer à l’étude supposait d’avoir une connexion internet, et d’être au courant du projet, ce qui exclue de fait les populations marginalisées. De plus, les scientifiques avouent qu’ils n’ont pas pris en compte notamment « les relations entre les passagers ni les possibilités de s’en sortir vivant« . Les scenarii, trop simplistes pour certains, ne prennent pas non plus en compte le fait que dans « la vie réelle », on peut avoir plusieurs voies de circulation et d’autres véhicules qui nous entourent, comme des cyclistes.

Finalement, se pose aussi en filigrane une dernière question : pourrai-je acheter une voiture paramétrée pour protéger la vie d’autrui plutôt que la nôtre en cas de collision ? Et comment le saurai-je ? Les interrogations sont multiples. Mais la question de l’éthique, traitée par cette étude, mérite d’être posée et va vraisemblablement faire l’objet de grands débats dans les années à venir.