Bientôt les voitures seront entièrement informatisées et conduites par intelligence artificielle. C’est déjà au stade du prototype. Toutefois cette voiture réellement automobile pose un dilemme moral: celui du choix des victimes en cas d’accident.
Anticiper
La programmation informatique est associée à des capteurs posés sur la voiture. Ils captent la réalité de la circulation: virages, présence d’obstacles, vitesse, pluie, etc. C’est le cas par exemple de la Google Car (image 1). Grâce à ces capteurs le cerveau informatique du véhicule analyse le flux de circulation et fait des choix immédiats sans intervention humaine.
Cette programmation doit anticiper sur certaines situations types. Dont les éventuels accidents. Si un accident est inévitable le conducteur ne choisit plus lui-même l’option de salut: la voiture autonome est programmée pour réagir selon les indications préalablement mises dans son cerveau.
Les constructeurs devront donc résoudre la question des accidents inévitables avant qu’ils ne surviennent. C’est un peu le but de l’automatisation: réduire l’incidence des failles humaines sur la conduite d’une auto. Sauf panne des systèmes, la voiture autonome est pensée comme sûre.
Cependant, à moins de poser les voitures sur des rails pour rendre toute collision impossible, le risque d’accident ne peut être exclu. En cas de risque élevé et imminent, que fera le véhicule autonome? Il fera ce que les programmeurs auront décidé et mis en boîte dans l’ordinateur de bord.
Mort programmée
Cela signifie, en particulier dans un accident potentiellement mortel: il choisira de sacrifier les passagers de l’auto ou ceux sur la route, selon le choix anticipé du programme.
Trois chercheurs de Toulouse et du MIT américain (Massachusetts Institute of Technology) ont publié une étude intitulée Le dilemme social du véhicule autonome.
Ils ont interrogé 2’000 personnes. Dans un premier temps les acheteurs potentiels acceptent l’idée de sacrifier les passagers de la voiture autonome en vue d’épargner par exemple 10 piétons. C’est éthique, si l’on admet que l’éthique se définit a contrario de l’égoïsme.
Mais quand on demande à ces personnes si elles sont prêtes à acheter un véhicule programmé pour les sacrifier le cas échéant, elles sont moins chaudes. Se protéger soi-même reste un réflexe fondamental. La nature nous a faits autonomes et chacun doit veiller à sa propre sécurité. En bref, le sacrifice est admis si la situation l’exige de manière spontanée, mais la programmation de ce sacrifice passe moins bien.
« Il semble donc que l’auto-sacrifice de l’intelligence artificielle et des occupants du véhicule ne soit pas un très bon argument de vente pour les voitures intelligentes. Les scientifiques ont résumé leur étude, en indiquant : «Les participants étaient d’accord avec le fait que les véhicules autonomes utilitaristes étaient les plus moraux, mais préféraient pour eux-mêmes un modèle auto-protecteur. »
Machine morale?
Les chercheurs, qui ont mis leur étude en ligne sur le site interactif Moral Machine, vont plus loin dans leurs observations:
« Avec la démocratisation des objets connectés, il sera aussi possible d’imaginer que les véhicules puissent savoir quels passagers occupent un véhicule (nombre, âge, importance, états de santé, etc.). La voiture autonome pourra donc aussi définir quel doit être le véhicule qui encaissera le plus gros du choc de l’accident ! En sommes, les développeurs de l’intelligence artificielle devront codés : qui doit vivre ou mourir… »
(Comme souvent les rédacteurs internet ont oublié leur orthographe…).
« Un conducteur doit-il mourir pour sauver un groupe de 5 enfants ? Ce même conducteur doit-il vivre s’il s’agit de 5 braqueurs de banque ? Deux voitures vont avoir un accident frontal, l’une des voitures doit sortir de la route pour percuter un arbre laquelle ? Celle avec 4 délinquants à bord ou celle avec un couple de chirurgiens ? »
Bon, je vais aller boire mon café à pied…
Commentaires
Pour éviter les problèmes éthiques, je pense que la programmation doit sauver en priorité les occupants, puis les autres usagers. C'est ce que fait un conducteur humain. Donc en reproduisant le comportement humain, on ne prend pas de risques.
Par contre, il y a un autre problème éthique que je trouve plus grand, c'est celui de la responsabilité d'armes automatisées. Dans pas très longtemps, les drones militaires deviendront tout automatiques et choisiront donc leur cible en fonction d'un programme décisionnel. Si par exemple, ils tirent sur un hôpital, qui devra-t-on blâmer ? Le programmeur ? Le commandant militaire ? Personne ? Ces machines seront-elles soumises aux lois et coutumes de la guerre ? Les guerres du futur font un peu peur, je trouve.
Kad:
"la programmation doit sauver en priorité les occupants, puis les autres usagers. C'est ce que fait un conducteur humain."
D'accord avec vous, c'est le plus logique. Si chacun s'occupe bien de soi, il préserve indirectement aussi des autres.
@Hommelibre très bonne question que nous sommes très nombreux à poser aux scientifiques et chercheurs
Quand on voit certains accidents suite à des GPS souffrant du syndrome de la vache ou de la vierge folle on ose à peine imaginer les nombreux tribunaux requis pour mener en justice tous les constructeurs ou même qui sait les ingénieurs encore à l'Université qui ont tous on le sait ont l'art de dérailler complètement et plus souvent qu'à leur tour
On voit mal des Recteurs d'Uni répondre des actes du monde de doux rêveurs ayant transité leurs bancs et qui planent 360 jours sur 365
Car seules les fêtes de fin d'année ont le pouvoir de les faire redescendre sur terre
Ce moment déclic tant attendu par la famille demandant et toi mon garçon ou ma fille qu'as- tu comme cadeau pour papa et maman ?/rire
Zut j'ai oublié la réponse concernant le cadeau ,elle sera du genre ,une voiture autonome pour vous obliger à ne pas nous déranger inutilement afin de vous véhiculer pour aller faire vos achats
C'est qu'un Uni scientifique lui recherchera toujours des solutions pour ne plus être dérangé dans ses moments de rêveries qui hélas pour de nombreux parents sont beaucoup trop fréquents
- « Voiture autonome : de qui programmer la mort ? »
- « Cependant, à moins de poser les voitures sur des rails pour rendre toute collision impossible, le risque d’accident ne peut être exclu. »
Vous allez bien rigoler.
La CGT a dit que, même "sur des rails", l'accident n'est pas exclu, et que c'est plus pire encore quand c'est des machins "sur des rails" ... privés. :-)
http://www.lefigaro.fr/societes/2009/07/25/04015-20090725ARTFIG00565-sncf-la-concurrence-fait-craindre-plus-d-accidents-.php
Mais ptet que la CGT a tout faux, comme d'habitude.
Puisque pour la ouature autonome, ça serait la ouature qui serait ... privée.
Vous croyez que les assurances vie privées paieront le même prix pour un ... passager de ouature autonome mort ... que pour un passager d'avion mort ?
Et vous croyez que les assurances accident privées paieront les mêmes soins pour un ... passager de ouature presque encore en vie ... que pour un passager d'avion ou un passager de train en vie ?
Remarquez, c'est ptet un bon truc pour faire baisser les primes des assurances ... ouatures ... ou pour mettre des rails ... et des murs ... de protection ... partout. Heureusement qu'en Suisse on sait creuser des tunnels, pour éviter de construire des murs (sauf pour les barrages).
Bientôt la renaissance du cheval et de l'âne (pour ceux qui ont peur des motos ... et des chevaux) ... pas les virtuels ... les clonés.
- « les ingénieurs encore à l'Université qui ont tous on le sait ont l'art de dérailler complètement et plus souvent qu'à leur tour »
- « On voit mal des Recteurs d'Uni répondre des actes du monde de doux rêveurs ayant transité leurs bancs et qui planent 360 jours sur 365 »
Bon ben, faut remplacer les "Recteurs d'Uni" par quoi alors ?
- « Car seules les fêtes de fin d'année ont le pouvoir de les faire redescendre sur terre »
Des "Recteurs d'Uni" plus religieux ?
Mais si le problème c'est le "monde de doux rêveurs", ça ne serait pas plus simple de changer de religion et trouver une religion avec plus de fêtes ?
- « Ce moment déclic tant attendu par la famille demandant et toi mon garçon ou ma fille qu'as- tu comme cadeau pour papa et maman ?/rire- »
Le garçon ...
... Pour papa, ... un fils parfait ... pour papa.
... Et pour maman ... un fils parfait ... pour maman.
La fille ...
... Pour papa, ... un fille parfaite ... pour papa.
... Et pour maman ... un fille parfaite ... pour maman.
Mais vaut mieux savoir l'orientation sexuelle de ses parents pour pouvoir inverser les cadeaux s'ils aiment trop la perfection.
- « C'est qu'un Uni scientifique lui recherchera toujours des solutions pour ne plus être dérangé dans ses moments de rêveries qui hélas pour de nombreux parents sont beaucoup trop fréquents »
C'est ptet pour ça que les Uni scientifiques font que c'est si difficile d'entrer à l'Uni. Ou ptet parce que la science fait rêver, par exemple quand on a beaucoup plus l'habitude de la religion.
Et cela s'appelle le progrès!? Ce 21e siècle n'en finit pas de nous étonner et pas en bien....!
@Patoucha en effet c'est à croire qu'il existe comme certains héritage des intelligences vrais poisons à elles toutes seules
c'est d'un ridicule ces voitures et quand on sait que celui ci ne tue jamais on n'est pas encore au bout de nos surprises qui paradoxalement doivent couter très cher aux contribuables
Belle journée
Le taxi, y'a que ça de vrai !
Y goûter, c'est l'adopter.
Pas quand on vous envoie des poubelles contrairement à Hubert. Je sais que vous êtes contre....
"Intelligences....."
Surtout en manque d'intelligence! Les neurones des inventeurs se calculent plus en bêtise qu'en intelligence. C'est dans l'air du temps lovejoie.
Belle journée à vous aussi
Ce billet sur les choix me fait penser à coco qui a fait le code et ouvert la porte aux Kouachi. Fallait-il qu'elle se sacrifie pour les 11 personnes finalement massacrées? Sans ce code, pas d'accès aux locaux de C-H. Personne ne peut dire ce qu'il ferait en pareil cas, moi le premier. Notons que les 11 personnes n'étaient pas des inconnus pour coco, qui avait connaissance des menaces. Je n'aurais peut-être pas agi différemment, mais si tel avait été le cas, je m'enfuirais au fin fond d'une forêt au lieu de venir m'exhiber dans des émissions. Je sais je ne suis pas objectif, je ne vois pas de différences entre ses dessins et des étrons. Les Kouachi l'aurait butée la première s'ils avaient su ce qu'elle avait dessiné.
https://www.google.ch/search?q=coco+dessins&client=firefox-b&source=lnms&tbm=isch&sa=X&ved=0ahUKEwjZlOH2zsjNAhXGXBoKHcpkD6IQ_AUICCgB&biw=1173&bih=802#tbm=isch&q=coco+dessins+mahomet