Hé, je viens d’avoir une idée concernant les voitures autonomes et le dilemme de la protection des passagers VS la protection des autres usagers de la rouge.

Si les voitures sont robotisées, et tant que toutes les voitures ne le sont pas, pourquoi ne pas appliquer les 3 lois de la robotique sans tenir compte des passagers ?

Je m’explique : si les passagers sont volontaires pour se faire transporter par une voiture autonome, ils acceptent que la voiture fasse des choix. Ça me semble évident.

À ce moment là, la protection des passagers est rapporté à la loi 3 de la robotique, c’est à dire « le robot doit protéger son existence tant que ça n’entre pas en conflit avec les lois 1 et 2 ».
La loi 1 ne concerne alors que les humains à l’extérieur, et la loi 2 ne concerne que les ordres donnés par le conducteur (ou les passagers, si la notion de conducteur voue à disparaître).

À mon avis, on ne peut pas responsabiliser une voiture pour le moment. J’ai l’impression que les assurances et les constructeurs vont dans ce sens également. Il faut donc responsabiliser le conducteur, et donc en diminuant leur priorité de survie en cas de problèmes (ce qui les forcera à rester vigilant un minimum).

Quelques cas de figure :

Si un passager décide de faire le con et donne un coup dans le volant, la voiture doit le refuser pour éviter de blesser les autres avant tout.
Si les passagers sont suicidaires, ce n’est pas le problème de la voiture (loi 2 > loi 3), donc elle devra obéir si il n’y a pas d’autres humains (en pleine campagne par exemple).

Si il y a un accident et que la voiture doit faire un choix entre protéger les passagers (et elle-même) et protéger des piétons (ou d’autres humains dans d’autres voitures), elle protégera les piétons en priorité (loi 1 > loi 3 — les passagers faisant partie de la voiture, et ayant en quelque sorte accepté cela). Une fois une trajectoire pour éviter les humains dehors trouvée, elle l’ajuste pour respecter la loi 3, ou elle écoute un passager pour respecter la loi 2.

(Enfin, une bonne partie des problèmes viennent du fait que les humains et les voitures empruntent parfois le même espace (par exemple sur les passages piéton). On n’a pas de problèmes avec le métro ou les avions. Et aussi parce qu’on va passer par une phase de cohabitation entre voitures autonomes et voitures non-autonomes, ce qui à mon avis la phase la plus difficile à gérer).