Voiture autonome et intelligence artificielle de nouveau en procès à Lyon

 Deux autres procès fictifs concernant l’intelligence artificielle ont été annoncés ce jeudi 29 mars.

On est en mai 2029. Une voiture autonome, roulant grâce à un guidage par bornes électromagnétiques avec un conducteur à bord, percute un lampadaire place Bellecour à Lyon. Les préjudices s’élèvent à près de 60 000 euros. L’assurance se retourne contre la Ville de Lyon, mettant en avant une défaillance des infrastructures du réseau (bornes). La Ville de Lyon, elle, aimerait que le conducteur soit tenu pour responsable.

Ce cas fictif a donné lieu à un procès, tout aussi fictif, devant le tribunal administratif en juin 2017. Des étudiants en droit de l’université catholique de Lyon (UCLY) ont planché sur le sujet, aidés par des élèves ingénieurs de l’INSA de Lyon faisant office d’experts. Magistrats, avocats et professionnels ont encadré ces aspirants juristes. Le procès en appel, se tiendra le 29 juin prochain.

Juger le futur avec le droit d’aujourd’hui

Marjolaine Monot-Fouletier, maître de conférences à l’UCLY, explique l’ambition de ce procès fictif :

« On cherche la prise de conscience éthique des étudiants en tant que professionnels du droit et la confrontation à la réalité. En tant qu’enseignant chercheur, cela nous permet de proposer des pistes, de les publier pour aller plus loin. On propose en fait de créer du droit. Le juriste n’est pas un robot, il doit imaginer des solutions ».

Tout l’intérêt de l’exercice réside là. Les futurs juristes, répartis en équipes d’avocats et de magistrats, doivent juger une affaire dans le futur à la lumière du droit actuel. Sans pour autant faire de justice prédictive. Ils ont pour cela la possibilité, comme leur a rappelé Marc Clément magistrat à la cour administrative d’Appel de Lyon à l’origine du projet, de créer des jurisprudences ou des textes de loi fictifs.

« On fait office de filtre pour ne pas que ces textes aillent trop dans leur sens. En première instance, les étudiants avaient inventé une jurisprudence du Conseil d’État. On l’a ramené à un jugement du tribunal administratif de Grenoble pour qu’elle puisse être discutée », précise Marjolaine Monot-Fouletier.

La voiture autonome déjà impliquée dans des accidents aux USA

Lors du procès en première instance, la Ville de Lyon avait finalement été reconnue responsable et condamnée. À Lyon, « in real life », on ne compte en circulation qu’un minibus autonome, sans chauffeur, roulant à la Confluence. Pour l’heure, sans dommage. Mais la réalité, aux Etats-Unis, a déjà rattrapé la fiction lyonnaise.

Le 19 mars dernier, une femme traversant une rue dans la ville de Tempe en Arizona, en dehors d’un passage piéton, est morte après avoir été percutée par une voiture autonome de la compagnie Uber. La personne à l’intérieur de la voiture n’a pas eu le temps de réagir pour empêcher l’accident. Cet accident n’est pas le premier impliquant la compagnie Uber ou même Google, en pointe sur le domaine des voitures autonomes.

Pour Marc Clément, ce cas permet de questionner la recherche de responsabilité à l’heure de l’intelligence artificielle.

« Dans le droit actuel, le conducteur est responsable de tout. Les constructeurs de voitures autonomes nous disent aujourd’hui qu’on pourra toujours reprendre le contrôle. Mais dans le récent accident de la voiture autonome Uber, une personne devait reprendre les commandes et n’a pas pu le faire. On va vers des cas où il sera difficile d’établir clairement les causes de l’accident et donc la responsabilité. »

Pour lui, les constructeurs resteront à l’abri.

« Dans des cas comme cet accident fictif place Bellecour, sans blessé ni mort, il n’y aura probablement pas d’expertises poussées. Elles seraient trop coûteuses. Qui est en cause : le logiciel ? Les capteurs de la voiture ? Les bornes sur la route ? La défaillance du véhicule, donc celle du constructeur, sera impossible à démontrer. Cette condamnation encore fictive de la Ville de Lyon montre qu’on peut aller vers une socialisation du risque. Donc une prise en charge globale par la collectivité. »

Le droit sera-t-il toujours en retard sur la technologie ?

Avant d’être juge, Marc Clément a été directeur adjoint d’un laboratoire d’intelligence artificielle d’une grande entreprise. Il est convaincu que les « juristes doivent dialoguer avec d’autres professions » et que les technologies numérique bouleversent le droit à un point tel qu’il faut « le dérouler pour voir comment il résiste ». Ces procès fictifs sont alors une sorte de méthode expérimentale.

Ce mercredi 28 mars, le député LREM Cédric Villani, mathématicien et professeur à l’Université Lyon 1 Claude Bernard, a remis un rapport concernant l’intelligence artificielle. Il conseille notamment au gouvernement de concentrer les efforts industriels du pays dans les secteurs de la santé, de l’écologie ou encore de la défense.

Il encourage également la puissance publique a soutenir financièrement les recherches en matière d’éthique que les algorithmes ne manquent pas de redéfinir. Les cas impliquant une voiture autonome en sont un exemple.

Ces procès fictifs seraient alors le moyen pour le droit et la loi de ne pas être (trop) en retard.

« Dans son rapport, Cédric Villani dit que le droit sera de toute façon toujours en retard. C’est probablement vrai. Mais ces procès expérimentaux sont une occasion d’anticiper. Sinon, quand nous aurons résolu un problème de droit concernant une génération technologique, la suivante sera déjà là », indique Marc Clément.

Les procès fictifs lyonnais reproduits en Europe

C’est pourquoi, la cour administrative d’appel de Lyon a décidé de lancer deux autres procès fictifs. Ils se tiendront également le 29 juin prochain. Ils concernent cette fois les domaines de la domotique et de la santé à travers un robot-compagnon (lire ci-contre). Pour ce dernier, là aussi la réalité est déjà presque là.

« Aux USA, on a déjà vu des cas de militaires demandant absolument la réparation de leur robot démineur défaillant. Ils ne voulaient pas un nouveau robot. Ils demandaient la réparation de celui avec lequel ils étaient allés sur le terrain et avaient créé une sorte de lien affectif. Alors que ces objets n’ont pas vocation à créer de l’affection. À la différence du cas que nous soumettons aux étudiants », détaille Marc Clément.

Comment, au final, faire bouger le droit ? Pour l’heure, ces expérimentations ne sont pas faites en lien direct avec le législateur français. Elles donnent lieu toutefois à des publications dans des revues spécialisées et à la constitution de groupes de travail.

« Après le procès en première instance, nous avons transmis un rapport à la CNIL. Avec l’UCLY nous sommes en lien avec les institutions européennes à travers l’Institut de Droit Européen. Nous avons établi des liens avec des députés européens, notamment Mady Delvaux (députée européenne socialiste luxembourgeoise, NDLR) en charge de la question de la domotique au Parlement Européen. Le procès fictif sur la domotique que nous lançons sera d’ailleurs bientôt reproduit en Estonie et en Pologne », conclut Marc Clément.