Overblog
Editer l'article Suivre ce blog Administration + Créer mon blog

Étiqueté sans éthique ?

Publié le par Scapildalou

1-La bourde

Il y a des trucs où ça la fout un peu mal. Le 15 juin dernier, je me suis rendu à une sorte de débat/conférence organisé par le CNRS, et plutôt pas mal mis en scène par usbeketrica

Il s'agissait en fait d'un tribunal intitulé Tribunal pour les générations futures : faut-il faire confiance aux algorithmes ?

Etait invité, en guise de « témoin », Mme Catherine Teissier « chercheuse à l’Office National d'Études et de Recherches Aérospatiales (ONERA) et membre de la Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistène (CERNA) ». C'est cette dernière étiquette qui me questionne, au regard de ce que Mme Teissier a déclaré. Prenant en partie défense des algorithmes, a notamment évoqué le cas de la « voiture autonome », à l'origine d'un accident mortel aux USA.

Le fait est que Mme Teissier, a affirmé dans le cadre de cet accident qu'il était difficile de pouvoir inculquer les algorithmes, « après tout, a-t-elle dit, peut être que dans le cas où était placé la voiture, nous aurions, en tant que chauffeur, réagit pareil ».

Cette dernière assertion me pose réellement problème...

En effet, la voiture autonome, après enquête, a confondu une cycliste... avec un sac plastic, et choisi de continuer sa trajectoire. Alors de deux choses l'une :

-soit Mme Teissier et son comité d'éthique sont très mal renseignés, ce qui est tout de même un problème à leur place (et pose de surcroît pour des chercheurs, la question de savoir s'ils cherchent bien et beaucoup...)

-soit Mme Teissier ment, et niveau éthique, ça ne manquerait pas de sel !

Parce que la réponse de savoir si, en tant que personne, j'aurai fait mieux que la voiture, à savoir confondre un sac plastique et une cycliste, ne se pose pas, sinon je n'aurai déjà plus de permis de conduire. Mieux, si on doutait de cette réponse pour moi, on en douterait encore plus pour le reste de la population ; de toute façon à ce stade l'humain serait réduit au niveau de ce qu'il est dans le film humoristique d'anticipation, Idiocratie.

 

2-Yes mon général

De Gaule disait « des chercheurs qui cherchent, on trouve ; des chercheurs qui trouvent, on cherche ». Pour Mme Teissier et ses collègues du comité d'éthique, il s'agit de la première catégorie de personne.

En effet, leur dilemme à eux, tourne autour de la question suivante : « le MIT a mis au point un test éthique afin d’enseigner à une voiture autonome qui elle doit sauver et par conséquent, qui elle doit tuer, en cas de collision. Que doit choisir l’intelligence artificielle de la voiture ? Comment programmer cet algorithme ? » (je cite le résumé de la conférence sur le blog de usbeketrica.com)

En vrai : qui a déjà été placé devant un tel dilemme ? Ce genre de façon de poser la question, n'est-ce pas ignorer ce qu'est le fait de conduire, c'est-à-dire être dans un véhicule et le faire évoluer avec une seule règle de fond, éviter d'être d'avoir à être non pas placé en face de ce dilemme, mais ne pas avoir du tout d'accident. C'est pour ce faire qu'a été élaboré un code de la route.

 

Ce genre de dilemme existe seulement pour mettre en exergue un point de pensée fondamentale qui au fond :

1-n'a presque aucune chance d'arriver...

2-...est par conséquent totalement délié de la réalité du vécu...

3-...au point de se demander s'il ne sert pas de masque à une idéologie...

...il est ce qu'Habermas nomme « un dilemme surérogatoire » (2013, p71).

Oui. Par exemple, le genre de question « est-ce que tu serais plus triste si c'est ton frère qui mourrait ou ta sœur ? » pour une personne à peu prêt normale, ne peut avoir de réponse. Cette question implique d'ailleurs en elle-même une réponse (sous-entendu : il y en a un des deux pour lequel tu serais moins triste, donc tu le préfères, donc tu es un assassin, etc.)

 

Ces dilemmes moraux, rappelle Habermas, ont été étudié par Kolhberg, psychologue du développement encore étudié à l'université. Il s'agit, dit-il d'une réduction émotiviste de la morale (2013, p.60). Pour ce genre de dilemme morale qui atteint son acmé, à mon sens, dans la fumeuse (ce n'est pas un lapsus) théorie des jeux, qui n'est rien de moins que le support de la pensée économique de l'ultra-libéralisme et, accessoirement, se marie au fascisme comme Kate Middleton s'est mariée au prince Charles.

 

« Ce [type] de dilemme [du type « entre deux personnes qui tu préfères sacrifier, en l'état de ce que tu connais d'elles »], continue Habermas, ne pourrait être « résolu » que par un sacrifice qui ne peut être moralement exigé de personne – et ne pourrait par conséquent être accompli que volontairement. Les actions surérogatoires – le nom l'indique déjà (sic) – ne peuvent pas, en tant qu'obligations morales – et cela veut dire : universellement exigibles – être fondées ; c'est pourquoi, même une discussion, dans la mesure où elle sert de procédure de fondation [je me permets de préciser qu'il s'agit de règles de fondation d'une morale commune qu'évoque ici Habermas], ne peux pas aider davantage. » (id. P.71)

 

« la morale autonome de la modernité à été unilatéralement conçue dans les doctrines modernes du droit naturel, (…) dans cette perspective, les approches déontologiques n'ont pas été menées à bien de façon radicale. Elles continuent d'adhérer à leur contexte d'émergence, et par là même à l'idéologie bourgeoise, dans la mesure où elles partent du sujet individualisé, autonome et privé, se disposant lui-même et disposant de soi comme une propriété – et non des rapports de reconnaissance réciproque dans lesquels les sujets acquièrent intersubjectivement et affirment leur liberté » (id. P.65 – ce passage pourrait être la devise de ce blog!)

Au lieu de ces dilemmes qui font créer un type d'injustice, Habermas défend la solidarité avec un opinion allant dans ma perspective, dans le sens de ma critique de l'individu autonome responsable détaillé dans les articles précédents de ce blog :

« Le point de vue complémentaire à l'égale traitement n'est pas la bienveillance, dit Habermas, mais la solidarité. Ce principe s'enracine dans l'expérience selon laquelle l'un doit répondre de l'autre, parce que tous doivent être intéressés d'égale manière à l'intégrité de leur contexte de vie commun (je souligne). La justice conçue de manière déontologique exige la solidarité comme son autre. (…) chaque morale autonome doit résoudre deux tâches en une seule : elle exige l'inviolabilité des individus socialisés, en exigeant égal traitement, et par là égal respect de la dignité de tout un chacun ; et elle protège les rapports intersubjectifs de reconnaissance réciproque, en exigeant des individus solidarité, en tant qu'ils sont membres d'une communauté dans laquelle ils ont été socialisés. La justice se rapporte aux égales libertés d'individus insubstituables et se déterminant eux-même, alors que la solidarité se rapporte au bien de consorts fraternellement liés dans une forme de vie intersubjectivement partagée – et par là au maintien de l'intégrité de cette forme de vie elle-même. Les normes morales ne peuvent pas protéger l'un sans protéger l'autre(...) » (id.P. 68)

 

 

Ref. de l'ouvrage d'Habermas :

Habermas, J. (2013). De l'éthique de la discussion, Paris, Flammarion

Commenter cet article