Yann LeCun : chercheur en intelligence artificielle ou chercheur avec une intelligence superficielle ? 3-Le progrès et l'éthique

3-Le progrès et l'éthique

Un passage de Lévinas pour se faire plaisir :

« La parole est donc une relation entre libertés qui ne se limitent pas ni ne se nient, mais s'affirment réciproquement. Elles sont transcendantes l'une par rapport à l'autre. Ni hostiles, ni amicales, toute inimioté, toute affection altérerait déjà le pur vis-à-vis de l'interlocuteur. Le terme de respect peut-être repris ici ; pourvu qu'on souligne que la réciprocité de ce respect n'est pas une relation indifférente, comme une relation sereine, et qu'elle n'est pas l'aboutissement mais la condition de l'éthique. Elle est langage, c'est à dire responsabilité. Le respect rattache l'homme juste à son associé dans la justice avant de le rattacher à l'homme qui réclame la justice » (2010, p.45).

La conclusion est claire et nette : LeCun vous flique, il est dans votre café, il contrôle vos émotions, il vous filme dans la rue, il sait ce que vous achetez, il sait où et quand, il vous hôte votre intimité, car sans éthique (et il ne défend pas d'éthique ni ne se place aux côté de ceux qui en défende une) tout progrès technologique ne peut que s'avérer délétère à tous (ps : lisez bien les conditions écrits en tout petit les conditions d'utilisation de facebook, et on en reparlera).

Confiance : « la question de la confiance dans le progrès technologique à résoudre tout un tas de problème », selon les propos de M.Le-VRP-de-facebook, revient en définitive à dire : « soit, nous avons tout un tas de problèmes, mais bon, ne vous inquiétez pas, ça va être résolu par la technologie ». La technologie ne résoudra rien, de une, ce sont les technicien qui la font. Les techniciens peuvent résoudre des problèmes, la technologie elle, encore une fois, ne résout rien. Elle sert ceux qui s'en servent, à moins qu'ils n'aient pas bien réfléchis et dans ce cas, ça dessert un peu tout le monde. Allez voir à Fukushima pour plus d'explications.

De deux, j'aimerai bien que l'on me parle des problèmes résolus par la technologie. Qui les a définis comme étant des problèmes ? Les problèmes d'un breton travaillant dans la silicone valley grassement payé par un groupe dont la puissance de frappe est telle qu'il est capable de recueillir des milliards de données relatives à la vie privée de tout le monde, sont-ils les problèmes d'un villageois des pré-alpes de l'est européen, d'une femme élevant seule ses enfants en seine-saint-denis, d'une femme asiatique dans sa plantation de riz ou d'un sud africain noir à Soweto ?

Dans la même veine, si l'on admet que la technologie peut résoudre des problèmes, il faut au moins admettre qu'elle n'est pas à même de prévoir les problèmes qui ne manqueront pas d'être soulevés par les problèmes qu'elle aura résolu. Encore une fois, profitez de vos vacances à Fukushima pour réfléchir à cette question, à moins qu'un court détour par la décharge non loin de chez vous ne vous permette de commencer à y penser.

Enfin, parler de progrès en termes « d'automatisation des tâches pénibles », c'est méconnaître la réalité du monde du travail et ses soubassements sociaux. La question sociale par essence n'est pas technologique, même si la technologie pèse sur la question sociale – les progrès technologiques ayant été introduits notamment afin de déposséder les ouvriers de leur pouvoir sur l'appareil productif au cours de la révolution industrielle (dépossession achevée en deux temps : premièrement avec le taylorisme en 1900, deuxièmement avec l'informatisation en 2000).

LeCun continue :

« Je pense pas qu'il faille être aveuglé par les avantages en termes de sécurité routière, de santé, de santé publique etcétéra qui vont améliorer la vie des gens »

Cette assertion veut donc dire que le risque d'une bonne dictature, que la restriction de la liberté d'expression, que la réification dont l'aboutissement donne lieu à la dévalorisation de la vie, entendue comme droit au respect, à la dignité et à l'émancipation, ce risque donc n'est rien à côté des voitures à guidage automatique et du traitement des fistules annales par le biais de biotechnologies.

« Les dérives que les gens imaginent parce qu'ils ont vue hollywood, terminator etc, ne sont pas possibles ». Par contre, celle de 1948 ou de Fahrenheit 451, de bienvenu à Gattaca ? Bref, LeCun nous prend pour des incultes et des imbéciles en plus de fouiller dans notre porte-feuille et notre vie privée.

« La plupart des machines intelligente en fait ne sont pas vraiment intelligentes, elles sont très spécialisées pour des tâches telles que conduire votre voiture, jouer au Go ou aux échecs etc. Elles n'ont pas les motivations des humains. (…) Les émotions sont une conséquence de la capacité à prédire. En général, on rentre dans des moments de panique par exemple, ou de peur, quand on va prédire que quelque chose de très mauvais va nous arriver donc c'est un petit peu (sic) l'anticipation de ce qui va nous arriver qui créé les émotions. »

Là encore, LeCun montre qu'il ne sait rien de l'homme. Certes les émotions ne sont pas sans rapport avec le temps, mais les réduire à l'anticipation sans passer par leurs dimensions sociales et subjectives, c'est nier leurs fondements. Par exemple, je suis émus en voyant une œuvre. (remarquez les exemples différents : LeCun parle de peur, et moi d'oeuvre alors que, lorsque nous parlons lui et moi de la technologie, c'est l'inverse – mais moi, je m’appuie sur du collectif, lui sur un rapport désincarné et désocialisé à la technologie).

Bref, je suis ému en voyant une œuvre quelconque – mettons, ça m'est arrivé il y a quelques temps, devant une bague datant de plusieurs siècles avant JC. Suis-je en relation avec un futur quelconque ?

Le rapport au temps est toujours une modalité de rapport au temps et ce qui émeut, (au sens littéral, ce qui met en mouvement) met toujours en mouvement vers l'autre, y compris l'autre moi (comme c'est le cas lorsque je regarde ce bijou qui a traversé les millénaires. L'émotion, la mise en mouvement est donc la mise en activité, une activité réflexive ou du moins qui a tout intérêt à le devenir. La peur, lorsqu'elle n'est pas traduite en mots, lorsque son inscription est seulement incarnée (j'écrirai un truc sous peu sur l'incarnation et l'inscription). C'est pour cela que ceux qui ont trop souvent peur se trouvent physiquement affaiblis (voir entre autre les écrits sur les névrosés de guerre par Freud). Si la peur n'est pas mise en mot, s'il n'est pas possible de faire face l'émotion s'effondre. L'émotion n'est donc « qu'un petit peu » liée à l'anticipation, elle est surtout liée aux rapports sociaux qui traversent l'environnement subjectifs et intersubjectif.

« question de la journaliste -donc il va falloir faire confiance aux concepteurs de ces machines ?

LeCun -de-même qu'on fait confiance aux concepteurs de nos voitures et de nos avions, oui. »

1-ce n'est pas parce que je monte en avion que je fais entièrement confiance à ses concepteurs

2-est-il judicieux de comparer un concepteur d'avion avec le concepteur d'un système de flicage global ?

3-c'est pas parce que je monte en avion que j'ai confiance en ses concepteurs:j'ai d'avantage confiance en la compagnie, c'est-à-dire dans le système social qui conduit à la mise en place de l'utilisation de cet avion. LeCun vole peut-être en jet privé, ce qui le conduit à ne pas savoir qu'il y a des listes noires de compagnies aérienne dans le monde, et qu'elles n'ont pas été établies suite à une crise de la confiance envers leurs concepteurs...