IA et éthique: le contresens navrant de Cédric Villani

Bonjour,
Ce point de vue est intéressant et tend vers ce qu’on appelle le principe de Gabor: « Tout ce qui est techniquement faisable se fera, que sa réalisation soit jugée moralement bonne ou condamnable ». Mais, en qualité d’éthicien des technologies spécialisée dans l’éthique de l’IA, j’émets des réserves importantes.
L’éthique n’est pas un raisonnement qui condamne au nom du bien et du mal, c’est un raisonnement individuel et collectif pour construire une définition socialement acceptable de ce qui est juste. L’éthique offre donc une perspective constructive à la recherche. Elle n’est pas un frein mais une vigilance vis-à-vis de la société, de la même façon que la démarche d’innovation implique une vigilance vis-à-vis du marché ciblé. Pas d’innovation sans capacité des groupes sociaux à l’intégrer dans son système de valeurs.
L’exemple de la voiture est très classique pour critiquer les éthiciens. L’éthique n’est pas un raisonnement binaire qui dirait voiture / pas voiture, mais une vigilance qui aide à dire quelle voiture nous devons concevoir pour qu’elle délivre ses vertus et limite ses nuisances. Comment concevoir une voiture qui ne tuera pas un million de gens par an dans le monde est la bonne question. On ne peut plus concevoir un avion, le faire décoller, et se dire qu’on découvrira la solution pour atterrir une fois au-dessus des nuages. C’est ce qui a été fait avec le nucléaire, l’atterrissage étant la gestion des déchets, et nous n’avons toujours pas atterri d’une solution.

A l’époque de la voiture, du nucléaire, les civilisations nourrissaient une vision enchantée du progrès technique. Nous sommes désormais moins naïfs et souvent désenchantés. Une société technologiquement mature ne peut plus vivre dans la croyance du progrès (le progrès nous sauvera). La croyance, c’est pour les croyants (Dieu nous sauvera, dans la Cité terrestre, mais surtout Céleste), ce n’est pas le registre de la science, dont la promesse est justement de nous en sortir pour contrôler nous-même notre destinée, sans passer par la protection du ou des Dieux. Dans la science, on ne croit pas, on expérimente, on démontre, on administre la preuve. Pour les non-scientifiques, l’heure n’est plus à la croyance en la science, mais dans la confiance. Sans confiance en l’IA, elle n’ira pas loin. Cela passe par l’ouverture de délibération pour savoir ce qu’il convient de faire.
Cela permettrait justement d’éviter d’être condamné à découvrir les nuisances une fois qu’elles sont advenues. Et contrairement à ce que pense l’auteur, c’est possible. Le raisonnement éthique, compte tenu des expériences technologiques du passé, est capable d’animer une discussion féconde pour soutenir l’effort de recherche. Cela ne limite pas la recherche, bien au contraire, cela ouvre des horizons très stimulants, comme la recherche sur l’anonymisation des données pour respecter la vie privée ou la recherche sur l’équité des algorithmes, dans le cas de l’algorithme de l’admission post-bac.
J’anime actuellement des ateliers de délibération éthique pour les salariés et managers d’entreprises industrielles. Ces ateliers ne font pas disparaitre les oppositions, mais ils changent la nature de l’opposition, qui passe d’une peur irrationnelle déconnectée des capacités réelles de l’IA (les participants expriment des peurs vis-à-vis d’une forte qui n’existe pas) à une vigilance sur ce que l’IA faible devrait porter comme changement. Pour des chercheurs/développeurs en IA, la peur bloque toute coopération, tandis que la vigilance éclairée constitue un challenge technique qui consiste à comprendre son client et lui adresser une réponse adaptée. L’éthique n’est donc pas qu’une opportunité pour la science, mais aussi pour l’innovation dont elle reprend, finalement, les principes d’écoute.

A bon écouteur…

Plusieurs points me « gênent » dans ce qu’écrit Philippe Silberzahn.

– « Quand on regarde l’histoire de l’innovation, le sens a toujours été donné a posteriori. »
C’est très probable pour une partie des usages (encore qu’on doit bien trouver un contre exemple) mais on n’est pas ici au stade « innovation » : je m’y suis intéressé, de loin, mais quand même en regardant les langages de programmation (Lisp, je crois) il y a une trentaine d’années… Alors « innovation » aujourd’hui… Le prolégomènes est donc faux.
Il y a d’ailleurs déjà plusieurs applications fonctionnant quotidiennement en médecine et chirurgie au moins. Avec succès.

– « Il est très difficile, voire impossible, de penser ces ruptures avant qu’elles ne se produisent, et avant que les effets ne soient visibles ». Certes mais est-ce parce que qq chose est « très difficile » qu’il faut se l’interdire ? Là on est dans une escroquerie intellectuelle bien classique : essayer d’induire un glissement de sens inconscient : de « très difficile » vers « il ne faut pas » (ou il est impossible) le faire. Serait-il logique de dire « Il est très difficile, voire impossible, d’obtenir une abstention chez les fumeurs » pour sous entendre « il ne faut pas chercher à l’obtenir » ?

– Étude de marché par McKinsey sur les téléphones mobiles. On a assisté à nombre « d’études de marché » aboutissant à des conclusions fausse. En général lorsqu’on fouille la méthodologie on trouve un gros loup. Ici, vu le succès précédent des « pageurs » (j’en ai eu un) il n’y avait pas besoin  d’une étude puisque la proximité pageur/téléphone mobile démontrait sans besoin d’aucune étude le succès évidemment certain du second. Et la phrase « Personne ne peut simplement imaginer ce qu’on ferait avec » laisse dubitatif : sans être très malin j’imagine assez bien qu’avec un téléphone on téléphonera ! Suis-je le seul ?
J’aimerais bien lire l’enquête elle-même !

En tout cas elle n’a pas empêché plein de fabricants de se lancer dans le téléphone portable !

Mais le plus grave est qu’à partir d’une enquête probablement bâclée il suggère ou insinue qu’on ne peut jamais prévoir ce qu’on fera d’une invention. Il insinue car, bien sûr, il ne peut affirmer une telle absurdité. C’est l’exemple classique : puisque une Française est rousse toutes les Françaises sont rousses !

– « les applications d’une nouvelle technologie sont impossibles à anticiper ». L’argumentaire (si on ose un tel qualificatif !) précédant tend à justifier (ou faire avaler) cette assertion ! Qui n’avait imaginé que l’invention de l’automobile (puisqu’il en parle) servirait à se déplacer, celle de l’avion à voler, celle du téléphone à communiquer ?
Mais qu’une invention ait des utilisations inattendues, c’est un truisme. Cela interdit-il, comme une faute intellectuelle, de réfléchir à ces possibilités ?

– « Toute technologie est duale, au sens où elle peut servir à faire le bien comme le mal ». La belle découverte ! On a constaté depuis l’antiquité que toute découverte est duale. Ce dut être écrit au siècle de Périclès, 400 ans avant JC. Depuis ce temps – et probablement même avant – chacun sait que l’innovation est, en soi, neutre par nature, c’est l’utilisation qu’on en fait qui est bénéfique ou néfaste. La pierre taillée débite la viande… ou tue les hommes ! Merci Monsieur pour ce truisme !

– « En plaçant l’IA au service de l’éthique ». Il faut avoir mal écouté C. Villani pourtant très clair dans tous ses exposés (sauf math pures ou, là, je décroche !) à moins que ce soit moi qui n’aie rien compris : il y a un monde entre s’interroger sur l’éthique (ce qui est le cas de Villani) et « mettre au service ». Il n’y a même aucun rapport. Cette assertion vise à retourner dans l’esprit du lecteur la totalité du travail de C. Villani. Est-ce intellectuellement honnête ?

Quant à l’automobile, si nous avions d’emblée réfléchi à ses dangers et aux moyens de les réduire (code de la route, permis délivré un peu plus sérieusement qu’il ne le fut pour mon grand-père, obligation de certaines structures de sécurité (pourquoi mit-on 60 ans pour créer la ceinture de sécurité ? N’aurait-il pas été bénéfique d’y réfléchir d’emblée ?), amélioration des portions de route traversant les villages…) la France eut été connue comme le berceau de toutes ces innovations nécessaires, et hélas tardives.
Je vois mal en quoi avoir préalablement pensé les dangers et des moyens d’y remédier aurait été « demander à quelqu’un d’intelligent d’écrire un rapport idiot ».

Mais Philippe Silberzahn n’aurait-il pas aimé que ce soit à lui qu’on demande ce rapport ?