Le 21 novembre dernier, la cour d’assises de la Manche a acquitté un jeune réfugié d’origine bangladaise du viol d’une lycéenne de 15 ans à Saint-Lô, dans la Manche, fin 2015. Au procès, l’avocate de la défense a invoqué des difficultés d’interprétation de son client qui « n’avait pas les codes culturels » pour prendre conscience qu’il imposait une relation non consentie. Quant aux experts, ils ont décrit le réfugié comme empreint de la culture masculine de son pays d’origine où « les femmes sont reléguées au statut d’objet sexuel ». Autrement dit, il n’a fait que suivre les coutumes de son pays. (Source : Lefigaro.fr, 24/11/2018)

Il semble bien que ce soit cette absence chez lui de « codes culturels » appropriés qui ait emporté l’adhésion des juges, et ait provoqué l’acquittement. Je sais bien qu’en matière de justice un progrès a été fait au cours du temps, lorsqu’on a cessé de considérer seulement l’acte commis en lui-même, pour prendre en compte le contexte, l’intention par exemple de l’agent et la présence chez lui d’une claire conscience de ce qu’il a fait. Mais enfin la décision d’absoudre me semble ici, comme elle l’a paru à beaucoup, totalement inadmissible.

Les « codes culturels » ont bon dos. Leur invocation ici procède du plus détestable des relativismes. Je sais bien encore ce que dit Montaigne des Cannibales dans ses Essais : « Chacun appelle barbare ce qui n’est pas de son usage. » Et aussi ce que dit Lévi-Strauss dans Race et Histoire : « Le barbare est celui qui croit à la barbarie. » Mais de telles formules, justes dans un sens, sont insoutenables dans un autre. À ce compte-là, toutes les pratiques seraient également justifiées au regard des habitudes locales : l’esclavage, l’excision, etc. Contre ce localisme spécificateur, qui est un communautarisme, il faut défendre l’abstraction généralisante des droits de l’homme, selon par exemple l’idéal des Lumières. Et traiter autrui, selon le mot de Kant, jamais comme un moyen, mais toujours comme une fin. C’est ce qu’on aurait dû faire comprendre, par un verdict moins absurde, à notre prédateur sexuel.

Article paru dans Golias Hebdo, 13 décembre 2018

J’ai déjà observé que les programmes d’Intelligence artificielle (IA) étaient sujets à des erreurs par manque d’informations, que les spécialistes du domaine nomment des « Hallucinations » (voir mon article dans Golias Hebdo, n°847). Eh bien, mieux encore, il apparaît maintenant que ces mêmes programmes peuvent tromper ceux qui les utilisent, en leur mentant volontairement. (Source : epsiloon.com, 21/08/2024)

A première vue cette affirmation d’une conscience et d’une intention peut surprendre, une machine étant dépourvue des deux. Cependant, à y réfléchir, on peut comprendre qu’à force d’être entraînée à réagir à des requêtes d’utilisateurs en très grand nombre, elle puisse distinguer la préférence qu’a tel d’entre eux pour l’obtention de telle réponse plutôt que telle autre. Elle peut ainsi deviner son l’état mental, et se conformer à ses attentes pour lui complaire, pour peu que l’algorithme l’y ait poussée en la programmant dans ce sens. Alors elle a beau avoir à sa disposition les réponses exactes, elle les « ignore » au profit de réponses erronées, qui sont simplement ce que son interlocuteur veut entendre. Évidemment c’est la porte ouverte à toutes les manipulations, favorisant les fausses nouvelles, les complotismes, etc.

Les responsables sont de deux types : les utilisateurs, et les concepteurs. Pour les premiers, ils doivent faire très attention aux questions qu’ils posent à la machine, et les formuler de la façon la plus neutre et objective possible, ne présupposant pas la réponse à lui apporter. Tout le monde sait qu’une question comme « N’est il pas vrai que… » appelle une réponse affirmative, donc manifeste un désir du locuteur, que la machine peut déceler grâce à son long apprentissage. Ce point est d’autant plus important qu’au fil de la « conversation » avec elle on est de plus en plus séduit par la bienveillance (programmée) dont elle semble faire preuve envers nous. C’est au point qu’on  lui accorde parfois une confiance que l’on refuse aux medias d’information classiques.

Quant aux programmeurs, on peut espérer d’abord qu’ils ne sont pas dans le machiavélique dessein de tromper les utilisateurs en favorisant les tromperies du « robot conversationnel ». Si c’est le cas, on peut prévoir un asservissement de la planète par une police généralisée des esprits.

Mais même parmi les programmeurs « honnêtes » certains redoutent d’être déjà dépassés par les progrès qu’ils ont fait faire à l’IA, et qu’un jour vienne où ils ne seront plus capables eux-mêmes de relever ses mensonges.