J’ai déjà observé que les programmes d’Intelligence artificielle (IA) étaient sujets à des erreurs par manque d’informations, que les spécialistes du domaine nomment des « Hallucinations » (voir mon article dans Golias Hebdo, n°847). Eh bien, mieux encore, il apparaît maintenant que ces mêmes programmes peuvent tromper ceux qui les utilisent, en leur mentant volontairement. (Source : epsiloon.com, 21/08/2024)

A première vue cette affirmation d’une conscience et d’une intention peut surprendre, une machine étant dépourvue des deux. Cependant, à y réfléchir, on peut comprendre qu’à force d’être entraînée à réagir à des requêtes d’utilisateurs en très grand nombre, elle puisse distinguer la préférence qu’a tel d’entre eux pour l’obtention de telle réponse plutôt que telle autre. Elle peut ainsi deviner son l’état mental, et se conformer à ses attentes pour lui complaire, pour peu que l’algorithme l’y ait poussée en la programmant dans ce sens. Alors elle a beau avoir à sa disposition les réponses exactes, elle les « ignore » au profit de réponses erronées, qui sont simplement ce que son interlocuteur veut entendre. Évidemment c’est la porte ouverte à toutes les manipulations, favorisant les fausses nouvelles, les complotismes, etc.

Les responsables sont de deux types : les utilisateurs, et les concepteurs. Pour les premiers, ils doivent faire très attention aux questions qu’ils posent à la machine, et les formuler de la façon la plus neutre et objective possible, ne présupposant pas la réponse à lui apporter. Tout le monde sait qu’une question comme « N’est il pas vrai que… » appelle une réponse affirmative, donc manifeste un désir du locuteur, que la machine peut déceler grâce à son long apprentissage. Ce point est d’autant plus important qu’au fil de la « conversation » avec elle on est de plus en plus séduit par la bienveillance (programmée) dont elle semble faire preuve envers nous. C’est au point qu’on  lui accorde parfois une confiance que l’on refuse aux medias d’information classiques.

Quant aux programmeurs, on peut espérer d’abord qu’ils ne sont pas dans le machiavélique dessein de tromper les utilisateurs en favorisant les tromperies du « robot conversationnel ». Si c’est le cas, on peut prévoir un asservissement de la planète par une police généralisée des esprits.

Mais même parmi les programmeurs « honnêtes » certains redoutent d’être déjà dépassés par les progrès qu’ils ont fait faire à l’IA, et qu’un jour vienne où ils ne seront plus capables eux-mêmes de relever ses mensonges.

Les accidents auxquels elle donne lieu sont innombrables, et fort divers. Mais parmi eux je retiens ceux auxquels peut s’attacher une forte valeur symbolique. C’est le cas du fait-divers qui vient de nous parvenir des USA. Un homme de 58 ans est mort vendredi 13 décembre, après que lui est tombé dessus un ours qui avait grimpé sur un arbre et qui venait tout juste d’y être abattu par l’un de ses partenaires de chasse. (Source : leparisien.fr, 18/12/2024)

Je rêve à ce qu’un fabuliste, tel autrefois notre bon La Fontaine, pourrait aujourd’hui faire d’une telle histoire. Elle me semble échapper au contingent et à l’absurde, pour devenir riche d’enseignements. Comme celui du tragique d’un acte débordé par des conséquences, le chasseur meurtrier n’ayant évidemment pas voulu tuer son camarade, mais l’ayant fait quand même. Tel Œdipe chez Sophocle, dont tous les actes se retournent contre lui, et qui crée son destin en essayant de l’éviter. En plus, la faute ici du chasseur, son hamartia, a été accentuée par l’illégalité qu’il y a à tuer un ours réfugié sur un arbre. (même source que supra)

Mais surtout le fait que l’agent par destination du meurtre soit un ours me semble finaliser extrêmement la chose, au point qu’on peut penser ici qu’il y a des choses qui ne s’inventent pas. Il me semble que cette mort est le châtiment non seulement du chasseur, mais de la chasse en général, le cadavre de l’ours étant un signe destinal en lui-même : par sa chute meurtrière il vient venger tous ses congénères pourchassés par des humains inconscients et barbares. On peut penser que c’est bien fait pour eux.

La chasse, qu’on dit pourtant nous être une pulsion naturelle, m’a toujours interrogé. Quel besoin a-t-on d’exterminer toutes les bêtes qui vivent à la surface de la terre ? Au nom de quoi s’en estime-t-on supérieur ? Je pense à un texte liminaire de la Bible, dont la lecture m’a toujours fait frémir : « Vous serez craints et redoutés de toutes les bêtes de la terre et de tous les oiseaux du ciel. Tout ce qui remue sur le sol et tous les poissons de la mer sont livrés entre vos mains. » (Genèse 9/2) Quelle prétention, quelle stupide image de soi !

Et quel ridicule aussi ! N’était le respect qu’on doit à la malheureuse victime, la scène de sa mort est, quand on se l’imagine, totalement comique. C’est une catastrophe en forme de dessin animé. Et vérifie ce qui pourrait en être la moralité : Tel est pris qui croyait prendre.