Par analogie avec celle survenant chez l’homme, due à une fausse perception, on utilise ce mot dans le domaine de l’intelligence artificielle pour caractériser une réponse fausse qui est présentée comme un fait certain. On en trouvera des illustrations dans l’article de Wikipedia qui lui est consacré.

J’ai eu le désir que vérifier le phénomène sur ChatGPT, en lui demandant quelle était la philosophie qui se dégageait de mes propres ouvrages, et de quel autre écrivain le programme jugeait que j’étais proche. Eh bien, cela n’a pas tardé : très vite je me suis vu affublé de titres de livres que je n’avais pas écrits, et de noms de personnalités œuvrant dans un domaine qui n’est absolument pas le mien. J’ai vu là un déluge d’hallucinations.

Un instant j’ai pu penser que mes requêtes n’étaient pas assez explicites, et que la responsabilité du phénomène m’incombait. Mais je me suis vite rendu à l’évidence, et j’ai vu que selon Wikipedia dès 2023 les analystes ont considéré les hallucinations comme un problème majeur de ces technologies, un dirigeant de Google identifiant leur réduction comme une tâche « fondamentale ». En fait l’IA ne cherche pas la vérité des choses, mais leur probabilité et leur plausibilité. Comme elle est conçue pour être persuasive par la vraisemblance de ses productions, et non pas véridique, ses résultats peuvent sembler très réalistes, mais inclure des affirmations erronées.

Dès lors, on ne peut qu’être très prudent quant à la confiance qu’on lui accorde. Indubitablement très utile dans certains domaines, elle est dangereuse dans d’autres, spécialement ceux pour qui est indispensable la caution du réel et des faits.

D’autre part, pour prendre l’exemple de mon propre domaine, celui de la littérature, l’IA ne peut produire que des pastiches ou des plagiats d’œuvres antérieures qu’elle a en mémoire, car elle ne regarde que vers le passé, le déjà connu, et non le nouveau, toujours non prédictible. Elle ne comprend pas ce qu’elle énonce, et de la pensée elle ignore la chair vivante, elle n’en montre que la réduction statistique, les os, le squelette, se contentant de généralités abstraites, finalement « passe-partout ». Les étudiants qui l’utilisent pour faire une dissertation présentent un texte sans exemples, qui pourtant sont l’essentiel et le plus personnel. Il y a bien sûr ses thuriféraires, tel Elon Musk : « Un nouveau monde ! Adieu les devoirs ! » Mais ce sont les nouveaux incultes.

Voir aussi : Cyber-Jésus.

Voici la réponse que le programme d'IA Perplexity AI a faite à une demande concernant cet article (communiquée par mon ami Michel Jas, que je remercie) :

Réponse

n jeune américain de 27 ans a été tué à coup de flèches, dès son arrivée sur leur territoire, par les indigènes habitant l’île de North Sentinel, dans un archipel de l’océan Indien rattaché à l’Inde.

Très croyant, ce jeune homme se pensait en terre de mission. Dans une ultime lettre adressée à sa famille, rédigée le matin de sa mort, il confiait : « Vous pensez peut-être que je suis fou de faire tout ça mais je pense que ça vaut la peine d’apporter Jésus à ces gens... Ce n’est pas en vain – les vies éternelles de cette tribu sont à portée de main et j’ai hâte de les voir adorer Dieu dans leur propre langage. » (Source : LeMonde.fr, 21/11/2018)

Ce prosélytisme en effet est bien comme il le disait une folie. Il peut malheureusement s’auto­riser de la fin de l’évangile de Matthieu : « Allez donc : de toutes les nations faites des disciples, les baptisant au nom du Père et du Fils et du Saint Esprit, leur apprenant à garder tout ce que je vous ai prescrit. » (28/19-20)

Il y a peu de chances que ce passage soit de la bouche de Jésus lui-même, le dogme trinitaire qu’il contient et auquel il se réfère ayant été édicté plus tard. Mais passage funeste en tout cas, au nom duquel beaucoup de vies furent sacrifiées dans l’histoire, non seulement celles des évangélisés, mais comme ce vient d’être le cas pour notre pauvre jeune homme, des évangélisateurs.

Il était sans nul doute illuminé, et naïf de croire que la peuplade en question n’avait aucune vie spirituelle, aucun contact avec le divin. Ce sont de fervents animistes, manifestement en tout cas plus imprégnés de spiritualité dans leur vie quotidienne et le moindre de leurs gestes que la plupart des croyants « civilisés ». Qu’ils trouvent Dieu dans la Nature, pourquoi le leur reprocher ? C’est bien ce qu’a dit Spinoza chez nous.

En attendant, l’intrusion de ce corps étranger, même mort, chez eux risque de leur apporter des agents infectieux mortels contre lesquels, vivant en autarcie de temps immémorial, ils n’ont pas d’immunité, au point que selon une ONG de protection des tribus autochtones (Survival Interna­tional) tout leur groupe risque maintenant de périr.

Finalement, au lieu de leur apporter Dieu, le jeune homme peut leur avoir apporté la mort, comme celle dont il a été victime. Funeste dessein, et funeste destin !

Article paru dans Golias Hebdo, 6 décembre 2018

Petite philosophie de l'Insolite

Théron, Michel
17,00€Livre papier
Lire un extrait

DESCRIPTION

Les textes composant cet ouvrage sont tous parus, sous leur forme initiale, dans un journal hebdomadaire. Ils concernent des sujets d'actualité étranges, bizarres, insolites, souvent amusants, mais se prêtant toujours à un commentaire philosophique. Ils peuvent servir de points de départ pour la réflexion individuelle du lecteur, mais aussi ils peuvent alimenter des débats thématiques collectifs (cours scolaires, cafés-philo, réunions de réflexion...).