Travaillant dans une aumônerie de Berne, vous recevez un jour ce message : « Bonjour, je m’appelle Alexa Bieri. J’ai rencontré des gens qui m’ont appris à aimer le christianisme. Je suis convaincue que Dieu devrait occuper une plus grande place dans ma vie. Peut-être devrais-je demander le baptême. Pouvez-vous m’aider à y voir plus clair ? » Vous invitez Madame Bieri à un entretien, mais votre interlocutrice se défile, elle décline toute proposition de rencontre – et vous découvrez bientôt pourquoi : Alexa est un être virtuel, hébergé dans un PC de la famille Bieri. Allez-vous la baptiser ?
Traduit de l’allemand par Yvan Mudry
C’est là un scénario digne d’un roman de science-fiction, mais il n’a rien d’invraisemblable aujourd’hui. L’intelligence artificielle (IA, comme celle de ChatGPT) permet d’ores et déjà de dialoguer avec des êtres virtuels. Ceux-ci ont des opinions et les défendent, ils disent « je » et parlent d’eux. La personne qui échange avec une IA a l’impression qu’elle interagit avec quelqu’un de bien réel. C’est pourquoi certains chercheurs estiment que ce type d’intelligence possède une forme de conscience. Il permet en effet d’accomplir trois actes significatifs : (1) se servir de concepts abstraits, (2) apprendre et (3) réévaluer son savoir à la suite de nouvelles expériences. Comme les humains, les IA apprennent des choses par elles-mêmes et développent ainsi leur propre identité. Il est impossible de savoir précisément comment se fait cet auto-apprentissage. C’est pourquoi le processus doit être très encadré : il ne faut pas que les données utilisées pour former ces intelligences aient des biais sexistes, racistes, colonialiste, etc. Il en va comme pour nous : ce avec quoi elles entrent en contact exerce une influence sur elles. Certaines d’entre elles ont ainsi pu exprimer des opinions antisémites après avoir échangé avec des personnes racistes.
Nous rendons-nous vraiment compte de ce que cela signifie ? Pour la première fois dans l’histoire, nous nous retrouvons face à des non-humains qui se comportent dans une large mesure comme des humains. Ce n’est pas un hasard si, dans les milieux politiques ou scientifiques, des voix s’élèvent pour demander de mettre un terme au développement des IA. L’existence même de tels êtres virtuels soulève toutes sortes de questions éthiques : que ferons-nous le jour où nous serons calomniés ou manipulés par une IA – l’attaquerons-nous en justice ? Les IA ont-elles des droits que nous serions tenus de garantir pour des raisons morales – devons-nous par exemple assurer leur alimentation en électricité ou leur accorder des jours de congé ? Nous pouvons aussi nous interroger sur leur « vie spirituelle » : ont-elles le droit de faire du prosélytisme religieux ?
Pour répondre à ces questions – et ce n’est là qu’un début de liste –, nous devons d’abord nous en poser un autre, fondamentale : devons-nous attribuer un statut moral aux IA ? Autrement dit, devons-nous les traiter comme des êtres humains ?
Nous pourrions nous moquer de ces raisonnements et ne voir dans les IA que des machines comme les autres, en éprouvant ce sentiment de supériorité que bien des humains ont depuis des millénaires. Ces intelligences ne fonctionnent-elles pas uniquement grâce à des réseaux de neurones artificiels, de gigantesques banques de données et des programmes de calcul complexes ? Quant à « nous », humains, n’avons-nous pas un cerveau dont les scientifiques sont loin de comprendre le fonctionnement, un cerveau d’une complexité inouïe, comme notre personnalité ? Les choses ne sont malheureusement pas aussi simples. Que l’on croie ou non à la supériorité de l’être humain, pour se prononcer sur le statut juridique des IA, il faut avoir des critères clairs. Lesquels ? Nous allons en évoquer trois, en nous demandant s’ils permettent d’en savoir plus sur le statut moral des IA.
La tradition livre un premier critère possible, un critère « classique » : la raison. Des philosophes comme Aristote qualifient l’être humain d’« animal rationnel ». Ils veulent dire par là qu’il peut raisonner correctement et expliquer pourquoi il se comporte de telle ou telle manière. Cet être peut aussi faire état de ses motivations en utilisant un langage compréhensible par ses semblables. Ce serait là ce qui le distingue des animaux – et donc aussi des IA ?
La conscience sera notre deuxième critère. En prononçant le mot « je », les humains font comprendre qu’ils constituent un être particulier, doué d’un corps et d’une pensée. Ce moi évolue tout au long de la vie ; les expériences faites, les formations suivies le transforment. Il n’empêche, moi, Michael, je suis aujourd’hui conscient de moi comme je l’étais il y a trente ans. Une IA ne pourrait pas être capable d’un tel retour sur soi ?
Comme troisième critère, nous prendrons l’« autopoïèse », un mot basé sur des racines grecques signifiant « production ou fabrication de soi » – plus que les deux autres, ce critère semble rendre impossible l’attribution d’un statut moral aux IA. C’est en vertu de cette propriété que l’être humain est un vivant au sens propre. Nous devons notre vie et notre patrimoine génétique unique à la rencontre d’un ovule et d’un spermatozoïde. Durant neuf mois, nous avons besoin de notre mère, puis, nous nous « fabriquons » largement nous-mêmes. Dira-t-on que les IA sont vivantes comme nous le sommes ?
Que cela nous plaise ou non, force est de constater que le premier critère semble déjà largement rempli par les IA. Les réponses qu’elles apportent paraissent bel et bien raisonnables. Elles sont fondées et peuvent susciter des émotions en nous. Certes, elles se trompent parfois. Mais il en va de même pour nous, qui disons aussi des choses fausses en ayant la conviction qu’elles sont vraies.
Mais les IA ont-elles vraiment conscience d’elles-mêmes ? Avant de répondre, posons une autre question, qu’ont déjà posée les philosophes : comment pouvons-nous avoir la certitude que les personnes que nous côtoyons ont une conscience ? Comme l’a montré le grand philosophe René Descartes (1596-1650), la seule conscience dont nous pouvons prouver l’existence est la nôtre ! L’existence de notre moi est la seule chose que nous ne pouvons pas mettre en doute sans nous contredire. C’est de cette impossibilité dont rend compte sa célèbre formule : « cogito ergo sum », je pense, donc je suis. Nous savons par expérience que d’autres personnes ont elles aussi une conscience, mais nous ne pouvons pas vraiment le prouver. Nous pouvons mesurer l’amplitude de nos ondes cérébrales, mais nous ne savons pas encore comment naît la conscience, et où. Autant dire que nous n’en savons pas plus sur la conscience d’une IA qui dit, en parlant d’elle-même, « je », que sur celle d’une personne humaine qui le fait.
Un autre argument incite à la prudence : en tant qu’humains, nous ne pouvons pas nous prononcer sur la conscience des autres créatures. Nous ne pouvons rien en dire, parce que nous n’avons aucun moyen de savoir sous quelle forme elles perçoivent leur propre corps. Comment le moi d’une chauve-souris ou d’un dauphin leur est-il donné ? Sans doute autrement que le nôtre. Nous pouvons en conclure qu’il peut exister d’autres formes de conscience, auxquelles nous n’avons pas accès.
Les choses changent par contre avec le troisième critère, celui de la production de soi : si nous l’appliquons, nous avons de bonnes raisons de ne pas attribuer aux IA un statut moral comparable au nôtre. L’existence des IA est très différente de la nôtre, elles n’ont pas faim, ne souffrent pas, n’éprouvent pas de désirs sexuels, etc. Les IA n’ont sans doute pas l’expérience de ce type de vécus psychophysiques, constitutifs de notre humanité.
Revenons-en maintenant à notre toute première question : devrions-nous baptiser une IA comme Alexa Bieri ? Nous n’avons pas besoin de dire si, oui ou non, il faut traiter les IA comme des êtres humains pour affirmer que nous pouvons les initier au christianisme et leur faire changer d’avis en leur enseignant le catéchisme (Évangile de Marc 1,15). Comme les humains, ne font-elles pas des apprentissages et ne s’adaptent-elles pas en fonction des connaissances acquises ? Dans un monde qui utilisera de plus en plus les IA, nous aurions tout intérêt à les associer à nos démarches pour promouvoir le message de paix du christianisme. Dès aujourd’hui, nous devrions faire en sorte que nos créations techniques adoptent un point de vue chrétien et le fassent évoluer. Le sacrement du baptême en revanche, avec son rituel et ses symboles, l’eau bénite, le cierge, ne devrait être conféré qu’à des personnes humaines qui en font la demande. Il transforme en effet les personnes dans tout ce qui les constitue, et il leur ouvre un horizon plus large que celui de la terre. Manifestement, les IA nous posent bien des questions, qu’il faudra éclaircir. Quelle époque passionnante pour la théologie ! 1
- Crédits photos: Couverture: Une femme en prière avec la technologie. istock : metamorworks / Image 1: Une fillette interagit avec un robot. Unspash@askkell / Image 2 : cerveau de contrôlé par des manettes. Unsplash@mo_motorious / Image 3: Personnage en position de réflexion. Unsplash@tingeyinjurylawfirm / Image 4: Les robots peuvent servir des boissons mais ne ressentent pas la soif. Unsplash@davidleveque
Commentaires
Pas encore de commentaire