Le message du Pape sera disponible en librairie le 29 avril 2024. Dans ce message, le pape François attire notre attention sur les risques du développement de l’intelligence artificielle pour la paix dans le monde, mais aussi sur les opportunités que celle-ci présente pour un monde plus juste et fraternel avec deux séries de défis.
Dans le champ de l’éducation, qui est largement transformée par ces changements, le pape invite à promouvoir la pensée critique et à renforcer la capacité de discernement.
Dans le champ du droit international, il appelle à adopter un traité international contraignant qui règlemente le développement et l’utilisation de l’intelligence artificielle pour prévenir des mauvaises pratiques et encourager les bonnes, sur la base des valeurs humaines qui fondent l’engagement des sociétés comme le sens de l’existence humaine.
Rencontre avec Jean Marc MOSCHETTA, auteur de l'avant-propos
1 - L’intelligence artificielle ouvre de nouveaux horizons, depuis quelques années, et pose de nouvelles questions, éthiques, philosophiques, et même anthropologiques. L’humain se soumettrait-il à la machine ?
Ce qui est certain, c'est que l'aliénation de l'homme par la machine ne sera pas le fait de la machine, mais de la décision de l'humanité. Or, bien souvent, nous acceptons tranquillement de nouveaux outils techniques sans nous demander seulement si nous en avons vraiment besoin ou si ces objets ne finiront pas par restreindre notre liberté. Or, s'ils nous ouvrent certaines pistes nouvelles, ils restreignent aussi notre liberté.
2- Cela veut-il dire que l'algorithme est programmé pour orienter nos choix ?
En un sens oui. Parce qu'ils tiennent compte de nos recherches ou de nos centres d'intérêt, les algorithmes nous confortent dans nos convictions et nous attirent même plus loin vers les opinions extrêmes, simplement parce que nous avons aimé tel ou tel témoignage plus original que les autres. Chaque utilisateur est ainsi cerné et finalement ciblé dans ses préférences et ses penchants. Trop souvent, les algorithmes construisent un monde qui nous ressemble au lieu de nous ouvrir à l'inattendu.
3- Est-ce que les opinions publiques ont la capacité d’un correct discernement ?
Les opinions publiques ne manquent pas de capacité à discerner, mais de volonté à discerner. Le discernement est une décision éthique et non simplement une propriété de l'intelligence. Il faut faire un effort pour prendre du recul, se documenter, relire son propre usage des objets techniques. Cela doit passer par une éducation des enfants, mais surtout des parents qui surestiment le bienfait de ces outils pour l'éducation de leurs enfants.
4- Vers quelles pistes de réflexion peut s'engager le système éducatif ?
L'engouement pour les supports numériques à l'école est infondé et beaucoup en reviennent aujourd'hui. Pour autant, il ne s'agit pas de bannir les objets techniques et les écrans dans le système éducatif, mais il s'agit de soupeser leur pertinence pour un objectif pédagogique déterminé. L'accès immédiat à une masse colossale de données donne ainsi l'illusion de la compréhension et du savoir. Mais il produit une pensée superficielle et peu hiérarchisée.
5- Le Pape François dit aussi dans son message que l'homme peut perdre le contrôle de lui-même en se confiant totalement à la technique
Il dit vrai. L'acquisition d'un nouvel objet technique est toujours assortie de la promesse d'un pouvoir total de l'homme sur la machine. À tout moment, pense-t-on, nous pourrons arrêter. La réalité est tout autre. Ce sont les objets qui finissent par nous posséder. Aujourd'hui, nous nous découvrons paniqués à l'idée que nous avons un court instant égaré notre téléphone. Et demain, si nous perdons le contrôle de nous-mêmes, ce ne sera pas la faute de la machine ou des grandes entreprises du numérique, mais uniquement parce que nous y aurons joyeusement consenti.
Comments