L’intelligence artificielle : entre progrès et servitude
Les spadassins de Midas étaient des prolétaires refusant de devenir des esclaves salariés enchaînés à l’avidité du capitalisme, qui dégradait le sens moral du corps social. Ils affirmaient que la propriété reposait entièrement sur le pouvoir, à l’image de Guillaume le Conquérant s’appropriant et partageant le Royaume d’Angleterre à coups d’épée.
Dionysos, dieu du vin et des festivités, avait accordé à Midas le pouvoir de changer en or tout ce qu’il toucherait. Le revers de la médaille, c’est qu’il n’était plus en capacité de se nourrir, ni de perpétuer son espèce.
L’intelligence artificielle (IA) serait-elle la solution permettant enfin à l’humanité de s’améliorer et de s’affranchir des chaînes de l’impossible et de l’inconcevable ?
Karel Čapek écrivait en 1920 la pièce de théâtre de science-fiction Rossum Universal Robots. « Robots » pour « travailleurs » en tchèque. Isaac Asimov établissait que ses « robots réagissaient selon les règles logiques implantées dans leurs cerveaux au moment de leur construction ».
Ainsi furent élaborées les trois lois fondamentales de la robotique :
- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.
- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi.
- Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.
Le 2 février 2024, la France ratifiait l’AI Act, dont l’entrée en vigueur est prévue pour 2025. Ce texte interdit notamment l’usage de l’IA pour la notation citoyenne, la manipulation comportementale ou l’identification biométrique à distance dans les lieux publics. Une exception est toutefois prévue pour des questions liées à la sécurité, notamment la lutte contre le terrorisme.
Reste à savoir de quelle sécurité nous parlons — et surtout, pour qui. Pour certains, l’IA est avant tout une opportunité ; pour d’autres, c’est un pouvoir liberticide laissé aux mains des forces de l’ordre.
Dans le domaine du travail, l’IA ouvre des perspectives de développement considérables. Dans un aéroport, le système Parafe exécute la mission d’identification du douanier. Terminé le stress d’être refoulé de son propre pays en attendant l’approbation par un battement de paupières.
Dans l’entreprise, l’IA pourra rédiger des textes, préparer des présentations, anticiper les besoins en ressources, ou encore proposer une liste de prospects en fonction des caractéristiques de tel ou tel produit.
Mais le salaire sera-t-il toujours la contrepartie d’un travail effectif et personnel du salarié ? Le risque est que l’outil surpasse l’humain, qui programme sa propre obsolescence. Un T-800 nous promettait un « I’ll be back » pourtant rassurant.
Quelle utilité sociale, économique et morale donneriez-vous alors à cet humain dont le fruit de sa pensée peut être remplacé par une machine ?
Raphaël Enthoven partage une vision plus optimiste. Il rappelle que « la maïeutique est l’art d’exhumer le savoir dont on découvre qu’il était enfoui ».
L’enjeu est de faire émerger en l’élève le goût de penser par lui-même (et non tout seul), le goût de substituer un argument à une opinion, ou au moins d’exposer son opinion aux opinions qui la contredisent.
L’IA est une puissance de frappe. Elle n’est pas plus intelligente ; elle est juste plus nombreuse et puise dans ses entrailles toutes les datas disponibles que nous lui apportons sur un plateau d’argent.
L’être humain ne fait pas une restitution brute des données. Il offre une « résurrection opportune des souvenirs » selon sa propre conception, sa propre expérience, ses goûts, son impression. Il fait œuvre de création.
L’humanité progresse techniquement. Mais pouvons-nous écrire la même chose pour sa morale ? Le 7 octobre 2023 en est le marqueur effrayant.
L’humanité préfère le mensonge qui réconforte plutôt que la vérité qui dérange. Le désir gagne sur la réalité. Honneur au séduisant et horreur du vrai, nous adressant à notre propre et naturelle humanité.
L’IA devient alors le danger exacerbé par nos propres dérives.
Madame Marie-Caroline Missir écrivait que les enseignants « doivent apprendre aux enfants à devenir des citoyens éclairés capables de garder un libre arbitre dans le monde numérique soumis à des manipulations et des mensonges ». L’homme contre la machine.
Même la Chine, pourtant championne du contrôle via l’IA, a mis en place des restrictions : limitation de l’utilisation de TikTok à 40 minutes par jour pour les enfants, couvre-feu numérique pour les jeux vidéo.
L’action gouvernementale est intéressée : l’avenir de la future élite est en jeu. À quoi servirait l’Anneau de Sauron s’il n’y avait plus personne à gouverner ?
Certains parents laissent leurs enfants plus de sept heures par jour devant un écran. La machine est devenue un mode de garde à part entière.
L’œuvre de la déculturation est en route, effaçant une civilisation au profit d’un algorithme stimulant le système de récompense pour faire de nous des consommateurs dociles. La transcendance disparaît au profit du « me, myself and I ».
Nous laissons l’IA alimenter notre espace de réflexion et nous guider. À partir de quand sommes-nous capables de dire que notre position est celle que nous avons choisie et non celle qui s’impose à nous par une argumentation prémâchée ?
La course à l’IA est devenue une quête de pouvoir. L’homme s’est libéré de la monarchie absolue de droit divin pour se brancher à une machine incapable d’offrir à Neo la pilule rouge.
Serons-nous capables de voir le lapin blanc ?
Monsieur Michel Desmurget, docteur en neurosciences, a conclu que les réseaux sociaux exploitent « les failles internes les plus primitives du cerveau ».
Outre l’exposition aux risques de violences, de cyberharcèlement, à des contenus choquants, le temps d’écran rend le langage plus pauvre et provoque des difficultés en mathématiques. C’est l’appauvrissement des relations sociales et le songe morbide d’une voie sans issue.
40% des adolescents sont atteints par la myopie. Adieu la lumière naturelle, bonjour l’immobilisme, la prise de poids ou le diabète.
S’il est nécessaire de mettre en place un couvre-feu numérique, c’est bien que nous sommes en guerre. Le danger serait d’imaginer que nous pourrions y voir un chemin pavé d’or et que nous pourrions chanter nuit et jour.
Mais lorsque nous nous retrouverons fort dépourvus quand la bise sera venue, il ne nous restera plus qu’à danser sur la douce mélodie d’un yodel helvétique.
Richard Wetzel, Avocat
