Ecouteurs fixés aux oreilles, chaussures lacées, porte fermée à clé, en avant pour l’instant liberté de la journée. Premier kilomètre, l’écrivain et philosophe français Eric Sadin, invité de Thinkerview, rythme ma foulée. Il expose notamment cette dynamique technoéconomique, néolibérale qui prône sans cesse l’importance du développement de l’intelligence artificielle. Mais qu’est-ce que l’intelligence artificielle ? Quelles formes recouvre-t-elle ? Quels sont ses objectifs ? Quel modèle de société engendre-t-elle ? Un tel engouement généralisé, une telle préoccupation à la développer mérite que l’on en comprenne les finalités. A mesure que la conversation s’anime, ces questions émergent dans mon esprit et j’allonge la foulée.
Fraîcheur et Définition
L’intelligence artificielle est, selon une définition du scientifique américain Marvin Lee Minsky en 1956, « la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains, car elles demandent des processus mentaux de haut niveau tels que: l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique ».
En d’autres termes, elle consiste à un vaste domaine touchant autant à l’informatique qu’aux mathématiques, mais également à la neuroscience et même à la philosophie, en s’appuyant sur des algorithmes en mesure d’ajuster leurs calculs en fonction des traitements qu’ils ont à effectuer. Ces réseaux de neurones artificiels, constitués de serveurs puissants, permettent de traiter de nombreuses sources d’informations issues de gigantesques bases de données.
Cette définition permet d’avancer un premier élément qui explique un tel engouement : l’intelligence artificielle apporte une autre dimension à l’intelligence humaine, elle l’ambitionne, la décuple, ou peut-être plutôt elle l’affaiblie, la ridiculise et menace son existence ?
En réalité, cette intelligence artificielle nous dépasse déjà en ce qu’elle dispose d’une capacité de calcul bien supérieure à la notre. La victoire, en 2016, du système d’intelligence artificielle AlphaGo dans une partie du jeu de go contre le meilleur joueur mondial sud-coréen Lee Sedol est une illustration poignante de ce constat. Le développement d’une meilleure capacité des ordinateurs ainsi que l’avènement du Big Data a contribué, et contribuera encore davantage, à l’émergence d’une intelligence artificielle toujours plus forte.
En revanche, il est à douter que l’intelligence ne se définisse que par le prisme de la capacité de calcul. Dans cette perspective, l’intelligence artificielle n’est pas en mesure de défier l’intelligence humaine puisqu’elle ne dispose pas d’une conscience d’elle-même et d’un contexte socio-culturel, aptitude qui caractérise notre humanité.
Il semblerait alors que le danger de l’intelligence artificielle ne réside non pas dans le dépassement de notre intelligence mais bien davantage dans l’appropriation de notre liberté ; un scénario plausible que Monsieur Sadin continue de présenter à l’aube de mon second kilomètre.
Humidité et Invasion
Le temps est à la pluie, et l’humidité qui m’environne m’émerveille autant qu’elle m’indispose. Je constate qu’indéniablement, l’intelligence artificielle occupe une place toujours plus importante dans nos vies actuelles. Les voitures autonomes sur le point d’être lancées, les assistants personnels sur les Smartphones, les objets connectés, les modèles de management, de recrutement, de justice et enfin l’inquiétante création du crédit social en Chine. Alors que je vérifie le rythme de ma foulée sur ma montre connectée, je réalise tristement que je fais également partie de ce système et que j’ai moi aussi créé une habitude autour du confort insidieux insufflé par l’intelligence artificielle.
La diversité des applications de l’intelligence artificielle engendre une hausse de son degré d’implication, qui fait ou devrait faire, l’objet de préoccupations. Le développement des objets connectés permet la collecte de données de plus en plus étendues, de tout ordre et en temps réel : comportementale, physiologique, financière, pour ne citer que celles-ci, et permet ainsi à l’intelligence artificielle d’être présente dans tous les aspects de la vie quotidienne. Mais alors, qu’en est-il de ma vie privée, celle qui me donnait l’impression d’entretenir une certaine liberté, une intimité précieuse, une occasion de laisser libre cours à mes pensées et me laissant maître de mon destin ?
Beauté et Pouvoir
3ème kilomètre, j’aborde un sentier boisé de sapins, l’intensité de la verdure de la mousse me fascine, et la prolifération de dizaines de champignons me donnent tant envie de m’arrêter et de partir à la cueillette: cette nature est si belle et précieuse. Monétisation de la vie, organisation algorithmique de la société, vision utilitariste du monde, ces mots forts employés par Eric Sadin font état d’une réalité bouleversante. En effet, l’invasion de l’intelligence artificielle à tous les aspects de nos vies lui permet d’adopter un rôle de plus en plus important dans la prise de décision, relayant de fait l’être humain à l’état d’automate. La décision ne nous appartient plus, le système d’intelligence artificielle nous connaît mieux que nous et décide ainsi pour nous.
Le brouillard est de plus en plus épais, la visibilité amoindrie, et je débute à tâtons ce quatrième kilomètre quand soudain je m’aperçois, au milieu du champ, que je suis entourée de vaches. Passons doucement, il ne s’agirait pas de les déranger. Ce brouillard, qui titille mon acuité visuelle, n’est rien en comparaison avec le brouillard auditif et intellectuel que l’écoute des mots de Monsieur Sadin provoque en moi. Bien qu’ayant quelques notions relatives à l’intelligence artificielle, jamais je ne m’étais véritablement interrogée sur les implications actuelles et futures de son développement.
Je m’oblige alors à imaginer un monde dominé par l’intelligence artificielle, vaste tâche. Dès mon réveil, mes vêtements connectés feraient une analyse de mon état général physiologique, mon miroir de l’état de santé de mes yeux, ma montre connectée de ma fonction cardiaque, du nombre de calories que je dépense. Mon réfrigérateur m’indiquerait exactement quels ingrédients et en quelle quantité je dois les manger. Une fois habillée, suivant la tenue suggérée par mon miroir intelligent, je m’élancerais dans ma GoogleCar qui me conduirait ainsi sur mon lieu de travail. Elle m’indiquerait notamment les rendez-vous de la journée, les endroits où je devrais déjeuner en fonction de l’état actuel de mes comptes bancaires. Je disposerais tout naturellement d’une liste de courses et de l’adresse du supermarché où je devrais les effectuer le soir. Enfin, mon adorable assistant me suggérerait des idées de loisirs pour la fin de la semaine et m’organiserait même des rendez-vous galants.
Fantastique me dira-t-on ! Et j’aimerais alors rétorquer: que restera-t-il de l’usage de mon libre arbitre, de ma capacité réflexive, en somme de l’usage de mon intelligence ? N’avons-vous pas davantage d’amour pour notre condition d’homme pour refuser d’être l’automate d’une machine qui nous dicte en temps réel, sous couvert d’une soi disant bienveillance et assistance, toutes les actions à entreprendre ?
Relâchement et Espoir
Kilomètre 5, j’amorce une descente avant de prendre le chemin du retour. La pluie battante s’abat sur mon visage, et pendant un instant je décroche du cynisme auquel je m’étais abandonnée. Après tout et à part la mort, rien n’est inéluctable dans la vie et il ne tient qu’à une volonté d’emprunter un chemin différent de la voie principale. C’est un appel à la réaction, au questionnement dont il est fait état ici. C’est justement à cet instant que je me rappelle d’une idée évoquée par un philosophe profondément engagé dans le questionnement du développement de l’intelligence artificielle : Gaspard Koenig. Ce dernier proposait en effet un système dans lequel nous ferions des données personnelles une propriété privée, son usage serait ainsi contrôlé par chaque individu. De même, il préconisait la création de systèmes d’intelligence artificielle humanisés en ce sens qu’il faudrait leur appliquer nos propres paramètres, si imparfaits soient-ils, emprunts de subjectivité et d’incohérence.
Ah oui, me dis-je, mais les exemples des biais de l’intelligence artificielle ne sont-ils pas justement en partie dus à cette part d’humanité au sein de ces systèmes ? N’est-ce pas justement parce ce dernier a été mal orienté, parce que des éléments ont été omis dans la construction de l’algorithme que ces affreuses conséquences peuvent arriver ? N’est-ce pas parce que les algorithmes reposent sur une quantité impensable de données diverses, variées et évolutives qu’ils parviennent à des conclusions inacceptables ? Par exemple, les algorithmes de la société Northpoint, utilisés par la justice américaine dans la prédiction de la récidive pénalisaient davantage la population afro-américaine, en surestimant ce risque de récidive et en le sous-estimant pour les populations blanches. Cela s’est notamment produit en raison des informations mises à disposition dans la base de données de ce système.
De même, en 2015 Amazon utilisait un algorithme dans un système de recrutement de nouveaux candidats. Ce dernier avait été construit sur la base des curriculum vitae reçus par l’entreprise pendant dix ans. L’algorithme sélectionnait majoritairement des hommes car les données sur lesquels il se basait faisaient état de l’écrasante majorité des cadres hommes recrutés dans le passé, ne laissant ainsi aucune chance aux nouvelles candidates pourtant qualifiées.
Est-il alors souhaitable d’intégrer ses biais cognitifs dans les algorithmes ? Je n’en suis pas sure. Les systèmes d’intelligence artificielle devraient plutôt être des systèmes parfaits, d’une perfection à la hauteur de la responsabilité que leurs décisions auront sur nos vies. Mais alors, un nouveau questionnement me submerge: comment peut-on croire que nous parviendrons à rendre un système d’intelligence artificielle exempt de toute humanité et donc exempt de tout danger alors même que nous en sommes les créateurs ? Comment penser que l’homme puisse véritablement comprendre et adopter toute l’objectivité dont ces systèmes font preuve ? Enfin, comment peut-on naïvement penser que nous arriverons également à mettre dans ces systèmes tous les aléas futurs, par nature imprévisibles ?
Obstacles et Danger
Les péripéties s’accumulent entre flaques d’eau, boue, gadoue, j’accélère le pas et durant ces trois kilomètres, j’assimile l’ampleur du problème et la grandeur de la cause qui en émane. L’interview de cet éminent philosophe se poursuit sur le fonctionnement de l’intelligence artificielle qui, en s’appuyant sur ces systèmes de collecte de données, permet d’interpréter les situations en temps réel et détermine les actions pertinentes à entreprendre. Ainsi, il est expliqué que ces systèmes réduisent petit à petit l’être humain à l’état de robot : il est dépourvu de toute spontanéité, inventivité, subjectivité, son comportement tend à la banalisation et à l’institutionnalisation. Des souvenirs d’un épisode de la série sinistrement visionnaire Black Mirror me viennent à l’esprit, et la création du crédit social en Chine en est un exemple poignant d’application réelle.
Je me souviens de cet épisode dans lequel l’accès des personnes aux services sociaux et sanitaires est conditionné par la note dont ils bénéficient en fonction de leurs comportements et attitudes en société. Cet épisode dénonce toute justement une rationalisation et une monétisation de la vie humaine. Tous les individus ont des comportements homogènes, standardisés, conditionnés par la volonté d’avoir une bonne note. Adieu mauvaise humeur, gros mots, disputes et réconciliation, désaccords : tout n’est que sourires, compliments, tout n’est qu’hypocrisie, intériorisation et mal être profond.
A l’état d’utopie, cela interpelle sans pour autant alerter. A l’état de réalité, cela doit choquer et c’est justement ce passage de la fiction à la réalité dont il est fait état en Chine, notamment avec l’adoption du crédit social. En effet, ce système repose sur une note attribuée à chaque citoyen en fonction de ces attitudes en société : payez vos factures à temps, faites du bénévolat, ne manifestez pas d’opinions contraires à celles du gouvernement et vous bénéficierez de réductions sur des prix des transports public ou d’un accès facilité aux services hospitaliers. Grillez un feu rouge parce que vous êtes en retard, achetez trop de jeux vidéos et vous ne bénéficierez pas d’une augmentation salariale, ne pourrez pas prendre l’avion, aurez un accès à un internet ralenti et vos enfants n’iront pas dans de bonnes écoles.
L’établissement de ce crédit social s’appuie essentiellement sur les systèmes d’intelligence artificielle qui traitent les données provenant des activités de surveillance des citoyens, mais également dans la mise en place de systèmes de reconnaissance faciale. Alors oui, la Chine est un pays profondément marqué par une culture confucianiste, prônant l’unité d’un collectif rationnalisé plutôt que l’expression chaotique de l’individualité, mais tout de même ! Ca y est, le cap est passé, la fiction est devenue réalité. Voici le premier modèle d’une société épiée, contrôlée dans laquelle la vie est privée est une liberté profondément bafouée, enterrée, oubliée. Est-ce cela que nous souhaitons?
Amorçant le huitième kilomètre, j’écoute toujours avec attention monsieur Sadin énonçant la fable de la complémentarité homme-machine selon laquelle l’homme, avide d’intelligence artificielle, persiste toutefois dans son autonomie face à ce système. Comme très justement souligné, il s’agit d’un mythe puisque nous laissons de plus en plus de marges de développement à l’intelligence artificielle qui induit ce qu’Eric Sadin appelle « un tournant injonctif de la technique ».
Comment oser parler de complémentarité lorsque de nombreux constats illustrent la perte avérée de contrôle et de compréhension de ces systèmes d’intelligence artificielle? Par le développement accéléré des réseaux de neurones artificiels toujours plus sophistiqués, des systèmes d’intelligence artificielle parviennent désormais à des raisonnements et des prises de décision qui échappent complètement à notre entendement. Je me souviens alors d’un exemple de la NASA qui utilisait l’intelligence artificielle pour piloter ses robots et analyser des millions de photos dans l’espace.
Elle constatait déjà un risque de cette perte de contrôle, notamment lors de l’une de leur mission durant laquelle le véhicule, piloté par un système d’intelligence artificielle, s’était jeté dans le vide et écrasé. Le système d’intelligence artificielle avait en effet pris une décision que les ingénieurs ne pouvaient expliquer. Plus inquiétant encore était le fait que ces systèmes détectaient lorsqu’un humain tentait de modifier leurs comportements, faisant ainsi tout pour rejeter ou contourner cette intervention. Pour contrôler cette intelligence artificielle ou pouvoir la modifier, il faudrait donc faire preuve de subtilité en effaçant ensuite toute trace d’intervention humaine. Jusqu’à quel point cela va-t-il être envisageable ?
Faut-il alors vraiment encore encourager son développement à tous les aspects de notre quotidien ?
A cet instant, je suis convaincue de l’exactitude des paroles de ce philosophe et me sens d’ores et déjà partisane et activiste d’un mouvement allant à contre-courant.
Stabilisation et Réaction
C’est justement à l’apparition de ce sentiment d’appartenance et de nécessité d’action que, comme un heureux hasard, j’écoute l’invitation de Monsieur Sadin à imaginer un monde fondé sur autre chose que la rationalisation de la société, faisant la promotion de notre diversité, polyvalence, intelligence, spontanéité, en somme de notre humanité. Neuvième kilomètre au compteur, je stabilise mon rythme à mesure que je m’accoutume à cette idée de révolte, à ce système réactionnaire auquel j’aimerais prendre part. « La perte de notre faculté à dire non aux systèmes qui bafouent notre intégrité humaine ; au nom du discours de l’inéluctable se développent des formes d’apathies » énonce cet éminent philosophe. « Mais oui, c’est exactement cela ! » me dis-je. Il faut agir ! Est-ce vain ? Illusoire ? Utopiste ? Qu’importe, la passiveté n’a jamais été, à mon sens, une attitude porteuse.
Adopter une attitude critique vis-à-vis de l’usage que nous en faisons, s’informer de son fonctionnement et de ses développements et surtout ne pas se laisser berner par l’apparente incompréhension de ces systèmes. S’informer, débattre sur ce sujet, c’est déjà mener un combat pour notre humanité.
Arrivée et Réalisme
Me voici sur le point d’amorcer mon dixième et ultime kilomètre, un sentiment de satisfaction dans l’âme. Après m’être confrontée aux aléas naturels, à la beauté simple et bouleversante d’un environnement si divers et foisonnant je me sens purifiée, libre et forte. Je me remémore en guise de conclusion cette phrase prononcée par Eric Sadin, « plus on nous dessaisi de notre capacité d’action et de décision, plus il faut être agissant ». Je deviens intimement convaincue qu’il est important de marquer une tendance qui va à l’encontre du discours habituellement servi, promouvant toujours davantage le développement de l’intelligence artificielle. Il ne s’agit pas de faire preuve d’hypocrisie ou d’utopisme car nous sommes déjà tous concernés et envahis par l’intelligence artificielle. Il ne s’agit pas de se replier entièrement sur nous-mêmes et de bannir complètement et immédiatement nos liens avec les technologies et leurs devenirs.
En revanche, il ne tient qu’à nous d’en saisir les dérives et de proposer un véritable système alternatif. L’heure est à la sauvegarde et à la promotion de notre humanité, et ceci devrait s’effectuer par la création d’une société qui recule face à une technologie trop invasive et dangereuse. L’heure est aussi à l’arrivée de ma course et à la perspective de la chaleur du foyer, plaisir automnale décuplé au retour d’une escapade humide. Bien que la course s’arrête, l’émulation intellectuelle induite par cette interview persiste. Je n’ai pas, pour le moment, d’idées précises face au phénomène d’asservissement induit par l’intelligence artificielle, mais intuitivement je pense que la vision du monde sera scindée entre une majorité techno-libérale aveuglée par la puissance d’un système et une minorité qui récusera ce système en repensant notre façon de vivre.
Il est difficile d’envisager l’entre-deux proposé par Gaspard Koenig en ce sens que la direction actuelle empruntée par les concepteurs d’intelligence artificielle tend justement à en faire un système parfait, cohérent, rationnel. Comment alors, allons-nous faire cohabiter deux systèmes d’intelligence artificielle au sein d’une même société ? Par exemple, comment une personne qui souhaite conduire dans une voiture non autonome dans une smart city peut, concrètement, interagir avec les usagers intégrés au système ? Comment articuler une société avec deux intelligences artificielles, l’une majoritaire, rationalisée, et une autre minoritaire emprunte d’individualité ? L’hypothèse d’un système complètement intégré, dont l’appartenance serait conditionnée par le respect de ces critères ultra rationnalisés, est une hypothèse plus probable.
Repos et Questionnement
L’écoute de cette interview et l’étude approfondie des dérives liées au développement de l’intelligence artificielle a fait jaillir un questionnement dont je n’ai pas encore trouvé la réponse. Alors que j’enlève mes chaussettes humides, je m’installe près de la cheminée et en observant ses flammes jaillirent de toutes parts entre les buches de bois, je vous le pose : pourquoi n’a-t-on de cesse de substituer l’homme par la machine ? Aux premières évolutions, il s’agissait de gagner en confort, en productivité et en rapidité. Mais à l’heure actuelle, quel est l’objectif poursuivi par l’intelligence artificielle ? Le jeu en vaut-il la chandelle ? N’y-a-t-il pas finalement dans l’intelligence artificielle un rejet de notre condition d’être humain, un manque d’amour vis-à-vis de nous même ? N’y-a-t-il pas non plus dans l’intelligence artificielle une institutionnalisation de la paresse et ce quelque soit les aspects de notre vie ? L’évolution technologique est-elle toujours la marche à suivre ?
Passivement et de façon quotidienne nous taisons toujours davantage la diversité de notre humanité, sa subjectivité et ses particularismes. Passivement et de façon quotidienne nous encourageons une société dans laquelle nous n’aurons plus rien à faire ni à penser. Non ! Réveillons-nous, cultivons le doute face à la banalité et l’humanité face au monde rationnalisé. Une chose est certaine, je ne sais encore que faire mais je sais qu’il faut faire. Peut-être pourrions-nous développer d’autres formes d’éducation ? A l’heure actuelle nous valorisons notre intelligence par sa capacité de calcul et de mémorisation, ce que la machine fait en réalité déjà bien mieux que nous. Ainsi, revaloriser notre intelligence consisterait notamment à développer ce que la machine ne sait pas faire : encourager l’intelligence collective, l’intelligence émotionnelle, susciter notre curiosité, travailler notre scepticisme, se considérer comme acteur de la société, tout cela seraient de possibles inspirations.
Enfin, à ceux qui développent ces systèmes d’intelligence artificielle j’oserais leur intimer de faire preuve d’une réflexion profonde et d’une extrême prudence quant à la création de ces systèmes. L’exemple des graves biais émanant de ces systèmes justifie l’exigence dont il faut faire preuve en la matière. En effet, une intelligence artificielle mal documentée, mal orientée peut aboutir à des décisions très dangereuses. Cette prudence ne doit pas uniquement se manifester à l’heure de la création du système mais également dans son suivi pour ne jamais perdre le fil, pour ne jamais se laisser dépasser par les raisonnements de l’intelligence artificielle : mais comment contrôler un système que l’on veut, par nature, plus grand que nous ?
Par Alexia de Rechapt, promotion 2019-2020 du M2 IESCI
Bibliographie/Webographie :
Eric Sadin – Podcast Thinkerview « l’asservissement par l’intelligence artificielle ».
Gaspard Koenig – « La fin de l’individu ».
https://theconversation.com/intelligence-artificielle-combattre-les-biais-des-algorithmes-125004
