Cercle Frédéric Bastiat

2017-12-17 03:58:58

INTELLIGENCE ARTIFICIELLE ET BIG DATA

, par Thierry Foucart

La rationalité ne peut expliquer le monde dans sa totalité, qui s’agrandit au fur et à mesure des découvertes scientifiques. Les progrès très rapides de l’intelligence artificielle et les big data, qui constituent une réelle révolution technologique, semblent contredire cette limite pourtant connue depuis longtemps. Ils ouvrent la porte à une utopie scientifique fondée sur une perception réductrice de l’être humain et caractérisée par la substitution de l’automate à l’homme dans un très grand nombre d’activités.

Intelligence artificielle et big data

L’analyse de cette révolution nécessite une réflexion préalable sur la nature de l’intelligence artificielle et des big data.
La première révolution a eu lieu dans les années 1960 : l’ordinateur est devenu capable d’effectuer des calculs hors de la portée de l’homme. Des méthodes mathématiques, comme l’analyse factorielle (Spearman, 1904), très limitées par l’absence de moyens de calculs suffisants, sont devenues beaucoup plus puissantes. De nouvelles méthodes mathématiques sont apparues, et certains chercheurs ont commencé à développer l’intelligence artificielle en inventant des langages de programmation comme Prolog. La puissance des ordinateurs n’a cessé d’augmenter depuis, avec celle de l’intelligence artificielle.
Le jeu d’échecs est l’exemple classique d’une situation où l’homme est complètement dépassé par l’ordinateur (la victoire de l’ordinateur d’IBM Deep Blue contre Kasparov date de 1997). Il consiste à choisir chaque déplacement de pièce en tenant compte des positions en cours, en prévoyant la suite, et en appliquant strictement la règle du jeu. Ce processus est uniquement déductif et ne dépend que de l’état instantané du jeu. L’intelligence artificielle présente l’avantage de tenir compte de bien plus d’informations que le cerveau, et de disposer d’un très grand nombre de parties déjà jouées stockées en mémoire. Elle consiste à effectuer des calculs considérables qui testent chaque déplacement de pièce en en calculant les conséquences à l’horizon le plus lointain possible.
Le jeu de dames a été complètement résolu en 2008 : Jonathan Schaeffer, informaticien à l’université canadienne d’Alberta, a mis au point avec des collègues le programme Chinook, contre lequel le meilleur résultat possible est la nullité de la partie.
Les progrès de l’intelligence artificielle ont permis la victoire en 2016 de l’ordinateur contre le champion du monde du jeu de go, beaucoup plus complexe que le jeu d’échecs et, a fortiori, que le jeu de dames. Ces progrès sont apparemment inquiétants : ils remettent en cause l’intelligence de l’homme et sa nature même.
Toutes les activités humaines utilisent une démarche déductive analogue à celle du joueur d’échecs : on recueille des informations, on les analyse, et on en tire des conclusions. Dans le cas général, il n’y a pas de solution unique, et souvent la meilleure dépend du contexte : la démarche déductive est complétée de façon variable par une démarche que l’on peut qualifier d’inductive. Propre à l’homme, fondée sur son humanisme, son empathie, ses sentiments, sa volonté, son histoire, son inconscient, sa curiosité, son imagination, cette démarche lui permet de s’interroger, de se remettre en question, de réagir aux informations obtenues, de relativiser les événements en fonction du présent et du passé, et, en fin de compte, d’aboutir à une appréciation humaine et individuelle de la situation et des résultats. L’absence de cette démarche inductive dans les trois jeux précédents explique la supériorité de l’ordinateur sur l’homme.
Si la puissance de l’intelligence artificielle est renforcée par la disponibilité de données en très grand nombre, elle est par contre limitée par leur sens. Ces données ne peuvent fournir que l’information qu’elles contiennent. L’intelligence artificielle ne peut dépasser cette limite : elle fonctionne suivant un processus logique déductif : A implique B, B implique C, donc A implique C. Les implications ajoutées ne font qu’augmenter cette puissance sans en modifier la nature : si on ajoute la règle C implique D, l’ordinateur en déduit que A implique D : la démarche reste de nature déductive. Dans la plupart des cas, les calculs et la suite logique des implications établies par l’ordinateur deviennent inaccessibles à la compréhension de l’individu : on ne peut connaître dans le détail le processus déductif d’un ordinateur jouant aux échecs, pas plus que le fonctionnement électronique d’une calculatrice, et on ne peut vérifier directement l’exactitude des résultats.
Ce processus déductif est inexistant sans questionnement préalable, et clos sans information extérieure. En mathématiques, l’exemple historique d’une démonstration par intelligence artificielle est celle d’un théorème classique de géométrie : les angles à la base d’un triangle isocèle sont égaux. Cette démonstration ne peut exister que si la question de l’égalité des angles d’un triangle isocèle est posée. Par qui, si ce n’est par l’homme ? Comment démontrer que les hauteurs, les médianes ou les médiatrices d’un triangle quelconque se coupent en un seul point si on n’en a pas l’intuition ? Que leurs trois points d’intersection sont alignés ? La démarche inductive est un facteur individuel guidé par un intérêt, une curiosité, une volonté, c’est-à-dire par des facteurs essentiellement humains et individuels.
C’est par une telle démarche qu’un observateur du tableau de Gauguin Cheval blanc, exposé au musée d’Orsay, peut comprendre pourquoi la couleur verte du cheval représenté au premier plan montre qu’il est blanc. La compréhension de l’œuvre ne peut résulter que d’une analyse inductive faite par chaque observateur qui consiste tout d’abord à se poser la question : pourquoi Gauguin a-t-il peint en vert ce cheval qui devrait être blanc ? , à examiner le tableau et ensuite à trouver la réponse : parce que c’est le reflet des arbres qui l’entourent. Elle dépend de la personnalité de chacun puisque certains (dont le commanditaire du tableau) ne trouvent pas cette réponse. Certaines œuvres d’art sont appréciées, comprises par les uns, pas par les autres, et cela change suivant les époques et la géographie : vérité en-deçà des Pyrénées, mensonge au-delà. La vérité n’est pas universelle dès qu’elle fait intervenir une démarche inductive.
L’intelligence artificielle n’invente pas, n’imagine pas, n’a aucun sentiment. Ce sont les hommes qui peuvent introduire dans le processus d’analyse ou de décision des valeurs, de l’empathie, poser des questions, chercher à comprendre le raisonnement tenu par un autre.

Démarche déductive et inductive

La révolution numérique n’est pas une utopie : elle est bien réelle, et largement commencée. On peut sans risque affirmer qu’elle va faire évoluer toutes les pratiques professionnelles, suivant l’importance respective qu’elles accordent aux deux démarches précédentes.
Toutes les activités ne nécessitant qu’une démarche déductive sont exposées au risque de leur automatisation, et de la substitution de l’ordinateur à l’homme pour les exercer. C’est l’exemple du jeu d’échec. À quoi bon faire faire par un homme ce qu’une machine fait mieux que lui ? Il ne sert à rien de retarder cette évolution, ce serait même dangereux pour les entreprises confrontées à une concurrence mondialisée. Elle est évidemment pénalisante pour ceux qui perdent leur emploi.
L’intelligence artificielle peut apporter un gain de productivité. Elle évite la plupart des erreurs humaines dans la démarche déductive. Il est très vraisemblable que le pilotage automatique d’une voiture, d’un train, d’un bateau ou d’un avion causera moins d’accidents que la conduite humaine : l’ordinateur ne bâille pas au volant ! En apportant des informations inaccessibles à l’homme, elle lui donne la possibilité de réfléchir de façon plus approfondie, de s’interroger sur des éventualités auxquelles il n’aurait pas pensé, et d’améliorer sa réflexion et sa décision. La puissance déductive de l’intelligence artificielle peut renforcer la démarche inductive menée par l’homme. Si la situation ne demande pas de démarche inductive, la substitution du robot à l’homme est inévitable.
Le danger pour la société est une évolution des pratiques professionnelles les limitant à la démarche déductive. Cette évolution est en cours, en particulier dans la fonction publique dont les salariés ont de moins en moins d’autonomie, de marge d’appréciation et liberté de manœuvre. La réglementation qu’on leur impose d’appliquer prévoit en principe toutes les situations possibles et la décision administrative prévue pour chaque cas. En limitant ainsi toute appréciation humaine des situations, l’administration a tout intérêt à substituer au fonctionnaire un robot.
C’est déjà fait presque complètement pour la sécurité routière, assurée par des radars ou des caméras transmettant automatiquement les photos des infractions, déterminant l’amende et le nombre de points perdus sur le permis de conduire et envoyant le courrier sans intervention humaine. C’est en cours dans l’administration des impôts : l’obligation de déclarer les revenus par internet permet un contrôle automatique des données, le calcul immédiat du montant de l’impôt, l’envoi par internet de l’avis d’imposition et le paiement par virement effectué par le contribuable. Les demandes d’aides sociales sont effectuées par internet, et les dossiers peu à peu traités par des logiciels : le droit administratif est rigoureux et ne laisse aucune place à un traitement justifié humainement par une situation particulière non prévue.
La nécessité de traiter chaque cas particulier a pour effet de complexifier considérablement les textes réglementaires, rendant de ce fait la substitution du robot à l’employé beaucoup plus rentable, et accentuant la disparition des emplois. Une autre conséquence est l’impuissance des individus à comprendre leurs droits et leurs devoirs. Ce dernier point est caractérisé par les formalités nécessaires à l’achat d’un bien immobilier : les documents imposés par l’administration sont constitués de plus d’une centaine de pages dont toutes devraient être lues par le vendeur et l’acheteur. Elles le sont théoriquement : la signature électronique permet de ne signer qu’une fois pour toutes. La volonté de protéger les particuliers de leurs erreurs se retourne en fait contre eux : personne ne lit la totalité des documents, et les notaires ne peuvent en expliquer que l’essentiel.
La magistrature et la police sont confrontées aussi à la pléthore de textes législatifs et jurisprudentiels. Le respect de toutes les réglementations leur impose une rigueur quasi-totale pour que les procédures en cours ne soient pas annulées pour vice de forme. Plus les règlements et les lois sont complexes, pointilleux, précis, plus il est long et difficile de les respecter intégralement, et plus les recours sont nombreux.
Cette évolution améliore inversement l’objectivité des décisions concernant les individus. Elle met fin à un régime relationnel qui aboutissait parfois à la corruption. Mais elle rigidifie complètement la vie sociale, conditionne les comportements des particuliers.
Cette modification des comportements peut avoir des conséquences bénéfiques : un malade, diabétique ou cardiaque, observé en temps réel par l’intermédiaire d’objets connectés, peut être prévenu de la nécessité de prendre un médicament ou de consulter de toute urgence un médecin.
Inversement, certains auteurs, comme Éric Sadin et Jean-Pierre Ganascia, craignent des effets pervers, par exemple que les compagnies d’assurance, à partir d’informations recueillies sur la façon de conduire ou de manger des assurés, ne parviennent à calculer des primes individuelles faisant disparaître la mutualisation des risques pratiquée actuellement et caractérisée par une prime établie sur des données agrégées. Cette crainte est scientifiquement infondée : le risque individuel ne se mesure pas, c’est une construction complètement artificielle, un artefact. Pour estimer la probabilité qu’un individu donné ait un accident, il faudrait concevoir une expérience pouvant théoriquement être répétée dans les conditions de cet accident une infinité de fois. C’est de toute évidence impossible (voir l’article publié sur Bastiat.net).
D’autres effets pervers existent. L’usage systématique de l’ordinateur fait diminuer la compétence de l’homme. On s’en aperçoit à l’échelle individuelle : certains conducteurs ne savent plus se diriger avec une carte ou perdent le sens de l’orientation depuis qu’ils se servent d’un appareil leur indiquant la route au fur et à mesure. C’est vrai à l’échelle professionnelle, au point que les pilotes d’avions sont incités par la réglementation à prendre le manche un certain temps de vol malgré le pilotage automatique. Cette déqualification augmente l’intérêt économique du remplacement de l’homme par la machine.

Révolution numérique et société

D’autres auteurs imaginent que la substitution de l’automate à l’homme va se généraliser par suite des progrès considérables des nouvelles technologies. Ils prévoient le règne de la machine allant jusqu’à la soumission volontaire de l’homme à l’ordinateur.
Il est certain que l’intelligence artificielle va prendre une place de plus en plus importante dans la société, de la même façon que la force motrice inventée au XIXe siècle a remplacé peu à peu la force humaine dans un grand nombre d’activités. L’intelligence artificielle va « dépasser » l’intelligence humaine, mais uniquement dans la démarche purement déductive, de même que la force motrice a dépassé la force de l’homme dans les activités physiques. Considérer que l’ordinateur est plus « intelligent » que l’homme, c’est considérer que la machine à vapeur est plus « forte » que l’individu : cela n’a aucun sens. Mais cette puissance de l’intelligence artificielle change le concept d’intelligence généralement accepté en la limitant à la démarche déductive.
Affirmer la domination future de l’ordinateur sur l’homme revient ainsi à négliger la démarche inductive proprement humaine, à considérer que la démarche déductive est suffisante à elle seule. C’est considérer l’homme comme une machine comparable à un ordinateur, et réduire son humanité à un ensemble de circuits électroniques (ou autres) et à des algorithmes. C’est une conception mécaniste de la vie qui inverse les causalités, qui explique le comportement d’un homme par ses caractéristiques physiques, par son génome. La pensée, les sentiments, résultent-t-ils d’une activité du cerveau, que l’on peut mesurer par imagerie cérébrale, ou est-ce l’inverse ? C’est la relation entre le corps et l’esprit qui est en jeu. Cette relation, disait Saint Augustin, c’est Dieu, c’est-à-dire l’impuissance de la rationalité.
La médecine est un bon exemple de cette utopie : elle est confrontée en permanence à la relation entre le corps et l’esprit. On peut imaginer un appareil effectuant l’ensemble des mesures et analyses sur un patient, donnant un diagnostic et en déduisant une thérapie. Cela revient à limiter le patient à l’ensemble de ses caractéristiques biologiques, et à attribuer la cause de son mal-être à un dysfonctionnement biologique, alors que la relation causale est peut-être l’inverse, que sa pathologie dépend de son environnement professionnel ou familial, de son enfance etc. L’apport de l’intelligence artificielle est indiscutable : elle met très rapidement en relation des paramètres nombreux et en déduit des pathologies éventuelles, permet au médecin d’approfondir sa démarche inductive, dans l’intérêt de son patient. Elle ne le remplace pas.
Cette conception réductrice est intrinsèquement contradictoire. Comment l’homme pourrait-il être intégralement défini par un ensemble de codages nécessairement fini, alors qu’il a lui-même l’intuition de l’infini ?
Le danger d’une soumission de l’homme au robot persiste. Actuellement, le non-sens du risque individuel d’accident n’empêche pas les compagnies d’assurance de chercher à l’estimer. L’intelligence artificielle peut faire croire à l’infaillibilité des modèles économiques qu’elle crée, de la même façon que l’eugénisme fondé sur les travaux du statisticien Pearson a été considéré comme une vérité scientifique. Les erreurs conceptuelles faites par l’homme ne sont pas détectables par l’informatique, et leur application collective peut avoir des conséquences dramatiques.

Que faire ?

Je l’ai dit précédemment : l’évolution en cours est inéluctable. Il serait vain de s’y opposer, et contraire à l’intérêt de tous. Il est par contre possible de la contrôler, en rétablissant la démarche inductive, en augmentant son rôle dans les activités professionnelles. Il faut la rendre productive, et c’est un enjeu de la société et particulièrement du système éducatif que d’y parvenir.

Bibliographie

Foucart Thierry, 2017 : Un projet social-libéral pour la France, Libréchange, Nice.
Ganascia Jean-Gabriel, 2017 : Le mythe de la Singularité - Faut-il craindre l’intelligence artificielle ? Science ouverte, Seuil, Paris.
Sadin Éric, 2015 : La vie algorithmique : Critique de la raison numérique, L’échappée, Paris.
Sur le risque individuel : http://www.bastiat.net/fr/blog/article/assurances-mutualisation-et
Sur l’usage de la statistique dans les sciences sociales : http://www.dogma.lu/pdf/TF-mirage.pdf
Sur l’interprétation des résultats statistiques : http://www.agoravox.fr/actualites/societe/article/l-interpretation-des-resultats-195147 et http://www.agoravox.fr/tribune-libre/article/l-interpretation-des-resultats-195289
Un excellent article sur l’intelligence artificielle : Systèmes experts : jusqu’où peut-on automatiser l’intelligence ? Paris Innovation Review / Rédaction / April 29th, 2014, Paris Sciences et Lettres.