Il est toujours très triste de terminer la lecture d’un grand livre, mais Isaascon termine magnifiquement le sien avec des considérations (datant du 19ème siècle!) sur le rôle des ordinateurs selon Ada Lovelace. « Ada pourrait aussi avoir raison de se vanter qu’elle avait vu juste, au moins jusqu’à présent, dans son affirmation plus controversée qu’aucun ordinateur, peu importe sa puissance, ne serait jamais vraiment une « machine qui pense ». Un siècle après sa mort, Alan Turing l’avait surnommé « l’opposition de Lady Lovelace » et avait essayé de la contrer en fournissant une définition opérationnelle d’une machine qui penserait. […] Mais il s’est écoulé plus de soixante ans, et les machines qui tentent de tromper les gens sur son test sont, au mieux, engagées dans des conversations maladroites plutôt que dans de réelles pensées. Certainement aucune n’a passé la barre placée par Ada de pouvoir « originer » des pensées par elle-même. […] Les fans d’intelligence artificielle ont longtemps promis, voire menacé, que les machines comme HAL pourraient bientôt émerger et prouver qu’Ada avait tort. Telle était la promesse de la conférence de 1956 à Dartmouth organisée par John McCarthy et Marvin Minsky, où le domaine de l’intelligence artificielle a été vraiment lancé. La conférence conlut qu’une percée arriverait environ vingt ans plus tard. Ce ne fut pas le cas. » [Page 468]

Ada, comtesse de Lovelace, 1840

John von Neumann a réalisé que l’architecture du cerveau humain est fondamentalement différente. Les calculateurs numériques comptent en unités précises, alors que le cerveau, en admettant que nous le comprenons, est aussi en partie un système analogique qui traite d’un continuum de possibilités, […] non seulement données binaire de style « oui-non » , mais il répond également par « peut-être » et « probablement » et ien utilisant une infinité d’autres nuances, y compris par une perplexité occasionnelle. Von Neumann a suggéré que l’avenir de l’informatique intelligente pourrait exiger l’abandon de l’approche purement numérique et la création de « procédures mixtes ». [Page 469]

« Intelligence Artificielle »

Les discussions sur l’intelligence artificielle ressurgirent un peu, au moins dans la presse populaire, après que le Deep Blue d’IBM, la machine spécialisée dans le jeu d’échecs, a battu le champion du monde Garry Kasparov en 1997, puis que Watson, son ordinateur de question-réponse en langage naturel a gagné à Jeopardy! Mais […] ce ne sont pas des percées de l’intelligence artificielle comparables à l’intelligence humaine, et le PDG d’IBM a été le premier à l’admettre. Deep Blue a gagné grâce à la force brute. […] A une question sur « bizarrerie anatomique» de l’ancien gymnaste olympique George Eyer, Watson répondu « Qu’est-ce qu’une jambe? » La bonne réponse était qu’Eyer n’avait qu’une jambe. Le problème était de comprendre « bizarrerie », a expliqué David Ferrucci, qui a dirigé le projet Watson chez IBM. « L’ordinateur ne savait pas qu’une jambe manquante est plus étrange que tout autre chose. » […] « Watson n’a pas compris les questions, ni ses réponses, ni que certaines de ses réponses étaient correctes et d’autres, fausses, ni qu’il jouait un jeu, ni qu’il a gagné – parce qu’il ne comprend rien, selon John Searle [un professeur de philosophie de Berkeley]. « Aujourd’hui, les ordinateurs sont de brillants idiots » d’après John E. Kelly III, le directeur de la recherche d’IBM. « Ces réalisations récentes ont, ironiquement, souligné les limites de l’informatique et de l’intelligence artificielle, » ajoute le professeur Tomaso Poggio, directeur du Centre « Brain, Minds, Machines » au MIT. « Nous ne comprenons pas encore comment le cerveau donne lieu à l’intelligence, et nous ne savons comment construire des machines qui sont aussi intelligentes que nous. » Demandez à Google « un crocodile peut-il jouer au basket? » Et il n’en aura aucune idée, même si un jeune enfant pourrait vous le dire, en riant de la question. [Pages 470-71] J’ai fait l’expérience sur Google et devinez quoi. Il m’a donné l’extrait du livre d’Isaacson…

Le cerveau humain combine non seulement les processus analogiques et numériques, il est également un système distribué, comme l’Internet, plutôt qu’un système centralisé. […] Il a fallu quarante ans aux scientifiques pour cartographier l’activité neurologique du nématode long d’un millimètre, avec 302 neurones et 8000 synapses. Le cerveau humain dispose de 86 milliards de neurones et jusqu’à 150 mille milliards de synapses. […] IBM et Qualcomm ont chacun divulgué des plans pour construire des processeurs informatiques « neuromorphiques », c’est à dire ressemblant au cerveau, et un consortium de recherche européen appelé le Human Brain Project a annoncé qu’il avait construit une micropuce neuromorphique qui incorpore « cinquante millions de synapses en plastique et 200000 modèles de neurones biologiquement réalistes sur une seule plaquette de silicium de 8 pouces. […] Ces dernières avancées pourraient même conduire à la « Singularité », un terme que von Neumann a inventé et que le futuriste Ray Kurzweil et l’écrivain de science-fiction Vernor Vinge ont popularisé, terme qui est parfois utilisé pour décrire le moment où les ordinateurs ne seront pas seulement plus intelligents que les humains mais pourront aussi se concevoir pour être super-intelligents, et qu’ils n’auront plus besoin de nous mortels. Isaacon est plus sage que moi (qui pense que ces idées sont stupides) quand il ajoute: «Nous pouvons laisser ce débat aux futuristes. En effet en fonction de votre définition de la conscience, il se peut que cela ne se produise jamais. Nous pouvons laisser « ce débat » aux philosophes et aux théologiens. « L’ingéniosité humaine », a écrit Léonard de Vinci « ne concevra jamais d’inventions plus belles, ni plus simples, ni plus utiles que la Nature ne le fait ». [Pages 472-74]

Les ordinateurs comme un complément à l’homme

Isaacson ajoute: « Il y a cependant une autre possibilité, celle que Ada Lovelace aimerait. Les machines ne remplaceront pas les humains, mais seraient plutôt destinées à devenir leurs partenaires. Et l’homme apporterait son originalité et sa créativité » [page 475].

Après avoir expliqué que dans un tournoi d’échecs en 2005 que « le vainqueur final n’a pas été un grand maître, ni un ordinateur dernier cri, pas même une combinaison des deux, mais deux amateurs américains qui ont utilisé trois ordinateurs en même temps et ont su pour gérer le processus de collaboration avec leurs machines » (page 476) et que « pour être utile, l’équipe d’IBM a réalisé que [Watson] doit interagir [avec des humains] d’une manière qui rende la collaboration agréable, » (page 477) Isaacson spécule un peu plus:

Supposons, par exemple, que la machine présente un jour toutes les capacités mentales d’un être humain: donner l’impression de reconnaître les formes, de percevoir les émotions, d’apprécier la beauté, de créer de l’art, d’avoir des désirs, de bâtir valeurs morales, et de poursuivre des objectifs. Une telle machine pourrait être en mesure de passer un test de Turing. Elle pourrait même passer ce que nous pourrions appeler le test d’Ada, qui est qu’elle pourrait sembler «originer» ses propres pensées qui iraient au delà ce que nous les humains l’avons programmé à faire. Il y aurait, toutefois, encore un autre obstacle avant que nous puissions dire que l’intelligence artificielle a triomphé de l’intelligence augmentée. Nous l’appellerions le test Licklider. Il irait plus loin que demander si une machine peut reproduire toutes les composantes de l’intelligence humaine en demandant si la machine accomplit ces tâches mieux quand en agissant complètement seule ou lorsqu’elle travaille en collaboration avec les humains. En d’autres termes, est-il possible que les humains et les machines travaillant en partenariat seront indéfiniment plus performants qu’une machine d’intelligence artificielle indépendante ? Dans ce cas, alors, la « symbiose homme-ordinateur », comme l’a nommée Licklider, restera la gagnante. L’intelligence artificielle n’a pas besoin d’être le Saint-Graal de l’informatique. L’objectif pourrait être à la place de trouver des façons de optimiser la collaboration entre les capacités humaines et celles des machines – pour forger un partenariat dans lequel nous laissons les machines faire ce qu’elles font le mieux, et elles nous laissent faire ce que nous faisons de mieux. [Pages 472-74]

La science poétique d’Ada

Lors de sa dernière apparition du genre, pour l’iPad2 en 2011, Steve Jobs a déclaré: « Il est dans l’ADN d’Apple que la technologie seule ne suffit pas – que c’est la technologie mariée avec les arts, mariée avec les sciences humaines, qui nous donne le résultat qui rend notre cœur joyeux ». L’inverse de cet hymne aux humanités, cependant, est également vrai. Les gens qui aiment les arts et les humanités devraient essayer d’apprécier les beautés des mathématiques et de la physique, tout comme Ada. Sinon ils seront abandonnés à l’intersection des arts et des sciences, où l’essentiel de la créativité à l’âge numérique se produit. Ils laisseront le contrôle de ce territoire aux ingénieurs. Beaucoup de ceux qui célèbrent les arts et les sciences humaines, qui applaudissent vigoureusement les hommages à leur importance dans nos écoles, proclament sans vergogne (et parfois même blaguent) qu’ils ne comprennent pas les mathématiques ou la physique. Ils vantent les vertus de l’apprentissage du latin, mais ils sont désemparés quand il s’agit d’écrire un algorithme ou de différencier le BASIC du C ++, le Python du Pascal. Ils considèrent que celles et ceux qui ne connaissent pas la différence entre Hamlet et Macbeth sont des Philistins, mais ils pourraient joyeusement admettre qu’ils ne connaissent pas la différence entre un gène et un chromosome, ou entre un transistor et un condensateur, ou entre une équation intégrale et une équation différentielle. Ces concepts peuvent paraître difficiles. Oui, mais alors, c’est aussi vrai pour Hamlet. Et comme Hamlet, chacun de ces concepts est beau. Comme une équation mathématique élégante, ils sont les expressions des gloires de l’univers. [Pages 478-79]

La dernière page du livre d’Isaacson présente l’Homme de Vitruve de Léonard de Vinci, 1492