Je me rappelle avoir hésité à acheter Homo Deus. Je n’ai jamais vraiment apprécié les gens essayant d’analyser ce que l’avenir pourrait être. J’ai eu des préoccupations similaires avec le ivre de Harari. Je ne suis pas le seul puisque le New Yorker n’est pas non plus vraiment positif: « alors il annonce sa thèse : «une fois que la technologie nous permettra de réorganiser les esprits humains, l’Homo sapiens disparaîtra, l’histoire humaine prendra fin et un processus complètement nouveau commencera, ce que les gens comme vous et moi ne peuvent pas comprendre. » Maintenant, n’importe quel grand livre sur de grandes idées se révélera inévitablement avoir beaucoup de petits défauts dans l’argumentation et les détails en cours de route. Personne ne peut maîtriser toutes les notes compliquées de bas de page. En tant que lecteurs, nous survolons les détails de sujets pour lesquels nous sommes « inexperts », et nous ne soucions pas si les hominins se confondent avec les hominidés ou le Jurassique avec le Mésozoïque. Pourtant, quand Harari passe de l’histoire culturelle préhistorique à l’histoire culturelle moderne, même le lecteur le plus complaisant devient mal à l’aise face à des revendications historiques et empiriques si grossières, bizarres ou tendancieuses. […] L’arguemnt de Harari le plus discutable est que notre croyance homocentrique, consacrée à la liberté humaine et au bonheur, sera détruite par l’horizon post-humaniste qui approche. Le libre arbitre et l’individualisme sont, dit-il, des illusions. Nous devons nous reconcevoir comme de simples machines à viande qui exécutent des algorithmes, bientôt dépassées par des machines métalliques qui fonctionnent mieux. »

Si je ressens aussi cette gêne, je crois pourtant que Harari pose des questions importantes et qu’il se pourrait même avoir été mal compris dans ses réelles motivations… Je relie cette lecture à mes magnifiques lectures récentes de Piketty, Fleury et Stiegler.

Quelques extraits supplémentaires:

« Parce que la science ne traite pas des questions de valeur, elle ne peut déterminer si les libéraux ont raison en valorisant la liberté plus que l’égalité ou en valorisant l’individu plus que le collectif. » [Page 281]

Un passage assez étrange: L’expérience a changé la vie de Sally. Dans les jours qui suivirent, elle se rendit compte qu’elle avait vécu une expérience « presque spirituelle … ce qui définissait l’expérience n’était pas de se sentir plus intelligente ou d’apprendre plus vite: la chose qui faisait disparaître la terre sous mes pieds était que pour la première fois dans ma vie, tout dans ma tête s’était finalement fermé … Mon cerveau devenait une révélation, sans le moindre doute. Il y avait soudainement ce silence incroyable dans ma tête … J’espère que vous pouvez sympathiser avec moi quand je vous dis que la chose que je voulais le plus vivement pour les semaines qui ont suivi mon expérience était d’y retourner et de mettre ces électrodes sur la tête. J’ai aussi commencé à me poser beaucoup de questions. Qui était ce « Je », à part des gnomes amers en colère qui peuplent mon esprit et me conduisent à l’échec parce que j’ai trop peur d’essayer? Et d’où venaient les voix? » Certaines de ces voix réitèrent les préjugés de la société, certaines font écho à notre histoire personnelle et certaiens articulent notre héritage génétique. [Page 289] Encore une fois individu, société et évolution …

Nous voyons donc que le moi aussi est une histoire imaginaire, tout comme les nations, les dieux et l’argent. Chacun de nous a un système sophistiqué qui rejette la plupart de nos expériences, ne conserve que quelques échantillons choisis, les mélange avec des morceaux de films que nous avons vus, des romans que nous lisons, des discours que nous avons entendus, et certains de nos rêves, puis brouille tout cela en une histoire apparemment cohérente sur qui je suis, d’où je viens et où je vais. Cette histoire me dit ce qu’il faut aimer, qui haïr et quoi faire de moi-même. Cette histoire peut même causer le sacrifice de ma vie, si c’est ce que l’intrigue exige. Nous avons tous donné notre genre. Certaines personnes vivent une tragédie, d’autres habitent un drame religieux sans fin, certains abordent la vie comme si c’était un film d’action, et nombreux sont ceux qui agissent comme dans une comédie. Mais à la fin, ce ne sont que des histoires.
Quel est donc le sens de la vie? Le libéralisme soutient que nous ne devrions pas nous attendre à ce qu’une entité externe nous fournisse une signification prête. Au contraire, chaque électeur, client et spectateur doit utiliser son libre arbitre pour créer un sens non seulement pour sa vie, mais pour l’univers tout entier.
Les sciences de la vie affaiblissent le libéralisme, arguant que l’individu libre n’est qu’une histoire fictive concoctée par un assemblage d’algorithmes biochimiques. A chaque instant, les mécanismes biochimiques du cerveau créent un flash d’expérience qui disparaît immédiatement. Les flashes plus apparaissent et se fanent, en succession rapide. Ces expériences momentanées n’ajoutent aucune essence durable. Le moi narratif tente d’imposer l’ordre sur ce chaos en tournant une histoire sans fin, où chaque expérience a sa place, et par conséquent chaque expérience a un sens durable. Mais, aussi convaincante et tentante qu’elle soit, cette histoire est une fiction. [Pages 304-5]

Au début du troisième millénaire, le libéralisme n’est pas menacé par l’idée philosophique selon laquelle «il n’y a pas d’individus libres» mais plutôt par des technologies concrètes. Nous sommes sur le point de faire face à une inondation de dispositifs extrêmement utiles, des outils et des structures qui ne tiennent pas compte de la libre volonté des humains individuels. La démocratie, le libre marché et les droits humains peuvent-ils survivre à cette inondation? [Page 306]

Le grand découplage

Les développements pratiques pourraient rendre cette croyance [le libéralisme] obsolète:
1. Les humains perdront leur utilité économique et militaire, en conséquence le système économique et politique cessera de leur attacher beaucoup de valeur.
2. Le système trouvera toujours de la valeur chez les humains collectivement, mais pas chez des individus uniques.
3. Le système trouvera toujours de la valeur dans certains individus uniques, mais ce sera une nouvelle élite de superhumains améliorés plutôt que la masse de la population. [Page 307]

Les humains risquent de perdre leur valeur, parce que l’intelligence se découple de la conscience. [Page 311]

L’intelligence est obligatoire, mais la conscience est facultative. [Page 312]

La réponse scientifique actuelle à ce rêve peut être résumée en trois principes simples:
1. Les organismes sont des algorithmes. Chaque animal – y compris Homo Sapiens – est un assemblage d’algorithmes organiques façonnés par la sélection naturelle sur des millions d’années d’évolution.
2. Les calculs algorithmiques ne sont pas affectés par les matériaux à partir desquels vous construisez le calculateur. Que vous construisiez un abaque à partir de bois, de fer ou de plastique, deux billes plus deux billes font quatre billes.
3. Il n’y a donc pas de raison de penser que les algorithmes organiques peuvent faire des choses que les algorithmes non-organiques ne pourront jamais reproduire ou surpasser. [Page 319]

Comme les algorithmes poussent les humains hors du marché du travail, la richesse pourrait se concentrer dans les mains de la petite élite qui possède les algorithmes tout-puissants créant une inégalité sociale sans précédent. [Page 323]

Y a t-il trop de récits dans le nouveau livre de Harari. Le caissier est-il remplacé par un robot ou par le client? Qu’en est-il de l’outil sur la grippe de Google, qui est mentionné page 335. A-t-il si bien fonctionné?

L’Océan de la Conscience

Il est peu probable que les nouvelles religions sortent des cavernes d’Afghanistan ou des madrasas du Moyen-Orient. Elles sortiront plutôt des laboratoires de recherche. Tout comme le socialisme a conquis le monde en promettant le salut par la vapeur et l’électricité, dans les prochaines décennies, les nouvelles techno-religions peuvent conquérir le monde en promettant le salut à travers des algorithmes et des gènes. En dépit de tous les discours sur l’islam radical et le fondamentalisme chrétien, l’endroit le plus intéressant dans le monde du point de vue religieux n’est pas l’État islamique ou la Bible Belt, mais la Silicon Valley. [Page 351]

La révolution humaniste a conduit la culture occidentale moderne à perdre la foi et l’intérêt pour les états mentaux supérieurs, et à sanctifier les expériences banales du Joe moyen. La culture occidentale moderne est donc unique en manquant une classe spéciale de personnes qui cherchent à éprouver des états mentaux extraordinaires. Elle croit que quiconque essaie de le faire est un toxicomane, un patient mental ou un charlatan. Par conséquent, bien que nous ayons une carte détaillée du paysage mental des étudiants en psychologie de Harvard, nous en savons beaucoup moins sur le paysage mental des chamans amérindiens, des moines bouddhistes ou des mystiques soufis. Et ce n’est que l’esprit des Sapiens. Il y a cinquante mille ans, nous avons partagé cette planète avec nos cousins ​​néandertaliens. Ils n’ont pas lancé de vaisseaux spatiaux, construit de pyramides ou établi d’empires. Ils avaient évidemment des aptitudes mentales très différentes et n’avaient pas certains de nos talents. Néanmoins, ils avaient des cerveaux plus grands que nous, Sapiens. Que faisaient-ils exactement avec tous ces neurones? Nous n’en avons absolument aucune idée. Mais il se pourrait bien qu’ils aient eu beaucoup d’états mentaux qu’aucun Sapiens n’avait connu. [Page 356]

Le techno-humanisme fait face à un dilemme impossible ici. Il considère la volonté humaine comme la chose la plus importante dans l’univers, c’est pourquoi elle pousse l’humanité à développer des technologies capables de contrôler et de refaire sa volonté. Après tout, il est tentant de prendre le contrôle de la chose la plus importante au monde. Pourtant, une fois que nous aurons un tel contrôle, le techno-humanisme ne saurait qu’en faire, parce que la volonté humaine sacrée deviendrait juste un autre produit de son concepteur. Nous ne pourrons jamais gérer ces technologies tant que nous croyons que la volonté humaine et l’expérience humaine sont la source suprême d’autorité et de sens. [Page 366]

La religion des données

[le « Dataisme »] est très attrayant. Il donne à tous les scientifiques un langage commun, construit des ponts au dessus des grouffres académiques et exporte facilement des idées à travers les frontières disciplinaires. Les musicologues, politologues et biologistes cellulaires peuvent enfin se comprendre. […] Les dataistes sont sceptiques quant à la connaissance et la sagesse humaines et préfèrent se fier aux Big Data et aux algorithmes informatiques. [Page 368]

Le capitalisme a gagné la guerre froide car le traitement de données distribué fonctionne mieux que le traitement centralisé des données, du moins en période d’accélération des changements technologiques. [Page 372] La révolution industrielle s’est déroulée assez lentement pour que les politiciens et les électeurs restent en avance. […] Les révolutions technologiques dépassent maintenant les processus politiques, provoquant ainsi la perte de contrôle des députés et des électeurs. [Voir Stiegler à nouveau] […] Internet est une zone libre et illégale qui érode la souveraineté de l’État, ignore les frontières, abolit la vie privée et pose peut-être le plus redoutable des risques pour la sécurité mondiale. [Voir Beaude] […] La NSA peut espionner chaque mot, mais à en juger par les échecs répétés de la politique étrangère américaine, personne à Washington ne sait quoi faire avec toutes les données. [Page 374]

Le Dataisme est aussi missionnaire. Son deuxième commandement est de relier tout au système, y compris les hérétiques qui ne veulent pas être connectés. Et «tout» signifie plus que les humains. Cela signifie tout. Mon corps, bien sûr, mais aussi les voitures dans la rue, les réfrigérateurs dans la cuisine, les poulets dans leur cage et les arbres dans la jungle – tous devraient être connectés à l’Internet-de-Toutes-Les choses. […] Inversement, le plus grand péché est de bloquer le flux de données. Qu’est-ce que la mort, sinon une situation où l’information ne s’écoule plus? […] Le Dataisme est le premier mouvement depuis 1789 qui a créé une valeur vraiment nouvelle: la liberté d’information [Page 382] que Harari décrit correctement comme différente de la liberté et de la liberté d’expression.

L’humanisme a pensé que les expériences se produisent en nous. Les Dataistes croient que les expériences sont sans valeur si elles ne sont pas partagées. Il y a 20 ans, les touristes japonais étaient une source de moquerie universelle car ils portaient toujours des caméras et prenaient des photos de tout ce qui se présentait à eux. Maintenant tout le monde le fait. […] Écrire un journal intime semble complétement inutile. Le nouveau mot d’ordre dit: ‘Si vous éprouvez quelque chose – enregistrez-le. Si vous enregistrez quelque chose – téléchargez-le. Si vous téléchargez quelque chose – partagez-le.‘ [Page 386] Devrais-je avoir ce blog?

Le Dataisme n’est ni libéral ni humaniste. Il n’est pas non plus anti-humaniste. [Page 387] En assimilant l’expérience humaine aux données, le Dataisme mine notre principale source d’autorité et de signification et annonce une révolution religieuse extraordinaire. […] «Oui, Dieu est un produit de l’imagination humaine, mais l’imagination humaine à son tour est le produit d’algorithmes biochimiques.» Au dix-huitième siècle, l’humanisme a marginalisé Dieu en passant d’une vision du monde déo-centrique à une vision du monde homo-centrique. Au XXIe siècle, le Dataisme peut marginaliser les humains en passant d’une perspective homocentrique à une perspective centrée sur les données. La révolution informatique prendra probablement quelques décennies, sinon un siècle ou deux. Mais la révolution humaniste non plus ne s’est pas produite du jour au lendemain. [Page 389]

Un examen critique du dogme dataiste est sans doute non seulement le plus grand défi scientifique du XXIe siècle, mais aussi le projet politique et économique le plus urgent. Les chercheurs en sciences de la vie et en sciences sociales devraient se demander si nous manquons quelque chose quand nous comprenons la vie comme traitement des données et prise de décision. Y a t-il peut-être quelque chose dans l’univers qui ne peut pas être réduit à des données? Supposons que les algorithmes non conscients pourraient éventuellement surpasser l’intelligence consciente dans toutes les tâches de traitement de données connues – qu’est ce qui serait perdu en remplaçant l’intelligence consciente par des algorithmes non conscients supérieurs? Bien sûr, même si le Dataisme est faux et que les organismes ne sont pas seulement des algorithmes, cela n’empêchera pas nécessairement le Dataisme de prendre le contrôle du monde. Beaucoup de religions antérieures ont gagné une énorme popularité et le pouvoir malgré leurs erreurs factuelles. Si le christianisme et le communisme ont pu le faire, pourquoi pas le Dataisme? [Page 394]

Les humains abandonnent l’autorité au marché libre, à la sagesse de la foule et aux algorithmes externes en partie parce qu’ils ne peuvent pas faire face au déluge de données. [Page 396]

En conclusion, Harari termine son livre avec les 3 questions suivantes:
1. Les organismes sont-ils vraiment des algorithmes, et la vie est-elle simplement un traitement de données?
2. Qu’est-ce qui est plus précieux – l’intelligence ou la conscience?
3. Que va-t-il arriver à la société, à la politique et à la vie quotidienne lorsque des algorithmes non conscients mais hautement intelligents nous connaitrontt mieux que nous-mêmes?

Si la lecture n’est pas pour vous, vous pouvez toujours écouter Harari dans un entretien récent Ted: Le nationalisme contre la mondialisation: la nouvelle division politique.