L’IA, nouvelle déesse
de la Silicon Valley

Revenons à Sam Altman, le P-DG d’OpenAI, donc de ChatGPT. Il affirme croire fermement en l’imminence d’une super intelligence omnipotente. Qu’est-ce que cela signifie ?

C’est l’un des concepts centraux, mais aussi des plus nébuleux, à savoir le concept d’AGI (Artificial General Intelligence), une intelligence artificielle dite générale qu’OpenAI se fixe comme but à atteindre, c’est-à-dire une machine capable d’imiter l’ensemble des capacités humaines. Sam Altman utilise cela comme un argument marketing, car la mission principale est évidemment de récolter des fonds, ce qui fonctionne très bien puisqu’il a reçu près d’une quinzaine de milliards de dollars de financement. Microsoft a notamment conclu un énorme contrat avec OpenAI, s’assurant un partenariat et un monopole sur la technique à développer. Pour l’instant, ce sont des fonds sous forme de crédits et de stockage. Microsoft permet d’utiliser ses serveurs et ses centres de données pour l’équivalent de dix milliards de dollars. Il y a encore quelques semaines, Sam Altman a annoncé qu’on était à 1 000 jours de cette intelligence artificielle générale, qui sera un prélude à ce qu’il appelle « la super intelligence artificielle », encore beaucoup plus hypothétique. C’est quelque chose qui est complètement inenvisageable, c’est carrément une forme de vie largement supérieure, soit ni plus ni moins que Dieu.

Outre la dimension financière, quel est le but poursuivi ?

Ce qui est fondamental à comprendre quand on lit un peu la production de cette socio-science, c’est qu’elle émerge d’une poignée d’idéologues transhumanistes. Toute la recherche produite derrière est en fait une manière de faire du lobbying transhumaniste déguisé, en vue de dépasser l’enveloppe corporelle humaine grâce à la science et à la technologie. Quand Nick Bostrom (directeur de l’Oxford’s Future of Humanity Institute jusqu’en 2024, NDLR) théorise sa vision, il s’agit d’atteindre la prochaine forme de l’être humain, de dépasser l’Homo sapiens notamment grâce à la numérisation du cerveau et à l’IA, une sorte d’union avec la machine. Mais en réalité, tout ce qu’il développe derrière cela, c’est une manière de s’approcher du divin en quittant le corps, perçu comme pourrissant. Tous ces entrepreneurs ont en commun la quête effrénée de l’immortalité.

C’est dans ce cadre-là que vous utilisez le mot « fasciste » ?

Oui, je ne suis pas un expert du sujet, et je me réfère comme beaucoup de gens aux quatorze signes du fascisme d’Umberto Eco. Ce qui est intéressant, c’est cette transcendance autologique, la volonté de réinventer l’être humain. C’est la promesse principale du transhumanisme de la Silicon Valley : dépasser, réinventer et reconfigurer l’être humain grâce à la rationalité psychoscientifique. Ce signe est considéré comme un élément fondamental du fascisme. Partout où j’entends des idéologues dire que l’être humain va se réinventer, va devenir comme ceci, comme cela, l’eugénisme n’est en fait jamais très loin. Nick Bostrom a d’ailleurs écrit dans un e-mail en 1998 qu’il pensait que les Noirs étaient moins intelligents que les Blancs. On trouve aussi des gens comme Marc Andreessen qui vont citer Filippo Marinetti et le futurisme italien, dont on connaît l’alliance avec le fascisme. Partout, on observe qu’il y a des liens avec des idéologues fascistes, néofascistes, avec des penseurs de l’eugénisme, avec cette vision d’une élite cognitive qui se définirait par son QI et qui de ce fait aurait la légitimité intrinsèque de domination sur la population.

Vous dites aussi que ces entrepreneurs de la Silicon Valley sont façonnés par un catéchisme techno-religieux, et qu’ils empruntent à l’eschatologie religieuse et au récit chrétien de la fin des temps.

Oui, complètement. En fait, la religion et la technique ont très souvent marché de pair. L’outil techno-scientifique a rapidement été perçu par les autorités religieuses comme un moyen de transcendance, de récupérer la pureté divine qui nous a été retirée. Aujourd’hui, avec le transhumanisme, nous sommes vraiment dans une relecture eschatologique qui est évidemment chrétienne, américaine, évangéliste, et même dans une forme de messianisme. Ce que disent les transhumanistes, c’est qu’une fois que l’on aura atteint ce qu’ils appellent la singularité technologique, le moment où toutes les techniques convergeront pour former une espèce de grand tout, on entrera dans une ère de 1 000 ans de prospérité. Celle-ci passera par la colonisation du cosmos et par la multiplication de l’humanité à 1 856 êtres humains, selon Nick Bostrom. Il s’agit de leur estimation, ces transhumanistes adorent jouer avec les chiffres. C’est aussi la subrogation de l’entièreté du cosmos en matière première à exploiter pour toujours plus de productivité.

Comme le suggère le sous-titre de votre livre : pourquoi la Silicon Valley nous vend-elle cette apocalypse ?

C’est un discours qui a plusieurs fonctions. La Silicon Valley a toujours été une usine à futur, avec la création du premier ordinateur, de produits Apple comme l’iPhone. C’est un mode de vie, mais c’est aussi un projet politique qui a souvent été de pair avec une forme d’individualisme tout puissant. Ce qui est nouveau avec l’IA, c’est que pour la première fois, on nous vend une double apocalypse. D’un côté, certaines personnes nous disent que l’IA va nous transcender, et de l’autre, provenant parfois des mêmes personnes, on nous dit que si l’IA est mal utilisée, mal déployée, elle deviendra un risque existentiel pour l’humanité. La fonction principale de ce double discours (qui finalement est la même apocalypse) est d’entretenir chez le public, les investisseurs et les législateurs une notion de déterminisme technologique. C’est une manière de dire : quoi que vous décidiez, de laisser faire ou de réguler, ou de nous mettre des bâtons dans les roues, l’IA va advenir. Dans cette mythologie-là, l’IA représente l’image de l’entreprise elle-même.

Cela signifie : nous allons continuer à prendre ce pouvoir, à faire grossir le monopole et à gangréner la puissance publique. Ça, c’est la première fonction. La deuxième est de surestimer les capacités des systèmes en affirmant qu’ils sont tellement puissants qu’ils sortent du champ politique et relèvent des sphères du religieux et du magique. Leurs créateurs sont les seuls dépositaires de ce savoir-là. Et donc, par extension, que nous sommes les seuls dépositaires de ce savoir technoreligieux. Et la troisième, c’est de faire diversion. Le discours technoprophétique permet à ces entreprises d’attirer notre attention vers le futur, vers une machine qui, littéralement, n’existe pas pendant que les systèmes de machine learning et les systèmes algorithmiques sont, eux, bel et bien en train d’être implantés très profondément dans la société civile avec des conséquences dramatiques, notamment pour les corps dits subalternes et les personnes marginalisées. On regarde donc ailleurs, tout simplement.

Y a-t-il un réel risque de biais ?

En effet, cela aboutit à des biais, et surtout à des drames. Il y a déjà des exemples aux Pays-Bas avec l’algorithmie implantée dans le système d’allocations sociales qui a faussement identifié des familles comme étant très lourdement endettées sur vingt ans. C’est une erreur qui a mené à des suicides. Des familles ont été injustement sommées de rembourser des montants faramineux à l’État alors qu’elles n’avaient jamais contracté ces sommes-là. En fait, on emprunte le même chemin en France. On voit que l’algorithme est en train de suivre son cours et de s’installer partout, que ce soit au niveau du calcul des impôts, des allocations de chômage ou des allocations familiales. Ce qui est complètement dingue, c’est que l’offensive politique de ces monopoles de la Silicon Valley n’aurait jamais eu lieu sans l’avènement du néolibéralisme. C’est-à-dire que les gouvernements néolibéraux ouvrent grand la porte à cette gangrène et que même les tenants d’un État plus fort sont contre cette offensive-là.

La Silicon Valley est-elle en train de devenir une théocratie ? Et si tel est le cas, est-ce que c’est une théocratie comme on l’entend d’une façon générale ou est-ce plutôt une image que vous empruntez à la sphère religieuse ?

C’est une très bonne question. Je ne sais pas exactement quel courant va dominer. Par exemple, Elon Musk est évangéliste, et dans la Silicon Valley, ils sont tous imprégnés de cette culture-là. Il y a une assimilation à l’eschatologie chrétienne. Mais dans les prises de position, de parole, il n’est quasiment jamais question de vocabulaire évangéliste ni catholique. Donald Trump et Elon Musk l’ont fait un petit peu plus ces dernières semaines, car Trump devait aller chercher cet électorat et rappeler qu’il y a des racines. Mais pour moi, l’idéologie dominante de la Silicon Valley, c’est ce qui a été théorisé par Richard Barbrook et Andy Cameron dans The California Ideology, à savoir la conviction que les dominants de ce secteur constituent une élite aux caractéristiques cognitives plus importantes, notamment par leur QI (ils sont tous obsédés par ça). Cette conviction d’une supériorité intrinsèque serait motivée à la fois par leur argent, leur richesse monétaire, leur formation et leur savoir-faire. Quand vous faites se rencontrer ces deux pôles de pouvoir que sont dans nos sociétés modernes l’argent et l’ingénierie, vous obtenez des gens qui se prennent littéralement pour des surhommes.

Finalement, qui a intérêt à cultiver cette « IA panique » ?

Il y a d’un côté ceux qui cultivent la panique du côté universitaire, des chercheurs qui ont besoin de cela pour obtenir des financements (panic as a funding). Et de l’autre côté des personnes comme Sam Altman ou Elon Musk qui, eux, vont entretenir la panique pour maintenir la sidération (panic as a business). On revient à la stratégie du choc de Naomi Klein, avec l’idée que le capitalisme va aller gratter des privilèges, va assurer sa domination dans des situations de sidération collective du corps social. La Silicon Valley a très bien appliqué ce modèle et ce mode opératoire en créant une fascination induite par ChatGPT, en l’entretenant pendant une partie des années 2023-2024 pour cimenter son pouvoir. Ces entreprises possèdent un avantage à la fois politique et technique, et elles font tout pour le conserver.

Elles se sont rendu compte assez récemment qu’un des meilleurs moyens de le garder, c’est de faire de la capture réglementaire, de devenir leur propre régulateur. Donc elles font du lobbying pour éviter la régulation. Dans le cas où la pression publique serait trop forte, il y a une deuxième stratégie déjà mise en place qui consiste à devenir le régulateur. C’est ainsi qu’aux États-Unis, elles ont inventé un conseil pour l’éthique en intelligence artificielle qui est intégralement composé de membres de l’industrie. Donc voilà, la panique a différents buts : le financement, le déterminisme, mais aussi un objectif de capture régulateur de sidération du corps social et même, c’est plus embêtant, du corps médiatique. Ce n’est pas normal d’avoir un magazine comme Time qui publie en 2023 en une : « La fin de l’humanité ». Ce n’est pas normal de vendre l’apocalypse.