Doubles numériques :
l’illusion des miroirs déformants

S’il est légitime de s’inquiéter de la confiance aveugle dans ces logiciels dont ont fait preuve les autorités néerlandaises, il l’est d’autant plus de s’interroger sur la popularisation du recours à ces nouvelles technologies. Colonisant les lieux de prise de décision en y métamorphosant les modes, les algorithmes statistiques, intelligents ou non, s’imposent de plus en plus dans de nombreux domaines comme des outils incontournables. Ils conditionnent l’octroi de nouveaux prêts ou évaluent le niveau de risque du portefeuille de crédits en production dans le secteur bancaire. Dans le champ de la santé, ils peuvent être utilisés afin de prédire la survenance d’une maladie et d’anticiper son évolution ou bien pour recommander des traitements personnalisés.

Deux chercheurs belges, Thomas Berns, professeur de philosophie politique à l’ULB, et Antoinette Rouvroy, professeure de questions d’éthique appliquées au droit à l’UNamur, ont étudié le phénomène. Ils se sont penchés sur la notion de gouvernementalité statistique¹ développée par le philosophe français Michel Foucault. Davantage une posture de recherche qu’une réalité palpable, cette approche privilégie la réflexion sur les pratiques du pouvoir, s’écartant des considérations relatives à sa nature ou à sa légitimité. Antoinette Rouvry, reprenant Foucault lors d’un débat pour la chaîne YouTube de PointCulture, estime que « gouverne tout ce qui est capable ou a l’intention de façonner par avance le champ d’action d’autrui »². Elle poursuit en expliquant qu’un siège sur lequel s’assoit un individu le gouverne dans la mesure où il lui permet d’adopter un nombre limité de positions. Elle illustre ainsi parfaitement l’évitement du prisme institutionnel qu’autorise le terme de « gouvernementalité ». Il recouvre donc un spectre plus large que le concept de gouvernement qui mobilise, à cause de nos traditions politiques, un imaginaire difficilement dissociable de l’influence d’une volonté humaine. Dans leur exposé, les deux chercheurs décomposent schématiquement le processus de fonctionnement des algorithmes décisionnels en trois étapes, qui se confondent.

La deuxième étape correspond au data mining. Il est défini par le United States General Accounting Office comme « l’application de la technologie et des techniques de base de données, telles que l’analyse statistique et la modélisation, pour découvrir des modèles cachés et des relations subtiles dans les données et pour déduire des règles qui permettent de prédire les résultats futurs ». Il ressort de cette définition un objectif majeur : « Le traitement automatisé de ces quantités massives de données de manière à faire émerger des corrélations subtiles entre celles-ci. » La volonté de supprimer toutes traces d’influence subjective humaine du processus décisionnel est également visible à ce stade. Contrairement aux statistiques traditionnelles, la démarche ne consiste plus à éprouver une hypothèse par sa confrontation aux études. Les hypothèses émanent à l’inverse d’un mécanisme inductif entièrement automatisé.

La gouvernementalité statistique s’appuie donc sur une observation purement quantitative : elle est indifférente aux causes. Elle provoque un changement de paradigme dans la prise de décision : la substitution d’une ère dominée par la causalité en faveur du règne de la corrélation. Le danger ne réside pas dans le recours à la corrélation mais dans sa suffisance, estime Thomas Berns. Une suffisance qui se traduit par une méfiance envers tout ce qui dépasserait de la corrélation. Le chercheur considère qu’elle devrait fonctionner sous la forme d’« invitation à la théorie ». Et non en acter la fin comme l’a sous-entendu Chris Anderson, entrepreneur et journaliste américain, dans un article de Wired en 2008³.

La dernière étape se rapporte au profilage algorithmique dans le but d’agir sur les comportements. Il est préalablement primordial de distinguer l’information au niveau individuel, le plus souvent observable et perceptible, d’une information produite par le profilage, la plupart du temps inaccessible et imperceptible par les individus mais qui s’applique à eux. L’intérêt de ce second niveau d’information est de dégager un savoir ou des prédictions sur les préférences et intentions inapparentes des sujets. Il s’agirait, par exemple, d’une application de streaming qui vous présenterait des publicités ciblées basées sur une analyse de votre activité en ligne. Le profilage a donc pour effet l’anticipation des comportements individuels fondée sur les corrélations d’informations récoltées pour établir des profils représentatifs d’une parcelle de l’identité des individus.

Cette anticipation a de multiples finalités : la fabrication ou l’imposition d’une réalité ou de désirs, l’optimisation de la situation actuelle, ainsi que l’évitement d’événements jugés indésirables. Pour y parvenir, notre environnement pourrait à l’avenir être aménagé par l’usage de plus en plus massif de capteurs d’informations et d’outils incitatifs ou coercitifs. Procéder ainsi éviterait toutes formes de contraintes perceptibles afin d’agir sur les comportements plus efficacement.

Thomas Berns s’inquiète de l’entame d’une ère rythmée par des répétitions mécaniques. Il souligne la tendance dans la gouvernementalité statistique d’établir des normes immuables, appliquées mécaniquement. Il plaide à l’inverse pour une répétition, propre aux instruments technologiques, contenant de l’altération, du renouveau. C’est en ce sens que leurs travaux développent l’intérêt de créer trois « métadroits ». Parmi eux se trouve le droit à la désobéissance qui permettrait des marges d’expérimentation des normes. En effet, la possibilité d’outrepasser des prescriptions législatives ou réglementaires conserverait leur mise en débat devant les instances compétentes.

En outre, les résultats sont aussi mitigés. Une étude évaluant l’efficacité du programme COMPAS en a dévoilé les faibles résultats : 20 % pour les crimes violents et près de 60 % pour les délits mineurs. Autant jeter une pièce en l’air. Pourtant, l’illusion ne s’ébranle pas. Au contraire, le recours à ces pratiques ne cesse de se propager et nul ne semble être en mesure d’arrêter leur ascension. L’illusion s’explique, selon Thomas Berns, d’une part par leur efficacité politique : l’usage de ces outils constitue une nouvelle manière d’orienter les gouvernements, d’autant plus que dans plusieurs secteurs, les résultats paraissent plus encourageants. Là où pèche cette technologie, c’est dans sa capacité à refléter fidèlement la réalité. Et d’autre part, par la difficulté de lutter contre le concept de bon sens auquel est assimilé le recours aux algorithmes. L’idée selon laquelle les données récoltées devraient forcément refléter la réalité est tenace.

Ainsi nous entrons dans une ère de la « surgouvernance » : toujours plus de segments de nos vies sont soumis à de la régulation. En réponse à cette hypertrophie normative, on assiste à une surenchère des garanties de protection de la vie privée. Cela étant couplé au processus d’individualisation de l’expérience, on observe le développement d’une segmentation du débat public. On peut citer à ce sujet le phénomène des bulles de filtres sur les réseaux sociaux qui, via les algorithmes, opèrent un filtrage d’informations isolant intellectuellement les utilisateurs, confrontés qu’à des contenus renforçant leurs convictions. Une diminution du commun qui rend difficile la remise en question de ce modèle émergeant. Pourtant, la problématique de la création de sujets à la hauteur de cette nouvelle gouvernementalité n’a jamais été autant d’actualité. Les standards auxquels nous nous référons n’étant plus adaptés aux mutations des rationalités de gouvernance.