Hyperpersonnalisation vs fabrique du commun
Docteure en sciences juridiques de l’Institut universitaire européen, chercheuse FNRS au centre de Recherche en Information, droit et Société de l’université de Namur, Antoinette Rouvroy était présente à la conférence USI 2024. Next en a profité pour lui demander comment l’expansion des systèmes d’intelligence artificielle modifiait l’espace public et politique.
> Le mois dernier, la présidente de Signal nous expliquait qu’en s’appuyant sur une collecte toujours croissante de données, l’expansion de l’intelligence artificielle n’était qu’une extension de la surveillance de masse. Auprès de Philosophie Magazine, il y a quelques mois, vous-même expliquiez que malgré ces collectes, la société numérique n’était pas une société de surveillance. Comment expliquez-vous ce paradoxe ?
Quand on parle de surveillance, le mot lui-même évoque la veillance, la vision. Or le traitement des données massives contourne cela. L’enjeu ne passe plus par le regard, déjà.
Les théoriciens de la surveillance l’ont aussi pensée comme une manière de faire en sorte que les individus se conforment d’avance à une norme. On voit ça chez Michel Foucault, qui reprend le panoptique de Bentham : l’idée est que, se sachant surveillés, les individus adoptent une sorte de conformisme en anticipant ce qui est attendu d’eux, et ce faisant, s’y assujettissent. Chez Foucault et Bentham, la réalité de la surveillance importe peu, puisque c’est l’architecture qui fait penser aux gens qu’ils sont surveillés : elle suffit à produire une forme d’autodiscipline, d’autocorrection, voire d’autocensure.
Mon hypothèse est que la gouvernementalité algorithmique, telle qu’on la voit se développer actuellement, n’a plus du tout la même fonction. L’enjeu n’est plus de produire des normes, ni de se reposer sur elles ou de les faire incarner par des comportements individuels, mais de capitaliser sur ce qui paraît le moins gouvernable des comportements.
Un exemple en marketing politique ou commercial est l’usage des algorithmes qui collectent les comportements sur les réseaux sociaux : ces derniers ne servent pas à interpréter l’individu, mais des fragments infra-personnels de leurs actes, des éléments qui relèvent presque de l’ordre des phéromones numériques. Ce qui compte, ce n’est plus le contenu lui-même, mais le nombre de contacts que vous avez avec des gens, qui eux-mêmes suivent telles figures d’extrême-droite, d’extrême-gauche ou d’extrême-centre, ou qui manifestent un certain mécontentement…
> En quoi cela fait-il évoluer notre rapport aux normes ?