« Au moins, dans un système totalitaire, on sait à quoi on a affaire »

Le 28 mars 2015

La loi sur le renseignement prévoit des algorithmes pour détecter les comportement suspects. Une « idéologie du big data » qui risque de nous pousser à nous autocensurer, prévient la chercheuse Antoinette Rouvroy.

Antoinette Rouvroy est l’une des premières intellectuelles à s’être penchée sur la question du pouvoir et des données.

Elaborant le concept de « gouvernementalité algorithmique », cette chercheuse en droit de l’université de Namur s’interroge sur les changements amorcés par l’adhésion de la société à un monde de chiffres bruts.

Soit l’illusion d’une réalité plus certaine, plus objective, qui préside à l’instauration d’un régime où la logique sécuritaire ne passe non pas par le contrôle des corps et la discipline, mais par la sensation de liberté.

Nous avons voulu avoir son avis suite à l’annonce, en France, d’un grand projet de loi sur le renseignement, qui s’appuie en partie sur « des boîtes noires » où tourneront des algorithmes.

Rue89 : Le gouvernement français a présenté le 19 mars un projet de loi sur le renseignement. L’un des volets de ce projet de loi est d’installer sur le réseau français des équipements de traitement de données, dans lesquels des algorithmes vont tourner pour détecter des comportements, le but étant d’identifier des terroristes potentiels. Ça vous inspire quoi ?

Antoinette Rouvroy : Ça m’inspire beaucoup de choses. Pas toutes très positives.

Tout d’abord, c’est l’idée que grâce au calcul, grâce à l’analyse des données en quantité massive, grâce au big data, on va pouvoir vivre dans un monde non-dangereux, dans le sens où ce monde aurait été expurgé de trois sources principales de l’incertitude radicale.

D’une part, la subjectivité, que l’on éradique avec l’automaticité. On substitue une sorte d’objectivité machinique à la subjectivité humaine du surveillant, du contrôleur, du policier, de l’agent de sécurité, qui est toujours trop biaisée, trop partiale, et qui est liée au fait que l’observateur humain, lui, a un corps, placé dans une certaine perspective, qui est sous le joug de la représentation humaine. L’idée est que grâce au big data, on pourra se passer de cette représentation et accéder au réel directement. C’est le réel qui va parler de lui-même : les terroristes vont se trahir par leurs propres données, sans qu’on ait vraiment à traduire leurs motivations, les causes de leurs actions...

Ensuite, la sélectivité. L’une des causes de notre impression d’incertitude est que l’on a toujours une perception sélective des événements : on ne peut avoir qu’une vision partielle des choses. Or, cette sorte d’idéologie du big data promet une prétendue absolue non-sélectivité qui permettrait d’épuiser tous les possibles.

C’est la définition même de la préemption. Qui n’a rien à voir ni avec la prédiction, ni avec la prévention. « Pré-dire », c’est dire par avance ce qu’il va se passer. La préemption, c’est agir par avance sur tous les possibles, sans se soucier des causes. Pas de prévention. On éradique directement. Ce sont par exemple les frappes des drones en Afghanistan.

Lire la suite :
http://rue89.nouvelobs.com/2015/03/28/moins-systeme-totalitaire-sait-a-quoi-a-affaire-258343