Big brother, prénom Data : bienvenue dans le monde des entreprises et des Etats qui vous connaîtront mieux que vous-mêmes Intro du sujet : Le patron d’Apple, Tim Cook, n’est pas passé par quatre chemins lors d’un sommet que Barack Obama avait organisé pour tenter de convaincre les géants du web de partager plus d’informations avec les pouvoirs publics : « Nous vivons dans un monde où nous ne sommes pas encore tous traités de la même manière. Trop nombreuses sont les personnes qui ne se sentent pas libres de pratiquer leur religion, d’exprimer leurs opinions ou d’aimer la personne qu’elles ont choisie. Un monde dans lequel ce type d’information peut faire la différence entre la vie et la mort. Si nous, les personnes investies de responsabilités, ne faisons pas tout ce qui est en notre pouvoir pour protéger le droit à la vie privée, alors nous mettons en péril quelque chose de bien plus précieux que l’argent. C’est notre mode de vie qui se trouve menacé ». 1 – Même si les grandes sociétés de la Silicon Valley parvenaient à tenir tête au gouvernement américain dans son ambition de mettre la main sur tous les flux d’informations, elles n’en garderaient pas moins le contrôle sur quantité de données concernant leurs utilisateurs : avec toutes ces données traitées, les traces de nos actions laissées sur internet, nos actes d’achats enregistrés, nous dirigeons-nous vers une société de l’anticipation ? un monde où nous nous croyons libres, mais où les acteurs économiques savent par avance ce que nous allons faire ? Dominique Desjeux : D’un point de vue anthropologique, c’est-à-dire un angle d’approche qui montre les grandes constantes des sociétés humaines, le contrôle social est au cœur du fonctionnement de toute société. Pour faire vite on peut dire qu’il n’existe pas de société sans dispositif institutionnel qui cherche à contraindre les individus à aller dans le sens des groupes dominants. Je pense tout particulièrement aux sociétés agraires, et notamment aux sociétés villageoises africaines sur lesquels j’ai travaillé entre 1971 et 1979, et dans lesquelles le contrôle social des « ainés sociaux », les hommes les plus âgés qui sont devenus des chefs de famille, sur les « cadets sociaux », les jeunes et les femmes, s’exerce grâce à un mécanisme magico-religieux très puissant qu’on appelle la « sorcellerie ». Celle-ci pèse comme une menace permanente sur les membres du groupe qui ne se conformeraient pas aux normes de la société villageoise. Ceux qui désobéissent, ceux qui transgressent, risquent des maladies graves ou de mourir. La force du magico-religieux est qu’il s’appuie sur une croyance partagée par les membres du groupe et que cette croyance symbolique en la puissance d’une force qui peut nous faire mourir est l’instrument le plus puissant, le plus grand « Big Brother », que les sociétés ont inventé depuis plusieurs milliers d’années. En un sens, la société « normale », au sens de la société qui existe le plus fréquemment, est celle où fonctionnent des dispositifs symboliques, comme la sorcellerie, la religion ou tout autre idéologie « totalitaire ». Dans l’histoire récente, nous avons connu une exception par rapport à cette contrainte totale, grâce à la période des 30 glorieuses (1945-1975) qui en permettant le développement des villes, des revenus et des classes moyennes a libéré une partie de la population du monde « occidental », du contrôle visuelle de la société villageoise et des contraintes de la religion. Un auteur comme Ronald Inglehart montre dans son livre Sacré versus sécularisation. Religion et politique dans le monde, publié en français en 2014, que dans les pays développés on assiste à une montée de la sécularisation et des valeurs libérales par rapport au divorce, à l’avortement, à l’homosexualité ou à la famille, et qu’en même temps pour des raisons démographiques, les pays moins développés étant beaucoup plus nombreux, on assiste à une croissance très forte des sociétés traditionnelles et des mouvements fondamentalistes, notamment dans les pays musulmans qui sont souvent encore des sociétés agraires ou pastorales. Ce long détour par l’anthropologie permet, de façon raccourcie, de faire l’hypothèse qu’aujourd’hui avec les nouvelles technologies de l’information et de la communication, on est en train de revenir à la « normale » dans les pays sécularisés et développés. Des sociétés privées, comme Google ou Facebook, ou des services de renseignement publics, américains, chinois, anglais, russe et bien d’autres, dont la France, sont capables aujourd’hui à travers le contrôle potentiel de toutes les données numériques qui circulent par les ordinateurs ou les Smartphones, de mettre en place des systèmes de traitement grâce au « dieu algorithme », comme dirait Kim, un spécialiste des « big data » en Coré du Sud, et donc de contrôle, aussi efficaces que la « sorcellerie », les religions du livre et le « Big Brother » décrit par Georges Orwell dans « 1984 », publié rappelons-le en 1949, il y a presque 70 ans. C’est ce que Armand Mattelard appelle Le profilage des populations (2014). 3 – Comment vit-on dans un monde où des algorithmes savent mieux que nous qui nous sommes ? Dominique Desjeux : On peut faire remonter ce profilage par les algorithmes au 19ème siècle, période de développement de la probabilité appliquée. Aujourd’hui, il est fortement utilisé par le marketing dont l’objectif principal est de « capter » le consommateur et donc de le contrôler pour l’amener à acheter des biens ou des services, pour l’amener « à faire librement » ce que l’on attend de lui, comme le montre Jean-Léon Beauvois dans La soumission librement consentie (1998). Le consommateur ou le citoyen, d’un côté, et de l’autre les grandes entreprises numériques, le marketing ou les services de renseignements des Etats, sont engagés dans une tension permanente entre contrôle et autonomie. Il est donc bien établi aujourd’hui que de nombreuses organisations cherchent à mieux connaître le comportement des consommateurs ou des citoyens, mais aussi des terroristes et des délinquants, ce qui montre l’ambivalence des usages des nouvelles technologies, depuis les SIG (Système d’Information Géographique) dans les années 1990, jusqu’au « big data » en 2015. Cependant toutes ces tentatives de captation relèvent de l’intention. Ce qui reste encore à prouver, au cas par cas, c’est l’effet réel de ces intentions en termes de connaissance, puis de contrôle et enfin de changements réels du comportement des consommateurs. On connaît beaucoup d’échec de lancement de produits dans le domaine de la consommation. On connaît les failles policières dans le suivi des personnes à surveiller. Tout ceci tend à montrer que si l’intention est bien de contrôler totalement les consommateurs, les citoyens ou les personnes dangereuses, le résultat final n’est pas toujours aussi efficace. Il faudrait demander, par exemple, à Amazon quel est l’efficacité de son système d’information sur les livres qui pourraient intéresser ses acheteurs. 4 – Les entreprises et les Etats n’ayant par nature aucun intérêt à se retenir d’accumuler des données et des statistiques sur les consommateurs/citoyens, peut-on vraiment espérer une réaction par le haut ? Faut-il au contraire s’attendre à des réflexes de résistance au niveau individuel, un peu comme dans « 1984 », le roman de George Orwell ? Dominique Desjeux : Il reste donc une question ouverte, qui peut paraître paradoxal, voire sacrilège, celle de l’efficacité réelle de l’amélioration et du raffinement du traitement des données statistiques. En posant cette question on touche autant à « l’imaginaire messianique » de ceux qui croient que grâce aux « big data » on pourra beaucoup mieux contrôler le comportement des consommateurs, qu’à « l’imaginaire apocalyptique » de ceux qui croient que nous sommes manipulables à merci. En réalité les consommateurs et les citoyens sont des acteurs qui possèdent des marges de manœuvre et donc des réaction dans le sens d’une plus grande autonomie ou au contraire d’une « servitude volontaire », pour reprendre le terme de La Boétie au XVIe siècle. Surtout, entre les intentions des acteurs qui cherchent à manipuler, à séduire, à capter, à soumettre ou à éduquer, et les comportements des acteurs qui reçoivent ces intentions, il existe de nombreuses contraintes et de nombreux freins institutionnels ou psychologiques qui limitent les effets positifs ou négatifs de ces intentions. Le plus souvent les individus ne sont pas libres, même s’ils le croient. Cela arrange les dispositifs de persuasion qui s’appuient bien souvent sur cette croyance en la liberté pour développer leur contrôle. Par contre les acteurs ont des marges de manœuvre sous contrainte, ce qui n’arrange pas ceux qui croient que les acteurs sont passifs et dominés. Et pourtant, l’efficacité des « big data » est aussi sous contrainte d’acteurs. Ce sont ceux qui transgressent, comme dans le cas d’Edward Snowden ou des lanceurs d’alerte, sans que l’on sache bien, dans certains cas, ce qui relève du vrai ou de la vision conspiratoire du pouvoir. Au final il paraît pour beaucoup que l’affaire est entendue et que l’accumulation des données et des statistiques va nous conduire vers une société totalitaire ou vers son symétrique, une société entièrement transparente. À l’observation des pratiques sociales autour de la production, de la circulation et des applications de l’information, on constate que les dangers sont réels, surtout à la vue de l’histoire récente, avec la Shoa et les système communistes qui se sont développés sans NTIC mais avec des fiches écrites à la main, mais aussi l’islamisme, ou ancienne, avec les communautés villageoises sous contrainte de sorcellerie. Mais on constate aussi que le jeu est moins clair que celui de la seule explication par les intentions. Les résultats positifs ou négatifs de l’usage des algorithmes sont moins évidents qu’il n’y parait du fait de l’existence de contre-pouvoir, de failles humaines et des rugosités de la société. Il ne faut pas confondre l’intention des acteurs avec les effets sur les autres acteurs.