Cambridge Analytica ou comment récupérer les données de Facebook pour manipuler les électeurs et influencer les élections

 

Quelques semaines après les élections présidentielles de 2016, des rapports ont fait surface sur la façon dont une petite société de conseil politique britannique, Cambridge Analytica, aurait pu jouer un rôle central dans la victoire surprise de Donald Trump. La société a prétendu avoir formulé des algorithmes pour influencer les électeurs américains en utilisant des publicités politiques ciblées individuellement. Elle aurait créé les profils de personnalité de millions de citoyens individuels en collectant jusqu’à 5000 données sur chaque personne. Cambridge Analytica a ensuite utilisé ces outils « psychographiques » pour envoyer aux électeurs des messages en ligne soigneusement conçus concernant des candidats ou des questions politiques brûlantes.


Bien que les consultants politiques utilisent depuis longtemps des techniques de « microciblage » pour cibler des groupes ethniques, religieux, d’âge ou de revenu particuliers, l’approche de Cambridge Analytica est inhabituelle : l’entreprise s’appuie sur les données personnelles d’individus qui sont récoltées à partir de médias sociaux comme Facebook. Aux États-Unis, ces activités sont entièrement légales. Certains ont décrit les outils de Cambridge Analytica comme un « logiciel de lecture de l’esprit » et une « machine de propagande à intelligence artificielle ». Les médias grand public, tels que CNN et le Wall Street Journal, ont souvent dépeint l’entreprise en termes élogieux.

Cambridge Analytica fait à nouveau la une des journaux, mais dans des circonstances quelque peu différentes. À la fin de la semaine dernière, Christopher Wylie, un lanceur d’alerte, s’est adressé au public pour expliquer comment il a joué un rôle déterminant dans la collecte de millions de profils Facebook pour le compte de Cambridge Analytica. Cette révélation est importante car, jusqu’à ce que la journaliste d’investigation Carole Cadwalladr publie son article dans The Guardian, le PDG de Cambridge Analytica, Alexander Nix, avait catégoriquement nié avoir utilisé des données de Facebook. Et même si les responsables de Facebook savaient que Cambridge Analytica avait déjà recueilli des données sur des millions d’utilisateurs, ils n’ont pas interdit à l’entreprise de faire de la publicité jusqu’à vendredi dernier, lorsque le scandale a éclaté. Pour empirer les choses, la chaîne britannique Channel 4 a publié en début de semaine des images filmées discrètement dans lesquelles les dirigeants de Cambridge Analytica se vantent d’utiliser, entre autres trappes, des pièges et des « belles filles » [Pour accrocher le passant sur Facebook, NdT].

Le cas de Cambridge Analytica met en lumière un nouveau monde en politique électorale, celui de l’ère algorithmique – une ère dans laquelle les entreprises de médias sociaux comme Facebook et Twitter font de l’argent en vendant des publicités, mais aussi en vendant directement les données des utilisateurs à des tiers. Relativement peu de pays ont des lois qui empêchent de telles pratiques – et il s’avère que les États-Unis ne disposent pas d’une loi fédérale complète protégeant la confidentialité des données personnelles. Cette histoire est importante non seulement parce qu’elle démontre ce qui peut se produire lorsqu’une entreprise peu orthodoxe profite d’un environnement réglementaire laxiste, mais aussi parce qu’elle révèle comment des entreprises Internet comme Facebook ont joué avec les données personnelles de milliards d’utilisateurs.

Des relations publiques à la guerre psychologique

Afin de bien comprendre ce qu’est Cambridge Analytica, il est utile de connaitre sa société mère, SCL Group, qui a été créé à l’origine comme un laboratoire de communication stratégique et de relations publiques. Elle a été fondée au début des années 1990 par Nigel Oakes, un flamboyant homme d’affaires anglais. À la fin des années 1990, l’entreprise n’était déjà presque exclusivement engagée que dans des projets politiques. Par exemple, SCL a été engagé pour aider à améliorer l’image du président indonésien Abdurrahman Wahid, mais Oakes a dû fermer le centre d’opérations lorsque la participation de SCL a été dénoncée par le Wall Street Journal.

En juillet 2005, SCL a subi une transformation radicale. Elle s’est publiquement rebaptisée comme entreprise de guerre psychologique en participant à la plus grande foire commerciale militaire du Royaume-Uni. Le stand de SCL représentait un faux centre d’opérations mettant en scène des scénarios de crise dramatiques – une épidémie de variole à Londres, une insurrection sanglante dans un pays fictif d’Asie du Sud – qui étaient ensuite résolus avec l’aide des techniques d’opérations psychologiques de la société. Oakes a délaré à un journaliste : « Nous avions l’habitude d’être dans le business de la manipulation mentale à des fins politiques, mais maintenant nous sommes dans le business de sauver des vies. » Les efforts de l’entreprise ont porté leurs fruits. Au cours des dix années suivantes, SCL a remporté des contrats avec le Combatant Commands du département de la Défense étasunien, l’OTAN et Sandia National Labs.

Au cours des dernières années, SCL – maintenant connu sous le nom de SCL Group – s’est de nouveau transformé. Elle ne se définit plus comme un spécialiste des opérations psychologiques, ni comme consultant politique – maintenant, elle se fait appelée société d’analyse de données, spécialisée dans les programmes de « changement de comportement ».

En cours de route, elle a créé Cambridge Analytica, une filiale qui se distingue de SCL Group en ce qu’elle se concentre principalement sur les campagnes politiques. Parmi ses plus gros investisseurs figurent le milliardaire Robert Mercer, co-PDG du fonds de couverture Renaissance Technologies, qui est surtout connu pour sa défense des causes politiques d’extrême droite et son soutien financier à Breitbart News. Steve Bannon a même siégé brièvement au conseil d’administration de Cambridge Analytica.

Cambridge Analytica a attiré l’attention des médias pour la première fois en novembre 2015, peu après que la société a été engagée par le candidat républicain à la présidence Ted Cruz. Bien que Cruz ait finalement échoué, le PDG de Cambridge Analytica, Alexander Nix, a affirmé que la popularité de Cruz a augmenté en grande partie en raison de l’utilisation habile des données agrégées sur les électeurs et des méthodes de profil de personnalité. En août 2016, la campagne Trump a engagé Cambridge Analytica dans le cadre d’un effort désespéré pour défier la formidable machine de campagne d’Hillary Clinton. Quelques mois plus tard, des rapports ont révélé que Cambridge Analytica avait également joué un rôle dans la campagne britannique pro-Brexit “Leave.EU ».

Pirater la cité

Cambridge Analytica s’appuie sur des techniques « psychographiques » qui mesurent les cinq grands traits de personnalité empruntés à la psychologie sociale : ouverture, conscience, extraversion, sympathie et névrotisme.

Aux États-Unis, Cambridge Analytica a créé le profil psychologique de millions d’Américains en engageant une société appelée Global Science Research (GSR) pour réaliser des tests de personnalité gratuits. Les utilisateurs étaient attirés par la perspective d’obtenir leur profil de personnalité gratuitement, tandis que Cambridge Analytica recueillait leurs données et l’accès à leurs profils Facebook. La semaine dernière, The Guardian racontait que Cambridge Analytica a ainsi recueilli des données auprès de plus de 300 000 utilisateurs Facebook. En acceptant les termes et conditions de l’application, ces utilisateurs ont également accepté d’accorder à GSR (et par extension, Cambridge Analytica) l’accès aux profils de leurs « amis » Facebook – lui permettant d’engranger environ 50 millions de personnes.

Ces « psychographies » utilise des algorithmes pour déterminer les « j’aime » des électeurs sur Facebook, les retweets et autres données des médias sociaux qui sont agrégées avec d’autres informations disponibles sur le marché : registres fonciers, données automobiles, préférences d’achat, abonnements à des clubs, abonnements à des magazines et affiliation religieuse. Lorsque tout cela est combiné avec des documents publics, des listes électorales et des informations supplémentaires achetées auprès de courtiers en données tels qu’Acxiom et Experian, Cambridge Analytica dispose alors d’une matière première pour façonner les profils de personnalité. Les empreintes numériques peuvent être transformées en personnes réelles. C’est l’essence même de la « psychographie » : utiliser des algorithmes logiciels pour scruter les « j’aime » Facebook des électeurs, les retweets et autres données glanées dans les médias sociaux et les combiner avec les informations personnelles disponibles dans le commerce. L’exploration de données est relativement facile aux États-Unis, car ses lois sur la protection de la vie privée sont relativement faibles par rapport à celles de la Corée du Sud, de Singapour et de nombreux pays de l’UE.

Dans une présentation faite en 2016, M. Nix a décrit comment cette information pouvait être utilisée pour influencer l’opinion des électeurs sur la possession d’armes à feu et les droits des armes à feu. Les individus peuvent être contactés différemment en fonction de leur profil de personnalité : « Pour une personne très névrosée mais consciencieuse, la menace d’un cambriolage et la police d’assurance d’une arme à feu… Inversement, pour un public fermé mais sympathique : des gens qui se soucient de la tradition, ont leurs habitudes et sont proche de la famille. »

Malgré la nature inquiétante de ces « psychographies », il n’est pas du tout évident que Cambridge Analytica ait joué un rôle décisif dans l’élection présidentielle américaine de 2016. Certains accusent la société et son ancien PDG Alexander Nix d’avoir exagéré l’effet de Cambridge Analytica sur le résultat de l’élection. En février 2017, le journaliste d’investigation Kendall Taggart a écrit un article affirmant que plus d’une douzaine d’anciens employés de Cambridge Analytica, des employés de la campagne Trump et des cadres de sociétés de conseil républicaines ont nié que la « psychographie » ait été utilisée par la campagne Trump. Taggart a conclu : « Plutôt qu’une sinistre percée dans la technologie politique, l’histoire de Cambridge Analytica semble faire partie du traditionnel concours entre consultants pour obtenir leur part du crédit sur la victoire – et gagner de futurs clients. » Aucun critique n’a accepté d’être identifié dans son article, craignant apparemment des représailles de la part de Robert Mercer et de sa fille Rebekah, qui sont aussi des investisseurs dans l’entreprise.

Pas si innocents à l’étranger

Cambridge Analytica n’a en aucun cas limité son travail aux États-Unis. En fait, elle a mené des « opérations d’influence » dans plusieurs pays.

Par exemple, Cambridge Analytica a joué un rôle majeur dans les élections présidentielles de l’année dernière au Kenya, qui ont opposé le candidat sortant Uhuru Kenyatta, du parti de droite Jubilee Party, à Raila Odinga du Mouvement Démocratique Orange d’opposition. Le Jubilee Party a engagé Cambridge Analytica en mai 2017. Bien que la société affirme avoir limité ses activités à la collecte de données, Mark Turnbull, directeur général de Cambridge Analytica, a raconté, à des journalistes se faisant passer pour d’autres personnes, une histoire différente. Il y admettait que la firme avait secrètement géré l’ensemble de la campagne de Kenyatta : « Nous avons rebaptisé le parti à deux reprises, écrit son manifeste, fait de la recherche, de l’analyse et envoyé des messages. Je pense que nous avons écrit tous ses discours et nous avons tout mis en scène, donc à peu près tous les éléments pour ce qui concerne ce candidat. »

Étant donné les révélations les plus récentes sur la dissémination de fausses nouvelles par Cambridge Analytica, il semble probable que l’entreprise ait créé des publicités personnalisées persuasives basées sur les données des médias sociaux des Kényans. De faux messages Whatsapp et Twitter ont explosé quelques jours avant les élections kényanes. Il est utile de rappeler que SCL Group a employé des campagnes de désinformation pour des clients militaires pendant 25 ans, et il semble que Cambridge Analytica continue avec ce modèle de tromperie.

Les élections d’août ont été entachées d’accusations de manipulation des votes, d’inclusion de personnes décédées dans les listes électorales et du meurtre de Chris Msando, le directeur technologique de la commission électorale, quelques jours avant l’élection. Lorsque la poussière est retombée, on a découvert que 67 personnes sont mortes dans les violences post-électorales – et Kenyatta est finalement sorti victorieux. Quelques semaines plus tard, la Cour suprême du Kenya a annulé les élections, mais lorsque de nouvelles élections ont été programmées pour octobre, Odinga a déclaré qu’il les boycotterait.

Compte tenu des antécédents de fraude électorale au Kenya, il est peu probable que Cambridge ait eu beaucoup d’impact sur les résultats. L’anthropologue Paul Goldsmith, qui vit au Kenya depuis 40 ans, note que les élections ont encore tendance à suivre le principe de « qui compte les votes » gagne et non « qui influence les électeurs ».

Mais l’importance des efforts de Cambridge Analytica s’étend au-delà de sa contribution aux résultats électoraux. Le Kenya n’est pas arriéré technologiquement. Le premier service de monnaie mobile au monde y a été lancé en 2007, permettant aux utilisateurs de transférer de l’argent liquide et d’effectuer des paiements par téléphone. Des entreprises technologiques locales ont créé une « Silicon Savane » près de Nairobi. Les deux tiers des 48 millions de Kényans ont accès à Internet. Dix millions utilisent Whatsapp ; six millions utilisent Facebook; deux millions utilisent Twitter. Au fur et à mesure que les Kenyans passent plus de temps dans le monde virtuel, leurs données personnelles deviendront encore plus largement disponibles puisque le Kenya n’a pas de lois sur la protection des données.

Goldsmith résume bien la situation :

« Cambridge Analytica a plus besoin de créer l’impression qu’ils peuvent produire des résultats que de fournir des voix… Le Kenya constitue une porte d’entrée idéal pour [l’Afrique]… Établir des relations avec les élites dirigeantes constitue un pivot pour l’exploitation d’opportunités commerciales émergentes… avec un œil sur les ressources de la région et le nombre croissant de jeunes facilement influençables. »

Des rapports récents révèlent que Cambridge Analytica a des opérations en cours au Mexique et au Brésil (où des élections générales sont prévues pour juillet et octobre, respectivement). L’Inde (où se tiendront des élections générales dans environ un an) a également été courtisée par l’entreprise, et il est facile de comprendre pourquoi : le pays compte 400 millions d’utilisateurs de smartphones et plus de 250 millions d’utilisateurs Facebook ou Whatsapp. Les élections en Inde sont aussi une mine d’or potentielle. Plus d’un demi-milliard de personnes votent aux élections législatives, et les dépenses sont impressionnantes : les partis politiques y ont dépensé 5 milliards de dollars en 2014, contre 6,5 milliards de dollars aux élections américaines de l’an dernier. L’Inde dispose également d’un vaste programme d’identification obligatoire basé sur des données biométriques et démographiques, le plus important au monde.

La stratégie globale de Cambridge Analytica semble axée sur l’expansion de ses parts de marché sur des marchés prometteurs. Bien que de nombreuses personnes décrivent le Kenya, le Mexique, le Brésil et l’Inde comme des pays en développement, ces pays ont en réalité une infrastructure de haute technologie à croissance rapide, des niveaux relativement élevés de pénétration d’Internet et un grand nombre d’utilisateurs de médias sociaux. Ils ont, par contre, tous des lois faibles ou inexistantes concernant la protection de la vie privée sur Internet. Bien qu’ils soient nominalement démocratiques, chaque pays est politiquement instable et connait des accès épisodiques de violence politique, sectaire ou criminelle. Enfin, ces pays ont une population relativement jeune, ce qui reflète peut-être une stratégie à long terme visant à normaliser une forme de communication politique qui produira des avantages à long terme dans ces régions politiquement sensibles.

La capacité à saturer les électeurs du monde entier de messages politiques ciblés augmente dans une grande partie du monde car le coût d’achat de publicités Facebook, Twitterbots et trolls, bots pour Whatsapp et autres applications du même style est bon marché – et plus de gens que jamais passent du temps sur les médias sociaux. De tels systèmes peuvent être gérés efficacement à distance. Contrairement aux efforts psyops de la CIA du milieu du XXe siècle, qui nécessitaient des efforts considérables sur le terrain – larguer des tracts par avion, soudoyer des journalistes locaux, diffuser de la propagande sur des mégaphones montés sur des voitures – les nouvelles techniques peuvent être déployées à distance, avec un coût minimal. Cambridge Analytica s’appuie sur de petites équipes au sol pour faire des affaires avec les partis politiques, et sur des partenariats avec des firmes locales de veille économique afin d’évaluer la concurrence ou de fournir des conseils en marketing, mais la plupart du travail se fait à partir de Londres et de New York.

Les données internet comme arme politique?

Depuis ses débuts, Cambridge Analytica déclare être un groupe d’experts en analyse « basée sur des données » pratiquant une forme améliorée de micro-ciblage politique, mais des indices montrent que l’entreprise a des ambitions plus larges.

En mars 2017, il est apparu que des cadres supérieurs du Groupe SCL ont rencontré des responsables du Pentagone, dont Hriar Cabayan, chef d’une branche qui mène des recherches et des analyses culturelles pour le ministère de la défense. Il y a dix ans, Cabayan a joué un rôle déterminant dans le lancement du précurseur du Human Terrain System, une initiative de contre-insurrection de l’armée américaine qui a intégré des anthropologues et d’autres spécialistes des sciences sociales aux brigades de combat américaines en Irak et en Afghanistan.

Quelques mois plus tard, en août 2017, l’Associated Press rapportait que le général à la retraite de l’armée américaine, Michael Flynn, qui a brièvement servi comme directeur de la sécurité nationale dans l’administration Trump, avait signé un accord de travail avec Cambridge Analytica, fin 2016, mais il n’est pas évident qu’il ait réellement travaillé pour l’entreprise. Flynn a plaidé coupable d’avoir menti au FBI au sujet de ses contacts avec des agents russes à la fin de 2017, alors qu’il travaillait avec l’équipe de transition de Trump. Étant donné sa place sous les feux de la rampe médiatique, il est facile d’oublier qu’il a déjà dirigé les opérations de renseignement américaines en Afghanistan, plaidant en faveur d’une approche basée sur les données pour le travail de contre-insurrection qui inclurait, entre autres, les données recueillies par les équipes de Human Terrain System.

Les liens entre Cambridge Analytica/SCL Group et les champions de la contre-insurrection et de la cyberguerre du Pentagone sont peut-être entièrement fortuits, mais ils soulèvent plusieurs questions : alors que Cambridge Analytica s’embarque dans ses entreprises mondiales, entreprend-elle des projets qui sont en fait plus sinistres que sa mission bénigne de « changement de comportement » ? Et les projets récents de l’entreprise au Kenya, en Inde, au Mexique et au Brésil ne sont-ils que des exemples d’expansion du marché mondial, ou ces pays servent-ils de laboratoires pour tester de nouvelles méthodes de diffusion de la propagande et de polarisation politique en vue d’un déploiement éventuel ici même, au pays ?

Ici, la frontière entre les applications militaires et civiles s’estompe, non seulement parce que l’ARPANET – le précurseur immédiat d’Internet – a été développé par l’Advanced Research Projects Agency du Pentagone, mais aussi parce que la technologie peut être utilisée pour la surveillance à une échelle dont les régimes autoritaires du XXe siècle n’auraient pu que rêver. Comme Yasha Levine l’affirme de façon convaincante dans son livre Surveillance Valley : The Secret Military History of the Internet, Internet a été conçu à l’origine comme un programme de surveillance anti-insurrectionnelle.

Neutraliser la machine de surveillance de Facebook

Il semble que beaucoup de gens prennent enfin note du coté énorme, mais non dit, des réseaux sociaux : le rôle de Facebook est de permettre à Cambridge Analytica et autres propagandistes, publicistes et manipulateurs d’esprits d’effectuer leur travail – légalement et discrètement. Comme l’a récemment noté Lorenzo Franceschi-Bicchierai dans le journal en ligne Motherboard, les pratiques de collecte de données de Cambridge Analytica ne profitent pas de failles de sécurité, elles sont « normales et quotidiennes… C’est une fonctionnalité, pas un bug. Facebook recueille toujours – et vend ensuite – de grandes quantités de données sur ses utilisateurs. » En d’autres termes, chaque message facebook ou chaque tweet, chaque message g-mail envoyé ou reçu, rend les citoyens vulnérables aux formes de collecte de données numériques qui peuvent être achetées et vendues au plus offrant. L’information peut être utilisée à toutes sortes de fins dans un marché non réglementé : surveiller les états émotionnels des utilisateurs, manipuler leurs attitudes ou diffuser de la propagande sur mesure conçue pour polariser les gens.

Il est révélateur que Facebook refuse obstinément de qualifier les actions de Cambridge Analytica d’« atteinte à la protection des données ». Comme le dit Zeynep Tufekci, auteur du livre Twitter And Tear Gas : The Power and Fragility of Networked Protest [Twitter et lacrymogènes : le pouvoir et la fragilité des manifestations lancées par réseaux sociaux], la position défensive de l’entreprise en dit long sur les coûts sociaux dus aux médias sociaux. Elle a récemment écrit :

« Si votre entreprise construit une machine de surveillance massive, les données seront finalement utilisées et mal utilisées. Piratées, volées, fuitées, escroquées, ciblées, engagées, profilées et finalement vendues. Il n’y a pas de consentement éclairé parce qu’il n’est raisonnablement pas possible d’informer ou de donner son consentement. »

L’affaire Cambridge Analytica est importante dans la mesure où elle éclaire les nouveaux processus de contrôle technologique en cours de mise en place. Dans un environnement médiatique surchargé dans lequel Facebook, Twitter et WhatsApp (propriété de Facebook) sont devenus les principaux moyens par lesquels des milliards de personnes consomment littéralement des nouvelles, il n’a jamais été aussi facile de produire de la propagande de masse. Avec tant de gens qui affichent tant d’informations sur les détails intimes de leur vie sur le Web, les tentatives coordonnées de persuasion de masse se généraliseront presque certainement à l’avenir.

En attendant, il y a des mesures concrètes que nous pouvons prendre pour freiner Facebook, Amazon, Google, Twitter et d’autres géants de la technologie. Certaines des suggestions les plus lucides ont été formulées par Roger McNamee, un investisseur en capital de risque et investisseur précoce sur Facebook. Il recommande une approche à plusieurs volets : exiger que les PDG des entreprises de médias sociaux témoignent devant les comités du Congrès et du Parlement en séances publiques ; imposer des règlements stricts sur la façon dont les plateformes Internet sont utilisées et commercialisées ; exiger des entreprises de médias sociaux qu’elles indiquent qui parraine des publicités politiques et thématiques ; exiger la transparence au sujet des algorithmes (« les utilisateurs méritent de savoir pourquoi ils voient ce qu’ils voient dans leurs fils de nouvelles et leurs résultats de recherche », dit McNamee) ; exiger que les applications de médias sociaux offrent une « porte de sortie » aux utilisateurs ; interdire les « bots » numériques qui usurpent l’identité humaine ; et créer des règles qui permettent aux consommateurs (et non aux entreprises) de posséder leurs propres données.

Dans un monde où la protection de la vie privée diminue, nos vulnérabilités sont facilement amplifiées. Les psychologues expérimentaux spécialisés dans ce qu’ils appellent par euphémisme du « façonnage de comportement » ont largement ignoré l’éthique et la moralité afin d’aider les entreprises de la Silicon Valley à créer des dispositifs numériques, des applications et d’autres technologies qui sont littéralement irrésistibles pour l’utilisateur. Alors que les retombées des activités de Cambridge Analytica se répercutent sur le paysage politique américain, nous devrions profiter de l’occasion pour imposer des contrôles significatifs sur Facebook, Google, Twitter et d’autres entreprises qui ont fait peu de cas des normes démocratiques – et des notions de confidentialité individuelle – à cause la recherche incessante de profit.

Roberto J. González

Vu ici