Le photographe explique les nombreuses couches d'intrigue qui ont présidé à la création de son livre sur la désinformation dans le paysage médiatique contemporain.
Dans cette interview, Jonas Bendiksen raconte l'histoire complexe derrière la création de sa publication la plus récente, The Book of Veles , un projet dont la trajectoire inhabituelle à sa sortie était aussi bizarre que le sujet qui l'avait initialement inspiré.
Pouvez-vous nous expliquer pourquoi vous avez d'abord été fasciné par la ville moderne de Veles en Macédoine du Nord ?
Tout au long de l'ère Trump, je bouillais de frustration devant tous les mensonges et la désinformation dans les médias. Je lisais sur le piratage russe, le rôle de Facebook et Twitter, les « faits alternatifs » et le fonctionnement des algorithmes. À un moment donné, j'ai vu une mention selon laquelle Veles était devenu ce centre improbable de désinformation, crachant de fausses nouvelles lors de l'élection de Trump en 2016. Lorsque les gens ont réalisé que des centaines de sites Web de fausses informations en étaient originaires, de nombreuses grandes organisations de presse sont allées y faire rapport. Même Obama a mentionné la ville. J'étais fasciné par l'idée que les adolescents de la lointaine Macédoine du Nord aient soudainement joué un rôle dans le paysage politique américain. Leurs intentions étaient totalement apolitiques : ces gars avaient juste besoin de gagner de l'argent, dans une ville avec beaucoup de chômage des jeunes.Ils sont devenus des pirates informatiques parce qu'ils ont trouvé un moyen créatif de gagner de l'argent, plus que tout désir de semer la pagaille aux États-Unis.
La façon dont nous produisons, diffusons et consommons aujourd'hui l'information a tellement changé au cours des 15 dernières années, et c'était un exemple terrifiant de cela. J'ai donc commencé à creuser et j'ai trouvé toutes ces autres couches étranges de l'histoire.
Qu'était l'ancien Livre de Veles et quel impact a-t-il eu sur votre projet ?
J'ai commencé à rechercher sur Google la ville de Veles et j'ai rapidement réalisé que la ville avait un homonyme : l'ancien dieu Veles, qui était l'un des principaux dieux du panthéon païen pré-chrétien. Dans les vieux mythes, il était ce dieu vraiment sournois : un métamorphe, un dieu du chaos, de la magie et de la tromperie. J'imagine donc qu'il aurait été très heureux de toutes les fausses nouvelles venant de la ville portant son nom. Ce genre de choses m'intéresse toujours : quand les histoires commencent à se superposer et à se tisser de manière surprenante.
En lisant sur les anciens dieux slaves, je suis finalement tombé sur le Livre de Veles, un manuscrit prétendument ancien trouvé sur des tablettes de bois brûlées par un officier de l'armée russe, Fiodor Izenbek, en 1919. Les planches portaient des inscriptions en écriture proto-cyrillique. cela a pris des années à décoder - mais quand un scientifique russe nommé Yuri Mirolyubov a finalement déchiffré le code, il a découvert qu'il s'agissait d'une histoire épique sur les premiers peuples slaves et le dieu Veles lui-même. Cette écriture est considérée en quelque sorte comme un texte sacré dans divers cercles nationalistes slaves, ainsi que dans certains cercles alternatifs.
"C'est devenu absolument irrésistible d'essayer de jouer avec. Qu'est-ce qui était réel et qu'est-ce qui était faux ici ?"
- Jonas Bendiksen
Mais aujourd'hui, la plupart des historiens et des linguistes concluent que l'ensemble du Livre de Veles était un faux par Izenbek et Mirolyubov.
Plus tard, j'ai découvert que The Book of Veles avait été traduit en anglais en 1973, par un gars de l'Ohio State University. Le traducteur lui-même n'a pas réalisé que Le Livre de Veles était un faux, alors il l'a parsemé de toutes sortes de notes de bas de page sur l'importance historique de l'ouvrage. Une fois que je suis entré dans tout cela, tous mes moteurs ont commencé à démarrer ! Les myriades de couches de chaos et de désinformation, toutes centrées sur le dieu Veles ou la ville Veles – des choses qui n'étaient pas vraiment liées, mais toujours si fortuitement liées par leur nom. Maintenant, il devenait absolument irrésistible d'essayer de jouer avec. Qu'est-ce qui était réel et qu'est-ce qui était faux ici ? Toutes sortes de gens en croyaient différentes versions.
Comme pour mes autres projets, la photographie n'est toujours qu'un outil ou une excuse pour me plonger la tête la première dans ce qui me fascine à un moment donné. C'était ma chance de me débattre avec toute cette question de savoir où le journalisme, les manipulations, les contrefaçons profondes, les fausses nouvelles et la photographie se confondent – et peut-être essayer de regarder un peu l'horizon des événements et d'imaginer où tout cela pourrait se diriger.
« J'ai commencé à me poser la question : combien de temps faudra-t-il avant que l'on commence à voir du « photojournalisme documentaire » qui n'a d'autre fondement dans la réalité que le fantasme du photographe et une puissante carte graphique informatique ? Serons-nous capables de faire la différence ?
- Jonas Bendiksen
Comment enquêtez-vous et utilisez-vous la désinformation à travers votre livre ?
Dans le passé, l'imagerie manipulée numériquement utilisait normalement des photographies comme base – une forme avancée de copier-coller ; vous prendriez une partie d'une photo et l'inséreriez intelligemment dans une autre. Mais aujourd'hui, les nouvelles technologies entièrement numériques sont sur le point de nous submerger comme un tsunami. Dans quelques années, produire des vidéos deep-fake se fera facilement sur votre mobile. Les portraits générés par l'IA (comme sur thispersondoesnotexist.com ) deviennent de plus en plus convaincants chaque mois et sont déjà activement employés dans le commerce. Il existe des influenceurs Instagram pour enfants qui ne sont que des avatars 3D, chacun personnalisé pour plaire à son public cible. Il s'agit d'une autre race d'images manipulées car elles contournent la caméra elle-même - tout est simplement généré par la puce informatique.
J'ai commencé à me poser la question : combien de temps faudra-t-il avant de commencer à voir du « photojournalisme documentaire » qui n'a d'autre fondement dans la réalité que le fantasme du photographe et une puissante carte graphique informatique ? Serons-nous capables de faire la différence ? Quel est le niveau de difficulté? Dans quelle mesure notre propre communauté de photographes et d'éditeurs sera-t-elle compétente pour détecter ce qui est faux et ce qui est réel ?
J'avais tellement peur des réponses que j'ai décidé d'essayer de le faire moi-même.
L'ensemble du projet, c'est vraiment moi qui essaie de me confronter aux questions de ce que signifient ces nouvelles technologies, et à quel point il est facile de les utiliser « mauvaisement ». Qu'est-ce que cela signifie pour notre compréhension de la photographie comme documentation de quoi que ce soit ? Est-il facile de faire chanter les gens sur un faux air ?
Le projet Book of Veles est devenu mon propre petit test visuel de Turing.
"Dans quelle mesure notre propre communauté de photographes et d'éditeurs sera-t-elle compétente pour détecter ce qui sont des contrefaçons profondes et ce qui est réel ?"
- Jonas Bendiksen
Pouvez-vous nous donner plus de détails sur les aspects du travail que vous avez fabriqué et comment vous les avez créés ? Qu'est-ce qui est et n'est pas un faux dans le livre ?
Tout d'abord, je suis allé sur YouTube et j'ai rapidement appris divers logiciels que l'industrie du jeu vidéo et du cinéma utilise pour créer des modèles 3D réalistes de personnes - des avatars que vous pouvez faire pivoter, éclairer, poser et animer. J'ai acheté des personnages de base, puis je les ai transformés de multiples façons pour créer une gamme de personnages différents. Ensuite, je les ai habillés et texturés. En fait, je pense avoir dépensé environ 10 fois plus en vêtements virtuels pour mes avatars numériques que j'ai dépensé pour ma propre garde-robe ces dernières années !
Ensuite, lorsque je me suis rendu à Veles, pour une fois, je n'ai pas eu à passer tout mon temps à essayer d'avoir accès à qui que ce soit. J'ai juste photographié des espaces vides, des appartements, des bureaux, des bancs de parc et toute scène qui m'intéressait – et j'ai attendu qu'il n'y ait personne dans le cadre. Ensuite, j'ai capturé l'éclairage spécifique de cette scène particulière à l'aide d'une caméra spéciale à 360 degrés et de certaines méthodes du monde spécial FX. De retour à la maison, j'ai appris à convertir ces photographies en espaces 3D et j'ai placé mes avatars dans la scène, avec des émotions, des poses et un éclairage qui correspondaient à la scène d'origine.
J'ai fait deux sorties sur le terrain à Veles. Par chance, la dernière était juste une semaine avant que toute l'Europe ne s'arrête soudainement à cause de Covid. J'ai donc eu beaucoup de chance d'avoir terminé le travail sur le terrain. Cela signifiait que je me retrouvais avec le projet le plus parfait à réaliser alors que le Coronavirus faisait rage à travers le monde, et je n'avais pas d'autres missions : j'avais en gros un an pour m'asseoir devant mon ordinateur, jouer avec mes avatars 3D et les fake news scènes. En creusant plus profondément, j'ai ajouté plus de couches.
Tout comme les images générées numériquement se développent rapidement, la génération de texte par l'IA se développe également. J'ai trouvé un système gratuit entraînable pour créer du texte, appelé GPT-2, qui est formé sur des millions de vrais sites Web. Ce sont des systèmes qui sont généralement utilisés lorsque les entreprises ont besoin d'un robot de service client automatisé. Le fait est que vous pouvez entraîner davantage les systèmes, en fonction de votre ton de voix et de votre façon de vous exprimer. Si vous nourrissez l'IA avec les œuvres rassemblées de Shakespeare, elle crachera des vers de Shakespeare assez convaincants. Si vous le nourrissez avec la Bible King James, il crache plus d'écritures bibliques saintes.
Jonas Bendiksen Veles. Macédoine du Nord. 2019. © Jonas Bendiksen | Magnum Photos
- Jonas Bendiksen
Pour obtenir le texte de mon livre, j'ai alimenté ce système avec chaque article rapporté par les médias de langue anglaise sur l'industrie des fausses informations à Veles, puis j'ai demandé à l'intelligence artificielle d'écrire le grand essai de 5 000 mots dans mon livre. Je n'en ai pas écrit un seul mot. J'ai juste coupé et collé différentes séquences qu'il a inventées ensemble pour qu'il ait un flux logique.
Ensuite, j'ai pris toutes les vraies citations de personnes qui avaient été impliquées dans la production de fausses nouvelles et je les ai introduites dans l'IA, qui a ensuite produit de nouvelles déclarations. C'est de là que viennent toutes les citations du livre : elles sont fausses, inventées par ordinateur, mais basées sur des choses que les vrais sujets interrogés ont dites.
Sur le plan créatif, c'était un peu un mastodonte. J'ai trouvé une copie anglaise de l'ancienne écriture du Livre de Veles traduite. Mais j'ai senti que ce texte ancien (contrefaçon d'un) n'était pas assez lié au reste de mon matériel. Alors naturellement, j'ai introduit tout l'ancien livre de Veles dans l'intelligence artificielle, et voilà, j'avais des quantités infinies d'« écritures anciennes » inventées par ordinateur avec lesquelles je pouvais le compléter.
En somme, c'est devenu une fausse nouvelle sur les producteurs de fausses informations. L'histoire de Veles étant un centre de fausses nouvelles est réelle. L'histoire de la découverte et de la falsification du Livre de Veles est réelle. Mais tout le contenu réel est faux. La seule chose qui n'est pas manipulée, ce sont les citations des sites Web de fausses informations de Veles eux-mêmes - qui, il va sans dire, sont eux-mêmes pour la plupart du charabia ridicule.
Pensez-vous que l'apprentissage automatique, et plus largement la technologie, a eu un effet globalement utile sur la capacité de la société à interagir avec l'information ?
Je doute fort que toute cette technologie et ces informations nous rendent plus intelligents ou plus sages. Je veux dire, regardez simplement autour du monde, avec quelle facilité tout le monde est manipulé dans telle ou telle direction. Il y a tout simplement trop d'informations, il est trop facile de les diffuser partout, et chacun peut choisir le petit fragment auquel il souhaite s'identifier. Nos capacités d'analyse ne s'améliorent pas et nous ne sommes pas aptes à trier les bonnes données des mauvaises. Oui, les réseaux sociaux et Youtube sont super duper si j'ai besoin de conseils sur la façon de changer le filtre à diesel sur le moteur de mon bateau. Mais pour les questions plus larges, je suis pessimiste. Ce projet a été pour moi une sorte de test pour savoir où vont les choses.
Jonas Bendiksen Veles. Macédoine du Nord. 2020. © Jonas Bendiksen | Magnum Photos
C'est simple : mes collègues photographes de Magnum. D'après mon expérience, mes collègues ici sont normalement très pointus et voient à travers beaucoup de conneries. Le fait qu'aucun de mes collègues ne m'ait pris en flagrant délit était une bonne mesure pour moi que j'allais dans la bonne direction. Ou dans la mauvaise direction, selon la façon dont vous voyez tout cela.
Bien sûr, j'ai apprécié quand les gens qui ont acheté le livre me disent comment ils l'ont apprécié, ou quelle histoire importante je racontais. Évidemment, j'aime quand quelqu'un publie le livre sur Instagram en disant que c'est bien que les gens fassent du photojournalisme sérieux comme l'histoire de Veles. En même temps, je n'aime pas arnaquer les gens, et comme beaucoup de criminels, j'ai aussi hâte que ma couverture soit dévoilée, pour ne plus avoir à jouer au jeu et pour pouvoir à nouveau être honnête.
"Le projet Book of Veles est devenu mon propre petit test visuel de Turing."
- Jonas Bendiksen
Plusieurs magazines ont voulu publier l'article, et j'ai inventé des excuses pour ne pas l'avoir, car le publier dans un magazine à large lecture serait un pas trop loin, d'un point de vue éthique. Je sentais que c'était bien de faire une farce à ma propre communauté photographique, mais pas au reste du monde.
J'ai été particulièrement touché par tous les commentaires positifs que j'ai reçus sur les réseaux sociaux à propos de l'essai du livre. Beaucoup de gens ont commenté quel texte intéressant et éclairant j'ai écrit. Comme il a été entièrement écrit par l'intelligence artificielle, j'étais curieux de savoir si cela passerait. Cela montre que dans un court laps de temps, nous serons entourés de nombreux articles convaincants écrits par des robots, et la plupart des gens ne seront pas en mesure de faire la différence.
Avez-vous un message à dire aux vrais habitants de Veles, maintenant que vous avez créé cette œuvre ?
Oui, j'espère qu'ils ne sont pas trop offensés que j'aie utilisé ce qui s'est passé dans leur ville comme tremplin pour mes machinations. Mais quelles sont exactement les implications éthiques de mon travail pour les habitants de Veles, étant donné que toutes les personnes de mon histoire sont des avatars numériques ? Quelles obligations ai-je vis-à-vis des personnes que je n'ai pas photographiées ? C'est une question délicate qui sera d'actualité dans les années à venir.
J'espère que dans l'ensemble, les habitants de Veles voient cela comme du fair-play : un groupe de leurs jeunes ont inventé beaucoup de fictions ridicules sur un endroit lointain, les États-Unis, et en ont profité. Et je suis venu d'un endroit lointain et j'ai inventé une fiction en retour à leur sujet, mais basée sur une histoire vraie. Je ne voulais aucun mal et j'ai trouvé Veles un endroit très agréable et convivial. En fait, je n'ai rencontré aucune personne liée à l'industrie des fausses nouvelles, et je n'ai pas essayé non plus. Tout ce que je sais sur le business des fake news à Veles est de seconde main à travers les médias.
J'ai prévu depuis le début que la vérité sur mon projet soit dévoilée, donc cela n'a jamais été censé être un mensonge durable. Le livre est plein de miettes de pain qui devaient permettre au chat de sortir du sac assez tôt.
Quelles similitudes pourriez-vous faire entre la création d'images avec un objectif et la création d'images à l'aide d'un ordinateur ?
J'ai beaucoup appris sur ma propre photographie en créant ces fausses images. Je n'ai jamais été très bon avec les scènes d'éclairage – mais ici, j'ai dû déplacer des lampes virtuelles autour de mes propres scènes 3D et créer la bonne lumière pour mon personnel numérique. Le processus m'a forcé à regarder avec des yeux neufs le monde réel. Je me tenais derrière un gars dans la file d'attente du supermarché et je regardais simplement ses cheveux…. « Qu'est-ce qui rend ses cheveux si… réels ? » Quels détails de texture et d'éclairage dois-je simuler ?
Pour faire les images, j'ai essentiellement dû construire un tas de clichés de Jonas Bendiksen à partir de zéro. Je voulais que le résultat final ressemble à celui d'être arrivé à Veles, que j'ai eu quelques semaines avec un accès modérément bon et que j'ai fait un article de photojournalisme sur les procédures opératoires standard… puis j'en ai sorti un livre arty. Donc, pour chaque scène, je devais penser, eh bien, comment Jonas photographierait-il cette scène s'il y avait des gens dedans ? Et puis j'ai dû construire la scène, pièce par pièce, pose par pose, comme si je jouais avec des Lego.
"J'espère qu'il sera considéré comme un pas en arrière, deux pas en avant - et que ce projet ouvrira les yeux des gens sur ce qui nous attend et sur le territoire vers lequel la photographie et le journalisme se dirigent."
- Jonas Bendiksen
J'ai un peu dépassé les bornes parfois, ce qui était très amusant. Selon les légendes, l'ancien dieu Veles était un métamorphe qui prenait la forme d'un ours. Donc, dans le livre, j'ai mis un tas d'images d'ours en 3D errant à la périphérie de la ville, afin que le dieu Veles puisse être vu dans l'histoire. Je suis devenu un photographe animalier National Geographic sans avoir à attendre des semaines dans les buissons.
Quel impact espérez-vous que ce projet puisse avoir sur le monde du journalisme ? Un tel projet remet-il en cause le genre du photojournalisme, ou à son tour, la photographie dans son ensemble ?
Je pense qu'à court terme, vu que j'ai menti et que j'ai moi-même produit de fausses nouvelles, j'ai en quelque sorte sapé la crédibilité de mon travail. Mais j'espère qu'il sera vu comme un pas en arrière, deux pas en avant – et que ce projet ouvrira les yeux des gens sur ce qui nous attend, et vers quel territoire la photographie et le journalisme se dirigent.
Mes mains sont liées depuis la sortie du livre en avril. J'ai partagé le matériel sur mes réseaux sociaux et le livre s'est bien vendu. Mais j'ai fait attention à ne pas laisser d'autres médias l'exécuter en tant que fonctionnalité. Je n'ai pas non plus publié le livre dans les archives Magnum jusqu'à présent, car je ne voulais pas que l'équipe Magnum vende accidentellement le travail sous un faux drapeau.
Mais vous avez soumis le travail à Visa pour l'Image, le plus grand festival de photojournalisme, à Perpignan, en France ?
J'ai été surpris qu'aucun de mes collègues photographes ne remette en question quoi que ce soit au sujet du livre. J'avais donc besoin de tester si ces images falsifiées pouvaient vraiment passer à travers les filtres les plus exigeants. J'ai envoyé à la fois l'intégralité de la série d'images et le PDF en pleine résolution du livre lui-même au festival Visa pour l'Image. Quand ils sont revenus vers moi et m'ont proposé une projection en soirée sur le programme du festival, je me suis senti très en conflit. Je me sentais mal parce que je n'étais pas honnête avec eux. D'un autre côté, je sentais que cela pourrait être très important pour le photojournalisme et notre industrie.
Si les images de fausses informations générées par ordinateur sont acceptées par les conservateurs qui doivent choisir les meilleurs moments du meilleur photojournalisme de l'année, cela montre que l'ensemble de l'industrie est assez vulnérable.
Les grandes entreprises technologiques recrutent régulièrement des pirates informatiques de haut niveau, même criminels, pour tenter de s'introduire dans leurs systèmes. Ils sont appelés testeurs de pénétration. Ils sont payés le prix fort pour pirater autant qu'ils le peuvent et rechercher les faiblesses de l'architecture système de l'entreprise, afin de pouvoir réparer les failles et se protéger contre les abus. Je suppose que je vois ce que j'ai fait comme un service similaire pour la photographie documentaire et le photojournalisme, simplement sur une base bénévole.
J'avais l'impression que même si je ne pouvais pas publier dans les médias grand public, il était légitime de le projeter dans un festival de l'industrie. Malgré tout, je tiens à m'excuser publiquement auprès de Jean-François Leroy et des bonnes personnes du festival Visa. Ils font un travail important – même s'il s'avère qu'ils doivent, comme nous tous, être plus à l'affût des fausses nouvelles.
Dans quelle mesure avez-vous planifié la révélation de la vérité derrière le projet ?
Quand j'ai sorti le livre en avril, j'ai pensé que quelqu'un le contesterait dans quelques semaines. Quand cela ne s'est jamais produit, j'ai décidé d'aider les gens en attisant leurs soupçons.
Les fausses nouvelles se propagent généralement via les médias sociaux, alors j'ai pensé que je devais orchestrer une attaque contre moi-même et le Livre de Veles là-bas. Je suis allé en ligne et j'ai acheté un faux profil Facebook pré-vieilli. Son nom était "Chloe Miskin" et coûtait environ 40 $. Les gars à qui je l'ai achetée prétendent que ses photos de profil sont générées par l'IA. Je n'ai aucune idée si c'est vrai. Vous ne payez que l'argent et vous obtenez qui vous obtenez.
J'ai réussi son infiltration dans notre communauté photographique. En quelques semaines, elle était amie avec plus de 600 éditeurs de photos, photographes, conservateurs et autres personnes de l'industrie.
Dès la fin de la projection de Perpignan, j'ai voulu faire éclater la vérité au plus vite. En moins de 24 heures, j'ai lâché la fausse Chloé sur Facebook avec de graves accusations selon lesquelles je payais mes sujets pour apparaître sur les photos (ce qui était bien sûr vrai, dans le sens où j'avais acheté les modèles de base des avatars 3D). Mon objectif était d'amener les gens à regarder de plus près. Je pensais que tout serait fini en quelques heures. À ma grande surprise, personne n'a mordu à l'hameçon et ils ont même commencé à défendre ma conduite présumée.
J'ai réalisé que j'étais au mauvais endroit et que j'ai dû rapidement créer de nouveaux faux profils de pêche à la traîne sur Twitter.
Twitter-Chloe a commencé à tweeter des accusations similaires sur la façon dont j'ai payé pour les sujets. Après une indignation initiale, Benjamin Chesterton, alias Duckrabbit, a trouvé une faille dans mon armure et a remarqué que l'une des photos de profil du faux compte était une femme qui apparaît en fait dans mon livre, portant les mêmes vêtements.
J'étais très soulagé d'être arrivé à ce point. Et je veux dire bravo à Duckrabbit ; Je vous remercie de m'avoir aidé à m'extraire de tous mes mensonges et de m'avoir permis de revenir à la vie en honnête citoyen ! Je vais envoyer un livre signé.
Il peut être assez instinctif que la lecture que les gens tirent de l'œuvre en soit une de scepticisme. En réalité, le projet est né de votre curiosité et de votre enthousiasme à discuter des questions que vous jugez importantes autour de la photographie aujourd'hui. Quelle est la chose la plus excitante et la plus encourageante que vous ayez apprise de tout le processus ?
Mon hypothèse depuis le début était que si un photographe indépendant moyennement ringard peut mettre cela en place dans son bureau au sous-sol, alors nous sommes tous prêts pour un sacré tour. Donc, je suppose que la perspective optimiste serait que nous nous dirigeons vers un champ de mines, et il est bon d'avoir un tas de panneaux d'avertissement affichés avant d'y entrer.
Des exemplaires signés du Livre de Veles sont disponibles dans la boutique Magnum ici .
Aucun commentaire:
Enregistrer un commentaire
Remarque : Seul un membre de ce blog est autorisé à enregistrer un commentaire.