Een internationaal netwerk verdient geld door AI-gegenereerde foto's van Holocaust-slachtoffers te plaatsen op Facebook, blijkt uit onderzoek van de BBC. De beelden en bijbehorende verhalen, die miljoenen keren worden bekeken, zijn verzonnen.
Een jong Joods meisje dat eenden voert langs een Amsterdamse gracht, musici in gestreepte gevangeniskleding die optreden in concentratiekamp Auschwitz, geliefden die elkaar ontmoeten aan de prikkeldraadhekken: de afbeeldingen lijken net echt, maar zijn dat niet. Ze zijn gemaakt door kunstmatige intelligentie.
Volgens de BBC zit een Pakistaans netwerk van contentmakers achter de nepafbeeldingen. Zij verdienen geld via Meta's Content Monetization-programma, een winstdelingsregeling die gebruikers betaalt voor inhoud die veel wordt bekeken en geliket.
Zo deelt een account onder de naam Abdul Mughees, volgens zijn profiel woonachtig in Pakistan, foto's van Holocaustslachtoffers die nooit hebben bestaan. Ook verzint de gebruiker verhalen, zoals over een baby die werd achtergelaten op een treinspoor bij een concentratiekamp. Het account heeft binnen vier maanden tijd meer dan 1,2 miljard views gekregen en ongeveer 17.000 euro verdiend met deze nepafbeeldingen.
Ook andere spamaccounts en groepen, zoals Timeless Tales, History Haven en Historical Moments, plaatsen soms wel vijftig foto's per dag over Auschwitz of de Tweede Wereldoorlog.
Volgens de BBC hebben de pagina's die de historische nepafbeeldingen delen een paar kenmerken. Ze zijn vaak verbonden aan een niet-bestaande organisatie gevestigd in de Verenigde Staten en hebben meerdere keren hun pagina- of groepsnaam veranderd.
'Griezelig perfect'
In juni waarschuwde het Staatsmuseum Auschwitz-Birkenau al dat dit soort accounts historische details verdraaien of verhalen en slachtoffers volledig verzinnen. Ze zijn volgens het museum te herkennen doordat ze "griezelig perfect zijn, gestileerd en niet afkomstig uit enig historisch archief".
Het Auschwitz-museum waarschuwt dat zulke accounts de Holocaust exploiteren voor clicks en likes en daarmee de echte slachtoffers van de systematische Jodenvervolging onteren. "De afbeeldingen leiden tot verwarring en ondermijnen de historische nauwkeurigheid", schreef het museum op Facebook.
Kees Ribbens, senior onderzoeker bij oorlogsinstituut NIOD, kent dit soort foto's. "Dat er beelden rondgaan die ogen als foto's van de Holocaust, maar eigentijdse producties zijn, is niet nieuw. Bijvoorbeeld een foto van Anne Frank die op straat staat. Het zijn beelden die we graag zouden willen zien, maar die destijds niet zijn vastgelegd."
De Holocaust is volgens Ribbens een belangrijk ijkpunt in de geschiedenis waar veel aandacht naar uitgaat. "We willen het graag illustreren en letterlijk aanschouwelijk maken. Maar daadwerkelijk is het aantal beelden dat we hebben van de Holocaust beperkt. De nazi's zaten niet te wachten op het documenteren van hun eigen misdaden."
'Niet representatief'
Dat zulke beelden rondgaan, is zeker schadelijk, benadrukt Ribbens. "De beelden zijn niet authentiek of historisch, maar worden toch voor waar aangenomen. Nep en echt lopen daardoor door elkaar, waardoor we niet meer weten welke beelden betrouwbaar zijn."
Op de lange termijn kan dit ertoe leiden dat zelfs beelden die de geschiedenis wel correct weergeven, in twijfel worden getrokken. "Dan kan de kaart worden getrokken dat de Holocaust niet heeft plaatsgevonden, wat niet klopt, zegt Ribbens. "Ik heb ook foto's gezien van mensen die net uit de make-up komen. Dat is natuurlijk helemaal niet representatief voor wat er in de jaren 40 in de concentratiekampen is gebeurd."
Meta, het moederbedrijf van Facebook, WhatsApp en Instagram, laat in reactie aan de BBC weten onderzoek te hebben ingesteld naar meerdere pagina's en groepen. Op basis daarvan heeft de techgigant meerdere pagina's verwijderd vanwege het schenden van de authenticiteitsregels.
Geïnteresseerd in de Tweede Wereldoorlog?
Abonneer je dan hier op onze nieuwsbrief.