Cheapfake en Deepfake

U weet ongetwijfeld dat er sinds een tiental jaren een informatieoorlog van ongekende, exponentiële omvang gaande is. Mis- en desinformatie worden geproduceerd door bekende en anonieme individuen, samenzweringsgroepen, overheden (mn. Russische en Chinese trollfarms), en gedumpt in de mainstream- en social media. Het fenomeen explodeert als een confettifabriek over ons heen. De meest simpele fakeberichten komen in de vorm van snel en goedkoop verspreide teksten, in platforms, blogs en podcasts. En de nogal simpele low-tech gemanipuleerde videoberichten kent u al via de Nancy Pelosi en Obama clips, de zgn. cheapfakes. 

Maar sinds kort maken zeer geavanceerde AI en andere digitechnologie het mogelijk dat uw perfect nagebootste gezicht en stem (face- and voiceswap technology) bijvoorbeeld in een pornofilm terecht kunnen komen, wat gemakkelijk het carrière-einde van elke publieke figuur kan betekenen. Deze geavanceerde zgn. deepfake technologie is in staat volkomen synthetische audio en videoberichtgeving te maken: deepfake interviews met gezagsdragers, deepfake privégesprekken, deepfake verslagen van gebeurtenissen, wetenschappelijke onderzoek, militaire installaties, etc. Hollywood besteedde tot voor kort miljoenen aan special-effects en perfecte ‘realistische animaties’ in zijn producties, maar tegenwoordig kan een beetje slimme middelbare scholier met gratis AI-software hetzelfde effect bereiken. Daarbij komt dat politieke en militaire deepfake cyberwarfare vele malen goedkoper is dan een conventionele oorlog die bovendien het existentiële risico heeft van een nucleaire escalatie zonder overwinnaars. Het effectief destabiliseren van een ‘vijandige mogendheid’ levert een aanzienlijk asymmetrisch politiek, economisch en cultureel machtsvoordeel op.

Het exploiteren van de politieke en culturele polarisering in een land door een ‘vijandige staat’, dmv. het massaal voeden van de sociale media van beide kampen met ophitsende steunbetuigingen en desinformatie, kan gemakkelijk een staat destabiliseren. In de VS zijn nogal wat groepen die men met valse accounts en deepfake technologie kan infiltreren en tegen elkaar opzetten, zonder dat ze er zelf weet van hebben: BLM, Antifa, Neomarxistische activistengroepen, LGBTQ’ers, Woke bewegingen, Proud Boys, Alt-America, QAnon, Wetenschappers, Afro-Amerikanen, Islamieten, ga zo maar door. Vooral democratische landen die de vrijheid van meningsuiting en informatievergaring hoog in het vaandel hebben zijn gevoelig voor ondermijning door zowel binnen- als buitenlandse deepfake acties die olie op het polariserende vuur gooien. En niet-democratische regimes verstevigen juist hun greep op de bevolking met deepfake informatie. 

Het opsporen van deepfake synthetische media is dus een zaak van het hoogste belang om een infocalyps en maatschappelijke chaos te voorkomen. Want zonder betrouwbare informatie verdwijnt het onderscheid tussen realiteit en fictie voor de burger en daarmee het vertrouwen in de democratische instituties. Bedenk daarbij wel dat als alles gefaked kan worden, alles ook ontkend kan worden, ook niet-gefaked materiaal! (Trump noemt de ‘pussy-video’ in tweede instantie een deepfake). En het probleem steekt op een individueel niveau nog dieper: het vertrouwen in de taal zelf en in de betekenisgeving ervan vervluchtigd. Het is de taal tenslotte die het belangrijkste bindmiddel is waarmee wij met elkaar en uiteindelijk met onszelf communiceren.

Deepfake technologie en deepfake detectie is een wereldwijd nijpend probleem dat met grote snelheid op ons af dendert. De Westerse wereld blijkt tot nu toe maar niet in staat tot internetregulering ten behoeve van feitelijkheid, privacy, veiligheid en vrijheid van zijn burgers. Zowel Facebook, Google, Twitter, Instagram, YouTube, Microsoft etc. en overheden werken bepaald niet voortvarend mee. En dat terwijl iedereen kan zien dat het met de online-radicalisering als gevolg van eenvoudige fake en cheapfakeberichten al epidemisch uit de hand is gelopen. 

Lubach zette de afgelopen week nog eens op een rij hoe mediatrucs u zo lang mogelijk aan uw beeldscherm gekluisterd houden en hoe uw dopamine verslaving aan de social media in uw brein wordt ingespoten. 

De fraaie en verontrustende Netflix documentaire ‘The Social Dilemma’ geeft u een inside story hoe uw kijkgedrag, breinverslaving en kijk op de wereld tot stand gebracht wordt (mooie uitspraak van Tristan Harris, ex  Google medewerker: ‘The polarisation of our society is actually part of the (Bigtech) businessmodel’.

Het meest indrukwekkende overzichtsboek over deze materie is mi. dat van social media analist Nina Schick: Deepfakes and de Infocalyps (zie ook YouTube). Aanrader eerste klas, om u te wapenen tegen technoslavernij en een dystopisch wereldbeeld.

PS: Dit is geen robotgeproduceerde tekst (of toch wel?, nou ja….)

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *