Een GroenLinks-PvdA snelwegblokkade voor meer migranten?? Hoe je AI-gegenereerde extreem-rechtse propagandafilmpjes kan herkennen

Op Twitter gaat dit AI-gegenereerde filmpje rond alsof het echt is. Het heeft honderden reacties van mensen die geweld toewensen aan deze mensen. Ik wil mijn manier delen om nepfilmpjes te herkennen, hoe overduidelijk dit nep is, en wat dat zegt over extreem-rechts Twitter.

Allereerst, geloven mensen hier echt in? Ja, dit filmpje heeft meer dan 200 reacties die grotendeels in de categorie hieronder vallen. Mensen zijn bereid om op basis van nepnieuws hun agressie te botvieren. Ze kijken niet even een paar seconden of het echt is, of het maakt ze niet uit.

Want dat is extreem makkelijk te zien. Ten eerste staat het watermerk van Sora (een AI-video-generator) prominent in beeld. Er staat ook in het filmpje dat het AI-gegenereerd is. Die disclaimer is echter klein, en veel mensen weten niet wat Sora is.

Dan: dit zijn geen GroenLinks/PvdA-vlaggen. De partijen zijn nog niet gefuseerd en hebben geen eenheidsvlag. Daarnaast doet GroenLinks/PvdA niet mee aan snelwegblokkades en hebben ze er nog nooit een georganiseerd. Maar voor extreem-rechts is het natuurlijk een pot linkse nat.

Een ander teken zijn de bordjes. AI is wel beter geworden in het genereren van teksten, maar er zitten vaak nog hele duidelijke fouten in. Kijk bij filmpjes altijd even: wat staat daar eigenlijk?

Ook is AI van de herhaling. Zo draagt deze ‘persoon’ een petje met het logo van de plofkap van de nieuwslezer. Die plofkap is van “newsnet”, staat er, maar het is van het Tiktok-account “@nederland_news_”.

Nog wat praktische dingen: die agenten hebben geen Nederlands politietenue aan, de politie-auto’s zijn geen Nederlandse modellen (en staan zelf in de file?), de hele file lijkt zwaailichten aan te hebben…

…en dat verkeersbord links staat naast de weg. Zo zijn er wel meer dingen die niet kloppen.

Een andere fout die AI vaak maakt, is dat het niet weet wie er aan het praten is. Op ongeveer zes seconden van het filmpje zie je deze generaat (gegenereerd ‘persoon’), wiens lippen bewegen met de tekst die de ‘verslaggever’ aan het zeggen is.

Daarnaast zit er door de hele video de zogenaamde “Sora warble”, of de Sora-vertroebeling. Als je lang naar één specifiek punt kijkt met kleine details of reliëf, dan zie je dat het golft op een manier die anders is dan de vertroebeling die opspeelt door videocompressie.

En ik wil jullie niet dit schattige mini-busje onthouden dat achter de ‘demonstranten’ is gegenereerd. AI snapt vaak weinig van perspectief, relatieve grootte, en realisme.

Hoe dit filmpje verspreid wordt, laat overduidelijk zien in wat voor wereld van desinformatie extreem-rechts zit. Dat mensen zelfs voor dit nepfilmpje vallen, laat zien dat ze bereid zijn om alles te geloven wat in hun politieke straatje past. Een teken van een sekte.

Natuurlijk is het goed om met je naasten te blijven praten, maar weet ook: debatteren op het internet met deze mensen heeft geen zin. Met praten kom je er niet uit. Extreem-rechts kan alleen verslagen worden als de sekteleiders uit beeld verdwijnen.

Bo Salomons

(Dit artikel verscheen eerder als draadje op Bluesky.)

Joost Hellegers‬ reageerde onder dit draadje: “Nog een vreemd aspect van het filmpje: de demonstranten zitten met hun gezicht van de auto’s af. Dat zouden ze nooit doen. Niemand kan zo hun protestborden lezen, er kan zo iemand op hen inrijden zonder dat ze het zien, en om een wegblokkade te beginnen, moet je wel het verkeer kunnen aankijken.”