Live meekijken met massamoord: “Internetreuzen moeten ingrijpen”

De schietpartij op een van de twee moskeeën in Christchurch was live te volgen op Facebook. De schutter droeg een bodycam en streamde de beelden via zijn account. Facebook heeft aan Nieuw-Zeelandse media laten weten dat de video intussen is verwijderd. “De politie waarschuwde ons voor een video kort na het begin van de livestream. We hebben de video snel verwijderd en de Facebook- en Instagram-accounts van de schutter geblokkeerd.” 

Facebook, YouTube en Twitter proberen de misselijkmakende beelden snel te verwijderen, maar op internet is het kwaad binnen mum van tijd geschied. De video gaat als een olievlek rond. Inmiddels circuleert het filmpje dus overal en is te zien hoe de dader ogenschijnlijk kalm met zijn auto naar een moskee rijdt, wapens uit zijn achterbak pakt en het vuur opent op moskeegangers. Zo registreert de camera op zijn helm minutieus hoe de 28-jarige Brenton Tarrant tientallen mensen doodt. De stream eindigt wanneer de man met hoge snelheid wegrijdt. 

Online wordt de 17 lange minuten durende video omschreven als ‘de eerste first person mass shooting’ - de eerste massamoord gefilmd vanuit het gezichtspunt van de dader - in videogames overigens het meestgebruikte perspectief. Maar de bloedige aanslag is zeker niet de eerste gruweldaad die live de wereld in geslingerd wordt via de sociale media. Eerder gingen al beelden rond van moord, zelfmoord en verkrachting via Facebook, Twitter en andere kanalen.  

De reactie van de grote internetbedrijven is steeds vergelijkbaar: we doen ons best om schadelijke video's te weren. De inhoudelijke controle is vaak een combinatie van kunstmatige intelligentie (digitale detectie) en mensenwerk (voor controle achteraf). Het ‘algoritme’ wordt zo getraind dat seks, geweld en haatzaaien snel onderschept wordt. Critici betwijfelen echter of er voldoende werk van gemaakt wordt. Zo glipte deze video van de Australiër die de wapens opneemt en begint te schieten blijkbaar eenvoudig door de digitale detectiemuur. 

Het moet technisch mogelijk zijn om deze combinatie van beelden en geluiden - wapens in beeld, het geluid van schoten, geschreeuw, vluchtende mensen - een ‘rode vlag’ te geven, denkt Nederlander Joost de Wit, CEO van Media Distillery, een technologiebedrijf gespecialiseerd in automatische beeldherkenning. “Dit is niet het meest ingewikkelde beeld, zou je zeggen. Je kunt een algoritme best aanleren dat deze combinatie van factoren herkend moet worden, daar is zeker ruimte voor verbetering”, stelt hij. Al loop je dan al snel aan tegen de grenzen van de vrijheid van meningsuiting. 

Jan van Dijk, hoogleraar Nieuwe Media aan de Universiteit Twente benadrukt daarbij dat het vooral een kwestie van ‘willen’ is: “Bedrijven als Facebook en Twitter zijn verantwoordelijk voor de inhoud die ze vertonen. Dus verbeter de algoritmes, zet er meer mensen op, investeer erin. Wat ze er nu aan doen is peanuts vergeleken bij de miljardenwinst die ze maken.”

In een reactie benadrukt Facebook dus dat het alles in het werk stelt om zulke video's te weren. De accounts van de dader zijn ook verwijderd. Waarom de beelden niet sneller gedetecteerd werden, kon een woordvoerder niet zeggen.