Facebook modereert ook emoji's in strijd tegen haatberichten

Facebook, Twitter, Instagram en consorten worstelen al langer met haatberichten, seksueel grensoverschrijdend gedrag en cyberpesten. In een poging daar een einde aan te maken werden de gedragsregels die ze hanteren de voorbije jaren steeds strenger. Berichten worden uitvoerig op hun inhoud gescreend en wie over de schreef gaat, loopt tegen een (tijdelijke) blokkering aan. Om die controle te ontlopen, nemen steeds meer Facebook-gebruikers, twitteraars  of fervente Instagrammers hun toevlucht tot emoji's om te pesten of aan te zetten tot haat. Die op het eerste gezicht onschuldige afbeeldingen worden immers minder intensief gescreend dan geschreven boodschappen. 

Aubergines en perziken

Alleszins bij Facebook komt daar nu verandering in. Uit een intern document dat de techwebsite Motherboard op de kop kon tikken blijkt dat de sociaalnetwerksite zijn moderatoren traint om meer aandacht te besteden aan die emoji's. Het document bevat een heel lijstje met emoji's die in een bepaalde context en veel venijniger boodschap kunnen verspreiden dan wat je op het eerste gezicht zou vermoeden. 

Dat achter een afbeelding van een mes, een bom of een (water)pistool een oproep tot geweld kan schuilgaan ligt voor de hand. En dat de combinatie van een aubergine en perzik hoogstwaarschijnlijk geen onderdeel uitmaakt van een onschuldig boodschappenlijstje weten ondertussen ook de meeste mensen. Maar ook achter veel onschuldiger symbolen kan een verontrustende boodschap schuilgaan, leert het lijstje dat de Facebook-moderatoren onder de neus krijgen. 

Context 

Het alomtegenwoordige lachend kakske bijvoorbeeld kan een aanwijzing voor pestgedrag zijn. Applaudisserende handjes, duimpjes of een gezichtje met hartjes in plaats van ogen kunnen dan weer wijzen op goedkeuring of aanmoediging van haatberichten of boodschappen van geweld. Een verbodsbord of een opgestoken hand staat symbool voor uitsluiting. En ook afbeeldingen van dieren allerhande moeten bij moderatoren voortaan de alarmbellen doen afgaan. Die kunnen immers gebruikt worden om bepaalde bevolkingsgroepen te stigmatiseren. 

En dan is er nog het uitgebreide gamma aan emoji's met een seksuele ondertoon. Naast aubergines en perziken gaat het dan om hotdogs, bananen en zelfs uitbarstende vulkanen. Met een kroontje, een roos of een hakschoen beland je dan weer in de wereld van de betaalde liefde. Al betekent dat niet dat al die emoji's nu plots geweerd zullen worden. Alles hangt af van de context waarin het tekeningetje wordt gebruikt, benadrukt Facebook. Het is aan de moderatoren zelf om te bepalen of een emoji door de beugel kan op basis van waar, wanneer en bij wie hij opduikt.