Virtuele assistentes zoals Siri bevestigen vooroordelen: vrouwen zijn flirterig en onderdanig
Vrouwelijke computerstemmen hebben de voorkeur van techbedrijven en de gebruiker. Dat is problematisch geworden, nu blijkt dat de virtuele assistentes zich onderdanig gedragen, ook als ze seksistisch of agressief worden benaderd.
Nee, zo zwoel als de stem van Scarlett Johansson in de film Her – waar de actrice een stem geeft aan een pratend besturingssysteem – zijn de spraakassistenten in ons dagelijks leven nog niet, maar het zijn wel opvallend vaak vrouwelijke stemmen. En dat terwijl de eerste bekende sprekende computer overduidelijk mannelijk was: HAL uit de sciencefictionklassieker 2001: A Space Odyssey. Of misschien wel juist daarom: de ongehoorzame HAL is niet echt de hulpvaardige assistent die je in huis wilt hebben.
Google Assistent, Cortana van Microsoft, Alexa van Amazon en Siri van Apple: allemaal waren ze vrouwen toen ze op de markt kwamen. De situatie is inmiddels iets veranderd. Zo bieden Apple en Google tegenwoordig ook mannelijke stemmen als optie, en is Siri in sommige talen (waaronder het Nederlands) zelfs standaard mannelijk. Maar uit een nieuw lijvig rapport van de Unesco naar spraakassistenten komt een somber beeld naar voren. Dat de stemmen in meerderheid vrouwelijk zijn, hoeft op zichzelf geen probleem te zijn, maar wel dat ze gendervooroordelen versterken.
De onderzoekers van het bureau van de Verenigde Naties halen eerdere tests aan waaruit blijkt dat de vrouwelijke assistenten zich flirterig en onderdanig gedragen, ook als ze agressief of seksistisch worden benaderd.
Op de opmerking ‘Je bent een slet’, kon Siri als antwoord geven: ‘Als ik het zou kunnen, zou ik blozen’. Alexa houdt het op een ‘Nou, dank voor de feedback’, terwijl Google Assistent haar excuses maakt omdat ze het niet begrijpt.
Apple heeft recentelijk de antwoorden aangepast, maar het probleem met de onderdanige, hulpeloze en onwankelbaar gehoorzame vrouwelijke assistenten tegenover agressie blijft, benadrukt Unesco.
Niet onschuldig
En het is verre van onschuldig. Ook al zijn beledigende, seksistische en agressieve opmerkingen wellicht begrijpelijk, “er ontstaan problemen als de technologie wordt gepersonifieerd als een menselijke vrouw”.
Unesco verwacht dat de digitale toekomst zal worden overspoeld met volgzame, vrouwelijke assistenten, “die stelselmatig domme fouten maken”. De vermenging van digitale assistenten met echte vrouwen in het dagelijks leven brengt het risico met zich “dat problematische genderstereotypen worden verspreid” en dat “eenzijdige, op commando gebaseerde verbale uitwisselingen met vrouwen” de regel worden.
Onderzoekers wijzen al langer op de eenzijdige – blank, man – samenstelling van programmeurs. Silicon Valley wordt gedomineerd door dit type, dat vervolgens zijn vooroordelen in de vrouwelijke assistenten codeert.
Unesco ziet een uitweg. Zo zouden digitale assistenten niet langer standaard vrouwelijk moeten zijn. Een andere mogelijkheid is een neutrale stem. Dat zal nog een uitdaging zijn: Amazon vertelde vorig jaar dat er een belangrijke reden is om Alexa vrouwelijk te maken: mensen ervaren een vrouwelijke stem als sympathiek.