Worden we nu afgeluisterd door slimme assistenten of niet? Drie weetjes

Het was afgelopen week weer raak: Apple gaf toe gesprekken van Siri af te luisteren. Eerder werd al bekend dat Google en Amazon, de makers van de Google Assistent en Amazon Alexa, ook gebruikers afluisteren.

De drie bedrijven zeggen dat ze het puur en alleen voor kwaliteitsdoeleinden doen. Privé-informatie wordt gemaskeerd en vervormd. Toch worden (heel soms) ‘gesprekken’ opgenomen waarin mensen seks met elkaar hebben, een medisch detail wordt prijsgegeven of andere gevoelige informatie per ongeluk wordt gedeeld met de slimme assistent. Vervelend, maar ergens ook wel logisch. Bij miljoenen spraakcommando's kan er weleens iets fout gaat. Laten we drie dingen echter voorop stellen:

Siri, Alexa en Assistant luisteren inderdaad altijd mee, maar nemen niet alles wat je zegt op. Integendeel: de assistenten luisteren maar naar één ding: het ontwaakwoord (Hé Siri, Ok Google, Alexa).

De assistent ontwaakt bij het horen van deze woorden meteen. Vanaf dat moment wordt er opgenomen. Hier beginnen ook meteen de problemen. Soms wordt de assistent namelijk per ongeluk ontwaakt. En dat zijn de gevallen waar de Apple-medewerkers naar luisteren, omdat ze de kwaliteit van Siri willen verbeteren. Zelfs het geluid van een rits kon Siri ontwaken.

Hoe dan ook, de opnames worden naar de servers van Apple of Google gestuurd en vervolgens stuurt de assistent een antwoord. Deze opnames worden bewaard.

Ooit een klantenservice gebeld? Dikke kans dat je de zin ‘dit gesprek kan worden opgenomen voor kwaliteitsdoeleinden’ hebt gehoord. Hetzelfde geldt voor de assistenten. Er zijn mensen nodig die foute antwoorden analyseren en foute ‘ontwakingen’ verminderen. De assistenten werken vooral op basis van een lerende kunstmatige intelligentie, maar er is ook een human touch nodig.

Een klein deel van de gefaalde interacties (minder dan één procent) wordt gecheckt door een medewerker, waarbij de persoonsgegevens van de gebruiker onduidelijk of onzichtbaar worden gemaakt. De medewerker checkt wat er misging: lag het aan een accent? Was de vraagstelling anders? Of was er te veel geluid? De bevindingen worden vervolgens doorgegeven aan de ontwikkelaar.

Overigens zouden die medewerkers per ongeluk een bekende tegen kunnen komen in de opnames, zo bewees VRT NWS afgelopen maand, maar dat is bijzonder zeldzaam en bijzonder illegaal.

De reden voor de ophef is simpel: de techbedrijven zijn veel te gesloten over deze praktijken. Pas in de kleine lettertjes valt te lezen dat er audiogegevens kunnen worden gedeeld met Google bij het gebruik van zijn assistent. Niemand stelt letterlijk dat fragmenten opgenomen kunnen worden voor kwaliteitsdoeleinden, zoals bij veel klantenservices.

Niet gerustgesteld? Dan kun je het ‘afluisteren’ ook uitzetten in de instellingen. Overigens kan dat – opvallend genoeg – niet bij Apple. Dat bedrijf stelt zich vaak op als voorvechter van de privacy, maar gesprekken kunnen gewoon opgenomen worden. Overigens laat Apple wel alle verdere datadelingen uitschakelen.