Smarte højtalere, der kan forstå, hvad du siger og svare på simple spørgsmål og kommandoer, har været en af de varmest sælgende gadgets i USA de seneste par år. Men også i Europa og Danmark tager deres udbredelse fart.
Sidste år kom Google Home og Home Mini til Danmark med en dansktalende assistent, hvilket blandt andet gjorde de lyttende og talende højtalere til det helt store julegavehit i 2018.
Men bag ved de smarte højtaleres “intelligente assistent”, der typisk hidkaldes til at levere en hurtig vejrudsigt, afspille musik eller tilføje varer til indkøbslisten, gemmer der sig ikke kun kunstig intelligens. Der gemmer sig også mennesker af kød og blod, hvis job det er systematisk at sidde og lytte til og transskribere, hvad du siger.
Det gælder både spørgsmål, du har bedt assistenten om at svare på, og fejloptagelser af private samtaler som aldrig skulle have været sendt til Googles servere.
Det afslører det belgiske public service medie VRT NWS på baggrund af information fra tre forskellige anonyme kilder.
Afsløringen kommer blot to måneder efter, at Bloomberg rapporterede en tilsvarende historie om, at Amazons ansatte lytter på optagelser foretaget med firmaets digitale assistent Alexa.
Google lytter på private samtaler
Journalisten Tim Verheyden har lyttet til over 1.000 optagelser, som VRT NWS har fået adgang til via en person, hvis job det er at lytte til og udskrive samtalerne, for at hjælpe Googles kunstige intelligens til at blive klogere.
Kilden har givet VRT NWS lov til at kigge og lytte med på det stykke software, han bruger til at afskrive, hvad der bliver sagt på optagelser, som den digitale assistent har svært ved at forstå.
153 af lydfilerne er ifølge Tim Verheyden indhentet efter, at Google Assistenten ved en fejltagelse har aktiveret optageknappen — altså uden at brugeren har sagt kommandoen “Okay Google” eller “Hey Google”.
Google: Ja, vi lytter til 1 af 500 optagelser
VRT NWS har forholdt Google i Belgien sagen, som erkender, at de lytter med.
Michiel Sallaets fra Google oplyser, at omkring 0,2 procent af alle optagelser — altså 1 ud af 500 — bliver lyttet på, af det Google kalder en sprogekspert.
“Det arbejde er bydende nødvendigt for at kunne udvikle teknologier, som understøtter produkter som Google Assistent”, siger Michiel Sallaets, om metoden til at forbedre sprogteknologien — det der i datalaogi-termonologi kaldes Speech Recognition og Natural Language Understanding.
Google understreger samtidig, at de lydfiler, som de såkaldte sprogeksperter lytter på, ikke er direkte linket til personlige eller andre identificerbare data om personerne, der taler.
Men VRT NWS undersøgelse viser, at den påstand ikke holder stik i virkeligheden.
For selvom at der ikke er et direkte link til en brugerkonto, som sprogeksperten kan se, bliver der ofte sagt ting på optagelserne, der nemt kan føres direkte tilbage til de involverede personer.
Lydfilerne med personidentificerbar data
VRT NWS har på baggrund af de personfølsomme ting, der bliver sagt på optagelserne (såsom adresser) opsøgt flere personer, hvis lydfiler, de har lyttet på.
I det 12 minutter lange TV-indslag bekræfter flere Google-brugerne, at det er deres egne (og deres børn og børnebørns) stemmer, man kan høre på optagelserne. Med andre ord indeholder optagelserne private personidentificerbare informationer.
Men det stopper ikke der.
Optagelserne inkluderer også folk, der diskuterer stærkt private sager. Blandt andet et par der taler om hvorvidt deres barn vokser normalt og en række spørgsmål relateret til sygdomme og medicin.
Kvinde der bliver udsat for vold
Den anonyme kilde, som ikke er direkte ansat af Google, men af en underleverandør, fortæller, at han hver uge lytter til cirka 1.000 stemme-optagelser fra private hjem.
Her har han blandt andet også oplevet at høre en kvinde, der bliver udsat for vold, på en af de optagelser der fejlagtigt er optaget af Google Assistenten.
“Det bliver rigtige mennesker du lytter til, ikke bare stemmer”, siger han.
Han forklarer også, at han ikke har nogen retningslinjer for, hvad han skal gøre, hvis han lytter til samtaler af den karakter. For eksempel er den allerførste optagelse der bliver afspillet i tv-indslaget, en person der spørger: “Okay, Google. Må jeg slå min kone”.
Dette minder i nogen grad om en nylig afsløring af, hvordan ansatte, der modererer Facebook-indhold, er voldsomt mentalt påvirket af at skulle moderere alskens had og vold på platformen.
Googles tilgang kan være i strid med GDPR
Ifølge Jef Ausloos, som forsker i IT-lovgivning ved Amsterdams Universitet, så er Googles håndtering af stemmeoptagelserne formentlig i strid med GDPR.
Den vurdering støttes af Michael Veale, forsker ved Alan Turing Institute i London, som teknologimediet Wired har talt med. Michael Veale understreger, at firmaer skal være helt åbne om, hvilke data de indhenter, og hvordan de bliver behandlet.
“Du skal være meget specifik om, hvad du implementerer og hvordan. Jeg tror Google har undladt dette, fordi det ville se creepy ud”, siger han til Wired.
Google nævner ingen steder i deres privatlivspolitik, at der er mennesker, der lytter på de optagelser, som bliver foretaget via Google Assistent.
Lytter Apple også?
Michael Veale har tidligere klaget til det irske datatilsyn over Apples digitale assistent Siri, fordi han mener, at Apples behandling af data netop er i strid med GDPR.
I modsætning til Google og Amazon, hvor man kan logge ind på sin konto og lytte til sine egne optagelser og slette dem, kan man slet ikke tilgå de optagelser, man foretager via Siri.
Apple har svaret, at de behandler stemmedata på en så omhyggelig måde, at de ikke kan kategoriseres som personlige data, dog uden at detaljere, hvad det betyder.
På Apples danske side oplyser firmaet, at de af privatlivs-grunde ikke forbinder dine Siri-forespørgsler med din konto. Men om firmaet ligesom Google har mennesker ansat til at lytte til udvalgte lydfiler, kan ikke udelukkes:
“Apps kan bruge Siri til at imødekomme dine anmodninger eller sende lyd til transskribering hos Apple – men kun hvis du giver din tilladelse først”, lyder det.
Det fremgår altså ikke, om det er et menneske eller en maskine, der transskriberer.
Ifølge Wired har Apple tidligere beskrevet i et såkaldt white paper, at de bruger mennesker til at lytte, til udvalgte optagelser ligesom Google og Amazon.
Smarte højtalere har før været ude af kontrol
Afsløringen af at der er mennesker som lytter med på stemmeoptagelser, er langt fra første gang de smarte højtalere og digitale assistenter har trukket negative overskrifter.
I 2017 optog en Google Home Mini på egen hånd flere tusinde optagelser fra en techjournalists badeværelse og sendte dem til Googles severe.
I 2018 var det så en Amazons Alexa der ved en fejl optog et ægtepars private samtale og sendte til en person i deres kontaktbog.
Samme år skræmte Amazons højtaler ved flere lejligheder nærmest livet af flere ejere, ved pludselig at begynde at grine, uden at nogen havde aktiveret den digitale assistent.
Alexa: Slet mine stemmebeskeder
I forlængelse af sagen om, at Amazon-ansatte lytter med på stemmeoptagelser, har firmaet for nyligt lanceret en nye stemmekommando for at imødekomme noget af kritikken: “Alexa, delete everything I said today”, som gør det lidt lettere at slette dagens stemmeoptagelser.
Hos Google skal du stadig logge ind og gøre det manuelt.
Alternativt kan du få hjælp til at slette stemmesøgninger hos Google via den nye privatlivs-assistent, Jumbo, som kan gøre det for dig.
