De seneste uger og måneder har været et wake-up-call for brugere af digitale assistenter.
I den periode er ALLE techgiganterne (Google, Apple, Microsoft, Amazon og Facebook) blevet taget med fingrene i kagedåsen.
En efter en er de blevet afsløret i at have mennesker på lønningslisten, hvis job det er at lytte på og transskribere udvalgte stemmeoptagelser optaget via de digitale assistenter — vel at mærke uden at firmaerne har gjort deres brugere opmærksomme på det eller givet dem mulighed for at sige ‘nej tak’.
I april var det Amazon, i juli blev det Googles tur, skarpt efterfulgt af Apple . Her i august blev så både Microsoft og Facebook afsløret i fuldstændig samme praksis.
Senest har Politiken været i kontakt med tre danskere, hvis job det er (eller har været) at sidde og lytte på, hvad vi danskere siger til Apple og Googles assistenter. Således fortæller en anonym person, der tidligere har været ansat hos en Apple-underleverandør:
“Alt blev transskriberet. Når optagelserne kom ind, filtrerede vi ikke nogen fra. Arbejdet var det samme – at skrive ned, hvad der blev sagt. Jeg har overhørt skænderier, samlejer samt almindelige samtaler, der tydeligt ikke henvender sig mod Siri”, siger den anonyme kilde til Politiken.
Det er altså — ikke overraskende — fuldstændig de samme oplevelser, de danske ansatte har haft, som deres kolleger fra andre lande tidligere har fortalt til bl.a. The Guardian, Bloomberg og det belgiske public service medie VTR.
Vi skal lære assistenten at forstå
Grunden, til at det er nødvendigt at have folk til at lytte med, er, at de digitale assistenter Siri, Alexa, Google Assistent og Cortana stadigvæk er langt fra kloge nok til, at de altid forstår, hvad vi siger til dem.
Men mange brugere ved ikke, at det er tilfældet.
“I øjeblikket er det gængse lægmandsperspektiv, at det er en fuldstændig computerdrevet proces, hvor mennesker er helt fjernet fra ligningen, skriver Matthew Hughes på mediet The Next Web og fortsætter:
“Virkeligheden er en helt anden. Mennesker skaber modellerne. Mennesker hjælper med at træne modellerne. Og mennesker udfører det kvalitetssikringsarbejde, der holder de kunstige intelligens-modeller på sporet, ved at kontrollere deres arbejde”,
Den måde, man hjælper de digitale assistenter til bedre at forstå vores talesprog, er altså ved at ansætte mennesker til at lytte til udvalgte optagelser og transskribere, hvad der i virkeligheden bliver sagt og fodre maskinen med den nye viden.
Og hvad er så problemerne i det? Der er mange.
Først og fremmest er det bare råddent uærligt, at techgiganterne ikke klart og tydeligt oplyser brugerne om, at der er mennesker, som lytter til deres optagelser, og samtidig giver en nem mulighed for at vælge det til eller fra.
Derudover er fejloptagelserne særligt problematiske, fordi brugeren ikke aktivt har hidkaldt assistenten. Efter min egen oplevelse sker det alt for ofte, at Siri tror, den har hørt nogen sige “Hej Siri”, og det samme problem er velkendt hos Google og Amazons assistenter.
Hvor ofte assistenten fejlagtigt bliver aktiveret, uden at brugeren lægger mærke til det, ved vi jo af gode grunde ikke. Men det betyder, at vi ikke har kontrol over, hvilke private samtaler og informationer der sendes til et amerikansk firmas servere og efterfølgende aflyttes af en landsmand.
Nogle optagelser kan føres tilbage
Selvom alle firmaerne påstår, at de medarbejdere, der lytter og afskriver lydoptagelserne, ikke ved, hvem der taler, så påviste mediet VTR i juli, at flere optagelser fra Googles assistent kunne føres direkte tilbage til de pågældende brugere.
De brugte blandt andet adresser, telefonnumre og navne sagt på optagelserne til at lokalisere flere brugere, der efterfølgende bekræftede, at det var dem, der talte på lydfilerne.
I et lille land som Danmark kan det jo ret beset være, at en “lytte-medarbejder” kender dig, eller kan genkende stemmen på den der taler.
Apple er den helt store skurk
At techgiganterne aktivt vælger at forsøge at skjule denne privatlivsfjendtlige praksis, overrasker nok de færreste — dog lige med en enkelt undtagelse. Ja, Apple, pilen peger på jer.
Mens Google, Facebook og Amazon entydigt har dataindsamling og udnyttelse af disse data som deres centrale forretningsmodel, så har Apple de senere år valgt en anden vej — nemlig rollen som privatlivets forsvarer.
Gentagne gange har Apple præsenteret nye tiltag, der skal sikre brugernes privatliv. Gentagne gange har firmaets øverste boss, Tim Cook, peget fingre af konkurrenterne og ved navns nævnelse undsagt deres forretningsmodel.
Så sent som i januar i år lancerede Apple reklamekampagnen “What happens on your iPhone, stays on your iPhone”. Men dette har altså nu vist sig at være falsk markedsføring.
Som Apple-analytikeren John Gruber skriver:
“At lade Apple-underleverandører lytte til tilfældige samtaler eller lydoptagelser er mareridtscenariet i forhold til en stemmeassistent, der altid lytter med. Det er en privacy-fiasko og et forræderi af Siri-brugernes tillid.”
Allerværst er det næsten, at Apple ikke i det mindste ændrede praksis, da først Amazon og efterfølgende Google blev afsløret i at smuglytte uden brugernes viden eller accept. Der er altså ingen undskyldning.
Hvorfor spørger man ikke bare brugerne?
Selvom Apple efter The Guardians afsløringer indtil videre har stoppet sin lyttepraksis (Google har gjort det samme), og lovet at der kommer ændringer, så man fremover aktivt skal give tilladelse til, at ens stemmeoptagelser bliver lyttet på, så har det slået alvorlige skår i firmaets troværdighed, som dem der tager privatliv seriøst.
Det værste er, at det slet ikke behøvede at være sådan.
Apple har allerede en række tiltag, hvor brugeren aktivt bliver spurgt, om de vil deltage. De fleste, der har en iPhone eller en Mac, kan nok huske, at de er blevet spurgt, om de vil dele analysedata med Apple og appudviklere, så de kan forbedre deres produkter.
Faktisk findes der på iPhone et helt faneblad i ’Indstilliger’, der kun er dedikeret til dette. Her glimrer Siri ved sit fravær.
Spørg brugeren igen og igen
Apple slipper formentlig i denne omgang med en halvdyb ridse i lakken.
Men det skal nok ikke gentage sig i den nærmeste fremtid, før både medier og brugere bliver nødt til at revurdere opfattelsen af ægtheden bag firmaets privatlivs-agenda — en agenda der er central i en verden, hvor de andre totaldominerende techfirmaer nægter at forholde sig selvkritisk til deres dataindsamling.
Som John Gruber afsluttede sin artikel om emnet, vil jeg ligeledes slutte med at citere Apple-stifter Steve Jobs, da han i 2010 udtalte sig om privacy på tech-konferencen D8:
”Privacy betyder, at folk ved, hvad de siger ja til, kommunikeret i et letforståeligt sprog og gentagne gange. Jeg tror på, at folk er kloge, og at nogle mennesker vil dele flere data end andre. Spørg dem. Spørg dem hver eneste gang. Få dem til at bede dig om at holde op med at spørge, hvis de bliver trætte af, at du spørger dem. Fortæl dem nøjagtigt, hvordan du behandler deres data”.
Hvor svært kan det være?
