Ansigtsgenkendelse
Foto: DataSparQ

Slut med at blive sprunget over i barkøen: Ansigtsgenkendelse er overalt omkring os

Digital ansigtsgenkendelse breder sig med voldsom fart, og dit ansigt er allerede blevet scannet mange gange. Men teknologien er kontroversiel og er blandt andet blevet forbudt i svenske skoler.

Hvis du har en nyere iPhone, så ved du, hvor simpelt og effektivt det er at bruge dit glatte ansigt til at identificere dig selv og låse telefonen op.

Men ansigtsgenkendelse er langt fra forbeholdt en telefon, hvor dit biometriske DNA er gemt lokalt på enheden. Det er en kontroversiel teknologi, som allerede bliver brugt til alle mulige formål både digitalt og i det offentlige rum. Og uanset om du ønsker det eller ej, så kan du stort set ikke undgå at deltage.

Lige nu tager teknologien for alvor fart både i Danmark og i resten af verden, hvor ansigtsgenkendelse bliver testet og brugt på skoler, til koncerter, på fodboldstadions, i paskontrollen, på barer og i det offentlige rum.

Du bruger allerede ansigtsgenkendelse

Et af de steder, hvor dit ansigt formentlig første gang er blevet scannet og analyseret, er på Facebook.

Facebook har brugt teknologien længe, hvor de blandt andet har brugt ansigtsgenkendelse til at foreslå, om bestemte personer optræder på et billede, så du kan tagge dem.

Bruger du Apples eller Googles foto-apps, så er ansigtsgenkendelse også dybt integreret. Har du først markeret en række billeder af en ven eller et familiemedlem med navnet “Peter”, ja så vil algoritmen fremover selv finde ud af, når Peter optræder på nye billeder, du tager af ham.

Det samme gør sig gældende med videokamera-dørklokker, som f.eks. Googles Nest Hello, hvor du kan lære dørklokken, hvordan forskellige personer ser ud, og hvad de hedder.

Men det er kun toppen af isbjerget.

Slut med at blive sprunget over i køen

På en bar i England har man for nylig testet et nyt system, hvor man bruger ansigtsgenkendelse til at identificere, hvem der er først i køen, så man får betjent kunderne i den rigtige rækkefølge.

Barpersonalet ser simpelthen et billede på en iPad af den person, som skal betjenes næste gang.

Er der tale om yngre mennesker, hvor der kan være tvivl om, hvorvidt de er gamle nok til at købe alkohol, så bliver det vist ud for den enkelte person, om deres ID skal tjekkes, eller om de allerede er blevet tjekket, så de ikke skal spørges igen og igen.

Firmaet DataSparQ, der har udviklet løsningen, oplyser, at de sletter billederne indenfor 24 timer.

Ingen fodbold i Brøndby uden ansigtsgenkendelse

I Danmark har fodboldklubben Brøndby IF for nylig indført ansigtsgenkendelse på Brøndby Stadion. Grunden er, at de vil forsøge at identificere personer, der har karantæne fra at komme på stadion. Men systemet betyder samtidig, at alle andre publikummer får deres ansigt scannet for at se, om der er et match.

Brøndby IF oplyser, at “billeder af personer, der ikke bliver genkendt af systemet, ikke bliver lagret”.

Fodboldklubben har fået systemet godkendt af Datatilsynet, som dog har pålagt klubben, at de via skilte skal gøre tilskuerne opmærksomme på, at teknologien bliver anvendt. Men vil du på stadion, er der altså ingen vej udenom.

Det mener Jesper Lund, som er formand for IT-politisk forening, er dybt kritisabelt.

“Ved premieren på Brøndby Stadion udsatte man 13.000 personer for en enormt indgribende behandling af følsomme personoplysninger for at stoppe EN person, som havde fået karantæne, men som alligevel prøvede at komme ind. Det er der ingen som helst proportionalitet i”, siger han.

Et lignende system, som det Brøndby benytter, blev iøvrigt sidste år brugt af Taylor Swift til hendes koncerter i USA, angiveligt for at undgå at kendte stalkers kom ind til koncerten.

Forbud i svenske skoler

I Sverige har man på et gymnasium i Skellefteå brugt ansigtsgenkendelse til at registrere elevernes fremmøde. Tanken var at spare tid og penge, i stedet for at læreren manuelt skulle notere elevernes fravær.

Men i stedet for en besparelse resulterede forsøget i en bøde for overtrædelse af GDPR-lovgivningen på 200.000 svenske kroner — og et forbud mod at bruge teknologien i skoler, uagtet at eleverne og deres forældre havde givet tilladelse til det.

I afgørelsen fra det svenske datatilsyn fremgår det, at samtykket ikke er gyldigt, grundet det særlige autoritetsforhold der er mellem skole og elever.

“Ansigtsgenkendelse er en epidemi”

Selvom det måske på overfladen kan lyde smart at bruge ansigtsgenkendelse på barer og i skoler, så er Jesper Lund fra IT-politisk forening lodret uenig, og han er bestemt ikke alene i sin kritik.

I Storbritannien advarer organisationen Big Brother Watch om en regulær “epidemi” i brugen af ansigtsgenkendelse, som bliver brugt i alt fra shoppingcentre, til museer, i private sikkerhedskameraer og af politiet.

Chefen for Storbritanniens datatilsyn (ICO), Elizabeth Denham, er ligeledes bekymret over den stigende brug af teknologien, som på de britiske øer blandt andet bruges til at overvåge folk, der bevæger sig rundt i det offentlige rum.

Denham har for nylig kaldt ansigtsgenkendelse for “en potentiel trussel mod privatlivet, som burde bekymre os alle. Især når det bliver gjort uden folks vidende eller forståelse”.

Giv ikke dine biometriske data væk

Ifølge GDPR-lovgivningen skal private virksomheder have dit klare samtykke for at bruge ansigtsgenkendelse til personligt at identificere dig, medmindre der foreligger særlige tilladelser som i tilfældet med Brøndby Stadion.

Flere privatlivsorganisationer advarer dog på det kraftigste imod, at man giver sine biometriske data væk, ikke mindst fordi det kan være svært at overskue, hvad firmaerne bruger dine data til, og hvor godt de beskytter dem.

Advarslen gælder blandt andet et nyt initiativ i England, hvor fodboldklubben Manchester City overvejer at bruge ansigtsgenkendelse som adgangbillet, så folk kan gå ind på stadion i helt almindeligt gå-tempo.

Firmaet Blink Identity, der stå bag løsningen, har iøvrigt de to koncertgiganter Live Nation og Ticketmaster blandt sine investorer, så det er bestemt ikke umuligt, at det er en løsning, der på et tidspunkt vil blive tilbudt til danske koncertgængere.

Amazons ansigtsgenkendelse bekymrer

Udover risikoen for at dine ansigtsdata kan blive misbrugt, er en af de helt klare udfordringer ved brug af ansigtsgenkendelse, at teknologien langt fra altid rammer plet.

Det måtte Amazon sande, da deres ansigtsgenkendelses-software, som hedder Rekognition, i 2018 dumpede en test, hvor billeder af alle amerikanske kongresmedlemmer blev kørt igennem algoritmen og sammenlignet med fotos fra et offentligt register med 25.000 billeder af lovovertrædere.

Her viste Rekognition i 28 tilfælde, at der var et match mellem kongresmedlemmer og forbryderalbummet. Tallet burde have været nul.

Derfor mener Jesper Lund, at det er særligt bekymrende, når myndigheder og politi i flere lande forsøger at identificere potentielle forbrydere ved hjælp af ansigtsgenkendelse, som det blandt andet er tilfældet i både Storbritannien og USA — og ikke mindst i Kina.

Kan ikke kende minoriteter, kvinder og børn

Udover den manglende præcision så har ansigtsgenkendelses-teknologien et andet markant problem, nemlig at algoritmerne ikke vurderer os alle ens — det der også kaldes bias.

Med bias menes der, at softwaren afspejler de folk, der har udviklet den, og de grupper som algoritmen er trænet mest på. Det gør, at systemerne ofte har sværere ved korrekt at identificere kvinder end mænd og sværere ved korrekt at identificere folk med mørk hud, sammenlignet med folk der er blege.

I tilfældet med de 28 kongresmedlemmer, var 39 procent af de fejlagtige matches billeder af farvede politikere, selvom denne gruppe kun udgjorde 20 procent af det samlede antal af kongresmedlemmer.

Det er dog langt fra det eneste eksempel, man har set på, at minoriteter ofte er særligt udsatte for algoritmernes fejlskøn, og Jesper Lund ser netop denne problemstilling som et fundamentalt problem ved teknologien.

“Automatisk ansigtsgenkendelse er dermed med til at forstærke den diskrimination mod udsatte grupper, som allerede finder sted i samfundet”, siger han.

Hvor galt det kan gå, med dårligt trænede algoritmer, blev tydeligt eksemplificeret i 2015, da Googles “smarte” foto-app automatisk taggede to mørke mennesker på et billede som gorillaer.

Problematikken med bias kendes også fra digitale assistenter, der ofte har nemmere ved at forstå mænd end kvinder og børn.

Forbud i San Francisco

I San Francisco, som huser en række af verdens dominerende teknologifirmaer — og som er nærmeste store naboby til giganterne Google, Apple og Facebooks hovedkvarterer i Silicon Valley — har man som den første by i USA taget konsekvensen af de mange potentielle problemer.

Her er det for nyligt blevet besluttet, at ansigtsgenkendelse ikke må bruges af politiet, fordi man ikke ønsker at skabe et overvågningssamfund.

“Vi kan have sikkerhed uden at være en sikkerhedsstat. Vi kan have et godt politi uden at være en politistat. Og en del af det handler om at bygge tillid til lokalsamfundet baseret på god kommunikation, ikke på big brother-teknologi”, sagde en af hovedkræfterne bag ansigtsgenkendelses-forbuddet, demokraten Aaron Peskin, til AP, da loven blev vedtaget.

Modstandere af den nye lov mener derimod, at “San Francisco nærmere risikerer at blive som Cuba end som Kina”, da et forbud mod ansigtsgenkendelse vil fryse byen fast i tiden med forældet teknologi.

Forbuddet i San Francisco gælder ikke private firmaer.

I Danmark har rigspolitiet fornylig oplyst, at de indtil videre ikke bruger ansigtsgenkendelse, men at man holder nøje øje med, hvordan teknologien udvikler sig. Dog bruges teknologien allerede i paskontrollen i Kastrup Lufthavn til at verificere et match mellem den rejsende og billedet i et pas.

Kan lande på Vestagers bord

Selvom reglerne i GDPR-lovgivningen er relativt tydelige om brugen af de såkaldte biometriske data, så tyder meget på, at der snart kommer endnu klarere regler på området i EU.

Ifølge Irish Times bliver ansigtsgenkendelse sandsynligvis en af de første sager, der lander på Margrethe Vestagers bord, hvis hun (som forventet) endegyldigt bliver valgt som kommissær med ansvar for det digitale område.

Den kommende kommissionsformand, Ursula von der Leyen, har lovet, at hun i løbet af de første 100 dage vil fremlægge et forslag til en “koordineret europæisk tilgang til de menneskelige og etiske implikationer af kunstig intelligens” og altså herunder ansigtsgenkendelse.

Jesper Lund er enig i, at det kan være hensigtsmæssigt med en mere specifik lovgivning på EU-niveau “for at beskytte borgerne mod systematisk kontrol og overvågning med automatisk ansigtsgenkendelse, så længe det ikke sænker beskyttelsesniveauet i forhold til GDPR”.

Footer graphics