Lontoon poliisin käyttämä kasvojentunnistusohjelma saa tyrmäyksen tutkijoilta: Enemmistö ohjelman tunnistamista ihmisistä syyttömiä

Britanniassa on nostettu myös oikeusjuttuja, joissa poliisia vaaditaan lopettamaan ohjelman käyttö.

kasvontunnistus
Kasvojentunnistusta automaattisesti.
Kuvituskuva. Automaattinen kasvojentunnistuslaite hakee kasvojen erityispiirteitä.Yle

Kasvojentunnistusohjelmien käytön vastustajat ovat saaneet lisää tuulta purjeisiinsa uudesta tutkimuksesta, joka tyrmää Lontoon poliisin koekäyttämän ohjelman virheellisiä tunnistuksia tekevänä.

Essexin yliopiston tutkijat havaitsivat, että heidän tutkimissaan tapauksissa vain joka viides ohjelman tunnistama ihminen oli todellisuudessa rikosepäilty, kertovat brittilehti The Guardian (siirryt toiseen palveluun) ja uutiskanava Sky News (siirryt toiseen palveluun).

Tutkijat saivat tutustua aineistoihin kuudesta tapauksesta, joissa poliisi oli koekäyttänyt kasvojentunnistusohjelmaa julkisella paikalla löytääkseen väkijoukosta epäiltyjä.

Ohjelma tunnisti toistuvasti virheellisesti ihmisiä, mikä johti siihen, että poliisi pysäytti heidät väärin perustein.

Tutkijat ovat huolissaan myös siitä, että käyttämällä kasvojentunnistusohjelmaa julkisilla paikoilla tarkkaillaan ihmisiä, joita ei etsitä rikoksista epäiltyinä. He epäilevät, ettei tällainen valvonta ole sopusoinnussa yksityisyyttä sekä ilmaisun- ja mielipiteenvapautta suojaavien lakien kanssa.

42 tunnistusta, 8 etsintäkuulutettua

Scotland Yard päästi tutkijat tutustumaan kuuteen kesäkuun 2018 ja helmikuun 2019 välillä tehtyyn kokeiluun. Valvontakamerat oli asennettu pakettiautoihin tai pylväisiin. Tunnistusohjelma skannasi väkijoukossa olevien ihmisten kasvoja ja vertasi niitä poliisin tarkkailulistalla oleviin kuviin.

Ohjelma tunnisti 42 ihmistä, joista poliisi pysäytti 22. Vain kahdeksan oli etsintäkuulutettuja, osa vakavista rikoksista. Neljää tunnistettua ei löydetty, joten heidän osaltaan tutkijat eivät tiedä, osuiko ohjelma oikeaan.

Loppuja ei epäilty rikoksista. Jotkut pysäytetyistä olivat sellaisia, joita oli aiemmin epäilty rikoksista, mutta tapaus oli jo käsitelty oikeudessa.

Vikaa myös vertailulistassa

Tutkijoiden mukaan kokeilujen huonoon tulokseen oli useita syitä. Ensiksikin poliisi pysäytti liian hätäisesti ihmisiä tarkastamatta tunnistusta.

Lisäksi tarkkailulistat olivat osin vanhentuneita. Joukossa oli jo oikeudessa olleita ihmisiä sekä ihmisiä, joiden katsottiin olevan vaarassa tai haavoittuvaisia. Osassa tapauksista ei ollut selvää, miksi henkilö on listalla.

Tutkijat huomauttavat, että kasvojentunnistusohjelman käyttö julkisella paikalla merkitsee myös sitä, että kaikki paikallaolijat ovat poliisin tarkkailussa ja heiltä tulisi saada siihen suostumus.

Poliisi puolustautuu sillä, että se on ilmoittanut tarkkailusta kylteillä sekä Twitterissä. Tutkijat pitävät tätä kuitenkin puutteellisena tapana aidon suostumuksen hankintaan.

Tällaisella tviitillä Lontoon suuralueen poliisi ilmoitti kasvojentunnistuksesta joulukuussa:

Toukokuussa Britannian yleisradioyhtiön BBC:n kuvaajat ikuistivat tilanteen, jossa poliisit sakottivat miestä, joka (siirryt toiseen palveluun) kätki kasvonsa kasvojentunnistuskameralta. Tutkijoiden mukaan kameran välttelyn pitäminen epäilyttävänä nakertaa ajatusta kuvattavien suostumuksesta.

He pitävät hyvin mahdollisena, että jos asia vietäisiin oikeuteen, kasvojentunnistusohjelman käyttö tuomittaisiin laittomana.

He myös huomauttavat, että vaikka heidän tutkimuksensa keskittyi poliisiin, ohjelmien käyttö on paljon laajempaa yksityisellä sektorilla.

Ihminen seisoo wc-paperikoneen edessä.
Kiinassa kasvojentunnistusohjelmaa käytetään jopa julkisissa käymälöissä. Kone skannaa ihmisen kasvot ja antaa hänelle tietyn määrän wc-paperia. Sama ihminen ei voi saada lisää paperia yhdeksään minuuttiin.How Hwee Young / EPA

Kasvojentunnistusohjelmat eivät myöskään ole niin puolueettomia kuin kuvittelisi.

Viime vuonna tehdyssä yhdysvaltalaistutkimuksessa todettiin, että Microsoftin, IBM:n ja kiinalaisen Face++:n ohjelmat tekivät eniten virheitä tunnistaessaan mustaihoisen naisen. Ne olivat todennäköisimmin oikeassa tunnistaessaan valkoihoisen miehen.

Myös Britanniassa on havaittu, että ohjelma voi tehdä enemmän virheitä tummaihoisten ja vähemmistöihin kuuluvien tunnistamisessa, kertoi BBC toukokuussa (siirryt toiseen palveluun).

Lontoon poliisi on kokeillut kasvojentunnistusohjelmaa vuodesta 2016 lähtien suurissa yleisötilaisuuksissa. Kokeiluja on tehty tähän mennessä kymmenen.

Vastaavia kasvojentunnistusohjelmia on käytössä myös Manchesterin, Leicesterin ja Etelä-Walesin poliiseilla. Walesissa ohjelmalla tarkkaillaan muun muassa viikonloppuna Swansean ilmailunäytökseen osallistuvia.

Kasvojentunnistusohjelmia käyttävät Britanniassa myös esimerkiksi ostoskeskukset. Ohjelmat rekisteröivät asiakkaiden sukupuolen, ikäryhmän ja jopa mielialan.

Oikeusjuttuja vireillä

Kansalaisjärjestö Big Brother (siirryt toiseen palveluun) on haastanut Lontoon poliisin oikeuteen kasvojentunnistuksen käytöstä. Järjestön johtaja Silkie Carlo pitää tuoretta tutkimusta merkittävänä.

– Nyt ainoa kysymys on, milloin Lontoon poliisi sitoutuu lopettamaan kasvojentunnistuksen käytön, Carlo sanoo Sky Newsille.

Kansalaisoikeusjärjestö Liberty (siirryt toiseen palveluun) on puolestaan nostanut oikeusjutun asiasta Etelä-Walesin poliisia vastaan. Järjestö on kutsunut kasvojentunnistusta teknologiaksi, joka tuhoaa oikeuden yksityisyyteen ja pakottaa ihmiset muuttamaan käyttäytymistään.

Kasvojentunnistusohjelmien käytöä vastaan puhunut (siirryt toiseen palveluun) konservatiivinen kansanedustaja David Davis sanoo tutkimuksen osoittavan, että kasvojentunnistusteknologia voi johtaa vääriin pidätyksiin ja tuomioihin. The Guardianin haastatteleman Davisin mielestä tällaiset kokeilut pitää lopettaa, kunnes niistä on keskusteltu kunnolla ja säädelty laissa.

Kasvojentunnistus on puhuttanut myös muualla. Esimerkiksi Yhdysvaltain kongressin valiokunta tenttasi kesäkuussa (siirryt toiseen palveluun) liittovaltion poliisia FBI:tä ja liikenneturvallisuushallintoa kasvojentunnistuksesta lentokenttien turvatarkastuksissa.

Tekniikka on käytössä yli kymmenellä Yhdysvaltain lentokentällä. Sen on mainostettu helpottavan ruuhkia. Valiokunta on kuitenkin huolissaan riskeistä, joita se aiheuttaa ihmisten yksityisyydelle.

Julkisuudessa on puhuttanut myös muun muassa poptähti Taylor Swiftin tapaus. Swiftin faneja tarkkailtiin kasvojentunnistusohjelmalla stalkkereiden tunnistamiseksi.

"Ihmiset odottavat tätä meiltä"

Lontoon ja Etelä-Walesin poliisit käyttävät japanilaisen NEC:n teknolgiaa. Lontoon poliisin päämaja Scotland Yard puolustaa kokeiluja ja väittää kasvojentunnistusohjelman onnistuneesti tunnistaneen etsintäkuulutettuja rikollisia.

Poliisin mukaan ihmiset odottavat heiltä uuden teknologian kokeilemista.

Poliisi myös kiistää, että ohjelman onnistumisprosentti on huono. Sen mukaan virheellisiä tunnistuksia on vain 0,1 prosenttia. Poliisi kuitenkin käyttää erilaista laskentatapaa. Se laskee virheellisten tunnistusten osuuden kaikista niistä kasvoista, joiden kuva ohjelmaan syötetään.

Sisäministeriö puolustaa niin ikään poliisin kokeiluja ja sanoo uskovansa, että niille on riittävät lailliset perusteet. Ministeriö selvittää kuitenkin biometristen tunnisteiden käytön valvontaa.

Aiheesta aiemmin:

Jouluostoksilla Lontoossa? Hymyile, poliisi seuraa liikkeitäsi kasvontunnistusohjelmalla

Taylor Swift skannaa faniensa kasvot tunnistaakseen stalkkerit – jopa teknologiajätit huolestuivat järjestelmien mahdollisuuksista