Taylor Swift skannaa faniensa kasvot tunnistaakseen stalkkerit – jopa teknologiajätit huolestuivat järjestelmien mahdollisuuksista

Kasvojentunnistusteknologia yleistyy hyvässä ja pahassa. Sen riskit hirvittävät jo teknologiajättejä.

kasvontunnistus
Epätarkkakuva ihmisjoukosta, kasvoissa etsimet. Kuvituskuva.
Parantuneet kamerat, kehittyneet koneoppimismallit ja pilvilaskennan yleistyminen ovat mahdollistaneet ihmisten tunnistamisen ennennäkemättömän tehokkaasti.AOP, Kuvamanipulaatio: Kerttu Kamula / Yle

Kun poptähti Taylor Swift konsertoi vuosi sitten Los Angelesissa, hänen faneillaan oli mahdollisuus nähdä ennen konserttia maistiaisia harjoituksista. Tätä varten areenalle oli tuotu oma katselukoppi.

Kopin todellinen tehtävä ei ollut fanien palveleminen. Se oli stalkkereiden eli vainoajien tunnistaminen yleisön joukosta (siirryt toiseen palveluun). Kun koppiin istahtanut fani katseli ruudulta Swiftin harjoituksia, ruudun yläpuolella oleva kamera tarkkaili häntä. Fanin kasvoista kerätyt tiedot päätyivät lähes 3 000 kilometrin päähän Nashvilleen, jossa niitä verrattiin stalkkereiden kasvokuvista muodostettuun tietokantaan.

Taylor Swift on joutunut useiden vainoajien kohteeksi. Tuttua se on muillekin julkisuuden henkilöille. Pahimmillaan stalkkerit uhkaavat tähtien henkeä. Esimerkiksi kolme vuotta sitten häiriintynyt fani ampui 22-vuotiaan laulaja Christina Grimmien konsertin jälkeen järjestetyssä fanitapaamisessa. Metalliyhtye Panteran kitaristi Dimebag Darrell ammuttiin lavalle joulukuussa 2004 ja John Lennon kuoli fanin luoteihin lähes 40 vuotta sitten.

Swiftin turvatoimet herättävät silti kysymyksiä yksityisyyden suojasta. Ja siitä, mihin kaikkeen kasvojentunnistusteknologia pystyy ja kuinka luotettavasti.

Tehdyt rikokset näkyvät kasvoilta?

Taylor Swiftin konsertissa fanien kasvoja verrattiin tiedossa olevien stalkkereiden kuviin. Mutta mitä jos tekoäly kykenisi tunnistamaan stalkkerin suoraan kasvojenpiirteistä, ilman valmiita tietokantoja?

Muutama vuosi sitten shanghailaisen yliopiston tutkijat väittivät pystyvänsä ennustamaan ihmisen rikolliset taipumukset tämän kasvoista (siirryt toiseen palveluun). Tutkijakaksikon kehittämä koneoppimismalli tarkasteli ylähuulen kaaria, sisäisten silmäkulmien etäisyyksistä sekä nenän ja suun suhteita. Tutkijat väittivät, että kone tunnisti rikollisen kasvot lähes 90 prosentin tarkkuudella.

Vajaan 1 900 kasvokuvan pohjalta luotu malli herätti tuohtumusta ja myös huolta siitä, miten mallia saatettaisiin tulevaisuudessa käyttää rikosten ennaltaehkäisyyn. Kriitikot huomauttivat, että rikollisten osuus aineistosta koostui ainoastaan kiinni jääneistä rikollisista. Järjestelmä oli siis jo syntyessään perinyt poliisin ennakkoasenteet eri ihmisryhmiä kohtaan. Esille on myös nostettu se seikka, että pidätyskuvissa ihmiset ovat yleensä vakailmeisiä, kun taas muissa kuvissa hymyily on yleisempää. Kone siis saattaa yhdistää vakavat kasvot rikollisuuteen.

Israelilainen Faception-startup menee kiinalaistutkijoitakin pidemmälle. Se väittää pystyvänsä 80 prosentin todennäköisyydellä tunnistamaan kasvoista terroristin tai vaikkapa pedofiilin. Se ei siis vain tunnista rikollisia, se kykenee kertomaan myös mihin rikokseen henkilö syyllistyy. Yritys kertoo solmineensa jo sopimuksia useiden hallitusten kanssa.

Vastaavanlaisia tutkimuksia on tehnyt Varsovassa syntynyt psykologi Michal Kosinski. Stanfordin yliopiston professori väittää kehittäneensä teköälyn, joka osaa jopa 91 prosentin tarkkuudella erottaa homomiehet heteroista (siirryt toiseen palveluun). Ihmisen suoritus ei eroa kolikonheitosta.

Israelilaisfirman, kiinalaistutkijoiden ja Kosinskin tuloksia on verrattu fysiognomian kaltaisiin tekotieteisiin, joiden mukaan ihmisen kasvonpiirteistä voisi päätellä hänen persoonallisuutensa. Niitä on syytetty myös rasismin lietsomisesta.

Tästä huolimatta monet tutkijat pitävät tärkeänä sen selvittämistä, miten ihmeessä algoritmit lopulta päätyivät tunnistamaan jotkut kasvot rikollisiksi ja toiset lainkuuliaisiksi. Ja miten niin väärältä tuntuvilla menetelmillä voidaan saada oikeita tuloksia?

Biometrisia tunnistautumisen tapoja. Kuvituskuva.
Biometriikkaa on käytetty ihmisten tunnistamiseen pitkään. Vanhin menetelmä on sormenjälkitunnistaminen, jota on käytetty rikosten ratkaisussa jo yli sata vuotta. Toinen pitkään käytössä ollut tunnistustapa on DNA. Lisäksi ihmisiä voidaan tunnistaa silmän iiriksistä ja verkkokalvoista. Sormenjälkiin verrattuna kasvot ovat varmempi tunnistustapa, koska kasvoissa on enemmän kartoitettavia piirteitä.Kerttu Kamula / Yle

Ihminen tunnistaa tuhansia kasvoja, kone tunnistaa kaikki

Kyky tunnistaa ja lukea kasvoja on ollut ihmiselle selviytymisen kannalta tärkeää. Heimoissa eläneiden esi-isiemme piti nopeasti tunnistaa ystävä mahdollisesta vihollisesta. Vastaantulijan tunnetila oli hyvä kyetä tulkitsemaan kasvoilta ensi vilkaisulla.

Kasvojen tunnistaminen sujuu ihmiseltä itsestään. Kyky erotella kasvoja kuitenkin heikkenee heti, kun vastassa ovat kasvot, joita emme ole tottuneet näkemään, esimerkiksi ihminen toisesta etnisestä tausta. Esi-isillemme riitti, että tunnisti kasvojen kuuluvan toiseen heimoon. Sen yksilöllisempään tunnistamiseen ei ollut tarvetta tai kykyä.

Eikä kykyä ole kehittynyt nykyihmisellekään. Me emme tiedä mihin yksityiskohtiin vieraissa kasvoissa meidän pitäisi kiinnittää huomiota, koska meille ei ole kerääntynyt tarpeeksi kasvodataa tästä ihmisryhmästä.

Ja vaikka olisikin kertynyt, vastaan tulee ihmismielen kapasiteetti. Viime vuonna brittitutkijat selvittivät, että ihminen pystyy tunnistamaan noin 5 000:t eri kasvot (siirryt toiseen palveluun). Tämä riittänee kovimmallekin verkostoitujalle, mutta tehokkaiden koneoppimismallien ja kehittyneen kamerateknologian avulla lähes sataprosenttiseen tarkkuuteen kykeneville kasvojentunnistusjärjestelmille siitä ei ole haastajaksi.

Omassa elinympäristössään ihminen on yhä konetta tarkempi. Me tunnistamme perheemme jäsenet ja työkaverit toistaiseksi konetta paremmin. Vieraiden kasvojen kohdalla kone päihittää ihmisen. Eivätkä koneen tekemät tunnistukset enää rajoitu vain henkilöllisyyteen, vaan ne pystyvät tunnistamaan myös mikroilmeitä ja mielialoja.

Miten ihminen menetti yksinoikeuden kasvojen tunnistamiseen näin nopeasti?

Kone kyllä tunnistaa, mutta ei ymmärrä mitään

Tutkijoita on kiinnostanut pitkään, miten kone voidaan opettaa tunnistamaan ihmisiä. Tietojenkäsittelijät tekivät ensimmäisiä kokeiluja jo 60-luvun lopulla. Vasta viime vuosikymmenen aikana tapahtunut näytönohjainten kehitys ja sitä seurannut neuroverkkojen mullistus on tehnyt teknologiasta käyttökelpoista.

Nykyinen kasvojentunnistusteknologia perustuu samoihin menetelmiin kuin sähköpostin roskapostifiltterit tai puhetta tekstiksi muuttavat järjestelmät. Kyse on hahmojen tunnistamisesta. Sillä ei ole väliä, onko tunnistettava asia ihmiskasvot, rekisterikilpi tai potenssilääkkeen mainos. Kun koneelle on näytetty tarpeeksi esimerkkejä, se oppii rakentamaan esimerkeistä mallin ja tunnistamaan kohteensa. Näin yksinkertaistettuna neuroverkkojen koneoppiminen toimii.

Kasvojentunnistusjärjestelmien kohdalla se tarkoittaa sitä, että jokaisen kasvonpiirteen ohjelmoimisen sijaan koneelle syötetään dataa, josta se oppii ihmisen kasvonpiirteet. Menetelmä on sama kuin ihmisellä, joka eri kasvoja katsellessaan oppii tunnistamaan niitä.

Koneen oppimisprosessia valvoo ja ohjaa ihminen, mutta itse oppiminen tapahtuu itsenäisesti, eikä tutkijoille ole aina selvää, miten kone päätyy tekemään tunnistuksia. Neuroverkkojen luomia malleja kutsutaankin toisinaan mustiksi laatikoiksi.

Lue myös:

Tässä vaiheessa kone kykenee löytämään kasvot kuvasta, mutta se ei kykene identifioimaan niitä. Se siis pystyy vastaamaan kysymykseen, onko kuvassa kasvot. Tämä riittää Snapchatin filttereille tai meikkisovelluksille.

Tarkempaa henkilön tunnistamista varten tarvitaan biometrinen tunniste. Se tehdään skannaamalla kasvot ja luomalla niistä matemaattinen malli, joka tallennetaan järjestelmän tietokantaan.

Kasvojentunnistus. Kuvituskuva.
Kasvojentunnistusjärjestelmät eivät tallenna ihmisten kasvokuvia tietokantoihinsa, vaan ainoastaan biometrisen tunnisteen kasvoista. Järjestelmät eivät vertaa kasvokuvia vaan matemaattisia malleja keskenään.Kerttu Kamula / Yle

Jokaisella järjestelmällä on omat algoritminsa, jotka tuottavat biometriset tunnisteet. Tästä johtuen Applen puhelimella luotu tunniste ei toimi esimerkiksi Android-puhelimessa.

Vaikka neuroverkkojen avulla luodut hahmontunnistusjärjestelmät kykenevät uskomattomiin suorituksiin, ne eivät osaa tunnistaa mitään muuta kuin sen, mihin se on opetettu. Maailman tehokkainkaan kasvojentunnistusjärjestelmä ei ymmärrä mitä eroa on autolla ja koiralla. Se ei edes tiedä mikä on auto tai koira.

Tulevaisuudessa kasvot ovat avain, passi ja pankkikortti

Mihin tätä ihmeteknologiaa sitten käytetään?

Kasvojentunnistusjärjestelmät mahdollistavat esimerkiksi näkövammaisille tarkoitetut apuvälineet (siirryt toiseen palveluun), jotka kuvailevat käyttäjälleen keskustelukumppanin iän, sukupuolen ja ilmeet.

Yksi yleisimmistä kasvojentunnistusteknologian käyttötarkoituksista on tällä hetkellä puhelimen lukituksen avaaminen.

Lue myös: Tulostimme kasvot ja yritimme huijata kasvojentunnistusjärjestelmiä – katso miten kävi

Useissa kouluissa kasvojentunnistusta hyödynnetään tunneille ilmoittautumiseen ja monilla lentokentillä lähtöselvitys onnistuu pelkästään katsomalla kameraan. Finnair on kokeillut teknologiaa Helsinki-Vantaan lentokentällä, mutta tällä hetkellä se ei ole käytössä.

Suomalaisessa ohjelmointiyritys Futuricessa kasvojentunnistusjärjestelmiä kehittävä Tuğberk Duman arvelee teknologian kehittyvän lähitulevaisuudessa nimenomaan kaupallisissa sovelluksissa. Ensimmäisenä kasvojentunnistusta aletaan hyödyntämään toiminnoissa, joissa on paljon toistoa.

– Näitä ovat esimerkiksi jonottaminen, henkilöllisyyden todistaminen, maksaminen, jäsenkorttien esittäminen, Duman luettelee.

Hän odottaa, että teknologian todellinen läpimurto tapahtuu vähittäiskaupassa.

– Se on itse asiassa jo tapahtumassa Yhdysvalloissa, missä on kauppoja, joihin voi kävellä, ottaa tuotteen hyllyltä ja poistua kaupasta ilman jonottamista. Tuotteen tunnistamisen ja maksamisen hoitavat ja kasvojentunnistus- ja konenäköjärjestelmät, Duman kertoo.

Suomessa kasvoilla maksamista on kehittänyt OP Ryhmä, joka käynnisti kesäkuussa pilottihankkeen, jossa kasvojentunnistuksen avulla voi maksaa ruokansa muutamissa lounasravintoloissa eri puolilla Suomea.

Palvelua kehittävän OP Labin johtaja Kristian Luoma uskoo, että kasvomaksamisesta voi sujuvuuden ja helppouden ansiosta kehittyä isompi juttu kuin mobiilimaksamisesta.

– Kasvoja käytetään puhelimissa yhä enemmän ja me olemme huomanneet, että ihmiset alkavat tottua siihen. Ei tosin vielä kaikissa ympäristöissä eikä yksinään. Esimerkiksi meidän järjestelmä on suunniteltu ympäristöön, jossa ihminen palvelee kassalla, Luoma huomauttaa.

Omien kasvojen tunnistuksen kieltäminen voi olla vaikeaa

Arkielämää helpottavien sovellusten lisäksi kasvojentunnistusteknologian on kaavailtu auttavan muun muassa kadonneiden ihmisten löytämisessä (siirryt toiseen palveluun), kun järjestelmät käyvät läpi sosiaaliseen mediaan jaettuja julkaisuja.

Teknologia voisi auttaa myös ihmiskaupan uhreja tunnistamalla poikkeuksellisen stressaantuneet kasvot ihmisjoukosta. Mikroilmeiden havaitsemisen lisäksi algoritmeja auttaisivat sensorit, jotka kykenevät mittaamaan kohteensa pulssin.

Tulevaisuudessa biometrinen tunniste saattaa tehdä passeista turhia.

Biometrian asiantuntija Tuğberk Duman odottaa kasvojentunnistusteknologialta suurempia yhteiskunnallisia vaikutuksia kuin yksittäisten tehtävien helpottuminen. Eivätkä kaikki vaikutukset ole positiivisia.

Teknologian kehittyessä niin kehittäjien kuin poliitikkojen on pidettävä huoli siitä, että ihmisten kansalaisoikeuden toteutuvat, Duman painottaa. Ihmisiä ei voida pakottaa käyttämään kasvojentunnistuspalveluita. Mutta missä kulkee raja, jonka jälkeen ihmisiltä pitää kysyä suostumus?

Toimiakseen kasvojentunnistusjärjestelmien on käytävä läpi jokaiset eteen tulevat kasvot. Vasta skannattuaan kasvot järjestelmä tietää, onko henkilö antanut hyväksynnän kasvojensa tunnistamiseen.

– Se on harmaa alue. Vaikka emme tallenna tietoja, skannaamme silti jokaiset kasvot tunnistaaksemme henkilöt, jotka ovat mukana ohjelmassa. Tämä ongelma pitää ratkaista selkeästi, Duman toteaa.

Samalla kansalaisille pitää tehdä selväksi, missä ja kuka heitä tarkkailee milloinkin ja mistä syystä. Taylor Swiftin fanit eivät tienneet päätyvänsä kasvojentunnistusjärjestelmän tarkasteltavaksi, mutta tästä huolimatta Swift ei rikkonut lakia. Yksityiset yritykset saavat valvoa yksityisellä alueella järjestettyä konserttia valitsemillaan keinoilla.

Kasvojentunnistus. Kuvituskuva.
Kasvojentunnistusjärjestelmissä ilmenevää syrjintää on pidetty yhtenä teknologian suurimmista ongelmista. Järjestelmien on osoitettu tunnistavan paremmin miesten kuin naisten kasvoja tai paremmin vaaleita kuin tummia piirteitä. Viime aikoina kasvojentunnistusjärjestelmät ovat parantuneet tältä osin. Identtisiä kaksosia järjestelmät eivät kaikesta kehityksestä huolimatta kykene vielä erottamaan.Kerttu Kamula / Yle

Jopa teknologiajätit ovat huolissaan järjestelmien mahdollisuuksista

Taylor Swiftin turvatiimin koneellinen kasvojentunnistus on hyvä esimerkki siitä, että teknologia on kehittynyt paljon pidemmälle kuin mihin lainsäätäjät tai tavalliset kansalaiset ovat varautuneet. Ja tämän kehityksen vaikutukset ihmisten yksityisyydensuojaan ja vapauteen herättävät suurta huolta.

Vaatimuksia teknologian sääntelystä ja vastuukysymysten selventämisestä ovat esittäneet tutkijat ja kansalaisjärjestöt suunnalta. Viesti on sama: Tällä hetkellä sääntely laahaa pahasti jäljessä.

Tekoälyn kehitykseen keskittynyt AI Now -tutkimusinstituutti ehdotti viime vuoden vuosiraportissaan (siirryt toiseen palveluun), että ihmisillä pitäisi olla oikeus tietää, valvotaanko heitä kasvojentunnistusteknologialla, ja halutessaan kieltää sen käyttö itsensä kohdalla.

Pientä heräämistä on tapahtumassa. Toukokuussa San Francisco kielsi ensimmäisenä amerikkalaiskaupunkina kasvojentunnistusteknologian käytön viranomaisilta. Päätöstä perusteltiin sillä, että kasvojentunnistusteknologia antaa viranomaisille niin suuren vallan, ettei se ole kestävää demokraattisessa yhteiskunnassa.

San Francisco on Amerikan teknologiakeskus, jossa kehitetään myös kasvojentunnistusjärjestelmiä. Kaupungin päätös kieltää teknologian käyttö tuo mieleen paikallisten somejättien johtajien päätökset kieltää lapsiltaan sosiaalisen media käyttö.

Kasvojentunnistusteknologian luomat uhkakuvat ovat niin vakavia, että myös alan toimijat ovat alkaneet yhä voimakkaammin vaatimaan sääntelyä. Ja silloin kun teknologiayhtiöt sanovat, että heidän toimintaansa pitäisi säännellä, poliitikkojen olisi syytä kuunnella.

Yksi kasvojentunnistusteknologian säätelyä vaativista ihmisistä on Microsoftin hallituksen puheenjohtaja Brad Smith. Smith ennustaa, että ilman sääntelyä päädymme dystopiaan (siirryt toiseen palveluun), painajaismaiseen tulevaisuuteen, jossa hallinnon on mahdollisuus seurata ketä tahansa missä tahansa ja milloin tahansa.

Saman suuntaisia näkemyksiä on esittänyt Applen toimitusjohtaja Tim Cook. Häntä huolestuttaa, että ihmisten henkilökohtaisia jokapäiväisiä tietoja voidaan tulevaisuudessa käyttää ihmisiä vastaan sotilaallisen tehokkaasti.

Kasvojentunnistusteknologian mahdollinen hyödyntäminen sortotoimissa on saanut Googlen keskeyttämään kehittämänsä teknologian tarjoamisen eteenpäin, ainakin toistaiseksi. Yhtiö ilmoitti päätöksestään joulukuussa blogikirjoituksessa (siirryt toiseen palveluun), joka käsitteli Googlen tekoälyn kehittämistä Aasiassa.

Myös Amazon, joka myy Rekognition-kasvojentunnistusjärjestelmäänsä viranomaisille, kamppailee paraikaa samanlaisten kysymysten kanssa. Niin kansalaisjärjestestöt (siirryt toiseen palveluun), sijoittajat kuin yhtiön työntekijät ovat vedonneet yhtiöön, jotta se jotta se lopettaisi järjestelmän myynnin hallituksille ja viranomaisille. Rikollisten lisäksi kasvojentunnistusteknologialla voidaan seurata mielenosoittajia ja muita ”haitallisia” tahoja.

Onko Kiina poikkeus vai esimakua tulevasta?

Kasvojentunnistusta hyväksikäyttävistä valvontakoneistoista puhuttaessa esille nousee aina Kiina, missä kasvojentunnistusteknologian käytön on viety pidemmälle kuin yhdessäkään muussa valtiossa.

Lähes 200 miljoonaa valvontakameraa seuraa Kiinassa ihmisten liikkeitä. Tähän asti ihmisten tarkkaan tunnistamiseen on valvontakameran kuvan lisäksi tarvittu esimerkiksi puhelimen paikkatiedot, mutta kasvojentunnistusjärjestelmien yleistyessä pelkkä näyttäytyminen julkisella paikalla riittää.

Lue myös:

Kiinan kehitystä on länsimaissa kuvailtu “digitaalisena diktatuurina”, jossa toisinajattelijat ovat valtakoneiston jatkuvassa valvonnassa. Myös tavalliset kansalaiset kyetään pitämään nuhteessa, kun pienikin rike päätyy viranomaisten tietoon. Esimerkiksi punaisia päin kävelijät tunnistetaan ensimmäisestä askeleesta ja heidän kuvansa ilmestyvät heti kadun varrella oleviin näyttöihin – valvontaa ja julkista häpeää.

Kiina on vuosien ajan hionut osaamistaan tekoälyn ja sitä hyödyntävän valvontateknologian kehittämisessä. Hyvä esimerkki tästä on vuonna 2001 perustettu Hikvision-yhtiö, josta on kasvanut maailman suurin valvontateknologiayritys.

Käytännön sovellusten lisäksi Kiina on noussut maailman kärkeen myös akateemisessa tutkimuksessa. Muutama vuosi sitten Kiina meni Yhdysvaltojen ohi tieteellisten tutkimusten julkaisumäärässä.

Kun tieteelliseen vyörytykseen ja teknologiseen kyvykkyyteen yhdistetään Kiinan hallinnon kontrollipyrkimykset, kuva yhteiskunnasta synkkenee entisestään.

Tietyllä tavalla tästä on kyse myös Yhdysvaltain ja Kiinan välisessä kauppakiistassa, jonka keskiössä on kiinalainen teknologiavalmistaja Huawei. Länsimaissa pelätään, että kiinalaisyritysten valmistaman teknologian myötä Kiinan hallinto saa pääsyn yhteiskunnan digitaaliseen kerrokseen.

Yhdysvaltain hallinto onkin pohtinut myös Hikvision-yhtiön asettamista mustalle listalle. Yhtenä perusteena on yhtiön tarjoaman valvontateknologian käyttö Kiinan uiguuri-vähemmistön vainoamisessa.

Mikä on aitoa huolta Kiinan muslimivähemmistöstä ja mikä kauppapolitiikkaa, se on veteen piirretty viiva. Halu valvoa kansalaisia on kova myös lännessä.

Jutun kommentointimahdollisuus on avoinna klo 22.00 saakka.